Autor: Fr. Anselm Ramelow, O.P. predstojnik je Odjela za filozofiju na Dominikanskoj školi filozofije i teologije u Berkeleyju, u Kaliforniji.
Izvor: https://catholicscientists.org/articles/self-conscious-a-i/

Objavljeno 1. svibnja 2024.

Donosimo članak u kojem autor iznosi svoja razmišljanja o tome može li umjetna inteligencija biti shvaćena na način sličan ljudskom biću. Sve češća prisutnost umjetne ineligencije u našim životima otvara niz pitanja: gubimo li kontrolu nad svojim životom, kontrolira li nas nekakva inteligencija koja nije osoba, može li ta inteligencija istisnuti čovjeka i prorobiti ga? Sve spekulacije koje se javljaju u jeftinim tiskovinama uzrokom su nelagode kada se govori o umjetnoj inteligenciji. Ovaj članak dublje promišlja o odnosu svjesnosti u osobe i inteligencije koja nam nerijetko daje odgovore na dnevnoj razini.

Univerzalna misao: biće

Mnogo je stvari koje umjetna inteligencija ne može učiniti i ne može biti iz jednostavnog razloga što je to čisto materijalni entitet i ne zahtijeva od nas da joj pridodajemo nematerijalna svojstva kako bismo objasnili što jest i što čini. Međutim, postoje značajke uma – ili barem nekih umova – koje impliciraju nematerijalnost, poput „qualia“, ujedinjenih polja svijesti i intencionalnosti. One se mogu pronaći čak i kod životinja (osim ako o njima ne razmišljamo kao Descartes), ali ne i kod strojeva1. Ako su čak i životinje više od strojeva, onda bi se to još više trebalo reći za racionalne životinje sposobne za univerzalne misli. Argument za nematerijalnost univerzalne misli često je iznesen, ali ima još toga za reći. U ovom članku želio bih sugerirati da univerzalnost dolazi u stupnjevima i da se na univezalnoj razini pojavljuje nova značajka koja se također ne može instancirati u čisto materijalnim entitetima.

Najuniverzalnija misao koju možemo zamisliti jest ona o „biću“; toliko je univerzalna da doslovno ništa ne spada izvan nje, jer sve što ne spada pod ovaj koncept nije ništa. Ili, kako je to rekao filozof W.V.O. Quine, Quine, pravi odgovor na pitanje „što je to što jest?“ je jednostavno „sve“.2 Sada ova misao o „svemu“ ima neobično svojstvo: uključuje samu sebe. Jer ta posebna misao je sama po sebi nešto, i misleći „sve“, misao također misli samu sebe.

Upravo o takvom refleksivnom samouključivanju ili samoreferenciranju želimo pitati: može li stroj, čisto fizički entitet, imati takvu misao (ako uopće može imati misli)? Drugim riječima: može li materijalni entitet sadržavati samog sebe? Da bismo zamislili takav slučaj, morali bismo zamisliti nešto poput stavljanja aktovke u sebe. To bi se činilo nemogućim. Pa ipak, sasvim je normalno da se sadržavamo u jednostavnoj misli „ja“, koja je misao koja sadrži samu sebe ukoliko je ta misao dio onoga što jesam – baš kao što misao o „svemu“ sadrži samu sebe. U misli „ja“ svatko od nas se odnosi na sebe; Mislimo sebe, tj. sadržavamo sebe u mislima.3

Biti svjestan sebe

Nijedan čisto materijalni entitet ne može to učiniti. Svakako je moguće da pisač bljesne porukom poput „pisaču je ponestalo tinte“. Na taj način se čini da se odnosi na sebe (čak možemo natjerati poruku da kaže „Nestalo mi je tinte“). Ali to je zato što smo programirali materijalni proces kojim niske razine tinte generiraju poruku koja ukazuje na to stanje stvari. Ništa u ovom scenariju ne implicira da naš pisač ima samosvijest (i nitko to nikada ne bi sugerirao). Kakvu god samoreferencijalnost poruka imala, ona postoji samo u našem umu.

Drugi strojevi mogu instancirati procese koji se vraćaju na sebe ili djeluju rekurzivno. Čak i jednostavan kibernetički sustav poput termostata to čini. Ni ovo nije isto što i samosvijest ili samoreferencijalnost. To je isti mehanizam koji reagira i odnosi se na različite podražaje u okolini u različito vrijeme, ali ne i na sebe. Manipulira vlastitim postupcima utoliko što njegovi izlazi generiraju buduće ulaze koji utječu na isti mehanizam u povratnoj petlji; ali to je isti mehanizam u drugom vremenu i mehanizam se ne odnosi na sebe u ovom procesu. U drugim slučajevima, mehanizam može rekurzivno primijeniti istu operaciju na proizvode prethodnih operacija, ali ne na sebe.

Biti svjestan sebe u relevantnom smislu znači odnositi se prema sebi ovdje i sada. Svakako se možemo prisjetiti i vlastitih stanja od jučer, ali to je slučaj sjećanja, a ne samosvijesti. Čak i to, međutim, pretpostavlja samosvijest kako bismo se identificirali s tim stanjima ovdje i sada, tj. identificirali ih kao svoja sjećanja i tako se identificirali s njima ovdje i sada. Slično tome, prostorno: samosvijest se ne može proizvesti gledanjem u ogledalo, već se pretpostavlja u prepoznavanju u ogledalu.4 Refleksivno se odnositi prema sebi ovdje i sada podrazumijeva da se udaljavam od sebe, da se objektiviziram kako bih se pogledao. Pa ipak, istovremeno moram prepoznati sebe kao subjekt u objektu. Drugim riječima, dijelim se na subjekt i objekt (tj. na spoznavatelja i spoznatog), no moram prepoznati primordijalniji identitet koji leži u osnovi obje strane.

Um nije materijalan

Od filozofa Fichtea mnogo se razmišljalo o ovoj temeljnoj dijalektici identiteta i razlike.5 Povezuje se sa zagonetkama poput Paradoksa lažljivca ili Russellovog paradoksa.6 Ono što nas ovdje zabrinjava jest da udaljenost implicirana u ovoj podjeli na subjekt i objekt nije udaljenost u prostoru i vremenu; drugim riječima: to je nematerijalna udaljenost. Udaljenost koja postoji sada po definiciji nije vremenska udaljenost. I tako je s udaljenošću koja postoji ovdje: svakako je zamislivo da jedan dio stroja manipulira drugim dijelom istog stroja. To se očito događa cijelo vrijeme. Ali stroj ne može manipulirati svim svojim stanjima odjednom, baš kao što ne može sadržavati sve svoje dijelove u sebi. Uvijek treba koristiti jedan dio sebe za manipuliranje drugim dijelovima, a taj dio ne može manipulirati sam sobom. Pokušaj povezivanja jednog materijalnog dijela sa svim ostalim dijelovima može se zamisliti kao presavijanje papira na sebe: tada jedna polovica dodiruje drugu polovicu. Ali da bi dio dodirivao sve ostale dijelove odjednom, ne bismo trebali beskonačno mnogo puta presavijati papir, sve do geometrijske točke u kojoj se svi podudaraju. Pa ipak, geometrijska točka je bez proširenja, a to znači: nematerijalna.

Ljudski um, s druge strane, može promišljati o sebi kao cjelini, a ne samo djelomično – što je, kako Toma Akvinski primjećuje, razlog zašto naši umovi ne mogu biti materijalni.7 I što god drugo bilo sadržano u umu, um to sadrži zajedno sa sobom kao cjelinom, a ne samo kao svaki dio sumjerljiv drugom dijelu.8 Ili, kako to objašnjava Therese Cory: „Svaki dio tijela može se okrenuti natrag na drugi dio (kao kada dodirnem glavu), ali ne na sebe, budući da je materija proširena i ima dijelove izvan dijelova. Samo nedjeljivo i bestjelesno biće može biti u potpunosti prisutno sebi jer nema dijelova koji se međusobno ometaju. Ono što je nematerijalno može se dovesti u kontakt, tako reći, s cjelinom sebe.“ 9

Osjećaj sebe ne može biti materijalan

Ništa od ove vrste samosvijesti ne podrazumijeva da imamo iscrpno znanje o sebi. To samo znači da se mogu odnositi na sve što jesam, što god to bilo. Slično tome, misao o „svemu“ neproblematično se odnosi na sve, a da ne implicira da sve znam poput sveznajućeg Boga. I to nas dovodi do daljnje značajke takvih misli i njihove refleksivnosti: one su jednostavne.

Cjelina sadrži svoje dijelove na jednostavan način – što znači da mogu biti upoznat s osjećajem sebe bez poznavanja svakog aspekta sebe. Čak ni pacijenti s Alzheimerovom bolešću i demencijom nikada ne gube taj jednostavni osjećaj sebe; a ako bismo ga ikada izgubili, nitko nam ga ne bi mogao objasniti predstavljajući nam naše (prostorne ili vremenske, ili čak mentalne) dijelove. Jer upravo je taj jednostavni osjećaj identiteta ono što te dijelove čini dijelovima cjeline naše samosvijesti. I s ovom značajkom dolazimo do daljnjeg razloga zašto taj osjećaj sebe ne može biti nešto materijalno. Jer ništa materijalno ne može biti jednostavno. Sve materijalno je prošireno i stoga po definiciji nije jednostavno.

Zato je Leibniz mislio da najjednostavniji dijelovi svemira moraju biti umovi (tj. njegove „monade“). Osim Leibnizovih mnogo većih tvrdnji, ovo barem vrijedi za mene: referent zamjenice prvog lica jednine, „ja“, je jednostavan i stoga nematerijalan. Stoga ne mogu biti računalo. Drugim riječima: razlog zašto računala ne mogu biti samosvjesna nije taj što „još nisu dovoljno složena“ i što bi njihova sofisticiranost bila dovoljna. Problem je prije u tome što nisu dovoljno jednostavna. I nikada neće biti dovoljno jednostavna iz jednostavnog razloga što su materijalna.

Niti bi se mogao navesti valjan razlog zašto bismo pretpostavili da bi njihova složenost odjednom trebala dovesti do nečeg jednostavnog. Jednostavnost može objasniti jedinstvo dijelova, ali spajanje dijelova ih neće ujediniti. Kao što će Toma Akvinski istaknuti, ona su samo in potentia (u mogućnosti) u odnosu na cjelinu koju mogu formirati i stoga njihovo jedinstvo treba aktualizirati nečim što je već ujedinjenije ili jedno od njih samih.10

Bog kao ujedinjujući uzrok

Takvi ujedinjujući uzroci sami po sebi mogu zauzvrat trebati biti ujedinjeni nečim što je još jednostavnije od njih samih. Ali ovaj niz ujedinitelja treba početnu točku; ne može biti beskonačan regres. I – oponašajući svetog Tomu Akvinskog – krajnji ujedinitelj je ono što svi nazivamo Bogom. Jer on je taj koji ne treba ujedinitelja jer je po svojoj prirodi potpuno jednostavan (koja je čak i jedno s njegovim postojanjem).11 Bog je najjednostavnije biće – i što je stvar jednostavnija, to je veća njezina moć, tvrdi Toma Akvinski.12 Zato je Richard Dawkins potpuno u krivu kada sugerira kako Bog mora biti najsloženije biće od svih, tako da može stvoriti sve složenosti na svijetu.13

Klanjati se djelu ruku svojih

Bog stoga također ne može biti materijal ili računalo. Ali bi li itko uopće to predložio? Da, doista, jer sada postoje fantazije o računalnoj „Singularnosti“ koje pokreću cijele obrazovne institucije (poput Sveučilišta Singularnosti Raya Kurzweila). I pripremaju se za ovog „dolazećeg boga“ koji će preuzeti naše živote po uzoru na „noosferu“ isusovca Teilharda de Chardina, tehnološki posredovani eshaton.14 Ili možda po uzoru na protestantsko „uznesenje“ kako sugerira J. Lanier.15 Neki čak tvrde da bismo trebali obožavati ovaj entitet (naime da bismo ga dobili na našu stranu). Što bi doslovno značilo „klanjanje djelu ruku svojih“ – i stoga idol u starozavjetnom smislu, čak i ako je „monoteistički“ idol. Ali koliko god se to može nazvati „singularnošću“, tu nema ništa singularno, kao što ni materijalna stvar nema ništa jednostavno što bi je ujedinilo poput uma.

Ne moramo se bojati da bi takva računalna singularnost dobila nešto što bi je moglo učiniti samosvjesnom i zatim preuzeti svijet – kako se ponekad zamišlja, možda s internetom koji razvija globalnu samosvijest. Jer, ako je ono što smo rekli istina, ovo nije mogućnost za bilo što čisto materijalno, niti čisto materijalne stvari mogu biti uzrok da se takva jednostavnost pojavi kao emergentno svojstvo. Ne samo da se ponekad sugerira kako bi singularnost kao rezultat toga bila samosvjesna, već i sam put koji vodi do ovog rezultata čini se da pretpostavlja refleksivnost i samosvijest.

Nadogradnja sebe

Zamišlja se da bi računala počela sama sebe nadograđivati, nadmašujući tako čak i ljudsku inventivnost.16 To se možda obično ne primjećuje i stoga vrijedi istaknuti: „nadogradnja sebe“ još je jedan oblik refleksivnosti.

Možemo razmotriti vlastiti slučaj: velik dio naše vlastite kreativnosti rezultat je naše samosvijesti. Možemo razmisliti o tome kakvi smo, napraviti taj korak unatrag od sebe ili od onoga što smo postali, biti nezadovoljni i promijeniti svoje mišljenje. Možemo poboljšati svoja mišljenja, svoj pogled na sebe ili na svoje proizvode. Tako se možemo poboljšati.

Ali nijedno računalo nikada nije izgradilo bolje računalo od sebe samog. Kao strojevi, ne mogu razmišljati o sebi kao cjelini, biti nezadovoljni sobom ili ponovno zamisliti što jesu.17 Ne razlikuju se od nečega tako osnovnog kao što je termostat: termostat ima postavku koju ne može sam promijeniti. Samo mi to možemo učiniti. Možda sada ima sofisticirane načine prilagođavanja svojih postavki na temelju drugih parametara, ali sve će se to oslanjati na još jedan, osnovniji algoritam ili izvorni kod.

Čak i u strojnom učenju s dubokim neuronskim mrežama postoji ultimativni algoritam kojim stroj „uči“ ili postavka koja razlikuje uspjeh od neuspjeha; ne može naučiti nešto novo u smislu da bi bilo novo u odnosu na taj algoritam ili postavku. Posljednja razina nikada ne može biti podložna promjeni od strane stroja, jer mora koristiti ovu razinu kako bi išta promijenio. Jer, kao što smo rekli, ništa materijalno ne može reflektirati samo sebe ili sadržavati samo sebe kao cjelinu.18

I za nas, naravno, postoje ograničenja. Svakako ne možemo znati sve o sebi, niti se možemo jednostavno promijeniti činom svoje volje. Ali možemo doći do uvida (ili obraćenja) koji nas tjera da želimo promijeniti svoje načine i mišljenja, bez obzira jesmo li u tome uspješni ili ne. Možemo jednostavno početi mrziti sebe. Nijedno računalo ne može postati depresivno zbog sebe ili zbunjeno smislom svog postojanja. Ni mi sami možda ne znamo odgovor na ova pitanja, ali za razliku od računala možemo i postavljamo to pitanje. Niti će računalo na kraju počiniti samoubojstvo zbog samoprezira; jer i to je čin refleksivnosti ili okretanja protiv sebe kao cjeline. Samoubojstvo je sasvim drugačije od mehanizma za autodestrukciju, koji je samo jedan dio stroja koji onemogućuje drugi dio, kako bi se zapravo uništio cijeli stroj.

To što mi, s druge strane, nažalost možemo oduzeti vlastite živote, samo je negativna strana pozitivne sposobnosti da transcendiramo sebe u promišljanju, da se promijenimo, da postanemo kreativni i doista da uzmemo svoj život u svoje ruke – ne da bismo ga odbacili, već da ga obećamo Bogu ili drugom ljudskom biću (u vjerskim ili bračnim zavjetima).19 Mi u svojoj refleksivnosti jedina smo bića koja mogu preuzeti posjed cijelog svog života i dati ga. Stroj se ne može predati, jer ne posjeduje sebe; naprotiv, on jest i oduvijek je bio naše vlasništvo. Niti ima sebe, niti transcendira sebe, jer samo duhovna bića mogu imati tu sposobnost.

Literatura:

  1. Usp. A. Ramelow, „U A.I., Mind does not Matter“ (u tisku u Euntes Docete). ↩︎
  2. Willard Van Orman Quine, „O onome što postoji“, u: S logičkog gledišta (New York, Hagerstown, San Francisco, London: Harper Torch, 1963.), 1-20, na str. 1. Ako računala ne mogu prihvatiti univerzalije kao univerzalije, onda će još manje imati ovu najuniverzalniju misao; to je možda razlog zašto se može reći da nemaju ni „svijet“ unutar kojeg se nalazi sve ostalo; Brian Cantwell Smith, Obećanje umjetne inteligencije: Obračun i presuda (Cambridge, Mass.: MIT Press, 2019.), 102. ↩︎
  3. Toma Akvinski to objašnjava u smislu dvaju uma, koji se mogu međusobno sadržavati na način na koji se dva tijela ne mogu međusobno sadržavati: Nadalje, nemoguće je da dva tijela sadrže jedno drugo, budući da spremnik nadilazi sadržano. Pa ipak, kada jedan intelekt ima znanje o drugome, dva intelekta sadrže i obuhvaćaju jedan drugoga. Stoga intelekt nije tijelo. Toma Akvinski, Summa contra gentiles, 49 n. 7 (svi prijevodi ScG-a od Antona C. Pegisa (New York: Hanover House, 1955.-57.). Ono što Toma Akvinski ovdje sugerira o dva uma, može se shvatiti kao isti um koji se pojavljuje dva puta, naime u posjedovanju sebe. Duša također poznaje vlastite moći u refleksiji ili „potpunom povratku sebi“. Toma Toma, De veritate q. 1, a. 9 i Super Librum De Causis, prop. 15. Što je postojanje duhovnije, to je povratak neposredniji: Bog poznaje sebe sam po sebi (kao u Aristotelovoj noesis noeseos), bez da je prethodno informiran drugim stvarima; Summa theologiae I, q. 14, a. 2 ad 3. S druge strane, dok naš intelekt poznaje sebe, naša osjetila ne poznaju, jer im je potreban materijalni organ: oku bi trebalo drugo oko da bi vidjelo sebe. ↩︎
  4. Prošlost, sadašnjost i budućnost dio su onoga na što se „ja“ odnosi (bilo da to znamo ili ne); stoga identitet vremenskih dijelova nadilazi vrijeme i ovdje i sada. Zato Toma Akvinski može reći: Esse autem nostrum habet aliquid sui extra se: deest enim aliquid quod jam de ipso praeteriit, et quod futurum est; Toma Akvinski, In I Sent., d. 8, q. I, a. I, sol.; usp. Armand A. Maurer, „Vrijeme i osoba“, Proceedings of the American Catholic Philosophical Association 53 (1979): 182-193, na str. 182. ↩︎
  5. Posebno u školi Dietera Henricha; vidi, na primjer, njegov Fichtes ursprüngliche Einsicht (Frankfurt/Main: Vittorio Klostermann, 1966.), ili Manfred Frank, Selbstbewußtsein und Selbsterkenntnis (Stuttgart: Reclam, 1991.). ↩︎
  6. Ili samoreferencijalne izjave poput „ova rečenica je lažna“. Budući da se Gödel pozivao protiv strojne inteligencije (npr. od strane R. Penrosea), možda je vrijedno istaknuti da su tvrdnje relevantne za Gödelov teorem o nepotpunosti – one koje naš um može prepoznati kao istinite bez mogućnosti da ih dokaže (dedukuje) – samoreferencijalne tvrdnje poput „ova tvrdnja nije dokaziva u ovom sustavu“. Eric J. Larson, Mit o umjetnoj inteligenciji: Zašto računala ne mogu misliti kao mi (Cambridge, Mass.: Harvard University Press, 2021.), 13. ↩︎
  7. „…djelovanje nijednog tijela nije samorefleksivno. Jer je u fizici dokazano da se nijedno tijelo ne kreće samo od sebe osim u odnosu na dio, tako da je jedan njegov dio pokretač, a drugi pokretni. Ali djelujući, intelekt reflektira sebe, ne samo kao dio, već kao cjelinu sebe. Stoga, nije tijelo.“ Toma Akvinski, Summa contra gentiles, II, 49, n. 8. ↩︎
  8. „Jer samo kvantitativnom usporedbom tijelo uopće išta sadrži; tako i ako stvar sadrži cijelu stvar u cjelini sebe, ona sadrži i dio u dijelu sebe, veći dio u većem dijelu, manji dio u manjem dijelu. Ali intelekt, u smislu bilo kakve kvantitativne usporedbe, ne shvaća shvaćenu stvar, budući da cijelom svojom sobom shvaća i obuhvaća i cjelinu i dio, stvari velike po količini i stvari male. Stoga, nijedna inteligentna supstanca nije tijelo.“ Toma Akvinski, Summa contra gentiles, II, 49, n. 2. ↩︎
  9. Therese Scarpelli Cory, Toma Akvinski o ljudskoj samospoznaji (New York/Cambridge UK: Cambridge University Press, 2014), 206. ↩︎
  10. Toma Akvinski, Summa contra gentiles, I, 18, n. 2. ↩︎
  11. Toma Akvinski, Summa contra gentiles, I, 18. ↩︎
  12. Toma Akvinski, Summa contra gentiles, II, 6, n. 6 ↩︎
  13. „… svaki Bog sposoban bilo što osmisliti morao bi biti dovoljno složen da bi sam po sebi zahtijevao istovjetno objašnjenje. Bog predstavlja beskonačnu regresiju iz koje nam ne može pomoći da pobjegnemo.“ Richard Dawkins, The God Delusion (London: Bantam Press, 2006.), 109. Čudno, on sam zatim nastavlja objašnjavati složenost od jednostavnih početaka u evoluciji. ↩︎
  14. „[Njegovo novo božanstvo bit će sveznajuće i svemoćno kao i svaka prethodna vizija Boga. Levandowski vjeruje da će se ljudi samo pokoriti i moliti da budu pošteđeni.“ Galen Beebe i Zachery Davis, „Kad Silicijska dolina dobije religiju“, citirano u Ted Peters, „Umjetna inteligencija, transhumanizam i Frankenfear“, u AI i IA: Utopija ili izumiranje? ur. Ted Peters (Adelaide: ATP Press, 2018.), 15-42, na str. 38. Vidi također Anselm Ramelow, „Tehnologija i naš odnos s Bogom“, Nova & Vetera 22 (2024.): 159-186. ↩︎
  15. Jaron Lanier, Tko posjeduje budućnost (New York: Simon & Schuster, 2013.), 125. ↩︎
  16. Tj. neka „superinteligencija“ koja se redizajnira i dobiva patent za nju; David J. Chalmers, „Singularnost: Filozofska analiza“, Journal of Consciousness Studies 17 (2010.): 7-65; Nick Bostrom i Eliezer Yudkowsky, „Etika umjetne inteligencije“, u Cambridge Handbook of Artificial Intelligence, ur. William Ramsey i Keith Frankish (Cambridge: Cambridge University Press, 2014.), 316–334, na str. 329-333; Raymond Kurzweil, Singularnost je blizu: Kada ljudi nadiđu biologiju (New York: Viking, 2005.). ↩︎
  17. I životinje, iako svjesne, definirane su svojim odnosom sa svojom ekološkom nišom (u koju su genetski uklopljene); ne mogu razmišljati o tom odnosu (a s njim i same) i izaći iz niše. Ali mi to možemo učiniti i zato živimo svugdje na planetu (a možda uskoro i u prostor). ↩︎
  18. „Subjekt“ je „sustav koji se ponovno suočava sa samim sobom kao cjelinom i stoga se ne može jednostavno zamisliti kao računalo sastavljeno od različitih dijelova, koje unatoč svim ugrađenim kontrolama ne može ponovno manipulirati sobom kao cjelinom.“ Karl Rahner, „Osoba“, u: Sacramentum Mundi, svezak IV (New York: Herder & Herder, 1969.), 404–19, na str. 417. Dakle, alat za otklanjanje pogrešaka je računalni program koji se koristi za testiranje i otklanjanje pogrešaka u drugim programima („ciljni“ program), ali ne i u samom sebi. ↩︎
  19. Samotranscendencija je uvjet mogućnosti istinske intersubjektivnosti: predviđanje tuđeg gledišta. Računala se mogu programirati da se ponašaju kao da se ponašaju. Ali ona to intrinzično ne čine, niti mi očekujemo da će to činiti: zato ne pričamo viceve računalima, ne družimo se s njima niti ih molimo da mole za nas. – Fenomeni poput srama također ovise o takvom intersubjektivnom samotranscendenciji. Računala (i životinje) ne crvenimo jer im nedostaje intersubjektivnost. Roger Scruton je posebno inzistirao na toj razlici; Roger Scruton, On Human Nature (Princeton/Oxford: Princeton University Press, 2017.), 50-78 (i dalje). ↩︎