Veličastno človeštvo ?
Tako izčrpnega seznama problemov umetne inteligence in predlogov za rešitev še ni bilo. In vendar sem nad encikliko razočaran.
Konec maja je papež Leon IV objavil encikliko Magnifica Humanitas, po domače okrožnico Veličastno človeštvo. Okrožnice so oblika komunikacije papežev s svetom - ne v funkciji nezmotljivega naslednika sv. Petra, ampak mnenje o kakšni zadevi. Do zdaj so jih napisali blizu 300. Papež Frančišek je napisal štiri, papež Leon pa prvo že v drugem letu svojega pontifikata. O umetni inteligenci in novih tehnologijah.
Dolga je. Rerum Novarum, Nove stvari, prelomna enciklika papeža Leona XIII, je imela okrog 11.500 besed. Magnifica Humanitas jih ima čez 43.000. Predelal sem si jo v epub format, da sem jo bral z orodji za branje knjig, tako dolga je. Za primerjavo, Komunistični manifest ima 12.000 besed, Živalska farma 30.000, Millova On Liberty 43.000. Zlobneži ugotavljajo, da je nekatere dele napisala umetna inteligenca. Celo resne revije pišejo o tem.
Prednost dolgega dokumenta je, da je v njem za vsakega nekaj. Vsak lahko išče in najde poudarke, ki mu ustrezajo. Kot otrok, ki koplje rozine iz biskvita, testo pa pusti. Tega se zadnje dni bere veliko. Cerkev naj bi bila ločena od države, njeni prazniki družinski, ampak če pa papež pove kaj takega, kar jim gre v kontekst, ga pa z veseljem citirajo.
Enciklika o umetni inteligenci
Pravijo, da ni samo o umetni inteligenci. In res ni. Veliko vsega je je v njej, celo opravičilo papeža za suženjstvo. A vendar je centrala tema tehnološki razvoj na splošno in umetna inteligenca konkretno.
Umetna inteligenca je prelomna tehnologija. Večja od računalnika, večja od interneta. Lomi se samo bistvo, kaj pomeni biti človek. Pravzaprav, kaj pomeni biti homo sapiens - razmišljujoči človek. Ampak zdaj prehitevam. Časi so prelomni, podobno, kot so bili prelomni časi, ko se je rojevala industrijska družba in jo je naslovil Leon XIII v Rerum Novarum. Moda še bolj. Ali pa so od blizu zadeve videti večje.
Pametovanj o umetni inteligenci je sicer kolikor hočete, ampak če ima kdo o tem povedati kaj globljega, se mi je zdelo, je to papež. Je to ustanova, ki ima v Svetem pismu zapisano, kako iz divjaka nastane civiliziran človek; s katerim je Bog sklenil najprej staro in potem novo zavezo - pogodbo, kako naj živi, pa mu bo Bog pomagal, da bo živel vekomaj. In se je kar obneslo. Civilizacija, ki se je držala teh pravil, je ustvarila sodobni svet.
Tole bo malo daljše od običajne kolumne. Najprej bo obnova enciklike. Ker ne vem, če jo boste brali in ker je zelo verjetno, da ste brali samo tak ali drugačen jagodni izbor. V drugem delu bom imel nekaj vprašanj. Na koncu, kot ste navajeni, pa Skratka.
ENCIKLIKA
Kot rečeno ima 43000 besed, uvod, pet poglavij in zaključek. Vsebuje 224 citatov, praktično vse na tekste, ki so nastali v Vatikanu in neprešteto število referenc na Sveto pismo. Cerkev torej more marsikaj povedati, ne da bi se sklicevala na laike ali znanost. Izjeme so s po enim citatom Združeni narodi, Platon, Viktor Frankl, Giorgio La Pira, Romano Guardini, Hannah Arendt in J.R.R. Tolkien:
Pač vsak po svojih zmožnosti poskuša ta naš svet očititi plevela. Tolkien to pove tako lepo, da ga citira papež:
It is not our part to master all the tides of the world, but to do what is in us for the succour of those years wherein we are set, uprooting the evil in the fields that we know, so that those who live after may have clean earth to till.
Uvod
Še nikoli človeštvo ni imelo take moči nad samim seboj.
Uvodu encikliko postavi v kontekst 135-letnice Rerum Novarum, češ, človeštvo je ponovno pred zgodovinsko prelomnico. Leon XIII je konec 19. stoletja odgovoril na izzive industrijske revolucije. Današnja generacija mora odgovoriti na izzive umetne inteligence in podobnih tehnologij. Osrednje vprašanje ni, ali tehnologijo sprejeti ali zavrniti, temveč kakšno civilizacijo, kakšno družbo želimo z njeno pomočjo zgraditi. Alternativi ilustrira z dvema bibličnima zgodbama.
Prva je zgodba o Babilonskem stolpu. Kmalu po vesoljem potopu so ljudje še govorili en jezik. Da bi si naredili ime, ugled, nahranili svojo samozavest in da se ne bi razkropili po svetu, so se lotili gradnje visokega stolpa. Leon piše, da ker je bil projekt zasnovan brez Boga, ampak na enotnosti in samopoveličevanju, se konča z razkrojem skupnosti in razselitvijo ljudstev po svetu.
Alternativa je manj znana zgodba o Nehemiju. V izgnanstvu izve, da je obzidje Jeruzalema porušeno. Po molitvi, kesanju in premisleku organizira skupno delo številnih družin, vsaka obnovi svoj del obzidja. Jeruzalem je obnovljen in pripravljen, da v njem spet domujejo ljudje in v njihovi sredi njihov Bog.
Papež umetno inteligenco in podobno tehnologijo razume kot izbiro med dvema modeloma prihodnosti: med Babilonom, kjer tehnološka moč služi poenotenju in napuhu, ter Jeruzalemom, kjer tehnologija podpira skupno dobro, človeško dostojanstvo, dialog in sodelovanje.
Papež ni proti umetni inteligenci. Ljudje nadaljujemo stvarjenje sveta.
Created in the image of the Creator, our own work in some way continues his.
Ni pa za vsakršno umetno inteligenco. Temeljna naloga našega časa da je graditi Jeruzalem, ne Babilona.
Poglavje 1. Vloga cerkve
Odkar se papeži oglašajo o družbenih zadevah, se del Cerkve (torej duhovščine in vernikov) sprašuje, ali ni naloga Cerkve pripravljati ljudi na onostranstvo, na večno življenje, ne pa se ukvarjati z družbenimi, gospodarskimi in političnimi vprašanji kratkega življenja tule na zemlji. Kot da so še ena nevladna organizacija. Papež je trdno na stališču, da eno ni mogoče ločiti od drugega in da je socialni nauk Cerkve nastal prav zato, da bi v luči evangelija presojal velike spremembe v družbi.
Cerkev pri tem ne želi nadomestiti države, politike ali znanosti, temveč hoče v dialogu z njimi prispevati moralna merila za presojanje družbenega razvoja. Osnovna naloga družbenega nauka cerkve je, da večne resnice o človekovem dostojanstvu, skupnem dobrem, svobodi in odgovornosti uporablja za presojanje vedno novih zgodovinskih, ekonomskih ali tehnoloških okoliščin.
Zato umetna inteligenca ni zgolj tehnično vprašanje, ampak nova »res novae«, nova reč, ki zahteva nadaljnji razvoj družbenega nauka cerkve.
Poglavje 2. Družbeni nauk Cerkve
V drugem poglavju papež razloži svoje videnje družbenega nauka cerkve. Ima naslednje temelje:
Človek kot podoba troedinega Boga. Dostojanstvo človeka ne izhaja iz njegovih sposobnosti, uspeha ali koristnosti, temveč iz dejstva, da je ustvarjen po Božji podobi.
Enako dostojanstvo vseh ljudi. Vsi ljudje imajo enako vrednost ne glede na narodnost, spol, premoženje, izobrazbo ali družbeni položaj. Nobena tehnologija, ekonomija ali politični sistem ne sme ustvarjati hierarhije človeške vrednosti.
Vrhovna vrednost človekovih pravic. Človekove pravice so praktični izraz človekovega dostojanstva. Njihovo spoštovanje je pogoj za pravično družbo in merilo za presojo političnih, gospodarskih in tehnoloških ureditev.
Among these rights, the first is the right to life, from conception to its natural end, [70] without which it is impossible to exercise any other right.
Spomnimo, da vse to izhaja iz tega, da je človek ustvarjen po Božji podobi, ker ima zavezo z Bogom in ne, ker bi kje kakšna večina to izglasovala.
Načela družbenega nauka Cerkve, ki iz tega sledijo, pa so:
Skupno dobro. Družba mora biti organizirana tako, da omogoča razvoj vseh svojih članov. Skupno dobro ni zgolj seštevek posameznih interesov, ampak skupek pogojev, ki omogočajo dostojno življenje vsem.
Univerzalna namembnost dobrin. Materialne dobrine so namenjene vsem ljudem. Zasebna lastnina je legitimna, vendar nosi tudi družbeno odgovornost in ne sme preprečevati dostopa drugih do osnovnih pogojev za življenje.
the Christian tradition has never recognized the right to private property as absolute or inviolable
Subsidiarnost. Odločitve naj se sprejemajo na najnižji ravni, ki je še sposobna učinkovitega delovanja. Višje ravni oblasti morajo podpirati posameznike, družine in skupnosti, ne pa jim odvzemati odgovornosti in pobude.
Solidarnost. Ljudje smo medsebojno povezani in odgovorni drug za drugega. Solidarnost presega dobrodelnost; pomeni zavestno prizadevanje za pravične družbene in gospodarske razmere.
Solidarity, then, is the concrete recognition that the future of each individual is connected to the future of all; indeed, “no one is saved alone.”
Socialna pravičnost. Pravičnost ne zadeva le ravnanja posameznikov, ampak tudi institucije in družbene strukture. Družbeni red mora omogočati pošten dostop do dela, izobraževanja, sodelovanja in razvoja za vse.
A litmus test for social justice today is the treatment of migrants, refugees and those forced to move due to poverty, violence, climate change and environmental disasters.
Razvoj mora biti celovit. Napredek ni zgolj gospodarska rast ali tehnološki razvoj. Pravi razvoj vključuje materialne, kulturne, moralne, duhovne in družbene razsežnosti človeka ter mora koristiti vsem ljudem in celemu človeku, danes in v prihodnosti.
Načela morajo veljati tudi za cerkev samo. Njena verodostojnost je odvisna od tega, ali sama spoštuje dostojanstvo oseb, spodbuja sodelovanje, skrbi za šibke in deluje v službi skupnega dobrega.
Poglavje 3. Veličastnost človeštva
V tretjem poglavju papež obravnava umetno inteligenco in tehnološki napredek skozi prizmo veličastnosti človeštva. Opozarja, da največja nevarnost ni v samih tehnologijah, temveč v tem, da spreminjajo predstavo o človeku.
Človek ni samo biološko bitje, procesor informacij ali objekt, na katerega se nanašajo podatki. Njegova veličina je v sposobnosti svobodne presoje, moralne odgovornosti, ljubezni, ustvarjalnosti, samopreseganja in odprtosti za transcendenco. Zato umetna inteligenca lahko opravlja številne naloge, ne more pa nadomestiti človeške osebe kot nosilca dostojanstva, smisla in odgovornosti.
Our relationship with life seems to be in crisis today. Everything that appears as a “limit” — incapacity, illness, old age, suffering, vulnerability — tends to be seen primarily as a defect to be corrected, rather than as a reality through which our humanity matures and opens itself to relationship. And yet we must remember that humanity flourishes not despite limitations, but often through them.
Papež posebej kritizira transhumanistične in posthumanistične ideje, ki obljubljajo preseganje človeških omejitev s tehnologijo (genetski inženiring, backup človeških možganov v računalnik, ...). V njih vidi nevarnost izgube razumevanja človeka kot bitja, katerega dostojanstvo izvira iz njegove narave, tudi iz njegovih šibkosti in ne iz njegovih zmogljivosti. Resnična veličina človeka se po njegovem ne kaže v tem, da postane »več kot človek«, temveč v tem, da v polnosti uresniči svojo človeškost.
V umetni inteligenci papež vidi nevarnost postopnega spodkopavanja človeške avtonomije, odgovornosti in medčloveških odnosov. Opozarja na pretirano zanašanje na avtomatizirane odgovore, kar lahko oslabi ustvarjalnost, kritično presojo in osebno odgovornost. AI lahko ustvarja lažen vtis objektivnosti, čeprav pogosto reproducira predsodke, ideologije in vrednote svojih ustvarjalcev. Posebej ga skrbijo manipulacija informacij, posegi v zasebnost, diskriminatorne odločitve pri zaposlovanju, kreditiranju ali dostopu do storitev ter nova izključevanja ranljivih skupin, prikrita pod videzom nevtralnih algoritmov.
we cannot consider AI to be morally neutral
Opozarja tudi na izgubo politične odgovornosti, ko pomembne odločitve prepuščamo sistemom brez sočutja, usmiljenja ali sposobnosti moralne presoje. Med širšimi družbenimi tveganji izpostavlja koncentracijo moči v rokah zasebnih lastnikov podatkov, infrastrukture in računske zmogljivosti, nastanek novih monopolov, vplivanje na demokratične procese. Skrbi ga naraščajoča družbena neenakosti ter okoljski stroški zaradi ogromne porabe energije in virov. Na geopolitični ravni opozarja na tekmo za tehnološko prevlado, ki lahko vodi v novo oboroževalno tekmo.
Current AI systems require enormous amounts of energy and water, significantly influencing carbon dioxide emissions, and place heavy demands on natural resources.
Poglavje 4. Resnica, delo, svoboda
Četrto poglavje obravnava praktične posledice digitalne revolucije za vsakdanje življenje posameznika in daje nekatera priporočila.
Resnica mora ostati skupno dobro. Papež opozarja, da umetna inteligenca in digitalni mediji spreminjajo način, kako ljudje dostopajo do informacij in oblikujejo predstave o svetu. Zato je treba varovati kulturo resnice, razvijati kritično mišljenje, medijsko in digitalno pismenost ter preprečevati manipulacijo javnega mnenja in ustvarjanje informacijskih mehurčkov.
Murder is not wrong simply because it is socially unacceptable and punished by law, but because of a deeper conviction. This is a non-negotiable truth attained by the use of reason and accepted in conscience. A society is noble and decent, not least for its support of the pursuit of truth and its adherence to the most basic of truths.
Tehnološki razvoj mora služiti dostojanstvu dela. Avtomatizacija in umetna inteligenca ne smeta človeka potisniti na rob družbe. Gospodarski uspeh in bruto domači proizvod nista zadostno merilo napredka; presojati ga je treba po tem, ali ljudem omogoča dostojno delo, pošteno plačilo, družinsko življenje in smiselno sodelovanje v družbi. Finančni sektor, ki je sam sebi namen in ne služi razvoju dela, je sumljiv. Posebno pozornost je treba nameniti mladim in skupinam, ki jih tehnološke spremembe najbolj ogrožajo.
Papež se ne veseli časov, ko bi zaradi umetne inteligence in robotov ljudje lahko lenarili.
Work is not merely a source of income but a crucial sphere in which identity is formed, friendships and relationships are forged, practical responsibilities are learned and one’s vocation is discerned.
Varovati je treba človekovo svobodo. Digitalne tehnologije lahko ustvarjajo nove oblike odvisnosti, nadzora in komercialnega izkoriščanja. Papež zato poziva k zaščiti osebne avtonomije, zasebnosti in sposobnosti samostojnega odločanja ter opozarja na nevarnost sistemov, ki človekovo pozornost in obnašanje usmerjajo na podlagi političnih ali gospodarskih interesov.
The subtler forms of addiction linked to the “digital attention economy” should not be underestimated, since platforms and services are often designed to capture users’ time and attention, exploiting their vulnerabilities and weakening their inner freedom.
Odgovornost za tehnološko prihodnost je skupna. Upravljanje tehnoloških sprememb ne sme biti prepuščeno zgolj trgu, državi ali tehnološkim podjetjem. Odgovornost nosijo raziskovalci, podjetniki, politiki, šole, družine, verske skupnosti in civilna družba. Potrebna je široka družbena razprava o tem, kakšnemu človeku in kakšni družbi naj tehnologija služi.
The principles of Social Doctrine — the dignity of the person, the common good, the universal destination of goods, subsidiarity, solidarity and justice — for they are criteria for judging whether technologies truly serve humanity or are subjugating it.
Poglavje 5. Civilizacija ljubezni
Peto poglavje priporočila od posameznika dvigne na družbo, civilizacijo, geopolitiko in mednarodne odnose. Umetno inteligenca papež obravnavana kot dejavnik moči, ki ali okrepi logiko dominacije, tekmovanja in vojne ali pa prispeva k sodelovanju, pravičnosti in miru.
Tehnološka moč ne sme postati nova oblika prevlade. Umetna inteligenca koncentrira moč v rokah držav, vojaških struktur in velikih korporacij. Če ostane brez etičnih omejitev, lahko poveča neenakosti, oslabi svobodo narodov in okrepi logiko nadzora ter podrejanja.
Nasprotovanje normalizaciji vojne. Papež opozarja, da sodobne tehnologije zmanjšujejo občutek neposredne odgovornosti za nasilje in olajšujejo uporabo sile. Posebej problematični so avtonomni oborožitveni sistemi, pri katerih odločanje o življenju in smrti vse bolj prehaja z človeka na stroje ali pa človek ubija na daljavo, ne da se gledal iz oči v oči z žrtvijo.
Any technology that facilitates attacks without seeing the face of human beings lowers the moral threshold of conflict.
Kritika politike moči in ozkega realizma. Mednarodnih odnosov ni mogoče graditi zgolj na ravnotežju sil, nacionalnih interesih ali tehnološki premoči. Takšen pristop kratkoročno prinaša stabilnost, dolgoročno pa ustvarja nove konflikte, nezaupanje in tekmovanje v oboroževanju.
Obnova dialoga, diplomacije in multilateralizma. Svet potrebuje močne mednarodne ustanove, spoštovanje mednarodnega prava in kulturo dialoga. Globalnih tehnoloških izzivov ni mogoče reševati enostransko, temveč s sodelovanjem med državami, kulturami in civilizacijami.
Perspektiva žrtev kot moralno merilo politike. Uspešnosti politike ne smemo meriti z močjo, vplivom ali gospodarsko rastjo, ampak z njenim učinkom na najranljivejše. Papež poziva, naj se pri presoji tehnološkega in političnega razvoja najprej vprašamo, kako vpliva na revne, izključene, razseljene in žrtve konfliktov.
Gradnja »civilizacije ljubezni«. Kot alternativo kulturi moči postavi ideal civilizacije ljubezni, ki temelji na človekovem dostojanstvu, pravičnosti, solidarnosti in miru. Naloga kristjanov in vseh ljudi dobre volje je, da tehnološki napredek usmerjajo v službo človeku in skupnemu dobremu, ne pa v službo prevlade in tekmovanja. Pet poti vodi tja:
the need to disarm words, building peace through justice, adopting the perspective of victims, cultivating a healthy realism and reviving dialogue and multilateralism.
The first contribution we can make toward a more humane civilization is to be mindful of our words. “Let us disarm words and we will help to disarm the world.”
Zaključek
Potem ko je večino besedila posvetil družbenim, političnim in tehnološkim vprašanjem, papež v sklepnih odstavkih pojasni, zakaj kristjan sploh verjame, da je mogoče graditi boljši svet.
Izhodišče je učlovečenje: Bog ni odmaknjen od človeške zgodovine, ampak je v Kristusu vstopil vanjo in s tem dokončno potrdil dostojanstvo vsakega človeka. Iz tega izhaja tudi krščansko razumevanje človeške veličine, ki ne temelji na moči, inteligenci ali tehnoloških sposobnostih, temveč na Božji ljubezni.
In Christ, we are called to cooperate in the work of creation, rather than be disinterested observers of technological processes that limit our freedom and responsibility. The dignity inscribed in each of us by the Holy Spirit can also be seen in our capacity to reflect critically, choose and love freely, and form authentic relationships. No computational system, however sophisticated, can create a heart that gives itself, or a conscience that discerns good from evil. Even when machines excel in efficiency, a human face that asks to be gazed upon remains the center of our history.
Papež poudarja, da ljudje niso izolirani posamezniki, ampak eno občestvo, eno telo, povezano med seboj in odgovorno drug za drugega, “vsi smo eno v Jezusu Kristusu”. Zato gradnja pravične družbe ni le politična ali etična naloga, ampak sodelovanje pri Božjem načrtu za svet.
Enciklika se konča v tonu krščanskega upanja: prihodnost ni prepuščena tehnologiji, trgu ali politični moči, ampak ostaja odprta za milost, človekovo svobodo in Božje delovanje v zgodovini. Papež Leon XIV. Materi Božji “zaupa našo željo, da bi vodila naše korake skozi ta čas sprememb in v vsakem od nas ohranila resnično vero v evangelij, da bi lahko pričevali o veličini človeštva, v katerem si je Bog napravil svoje bivališče”.
I entrust our desire to the Mother of Christ, to the Woman of the Magnificat, that she may guide our steps through this time of change and preserve in each of us true faith in the Gospel, so that we may bear witness to the grandeur of humanity, in which God has made his dwelling.
Čudovit zaključek. Vse skupaj ima smisel, če vzdržujemo domovanje za Boga, ne hiše zase.
VPRAŠANJA
Enciklika torej utrjuje družbeni nauk Cerkve, v katerem se ta postavlja za šibke, revne, nemočne, kot je bilo ves čas njene zgodovine. Samo v kakšnih socialističnih učbenikih jo boste videli slikano kot zagovornico bogatih in močnih. Ampak to je specifičen slovenski problem, ki mora iz Cerkve delati razrednega sovražnika.
Dokument si izposoja iz kataloga znanih skrbi: moč tehnoloških velikanov, lažne novice, algoritmična pristranskost, digitalne odvisnosti, izguba delovnih mest, nevarnosti avtonomnega orožja. O teh vprašanjih že dolgo pišejo politiki, akademiki in nevladne organizacije.
Nihče še ni sestavil tako izčrpnega seznama skrbi in zbral toliko predlogov za rešitve. Papež jih je postavil na temelj človekovega dostojanstva. V nepredvidljivih časih se je pač naslonil na tisto, kar je Cerkev zagovarjala od Rerum Novarum naprej.
Se mi pa nekateri predlogi zdijo vprašljivi, marsikaj pa tudi manjka. Vprašanja, ki so se mi postavljala, sem zbral spodaj.
Je koncentracija moči res problem? Papež opozarja, da umetna inteligenca koncentrira moč v rokah majhnega števila podjetij in držav. To je del resnice. V rokah oz. na napravah državljanov je tudi močno orodje, ko se ti spopadajo s podjetji ali državo. Največje grožnje umetne inteligence danes ne prihajajo od zasebnikov, ampak od držav, ki so si tehnologijo podredile in jo uporabljajo za nadzor, cenzuro, družbeno točkovanje in politično manipulacijo. Ključno vprašanje zato ni, kako omejiti zasebna podjetja, ki si med seboj konkurirajo in pogosto predstavljajo protiutež državni moči, ampak kako omejiti vsako koncentracijo moči, naj bo državna ali korporativna.
Mar ni razvoj bolj podoben Jeruzalemu kot Babilonu? Če je Babilonski stolp svarilo pred človeškim napuhom, enotnostjo jezika, enotnostjo ciljev in koncentracijo moči, potem ni jasno, zakaj bi morali biti bolj zaskrbljeni zaradi več konkurenčnih tehnoloških podjetij, več konkurenčnih držav, kot zaradi enega samega centra politične ali tehnološke oblasti. Mar ni Babilonskega stolpa gradila nekakšna globalna organizacija z enim jezikom, eno vizijo in enim načrtom? Mar ne spominjajo pozivi k večjemu globalnemu upravljanju, večji vlogi mednarodnih institucij, večji koordinaciji in usmerjanju razvoja od zgoraj navzdol ... bolj na Babilon kot na Nehemijev Jeruzalem?
Ali niso nekateri predlogi babilonski? Nehemija ni gradil enotnega sistema, ampak skupnost, kjer je vsaka družina prevzela svoj del odgovornosti. Če je nauk enciklike res izbira med Babilonom in Jeruzalemom, potem bi si želel več razmisleka o nevarnostih centralizacije in o Hayekovi »usodni domišljavosti« - prepričanju, da lahko majhna skupina ljudi z dovolj podatki in dovolj moči načrtuje družbo bolje kot svobodno sodelovanje milijonov posameznikov. Graditelji Babilona so bili prepričani, da gradijo nekaj veličastnega. Morda so se imeli za veličastno človeštvo.
Ali ni AI že zdaj za vse, ne samo za peščico? Enciklika ponavlja stebre socialnega nauka: skupno dobro, univerzalni namen dobrin, subsidiarnost, solidarnost in pravičnost. Ampak vsaka tehnologija do zdaj se je razvila v smeri skupnega dobrega in postala univerzalno dostopna; po tem, ko so bogati plačali njen razvoj. Papir je bil nekoč na razpolago samo za elite, danes je dostopen vsem. Knjige so brali samo bogati, danes jih vsi. Warren Buffer je zadnjič rekel, da ima najrevnejših 2% Američanov danes višji standard kot David Rockefeller pred stoletjem.
Če podjetja ne delajo za dobro, zakaj imajo kupce? Če kapitalizem razumemo kot služenje podjetnika sočloveku, saj prodaja nekaj, kar potrošnik potrebuje, kot je to obdelal Martin Rhonheimer, postane pravičniško moraliziranje nekako odveč. Narava sistema, ki ga je rodila krščanska Evropa, s svojo nevidno roko (pa ne samo trga, kot napačno citira tudi papež), izboljšuje življenja vseh ljudi. Podjetja kot so Apple, Primark ali OpenAI delajo za skupno dobro, kot to dobro razumejo njihove stranke. Da lahko politik ali intelektualec določa, kaj je skupno dobro, namesto članov skupnosti, ki se jim zdijo dobri Apple, Primark ali OpenAI, je domišljavo, če ne kaj hujšega.
Ali gleda enciklika dovolj naprej? Enciklika se ukvarja z današnjo umetno inteligenco, ki je pravzaprav včerajšnja, skoraj v celoti pa spregleda možnost prihodnje. Ko bo umetna inteligenca dosegla ali presegla človekove kognitivne sposobnosti, se odprejo vprašanja, ki jih enciklika komaj omenja: kakšna bo vloga človeka v svetu, kjer ne bo več najpametnejše bitje; kako razumeti ustvarjalnost, odgovornost in dostojanstvo v razmerju do inteligenc, ki jih je sam ustvaril; ko Bog ne bo več edino pametnejše bitje od človeka.
Ali so razlike med človekom in strojem res samo od tega sveta? V zadnjih stoletjih smo doživeli vrsto ponižanj človeškega napuha. Kopernik nas je premaknil iz središča vesolja nekam na rob. Darwin nas je postavil nazaj med živali. Freud je pokazal, da nismo niti gospodarji lastne podzavesti. Gagarin je opazil, da na oblakih ne sedijo angeli.
Zdaj umetna inteligenca spodkopava še eno predstavo: da je človek najinteligentnejše bitje v stvarstvu. Vsakič se je del establishmenta najprej branil, češ Kopernik, Darwin, Freud, Gagarin se motijo. Tudi enciklika gre v to smer. Drugi pa so rekli, pa kaj! To ni bistveno. Pogrešam, kaj po mnenju Cerkve sploh ostane od človekove enkratnosti. Nekako v smislu, da Sveto pismo človeka postavlja na vrh stvarstva in v središče sveta, ne, ker je najmočnejši ali najpametnejši, ampak zato, ker je v njem nekaj Božjega. Tega v Nvidiinih procesorjih nikoli ne bo. To bi bila tema, vredna papeške enciklike. Biti človek ostaja nekaj posebnega, biti sapiens, zaljubljen v svojo pamet, pač ne.
Kje je duša? Ko pride do umetne inteligence same, enciklika porabi veliko prostora za dokazovanje, da AI nima vesti, odgovornosti, sočutja in moralne presoje. Pravi, da “noben računalniški sistem, pa naj bo še tako sofisticiran, ne more ustvariti srca ali vesti, ki ločuje dobro od zla”. Prvič: to je vprašljivo. Že današnji sistemi vam bodo znali obširno povedati, kaj je prav in kaj narobe. In drugič, umetna inteligenca se zdi danes nekako tam, kjer sta bila Adam in Eva, preden sta jedla od drevesa spoznanja. Ni razloga, da ne bi v prihodnje pojedla jabolka.
Vernik bi pričakoval preprostejši in globlji odgovor: nima duše. Namesto tega dokument pogosto išče argumente, ki bi prepričali sekularnega bralca in išče fizične, snovne, objektivne razlike med človekom in strojem. Šele v zaključku vrne k Kristusu, evharistiji in odrešenju, ampak bolj v smislu, da bi verujoči tam našli moč, da bi se zavzemali za “dobro” umetno inteligenco, kot pa v smislu globoke metafizične in zato bistvene razlike med človekom in strojem.
Veličastno človeštvo? Naslov enciklike je provokativen sam po sebi. Ali Sveto pismo sploh govori o veličastnosti človeštva kot kolektiva? Svetopisemska antropologija je praviloma osredotočena na osebo. Bog kliče Abrahama, Mojzesa, preroke in apostole. Odrešuje posameznike, ne abstraktnega kolektiva. Človeštvo kot celota je gradilo Babilonski stolp. Množice, človeštvo, je kričalo, “križaj ga”.
Veličastni človek? Veličastnost v svetopisemski tradiciji pripada človeku kot osebi, ustvarjeni po Božji podobi, ne pa človeštvu v ednini. Tista skupnost, komuna, communion, ki se ji pridružujemo s svetim obhajilom, ni človeštvo … je občestvo posameznikov. Imeti se za veličastnega je ošabno.
Kje je veličastni Bog? Enciklika z veliko gotovostjo govori o ekonomiji, ekologiji, migracijah, precej manj pa o vprašanjih vere, odrešenja, greha in milosti. Naslov Magnifica Humanitas kaže, da v središču ni več veličina Boga, ampak veličina človeka, še huje, kolektivnega človeštva. Morda, da nam da nekaj samozavesti napram velikim jezikovnim modelom?
Skratka
Magnifica Humanitas prinaša najbolj kompleten seznam skrbi o umetni inteligenci in izčrpen seznam dobronamernih priporočil, ki so skladna z dolgo tradicijo socialnega nauka Cerkve. Prinaša praktične napotke, če si sposodim od Tolkiena in Leona XIV, kako naj v času umetne inteligence “vsak po svojih močeh pleve zlo, da bi tisti, ki bodo prišli za nami, podedovali nekaj bolj čisto zemljo”, nekaj boljše človeštvo, “v katerem si je Bog napravil bivališče”.
Ampak od papeža pričakujem več, kot od kakšne komisije Združenih narodov, pametovalcev OECDja ali modrecev Evropske komisije. Pričakoval bi globlji vpogled v človeka, ne le nasvetov za bolj previdno in pravično upravljanje tehnologije in bolj miroljubno upravljanje sveta.
Magnifica Humanitas je pomembna enciklika. Manjka pa ji nekaj, kar bi moral ponuditi prav Vatikan: globok poduhovljen odgovor na vprašanje, kaj je človek v času, ko ga stroji dohitevajo tudi na področju inteligence, ko Bog ne bo več edini, ki je pametnejši od nas, ko bo človek dobil možnost temeljito revidirati, kako je bil ustvarjen.
Da ob tem prelomu Vatikan samo ponavlja sporočila iz konca 19. stoletja, se mi nekako ne zdi dovolj.