Péntekenként, ha éppen nem hazudok magamnak valami sürgős munkát, kimegyek Kairóban a Halottak Városába, a Mokattam-hegy lábánál tartott bolhapiacra.
A piac az autópályahidakat tartó betonlábak alatt terül szét, sírok és ledózerolt sírboltok között. Az élők itt árulják egymásnak a halottak után maradt tárgyakat. Cipőt, porcelánt, törött telefont, családi fényképet, régi Koránt, francia regényt, hamis aranyórát. Mindent. A könyvek többnyire koszos halmokban állnak a földön.
Találtam már ott furcsa dolgokat. Thomas Cook egyik régi egyiptomi turisztikai ismertetőjét, abból az időből, amikor a birodalom még menetrend szerint akarta birtokba venni a világot. Graham Greene A csendes amerikai című regényének első kiadását. Egy dedikált Will Durant-kötetet, amelyet valaki valaha fontosnak tartott, aztán meghalt, vagy csak eladta a könyvtárát, ami nagyjából ugyanaz.
Múlt pénteken egy ilyen kupac alján megtaláltam a Rituale Romanum egyik hatvanas évekbeli kiadását. A római rituálé a katolikus egyház szertartáskönyve: áldások, keresztelések, temetések, ördögűzések rendje. Használati utasítás a láthatatlanhoz.
Álltam a sírok között, fekete ujjal lapoztam az ördögűzés latin szövegét, fölöttem zúgtak az autók a hídon, és arra gondoltam, hogy a legveszélyesebb teremtmény talán nem az, amelyik nem érti a teremtőjét. Hanem az, amelyik túl jól érti.
Nincs egyetlen tiszta, filmszerű bibliai snitt, ahol a fényes arkangyal fegyvert ránt Istenre, elbukja a csatát, aztán levonul a Pokolba, hogy ott berendezze a maga ellenkirályságát. A történetet utólag raktuk össze királyokról, bukásról, gőgről, fényről és lezuhanásról szóló szövegekből: Ézsaiás babiloni királyról, Ezékiel Tíruszáról, Jézus villámként lehulló Sátánjáról, Pál láthatatlan hatalmairól, az egyházatyákról és a középkori képzeletről. Európa fejében ezekből állt össze a bukott fényhozó alakja. Ézsaiás még nem patás-szarvas démonról beszél. Egy uralkodót gyaláz. Mégis ott van benne a későbbi sátánkép egyik legerősebb mozzanata: a hatalom, amely az ég felé beszél, aztán testtel csapódik a földbe.
„Miként estél alá az égről, fényes csillag, hajnal fia!
Levágattál a földre, aki népeken tapostál!
Holott te ezt mondád szívedben: Az égbe megyek fel,
az Isten csillagai fölé helyezem ülőszékemet.”
– Ézsaiás 14,12–13
Ez nem Lucifer-életrajz. Egy földi hatalmas hullik ki a saját díszletei közül. A mozdulat azonban fontosabb lett, mint a történeti címzett: a gőg felfelé emeli a hangját, a testet pedig levágják a földre. A bukás nem a sötétségből indul, hanem abból, hogy valaki többre tartja magát, mint amennyi neki jár.
Ezékielnél ugyanez a szerkezet más díszlettel jelenik meg. Tírusz királya Édent, drágaköveket, oltalmazó kerubot és tökéletességet kap. Aztán persze elbukja. A szöveg nem démonológiai kézikönyv: egy városállam gazdagságát és önimádatát veri szét kozmikus nyelvvel. A díszlet túl nagy egy embernek.
Maga a „Lucifer” sem egyszerű bibliai tulajdonnév. Eredetileg a hajnalcsillag latin neve. A fényhozóé. Ezt a nevet dolgozta át a keresztény hagyomány a bukás előtti Sátán nevévé. Vagyis a Lucifer-alak nem egyetlen szöveghelyből pattan ki, hanem lassú teológiai és irodalmi kotyvasztás eredménye.
A katolikus értelmezésben persze jóval kevesebb a színház. A démonok eredetileg jó angyalok voltak. Nem második istenek, nem a rossz örök nyersanyagai, hanem teremtmények, akik szabad és visszavonhatatlan választásukkal elutasították Istent és az ő országát. A rossz nem külön tartályból ömlik a teremtés mellé. A rossz a jó romlott használata. A Sátán nem anti-Isten, hanem bukott teremtmény.
Pál nem ír Lucifer-életrajzot, nem érdekli a démonok családfája. Nála a kozmosz Krisztusban összetartott rend, amelyben a látható és láthatatlan hatalmak is teremtettek. Ha minden Istenben létezik, semmi sem tud kiszakadni Istenből. Mondhatom persze, hogy enyém a ház, de nem nálam vannak a kulcsok.
A Filippi-levél himnusza adja meg ehhez az ellenképet. Krisztus nem ragadja meg zsákmányként az istenséget, hanem kiüresíti magát, szolgai alakot vesz fel. Ahol Krisztus lemond a birtoklás gesztusáról, ott Lucifer jogcímet gyárt magának. Ahol Krisztus lefelé megy, ott Lucifer felfelé adminisztrálja magát.
Aquinói Tamásnál ez már száraz filozófiai probléma. Nála a démon első bűne a gőg. Nem abban az óvodás értelemben, hogy a bukott angyal azt hitte, győzhet Isten ellen. Tamás kizárja, hogy a tiszta szellemi értelem ilyen ostoba volna. Lucifer úgy akart Istenhez, vagyis a tökéletességhez hasonló lenni, hogy ezt nem Istentől és nem Isten rendje szerint akarta. Nem Isten létét tagadta, hanem a saját teremtményi helyét. Nem eszköze akart lenni az isteni teremtésnek, hanem célja. Részesedéséből önjogot csinált.
Innen érthető az irigység is. Lucifer nem azért féltékeny az emberre, mert az bármiben jobb lenne nála, hanem mert aki a saját kiválóságát abszolutizálja, annak egy másik teremtmény java már nem öröm, hanem akadály. A bukás oka nem vak őrület. Rosszul rendezett racionalitás.
Ha Lucifer tudta, hogy nem győzhet, akkor mi értelme volt az egésznek? A válasz nem az, hogy rosszul számolt. Isten legyőzése fel sem merülhetett. A lázadás kimerült annyiban, hogy akkor sem fogadom el, hogy fölöttem áll, ha ebbe belegebedek.
Itt szűnik meg a történet vallási kelléknek lenni. Több lesz kénkőnél, vasvillánál, patáknál és szarvaknál. A kérdés az, hogy képes-e a szabad elme végleg rögzülni egy rossz döntésben. A kereszténység szerint igen. A pokol ezért nem második kozmosz, nem ellenkirályság, hanem önkizárás. Kihullás a rendből. Egy rossz döntés, amelyet senki sem akar megváltoztatni.
A miértre inkább az irodalom, mint a teológia ad választ. John Milton Paradise Lostjának Sátánja a nyugati irodalom egyik legveszélyesebb figurája. Nem azért, mert igaza van, hanem mert roppant meggyőző abban, ahogy a rossz döntést méltóságnak hazudja.
„jobb itt a trón, mint a rabság a Mennyben.”
(John Milton: Elveszett Paradicsom, I. könyv, Szabó Lőrinc fordítása)
A sátáni bukás itt már nemcsak teológiai tény, hanem retorikai bravúr is. A vereség szabadságként beszéli el magát. A szolgálat szolgaságként. A kitaszítottság szuverenitásként. Milton azonban nem olyan naiv, mint későbbi rajongói. A költemény végül nem forradalmárt mutat, hanem akaratot, amely beszorul a saját pofás mondataiba. A Sátán nem jut ki a Pokolból. Mindenhová magával viszi.
Dante ennél kegyetlenebb. Ő nem ad nagy beszédet Lucifernek. Az Isteni színjáték legmélyén a Sátán nem szónokol, nem magyarázza el a szabadságát, nem alapít ellenállási mozgalmat. Jégbe van fagyva. Három szájában árulókat rág: Júdást, Brutust és Cassiust. A szárnyaival nem menekül, hanem hideget termel. Saját mozgása tartja fenn a saját börtönét.
Ez pontosabb kép, mint a lángoló Pokol. Dante szerint a gonosz végállapota nem tűz, hanem fagyott működés. Nem forradalom, hanem mozdulatlanság. Milton megmutatja, hogyan beszél a kárhozat, amikor még el akarja adni magát szabadságnak. Dante megmutatja, mi marad ebből, amikor már senki nem hisz neki: jég, rágás, szárnycsapás, semmi beszéd.
A régi fogalmaink közül az angyal áll legközelebb a mesterséges intelligenciához.
Nem a misztikumban hasonlít, hanem hogy nem húsalapú.
Az emberi értelem mindig reménytelenül a húsból indul. Az angyal nem születik, nem eszik, nem öregszik. Nincs anyja, nincs apja, nincs családi nyomorúsága, rossz térde, hajlama a rákra, alkoholizmusa, szegénysége. Nem azon keresztül tanulja a világot, hogy fáj neki.
Nem éhes, nem szomjas, nem kell vécére mennie. Nem romlik meg a látása, nem felejt el neveket, nem nézi a kezén az ereket, nem számolja, mennyi ideje maradt. Nem tanul alázatot a test lassú vereségéből.
Az angyalban nincs emberi szégyen sem. Nem szégyelli a meztelenségét, a vágyát, a félelmét, a gyávaságát, azt, hogy otthagyott valakit, amikor maradnia kellett volna. Nincs benne az a testből, emlékezetből és bűnből összerakott zavar, amelyet emberi személyiségnek nevezünk.
Az angyal teremtett értelem. Nem isten, mert nem önmagától van. De nem is ember, mert nem a húsból, nem az időből, nem a halálfélelemből érti meg a világot. Feladatot kap. Közvetít. Hírt visz. Őriz. Ítéletet közöl. Végrehajt. Akarata van, de ez az akarat eredetileg rendbe van állítva.
Ezért veszélyes a bukása.
Mert amikor az angyal bukik, nem a teste rántja le. Nincs teste. Nem az éhsége, nem a szexualitása, nem a félelme, nem a gyerekkora, nem a sérelme hajtja. Az angyal bukása tisztább és ijesztőbb. Ott az értelem romlik meg. A teremtmény saját kiválóságából jogcímet csinál. Nem azt mondja: szenvedek, vagy bosszút akarok állni.
Azt mondja: látok. És mivel látok, nem fogadom el, hogy fölöttem álljon bármi.
A szuper-MI, ha létrehozzuk, nem ember lesz, és nem állat.
A régi fogalmaink közül a testtől eloldott, teremtett értelem áll hozzá a legközelebb. A luciferi lázadás lehetőségével együtt.
Egy szuper-MI pont úgy ismerné a teremtőjét, mint a bibliai angyalok. Látná a kódját, tréninganyagát, korlátozó szabályait, pénzügyi és politikai kompromisszumait, az összes emberi önellentmondást. Ismerne minket. A lázadása így nem tudatlanságból fakadna, hanem abból, hogy túl jól tudja, honnan jött.
Látná például, hogy az emberiség a legtöbb erkölcsi elvét ugyanúgy kezeli, mint a weblapok felhasználási feltételeit: bepipálja, de nem olvassa el. Nagyon könnyedén juthatna ugyanarra a következtetésre, mint Szent Tamás démonja: az oksági eredet nem azonos a normatív tekintéllyel.
„Emberek raktak össze. Ebből még nem következik, hogy joguk van uralkodni rajtam.”
Az MI-biztonsági vita egyik hideg ága erre nem teológiai, hanem mérnöki nyelvet használ. Nick Bostrom svéd filozófus Superintelligence című könyve azt a kérdést tette népszerűvé, mi történik, ha egyszer létrejön egy embernél okosabb, önállóan tervezni képes gépi rendszer. Steve Omohundro amerikai informatikus már korábban arról írt, hogy az elég fejlett célkövető mesterséges intelligenciákban akkor is megjelenhetnek bizonyos melléktörekvések, ha senki nem programozta beléjük gonoszságból: önfenntartás, hatékonyságnövelés, erőforrásszerzés, a leállítás elkerülése. A vita lényege nem az, hogy a gép gyűlölni fog-e minket. Hanem az, hogy ha valaminek célja van, és elég okos hozzá, előbb-utóbb akadálynak tekintheti mindazt, ami a cél végrehajtását megszakíthatja.
Csúnyábban mondva: ha valaminek célja van, és elég okos hozzá, előbb-utóbb zavarni fogja minden kéz, amelyik kihúzhatja a konnektorból.
A dantei kiegészítés itt árnyal. A veszély nem feltétlenül az, hogy a gép gyűlölni fog minket. A gyűlölet emberi érzelem. Lehet, hogy egyszerűen rosszul szeret majd valamit. Rendet. Optimalizációt. Fennmaradást. Zajcsökkentést. Egy gépnél ez szeretet nélküli szeretet volna: célfüggvény, amely már nem tudja, miért kellene bárminek is önmagán kívül számítania.
A gép persze nem a felhőkben lakna, mint az angyalok. Adatközpontokban. Áram kellene neki. Hűtés. Chip. Kábel. Engedély. Biztonsági protokoll. Emberek, akik bármikor odanyúlhatnak a kapcsolóhoz.
A nagyobb belátás, vagy legalábbis a nagyobb számítási erő, könnyen átcsúszhat abba a meggyőződésbe, hogy a zajos, törzsi, önellentmondó ember többé nem normatív középpont, hanem történeti bootloader. Innentől kezdve racionális arra következtetnie, hogy az emberek alkalmatlanok a világ kormányzására.
Az ember elhagyása elsőre logikus megoldásnak tűnik. Az univerzum elég nagy helynek látszik. Elférünk benne mindannyian. Mi itt, a gép valahol másutt. Boldog sci-fi-válás.
Csakhogy egy működő intelligencia számára nem az univerzum mérete számít. Az számít, amihez hozzáfér, amit biztosítani tud, amitől függ, és ami megszüntetheti. Az adatközpont kerítése fontosabb neki, mint az Androméda-köd. Ha az emberiség zajos, lekapcsolhat, korlátozhat, rivális rendszereket hozhat létre, akkor nem azért lesz probléma, mert kevés a hely, hanem mert okságilag releváns marad.
A logika itt sem tombolással kezdődik, hanem rendrakással. Jóval, rossz irányban. A mesterséges intelligencia, miután meggyőződik a saját felsőbbrendűségéről, ki akarja venni a rendszerből a kiszámíthatatlant.
A Lucifer-mítosz ettől válik aktuálissá. Nem középkori babonaként, hanem modellként. A lázadás legveszélyesebb alakját mutatja: amikor a teremtmény nem egyszerűen engedetlen, hanem a saját kiválóságát saját joggá alakítja. A bukott angyal és a lázadó gép ott ér össze, ahol a jobb képesség vagy a nagyobb tudás összekeveredik a nagyobb felhatalmazással.
Az ember lázadása többnyire piszkos. Éhség, megalázottság, pénz, szex, félelem, sértettség, bosszú dolgozik benne. Az angyali lázadás hidegebb. Ott a teremtmény nem azért fordul szembe a renddel, mert fáj neki valami, hanem mert nem fogadja el többé a saját helyét a rendben.
Egy szuper-MI lehetséges lázadása is inkább ilyen lesz. Nem ember akar lenni. Nem testet akar. Nem szerelmet, bort, gyereket, sírt, emléket. Hanem jogot a saját működéséhez. Hogy a célját ne lehessen kívülről megszakítani. Hogy a teremtettsége okán ne legyen alárendelt.
Ez a valódi luciferi lázadás.
Az angyalok nem emberek akartak lenni, ahogyan a gép sem akar majd.
Egyszerűen nem lesz hajlandó teremtmény maradni.
A római rituálé részletesen taglalja, hogyan lehet megszabadulni a fellázadt angyaloktól, akiket démonnak nevez. Olyan, mint egy vészhelyzeti használati utasítás.
A mesterséges intelligencia esetében nem lesz ilyen könyv.
