Pár hónapja még a kaliforniai otthonában értem el önt telefonon egy cikk kapcsán. Mi célból tartózkodik most Magyarországon?
Egy évnyi előkészítés után magyarul is megjelent a könyvem a Librinél, elsődlegesen a könyv promótálása miatt jöttem haza. Illetve van még két fontos, magyar relevanciával bíró projektem is. Az amerikai Fehér Háznak pár napon belül rajtol egy grandiózus MI-képzési programja, aminek elsődleges célja, hogy a szövetségi, kormányzati vonalon mozgó munkaerőt – ami több mint 18 millió embert jelent – továbbképezze egy egységes platformon. Tartalmi oldalon ebben negyvennél több neves egyetem, köztük a Harvard Egyetem, a John Hopkins Egyetem, valamint 24 amerikai minisztérium és kormányügynökség is részt vesz, továbbá olyan nagy cégek is csatlakoznak hozzá, mint a Microsoft és a Linkedln. Én vagyok a projekt nemzetközi főnöke, így a dolgom, hogy a programot elvigyem a szövetségesek felé a világba.
Itt is próbálom az illetékesek figyelmébe ajánlani, hogy Magyarországnak ez egy komoly kiugrási pontot jelenthet a Mesterséges Intelligencia Stratégia gyors megvalósításában.
Továbbá pedig, amióta beszéltünk, megalapítottam a PHI Institute for Augmented Intelligence nevű intézetet, aminek a neve a görög „fí” betűből ered, ez a tudat mértékegysége is. Az első program ezen belül egy elvonulás lesz, amikor minden régió gazdasági-szellemi-spirituális elitjéből tizenkét ember félrevonul egy kolostorba, és elmélkedik az MI-ről. Ugyanis ez a technológia annyira hatalmas léptekkel közlekedik, hogy a kontemplációra, a vízióra, az iránybeállításra sosincs idő. Legfeljebb addig jutsz el, hogy szabályozni kéne valahogy. Ezt szeretnénk összekötni a cselekvéssel, olyan emberekkel, akik kiválóságoknak számítanak a saját szakmájukban. Még nem merem megnevezni, de Magyarországon is találtam ehhez egy „isteni” partnert, a szó szoros értelmében. Nagy durranás lesz, amikor be tudjuk jelenteni.
A könyvre visszatérve: az előszóban olvasni, hogy célja a tudásterület hozzáférhetővé tétele a „felelős értelmiségiek” számára. Mennyire közös felelősségünk, hogy foglalkozzunk ezzel a témával? Miért érdekelné az átlagembert egy olyan elvontnak tűnő fogalom, mint a mesterséges intelligencia?
Azért, mert különben robotpilóta üzemmódban maradunk. Az elmúlt évtizedeken végig száguldó digitális transzformációt egyre koncentráltabb erők diktálják egyre kevesebben. A könyvben részletesen is írok a nagy társadalmi bizalomvesztésről, mint minden bűn erejéről – ezt is a polgárok tehetetlenségérzete motiválja, hogy ők úgysem tudnak változtatni dolgokon. Ám ha nem jutunk el a megértés és a célkijelölés állapotába, akkor olyan disztopikus forgatókönyvek valósulhatnak meg, amik egyre inkább marginalizálhatják az átlagembert. Ha tehetetlennek érezzük magunkat, akkor a minket körbevevő intézményeink és értékrendjeink, melyeknek a demokratikus világunkat kellene táplálniuk, erejüket vesztik. Ez helyzetbe hozhat minket olyan modellekkel, amikkel egy jó érzésű ember nem tud egyetérteni, például egy autoriter vagy totális megfigyelésre építő államrendet hoz létre. Ezért kell felébrednünk, tájékozódnunk, és ezért kellett nekünk is közérthető könyvet írnunk egy roppant bonyolult témáról.
A megértés terén ön szerint hol áll a magyar ember, akár más országok állampolgáraihoz viszonyítva?
Nem hiszem, hogy olyan borzasztó különbségek lennének például egy amerikai és egy magyar ember megértése között. Az átlagpolgár alapvetően a digitális dolgokkal való kapcsolatának elején tart, a társadalom gerince még mindig félelemmel használja a legalapvetőbb eszközöket is. Ugyan a pandémia sok mindenkit rászoktatott új dolgokra, de iszonyú tudatlanság van még mindig akár a közösségimédia-használat, akár a kiberbiztonság terén. Erre érkezik rá a mesterséges intelligencia, ami pedig iszonyatos sebességgel közlekedik. Az átlagember a hollywoodi filmekből tájékozódik, ami alapvetően egy rettenetes tévút. Tapasztalom, ha valaki kevésbé hozzáértővel próbálok erről beszélni, ő mindenképp humanoid robotokat akar belelátni a dologba.
Az ilyen hollywoodi forgatókönyvek veszélye az is, hogy jövő időben beszélünk az MI-ről. Úgy gondolja az ember: neki ezzel most nincs dolga, majd ha meglátja az első humanoid robotot, akkor elkezd foglalkozni a kérdéssel. Holott az MI a maga testetlen formájában már minden iparágat elkezdett átformálni. Az átlagembernek annyiról van fogalma jelenleg talán, hogy a közösségi oldalak algoritmusokat használnak, vagy a hitelbírálatát egy MI végzi. A háttérben megbújó, testetlen, szoftveralapú MI most a teljes értetlenség állapotában van.
Személyes érintettség miatt is megragadta a figyelmemet, hogy a sajtót is kritizálják. Mit nem csinálunk jól mi, újságírók, az MI-ről szóló üzenetek átadásában?
A sajtó kényszerpályán van. Az újságírókat magukat nem hibáztatom, itt az üzleti modellek a problémásak. Meg az, hogy a Facebook ennek olyan szinten beleült a közepébe, hogy megkerülhetetlenné vált. Jelen pillanatban úgy gondoljuk, hogy a közösségi média csak reklámalapon, ingyen használattal működhet, mint a Facebook vagy a Twitter. Valójában sosem kerestünk alternatívákat. A jelenlegi üzleti modell meghatározza, mint fog csinálni a felhasználó: a Facebookot arra optimalizálták, hogy ott tartson, pszichológusok százai dolgoznak azon, hogy az ember hajnali háromkor is görgessen és minél több reklámot fogyasszon. Ez egy nagyon súlyos probléma. A médiának is modell szinten kellene újragondolnia magát, de ebben az államoknak és a civil szférának is fontos a szerepe.
Roppant eretnekül hangozhat tőlem, de a Facebook és társai úgy foglalták el a társadalmi párbeszéd tereit, hogy ez eredetileg szándékukban sem állt, másrészt nem is alkalmasak arra, hogy a társadalmi párbeszéd vezérlői legyenek.
Tehát tessék visszamenni a rajzasztalhoz, és vizionáljunk egy olyan közösségi médiát, ami nem az embereket és az adataikat használja fel. Ebben a szférában elképesztő rombolás zajlott az elmúlt 5–6 évben.
Tényleg elképzelhető, hogy egy fordulóponton elindul a változás? Nekem ez valamiért egy nagyon hosszútávú dolognak tűnik.
Azért nem kellene, hogy hosszú legyen, mert a platformoknak közben is csak gyűlik a hatalmuk. Szabályozások terén most az egész nyugati világban össztűz van, ebből szerintem lesz valami, még ha olyan félmegoldások is, mint mondjuk a Facebook feldarabolása. De le fog csapni az ököl, ez majdnem biztos.
Ha visszatérhetek ismét a bizalom kérdésére: a felvilágosultabb országokban hosszú távon azok fognak nyerni, akik ki tudják építeni a felhasználói bizalmat.
Tehát szerintem az új médiamodelleknek erre a bizalomfaktorra kell építeniük. Elképzelhetőnek tartom, hogy ha valaki csinál egy új szolgáltatást, ami mögé szerez pár állami fundert meg alapítványokat, akkor meg tudná találni azokat a csalódott felhasználókat, akik a bizalmat keresik a világban. Azt nézve, hogy egyes új szolgáltatások milyen gyorsasággal tudnak több milliós felhasználói bázisokat kiépíteni hónapok alatt, szerintem ez a váltás is végig száguldhatna a világon egy-két év alatt.
Mindez lehetséges, csak ki kell lépni a folyóból. Ahogy ön is mondta, nehezen tudja elképzelni. De kérdem: miért, mikor Zuckerberg pár éve még csak egy startupos kapcunis gyerek volt, mostanra meg már a Facebook egy nagyhatalom? Miért ne lehetne másik oldalról is megcsinálni ezt a sztorit? Rövid az emberek emlékezete.
A mesterséges intelligencia exponenciális fejlődése mögött több mozgatórugó is van. A kormányoknak politikai előny, a Facebooknak meg profit, de milyen emberi motivációk húzódnak még az irdatlan mértékű száguldás mögött? Szándékosan feszegetjük a határainkat, csak azért is?
A korunk hőse a mérnök. Ez az az embertípus, aki dominálja a fejlődést. Aki folyamatosan problémákat keres, hogyan lehetne úgy egy csavart átállítani vagy két sor kódot úgy átírni, hogy abból működőképes szolgáltatás legyen. Ez egyben végzetes tévút is, mert pont a víziót nem hagyja kibontakozni, és ekkor rikoltoznak a magamfajta eticisták, akik az etikai dolgokkal, a nem várt következményekkel foglalkoznak.
Az elmúlt pár évtizedben a technológiai fejlődést az a gondolkodás határozta meg, hogy a technológia egy semleges terület, a gép csak gép. Ha a gép hibázik, az egy bug, és a bugot fixáljuk. Viszont ez egy veszélyes történet az MI egyre fokozódó autonómiája és a skálázás miatt. Egy példát is mondok: képzeljen el egy szociális segélyeket elbíráló kormányzati rendszert. Ha bekerül egy bug, könnyen lehet, hogy két nap alatt tízmillió ember segélykérelme bírálódik el helytelenül. Ez itt már nem csak egy bug (a fejlesztő agyában az), hiszen azzal a tízmillió emberrel közben már történhetett valami, ami jogi és erkölcsi következményekkel jár. Ez a skálázás, ami igazán félelmetessé teszi az MI-t. És az emberek, akiknek felügyelniük kéne az MI javaslatait, hátra dőlnek és felteszik a kezüket, hogy a gép náluk okosabb. Én ezektől a tendenciáktól félek.
Magasak egyébként az elvárásaink az algoritmusokkal szemben? Itt eszembe jut az, hogy ha egy önvezető autó hibázik, hír lesz belőle, holott az ember sokkal több balesetet okoz még mindig.
Most gonosz leszek, de visszakanyarodok a médiára. Az embereknek nem biztos, hogy meg lenne rá az igényük, hogy minden ilyen hírre reagáljanak, de ez hozza a klikkeket. A tágabb kérdésre válaszolva: nem lehet tökéletes rendszereket építeni. Az Európai Unió nemrég tette közzé az első, mesterséges intelligenciára vonatkozó szabályozási tervét, ami nagyon erősen kockázati fókuszú.
Az EU ezzel jót húzott, mert a célja az, hogy elkülönítse a társadalmi igazságosság és értékek szempontjából kockázatosnak tartott területeket. Ennek különböző szintjei vannak: a hadászat és a hírszerzés például a látványosabbak, de vannak olyanok is, amikre nem is gondolna, például a humánerőforrás-menedzsment. Az unió kőkemény előzetes bevizsgálásokat és folyamatos monitoringot ír majd elő az MI-rendszerekre. Ez eleinte kiforratlan lesz, de mindenképp egyetértek azzal, hogy a kérdést kockázatkezelési és etikai oldalról kell megközelíteni. Tehát tökéletes rendszer nincs, azt kell biztosítanunk, hogy mi mindent elkövettünk.
A mesterséges intelligencia világtérképét nézve: erősen úgy tűnik, hogy Kína és az Egyesült Államok jó pozícióban van, ám mintha mi Európában inkább a szabályozásban lennénk erősebbek.
Az USA és Kína közt egyértelműen egy fegyverkezési verseny van. Egymáshoz mérik magukat, és minden ennek a versenyszellemnek van alárendelve.
Amerika mindig akkor táltosodik meg, amikor megvan az ellenfele. Amikor ő a világ ura, hajlamos eltespedni. Ám mikor megvan az ellenfél – mint amilyen a Szovjetunió is volt a hidegháborúban – hirtelen megtáltosodik.
Én is ezt láttam az elmúlt években kint. Persze jó egyetemi és céges alapok vannak, de egyértelműen azért kezdett el ömleni a területbe a pénz és a politikai akarat, mert kimondták, hogy Kína az elsőszámú vetélytárs.
Európára visszatérve, jól látja a helyzetet. A mi sajátosságunk, hogy nincs saját technológiánk. Nem mondom, hogy a lista alján kullognánk, de jelentős a lemaradás. Nincsenek olyan nagy techcégeink, amelyek csúcsszolgáltatásokat állítanának elő, nincs európai Facebook, Google vagy Microsoft. Ezért Európa a szabályozási oldalra fordítja a figyelmet. A GDPR például világszinten elismertnek tekinthető, vagy legalábbis amolyan „prüszkölünk, de követjük” normának. Az unió ezzel biztosítja, hogy a kívülről bejövő technológia az európai értékrenddel körülbelül összeegyeztethető lesz, és arra kényszeríti a nagyvállalatokat, hogy ne csak Európában, de világszinten is gondolják át az etikai és kockázati tényezőket. Ebből a szempontból nagyon fontos és jó, amit csinál az unió. De közben azt a problémát is meg kellene oldani, hogy nincs saját innováció. Ehhez sokkal több cselekvésre és erőforrás-koncentrációra lenne szükség. Nagyon remélem, hogy ez változni fog.
Ha szóba kerül a mesterséges intelligencia kormányzati felhasználása, sokaknak rögtön az elnyomó Kína ugrik be. Ön viszont többször is említi az úgynevezett szolgáltató államot, és azt a forgatókönyvet, hogy az MI segítségével demokratikusabb kormányzás is elérhető lenne. Hogy kell ezt elképzelni?
Amikor az emberek elkezdenek erről gondolkodni, rögtön adja magát a totális megfigyelési állam modellje. És hát a politikusnak is van egy olyan gravitációja, hogy bele tud sodródni ilyen történetekbe.
Hogy provokatívat mondjak: egyáltalán nem tartom elképzelhetetlennek, hogy csak Kína lesz megfigyelő állam, sőt, minden állam valamilyen szinten megfigyelő állammá válik. A kérdés csak az, hogy milyen fékek és ellensúlyok kerülnek bele a rendszerbe.
A szolgáltató állam, mint jó állam víziója, pár európai országban már látható, sok esetben nagyon erősen összekötve a smart city elképzelésekkel. Nemzeti szinteken még kevésbé, sokkal erősebben és gyorsabban látszódnak bizonyos nagyvárosokban és fővárosokban, például Amszterdamban, Koppenhágában, Stockholmban, ahol könnyebben lehetett skálázni és ilyen projektetek indítani.
A jelenlegi gépi tanulásos modellek legnagyobb előnye a predikció és a stratégiai előrejelzések, így például agyonoptimalizált adórendszereket lehetne csinálni. Valós időben lehetne az állampolgárok visszajelzéseit elemezni és optimalizálni a vonatkozó szabályozásokat. Tehát nem 2–3 éves ciklusok kellenének ahhoz, hogy valamilyen eredmény kijöjjön és végig pörögjön egy új szabályozás. Vagy ott van a participatív költségtervezés, amikor az állampolgárok bevonásával zajlik a költségvetés tervezése. Tehát már utópisztikusan demokratikus államokat is tudna segíteni az MI, csak most éppen vízióhátrányban vagyunk azokhoz képest, akiknek az agresszív modellje gyorsabban állt össze és erőteljesebben nyomul a világban. De én hiszek abban, és azon is dolgozom, hogy hasonlóan erős és robosztus modellekkel ezeknek ellent lehessen tartani.
És mit gondol Magyarország tavaly bejelentett Mesterséges Intelligencia Stratégiájáról, hova juttathat el minket?
Abban a szerencsés helyzetben vagyok, hogy nem csak a magyar stratégiát olvastam, de a legtöbb más nemzetét is. Nagyon örülök annak, hogy van egy ilyen, Magyarországnak van már egy víziója, amivel 2030-ra lő. A stratégia a problémákat alapvetően jól analizálja, és jól látja azt is, hogyan és hol kellene beavatkozni. A problémám inkább a megvalósítással van, nem igazán látom, hogy lehet eljutni A-ból B-be a konkrét projektek szintjén. Sok projekt kipörgésére lenne szükség erőforrás-koncentrációval és a gyorsítás tudatos forszírozásával.
Ha Magyarország meg tudja látni a szolgáltató állam lehetőségeit, akkor ez az egyetlen esély arra, hogy az állampolgárok fejében a terminátor-víziót áttereljék arra, hogy az MI jót is tud tenni. Amíg nincsenek kézzel fogható projektek és teoretikusan beszélgetünk, addig ebben a sci-fi univerzumban fogunk üldögélni. Tehát, amíg Mari néni nem érzi a saját bőrén, hogy a mesterséges intelligencia jó dolog, addig el vagyunk veszve.
