„A robotok nem úgy lázadnak majd, hogy lézerpuskákkal pusztítanak el minket”

MI, vagyis mesterséges intelligencia. Ha szóba kerül, leggyakrabban a Terminátor Skynetje, vagy a 2001: Űrodüsszeia HAL 9000-e jut eszünkbe. A gép, amelyik öntudatra ébredve teremtője, az ember ellen fordul. Mivel a tavaly elhunyt tudóslegenda, Stephen Hawking és a techrocksztár Elon Musk is többször figyelmeztetett már a mesterséges intelligenciával kapcsolatos veszélyekre, úgy érezzük, jogosan. A logika azt diktálja, hogy a gépagy sokkal fejlettebb lesz a humán intelligenciánál, ahogy egy robotkar is erősebb, gyorsabb bármelyik emberi végtagnál. Ráadásul nem fárad, és sohasem hibázik, azaz, ha egyszer tényleg öntudatra ébred és úgy dönt, kiirtja az emberiséget (már emberként sem túl nehéz összeszedni erre néhány alapos indokot, milyen egyszerű lesz egy hiperintelligenciának), valószínűleg nem sok esélyünk lesz túljárni az eszén.

Vagyis a mesterséges intelligencia-fejlesztéssel öles léptekkel rohanunk a végzetünk felé? Ellenkezőleg: a legégetőbb problémáinkat, a klímaváltozást, a túlnépesedést, a fegyveres konfliktusokat igyekszünk megoldani általa. Akkor Hawking és Musk tévednének? Ez sem teljesen igaz.

Dr. Rab Árpád jövőkutató, a Budapesti Corvinus Egyetem docense azt mondja,

a mesterséges intelligenciának megvannak a maga a veszélyei, de az biztosan nem tartozik közéjük, hogy a gép öntudatra ébred és az emberiség ellen fordul.

Amit mesterséges intelligenciának hívunk, jelenleg nem más, mint nagyon gyors adatbázis-műveletek sokasága. Ha van mondjuk egy fordítórobotom, aminek mondok valamit magyarul, ő pedig ugyanazt elmondja utánam kínaiul, akkor azt egy hatalmas adatbázisból, szövegrészletek szupergyors azonosítását végzi el, nem arról van szó, hogy megértette, mit jelent, amit mondtam neki. Csak én az emberi, antropomorf gondolkodásom miatt látom emberinek a folyamatot.

Miben különbözik akkor az, amit ma mesterséges intelligenciának hívunk egy programtól, amelyik elvégez egy műveletet az inputon és kiadja az outputot?

A sebességben és az adatbázis méretében. Egy egyszerű porgrammal azt mondom a gépnek, hogy ez és ez történik, ezt és ezt tedd, és megadok neki tízféle parancsot. Ma már azonban ott tartunk, hogy a gépnek több millió lehetőség van felsorolva és ezek mindegyikére több millió reakció érkezhet. A hétköznapok során az ember is algoritmikusan viselkedik: ha bemegy valahová, köszön, ha szólnak hozzá, odafordul, ha hideg van, felöltözik, vagyis rengeteg, de véges számú ingerre ad rengeteg, de véges számú reakciót. A technológia fejlett már annyira, hogy egy gép is képes ennyiféle változó mellett szinte azonnal reagálni, és ettől emberinek tűnik, de valójában soha nem lesz az.

Ha csak programokról beszélünk, amelyek persze nagyon bonyolultak, de azért mégis csak programok, miért hívjuk őket intelligenciáknak?

Kicsit a hype miatt, mert jól hangzik. Másrészt az összetettségük miatt kevésnek érezzük egyszerűen programnak hívni őket. Intelligensnek akkor nevezünk egy programot, ha döntéseket hoz. Például egy önvezető autó több tízezer információt gyűjt be minden másodpercben, és kiválasztja ezek közül azt a hármat, amelyek valóban fontosak. Ha jön szembe vele egy kamion, a lehető legbiztonságosabban tér ki előle, de csak akkor, ha beleírtam a kódjába, hogy a kamion elől ki kell térni. Jobb lenne talán félintelligensnek nevezni, de mivel annyira jól imitálja már az emberi viselkedést, valódi intelligenciát látunk bele.

Biztos, hogy a gépeknek soha nem lesz öntudatuk? Végül is az emberi agy is egy gép. Elképesztően bonyolult, de mégis csak egy szerves gép, amiben fizikai, kémiai reakciók milliárdjai játszódnak le. Miért ne lehetne idővel ugyanezt reprodukálni szervetlen anyagokkal?

Azt kell megérteni, hogy a gép mindig gép marad, mert nincsenek céljai. Nem akarja lefordítani azt a szöveget, azért csinálja, mert én elindítom a folyamatot. A gépnek soha nem lesz öntudata. Az automatizáció valóban gyökerestől változtatja meg a társadalmat és az életünket, aminek megvannak a maga negatívumai és veszélyei, de nem úgy, hogy robotok fognak kipusztítani minket lézerpuskákkal.

Az emberi agy működését évtizedek óta kutatjuk, de még mindig csak a felszínt kapargatjuk. Azt sem tudjuk még pontosan például, hogy mi alapján szelektálunk az emlékeink között, mi alapján tárolunk valamit a rövid távú és mit a hosszú távú memóriánkban. Arról meg végképp nincs fogalmunk, hogy mi tulajdonképpen az öntudat, vagy ha úgy tetszik, a lélek. Az ember bonyolult és irracionális lény, aki folyamatosan, egyszerre több dolgon gondolkodik, és vegyes érzelmek vezérlik. Valakit nagyon szeretek, de jó lenne, ha néha békén hagyna. Imádok valamit csinálni, de ma nincs kedvem hozzá. Erre a gép nem képes, mert digitális, két érték létezik számára, nulla és egy. Ha azt programozom bele, hogy szeret focizni, minden nap focizni fog, nem lesz olyan, hogy megunja, vagy nincs kedve hozzá. Persze be lehet állítani egy véletlenszerű algoritmust, hogy néha focizzon, néha meg ne, de ez nem ugyanaz. Olyat tudunk csak alkotni, ami olyan, mintha saját személyisége lenne, de az csak egy modell.

De tegyük fel, hogy néhány évtized múlva képesek leszünk előállítani a gépet, ami tökéletesen úgy működik, mint az emberi agy. Mi értelme lenne? Emberből pont, hogy túl sok is van a Földön. Ha erről beszélünk, sokkal érdekesebb az, hogy vajon képesek leszünk-e egyszer egy óriási adathalmazként lementeni az emberi tudatot.

Ha igen, ez lehet az emberiség egyik útja. Ha túl sokan vagyunk, és végleg tönkre vágtuk a természetet, akkor mentsünk le mindenkit és töltsünk be egy virtuális valóságba, mint a Mátrixban. A virtuális valóságban nincs környezetszennyezés, nincs éhezés, de örök élet van. De a lementett tudat lehet a kulcsa csillagközi utazásnak is. A biológiai test túl gyenge konstrukció ahhoz, hogy eljuttassuk egy másik naprendszerbe, vagy galaxisba.

Ha nem az öntudatra ébredés, akkor mik a mesterséges intelligencia valódi veszélyei?

Az, hogy digitális kultúrában élünk, napról napra változtat meg bennünket. Az emberiség még soha nem esett át ennyire mély és gyorsütemű változáson. Bizonyos szempontból létrehozunk egy új fajt, a homo sapiens sapienst követő homo digitalist. A mesterséges intelligencia ennek a külső kivetülése. Ha olyan bonyolult dolgokat is el tudunk végeztetni a gépekkel, hogy teljes egészében kiváltják az emberi munkát, akkor felmerül a kérdés, hogy mi marad az érték? Erre ma azt tudjuk mondani, hogy az emberi érzékenység, kreativitás, az innovációs képesség az, amire egy gép nem képes. Ezeket viszont meg kell tanulni magas szinten alkalmazni – ez például egy óriási kihívás.

Aztán amikor létrehozunk egy mesterséges intelligenciát, előre alkotunk meg értékítéleteket, amelyek aztán lehet, hogy hibásnak bizonyulnak. Egy önvezető autó az utasára vigyázzon inkább, vagy a közlekedés résztvevőire? Elüthet ártatlan járókelőket, ha másképp nem tud elkerülni egy ütközést? Ha viszont úgy programozom, hogy mérlegelje, az én életemet védi meg, vagy mondjuk egy iskolás csoportét, akkor meg ki fogja megvenni azt az önvezető autót?

Ha a gépek fogják elvégezni a létező munkák nagy részét, az mindent borít majd, hiszen ha nem lesz munka és nem lesz fizetés, akkor nem lesznek fogyasztók sem.

Több dolgot kell látnunk egyszerre. Egyrészt hiába küzdünk ma a túlnépesedéssel, a fél világon munkaerőhiány van, például kevés az orvos. Az ideális megoldás az lenne, ha a jelenleg tudatlan tömegeket taníttatnánk, ám ehelyett diagnosztikai meg sebészrobotokat fejlesztünk. Miért? Mert egy gép esetében mindig csak az első példány létrehozása jár jelentős költséggel, a többi már csak másolás-beillesztés.

Ha ennek a jó oldalát nézzük, azt vesszük észre, hogy ma egy orvosnak száz esetéből mondjuk kettő, ami izgalmas, kilencvennyolc pedig rutin. Bízzuk rá ezt a kilencvennyolcat robotokra, az ember pedig tud koncentrálni arra a kettőre, aminek a megoldásától fejlődik az orvostudomány.

A másik oldalról viszont azt látjuk, hogy bár azt hittük, a technológia közelebb hozza majd egymáshoz az embereket, valójában iszonyatosan megnőttek a társadalmi különbségek. Sebészrobotok meg önvezető autók csak a világ legfejlettebb részein lesznek, és akik ott élnek, nem azon dolgoznak, hogy mindenkinek legyen, hanem azon, hogy minél jobban elzárkózzanak azoktól, akiknek nincs. Ez a kapitalizmus csapdája, hogy kizárólag a gyors profitszerzés jelent motivációt, még akkor is, ha tudjuk, hogy a globalizált világban nem nagyon léteznek már lokális problémák. Ha Kínában a szennyezés miatt belélegezhetetlenné válik a levegő, azt mi is érezni fogjuk itt Európában.

Komoly katasztrófák előtt állunk?

Jelenlegi valóban így tűnik. Az emberiség rengeteg krízisen van már túl, mint például a pestisjárványok, vagy a háborúk. Mindig sikerült megoldásokat találnunk, ezután is fogunk. Most már, hogy a saját bőrünkön érezzük a klímaváltozás hatásait, elkezdtünk tenni ellene. Minél több negatív hatást tapasztalunk, annál többet dolgozunk a megoldáson és ez végül majd eredményre vezet. Más kérdés, hogy a rendszer talán túl lassú ahhoz, hogy ne okozzunk visszafordíthatatlan károkat. Most azt látjuk, hogy a Föld lakosságának jelentős része nagyon rossz körülmények között él majd a közeljövőben. A történelmi tapasztalatok sajnos azt mutatják, hogy egy olyan népességrobbanás, mint amilyen jelenleg is zajlik, mindig egy drasztikus lélekszám-csökkenésbe fordul. A közeljövő tartalmaz néhány civilizációs katasztrófát, amelyek a globalizáció miatt mindenkit érinteni fognak.

Ezek háborúk lesznek, járványok, vagy természeti katasztrófák?

Elsősorban természeti katasztrófákra gondolok, például óriási viharokra. De nyaranta például sokkal többen halnak majd meg hőgutától, télen pedig többen fagynak meg. Élelmiszer- és vízhiány lesz. Tíz éven belül szinte biztosan mindenki vegetáriánus lesz, mert tízszer annyi erőforrás szükséges ugyanannyi kalória megtermeléséhez húsból, mint növényből.

A fejletlenebb országokra egyaránt jellemző a túlnépesedés és az is, hogy ott érezteti a hatását a leginkább a klímaváltozás. Ez pedig, ahogy láttuk már, egy migrációs krízissel gyűrűzhet tovább a fejlett országokra.

Igen, erre szeretjük azt mondani, hogy ott, helyben kell megoldani a problémákat, és vannak is erre kísérletek, csak nem szoktak működni. Nem lehet egy fejletlen országból néhány év alatt modern államot varázsolni. Az Egyesült Államok be tud menni Afganisztánba és pár hét alatt meg tudja nyerni a háborút, de nem gondolhatták komolyan, hogy néhány év alatt létrehoznak ott egy nyugati típusú, polgári demokráciát. Tudjuk, hogyan jönnek létre az ilyen társadalmak, megvan a recept: legalább kétszáz év kell hozzá.

A mesterséges intelligenciának ebben fontos szerepe lesz, a technológiának ugyanis megvan az az előnye, hogy könnyen exportálható. Egy afrikai földművesnek soha nem fogom megtanítani mindazt, amit egy holland gazda tud, mert utóbbinak több száz év előnye van. De Afrikába tudok vinni intelligens vízszűrőket, meg automatizált gazdálkodó rendszereket, amelyek segítségével ugyanaz a földterület tízszer több embert lesz képes eltartani.

Nekem a legnagyobb problémám jelenleg az, hogy egyelőre nagyon nem itt tartunk. Mesterséges intelligenciát azért kellene fejlesztenünk, hogy a segítségével megoldjuk az előttünk tornyosuló problémahalmazokat, mint a globális felmelegedés, a túlnépesedés, az élelmiszer- és vízhiány. Az önvezető autó nagyon jól hangzik, de társadalmi szempontból irreleváns, hogy öt-tíz év múlva önvezető autóban ülök-e majd a dugóban. Ha olyasmiben gondolkodom, hogy a Föld hetven százalékát víz borítja, vagyis ott van egy csomó kihasználatlan hely, annak van értelme. Mesterséges intelligencia és robotok segítségével lehetne például az óceánok mélyén, kupolák alatt búzát termelni, hogy senkinek se kelljen éhezni, de ilyesmivel jelenleg csak maroknyi úttörő foglalkozik.

Ez a kapitalizmus már említett csapdája, nem? Miért érné meg egy nyugati multicégnek pénzt fordítani arra, hogy a harmadik világ országaiban az emberek ne haljanak éhen?

Igen, de az emberiség fejlődését tekintve én azért optimista vagyok. Ha végiglapozzuk a történelemkönyveket, azt látjuk, hogy soha nem volt még ilyen hosszú, ennyire békés időszakunk, alaposan megnyújtottuk a várható élettartamunkat, és öt éven belül Bruce Willis nélkül is képesek leszünk elhárítani egy aszteroida becsapódását. Ez óriási előrelépés, aminek az volt a feltétele, hogy globális együttműködés jöjjön létre. Az ára pedig az, hogy robbanásszerűen nőtt meg az emberiség lélekszáma. A helyzet olyan, mintha tíz évig ketten laktunk volna egy szobában, de most két nap alatt beköltöztek még negyvenen. Nem halogathatjuk tovább a problémák kezelését.

Másrészt, attól, hogy valami társadalmilag hasznos, lehet még profitorientált is. Elon Musk projektjei jellemzően ilyenek. Korábban az űrkutatás olyan szegmens volt, ami csak közpénzből tudott működni, mert senkinek sem érte meg a magánvagyonát ebbe fektetni. A SpaceX most rengeteg bevételt termel, miközben az egész emberiség szempontjából fontos munkát végez. Jelenleg óriási problémát jelent a szemét, mert belefulladunk lassan. Ha valaki előáll egy gazdaságos és környezetbarát újrahasznosítási módszerrel, úgy keresheti betegre magát, hogy közben jót is tesz.

Ezek mind optimista jóslatok. Milyenek a negatív forgatókönyvek?

Az egyikben az automatizáció miatt a társadalom fele munkanélkülivé válik, nem tudja, mihez kezdhetne az életével, ezért bűnözővé válik és gyújtogatni kezd. Ez azonban nem egyik napról a másikra következne be, hanem évek alatt, úgyhogy talán lenne elég idő felismerni a problémát és megoldásokat keresni.

Hatalmas veszélyeket rejthet a technológiai kitettség. Volt már az emberiség történetében olyan erős napkitörés, ami ha most következne be, tönkrevágna minden elektromos eszközt. A civilizációnk egyik napról a másikra leállna, és olyan anarchia szabadulna el, amiben néhány év alatt emberek milliárdjai pusztulnának el, és csak egy maroknyi túlélő maradna. Ez sci-finek tűnik, de még ha nem is túl sok, van esély a bekövetkezésére.

Valós félelem, hogy elveszítjük a kontrollt a személytelen döntéseket hozó mesterséges intelligencia fölött. Nagyon pontos HR-szoftverek vannak már, amelyek egy teszt alapján ki tudják szűrni, hogy egy jelentkező mennyire alkalmas arra, hogy egy adott projektben dolgozzon. Nagyvállalatoknál már ilyen szoftverek rúgják ki is az embereket, ha azt érzékelik, hogy mondjuk a teljesítményük nyolcvan százalék alá esett. A program nem vizsgálja azt, hogy azt azért esett-e vissza a teljesítmény, mert az illetőnek szerelmi bánata van, vagy azt, hogy egyébként ő az a tagja a csoportnak, aki mindenkire pozitív hatással van, ezért ha kirúgom, hosszabb távon rosszul járok. Gondoljunk bele, mennyire félelmetes lehet az, ha az ember egyszer csak kap egy e-mailt egy robottól, hogy ki van rúgva és esélye sincs elmagyarázni valakinek, hogy ez most valóban egy nehezebb időszak, de igyekszik hamar kikecmeregni belőle.

Az utóbbi időben azt látjuk, hogy egy nagyon szűk elit rendelkezik a bolygó közel teljes vagyonával, miközben milliárdok élnek szegénységben. Elképzelhető, hogy egy maréknyi vagyonos ember él majd gondtalanul egy védett helyen, míg a többi nyolc-tízmilliárd egymást gyilkolja majd ételért és vízért?

Ez egy népszerű disztópia, de ha a gazdagok nem tudnak maguknak építtetni egy földkörüli pályán keringő művilágot, nehezen elképzelhető. A kapitalizmus lényege, hogy a pénz mindig a pénzhez vándorol, a vagyon természete az, hogy összpontosul, ad abszurdum akár egyetlen kézben, minden a világon. Nem véletlenül kérdőjelezik meg egyre többen az egésznek a létjogosultságát. A kapitalizmusból már kifelé tartunk, legalábbis abban a formájában, ahogy ma ismerjük, biztosan.

Egy blockchain alapú társadalomnak például nincs szüksége pénzre. A Bitcoin értékét például azok az emberek adják, akik hisznek benne. Lehet ebből forradalmi fordulat, például egy utópikus kommunizmus születése. Egy blockchain társadalomban minden folyamat transzparens. A kommunizmus ígérete az volt, hogy ha te termelsz a gyárban, ő meg élelmiszert állít elő, én cserébe tanítom a gyerekeiteket, és így tovább, akkor nem lesz szükség pénzre, mindenki jól jár. Ezt többek között azért nem lehetett megvalósítani, mert senki sem tudta, hogy a másik tényleg dolgozik-e. Egy blockchain társadalomban azonban minden munkafolyamat automatikusan rögzül, így átláthatóvá válik, vagyis tényleg működhet egy pénz nélküli gazdaság.

Biztos vagyok benne, hogy tíz éven belül megjelennek az ilyen társadalmak pilotjai, ahol majd egy mesterséges intelligencia végtelen mennyiségű adat feldolgozásával fogja megállapítani, hogy ki mennyit dolgozott, hogy azért vágtam-e kevesebb fát, mert esett az eső, vagy mert lustább voltam, hogy azért van kevesebb krumpli, mert valamit elrontottam, vagy azért, mert aszály van. Ez válhat rémálommá is, amikor egy személytelen gép ural minket, de az is lehet, hogy ez hozza el a béke és a boldogság korát.

Ebben a nagyon gyorsan és nagyon durván változó korban hogyan készítheti fel egy szülő a gyerekét a jövőre? Lehetséges tíz-húsz évre előre tervezni?

A gyors átalakulás ellenére azért látszik, hogy mik a legfontosabb túlélési képességek: az algoritmusos gondolkodás, az összetett helyzetek felismerése és átlátása. A következő húsz évben biztosan a programozás képessége lesz a legfontosabb, aztán hogy az ember gépeket fog programozni, más embereket, vagy önmagát, az már teljesen mindegy. A mai gyerekeket arra kell megtanítani, hogy egy adott szituációban felismerjék az összes lényeges tényezőt, és azt, hogy ezek változtatásával, hogyan alakíthatja át a helyzetet úgy, hogy az a leghatékonyabban működjön. Ha élhetek egy ilyen képzavarral, meg kell tanítani őket a mesterséges intelligencia fejével gondolkodni.

Kiemelt kép: Bielik István / 24.hu