Csepeli György: Az lesz a meglepetés, ha a székemben egy robot ül majd, és jobb válaszokat ad, mint én

Amikor az ember több ezer évvel ezelőtt feltalálta a kereket, vajon akkor alkalmazta először az MI-t, vagyis a mesterséges intelligenciát?

Az még nem számít annak, de az emelő már igen.

Mi a különbség?

A kerékkel maga az ember oldott meg egy konkrét problémát, az ókorban viszont már használtak olyan emelőszerkezetet, amely saját maga alkalmazta a működéséhez a közlekedőedények elvét. Az már egy kezdetleges szintű mesterséges intelligenciának számít, mert képes volt az embertől függetlenül elvégezni egy racionális műveletet. Az ipar fejődése évezredek óta leírható az egyre komplexebb és intelligensebbek gépek létrehozásával.

Rengeteg konkrét példát hoz az új könyvében a mesterséges intelligencia mai alkalmazásáról és jövőbeli lehetőségeiről az élet legkülönbözőbb területeiről. Hogy miként van jelen már most az iparban, a közlekedésben, az egészségügyben, az oktatásban, a hadviselésben, általában az állami szolgáltatásokban. Van olyan alkalmazása az MI-nek, ami még önt is meglepte?

Őszinte leszek, ilyen nem volt. Főként azért nem, mert engem elsősorban nem az MI egyes konkrét alkalmazási formái érdekelnek, hanem a tendenciák. Így például az, hogy a mesterséges intelligencia különböző alkalmazásai egyre autonómabbakká válnak. Igazából akkor fogok meglepődni, ha a jövőben nem önnek adok egy interjút, hanem egy újságíró robotnak. Aki esetleg jobb kérdéseket fog feltenni, mint ön.

Ez azért nem lenne világszenzáció…

…de nagyobb lesz a meglepetés, ha a székemben nem Csepeli György ül majd, hanem szintén egy robot. Aki esetleg jobb válaszokat fog adni, mint én.

És ki fogja azt az interjút olvasni? Egy harmadik robot?

Nyilván. És közben ön meg én, mint 1.0-ás emberek, éljük a vegetatív világunkat.

És azt hogy kell?

Amíg a 2.0-ás emberek dolgoznak, addig az 1.0-ás emberek ehetnek, ihatnak, pihenhetnek, nyaralhatnak, szerelmeskedhetnek. Mindent átélhetnek, amit a gépi világ soha nem fog tudni megtenni.

Csak ennyi marad nekünk?

Csak? Ez egyáltalán nem kevés, sőt, nagyon is sok. Az Ember 1.0-nak az a tény, hogy mentesülhet a munkától, előrelépést jelent. Ma még rengeteg felesleges munkát végeznek az emberek. Mi szükség van valójában vécés nénire, postásra, kalauzra, adótanácsadóra, tőzsdei alkuszra, ügyvédre vagy nagykövetre? Tele van a világunk abszurd és értelmetlen munkakörökkel. Mindenki jobban jár majd, ha az, akinek nem jut értelmes munka, kap egy tisztességes alapjövedelmet és élheti szabadon a világát.

Mondja ezt egy olyan országban, amelyben a többség lelkesen tapsolja a munkaalapú társadalom koncepcióját.

A munkaalapú társadalom ebben a formájában színtiszta butaság. A hazai változatában azt jelenti, hogy mindenki dolgozzon valamit, függetlenül attól, hogy van-e bármi értelme. Ez valójában kényszermunkát jelent. A jövőben kizárólag a tudásalapú munkának lesz értelme, minden mást átvesznek tőlünk a robotok. Muszáj lenne váltanunk, mert jelenleg a tudatlanságalapú társadalmat építjük.

A könyvében visszafogottabban fogalmaz, de ugyanezt taglalja: az MI térhódítása miatt a jövőben sokkal több munkahely fog megszűnni, mint ahány új keletkezhet.

Ennél súlyosabb a helyzet: a nem túl távoli jövőben csak olyan új munkahelyek létesülnek majd, amelyek a tudásra, a szellemi hozzáadott értékre építenek. Erre kellene felkészülnünk, de ennek semmi jelét nem látom. A jövő generációinak olyan munkákat kellene felkínálnunk, amelynek alapjait az innováció, a kreativitás, a kritikai gondolkodás és a kommunikáció adja. Akinek a portfóliójából mindezek hiányoznak, nem álmodozhat majd érdemi munkáról.

Melyek azok a részei az életünknek, amelyeket mélyebben, alaposabban alakítja majd át a mesterséges intelligencia, és hol lesz kisebb a hatása?

Az algoritmizálható tevékenységekben az MI abszolút versenyképes az emberrel. És el kell ismernünk, hogy az életünk 90 százalékát valójában algoritmus szabályozza, márpedig ami algoritmizálható, azt egy robottal tökéletesen ki lehet váltani. Amit viszont nem lehet kiváltani, az az ember érzelmi világa. Hogy képesek vagyunk szeretni és viszontszeretni. De kiválthatatlan emberi attribútum a létezés értelmének kutatása, az Isten keresése, a hit megvallása is. Nem vehető el az embertől az akarat, hogy szembeszálljon bármilyen hatalommal a saját szabadságáért. És nem lehet elvenni az alkotás szabadságát sem, épp ezért a művészet az a terület, ahol az MI a legkisebb hatást képes kifejteni.

Hol van a határa a mesterséges intelligenciának a művészetben?

Nagyon eltérő a helyzet az egyes művészeti ágakban. Számos területen – zenében, képzőművészetben – a modern művészeti irányzatok hasonlítanak az algoritmusokra. Biztos vagyok benne, hogy ügyes szakemberek pillanatok alatt képesek lennének írni olyan programot, amely gond nélkül legyártana például a Victor Vasarely műveihez kísértetiesen hasonlító alkotásokat. Még az is lehet, hogy engem simán át is tudnának verni, nem ismerném fel, hogy nem egy eredeti Vasarelyről van szó. De egy szakértőt már aligha. Vagy léteznek karmesterrobotok. A műkedvelők talán nem szúrnák ki, ha egy felvételen egy robot vezényelné a fesztiválzenekart és nem Fischer Iván, de egy műértőt már aligha lehetne becsapni. De léteznek olyan versgenerátorok is, amelyek gond nélkül képesek rímes-ritmikus szöveget előállítani. A művészet pont annyival több, amit az MI már nem képes produkálni. Ahogy Frenák Pál koreográfus mondja, az alkotás lényege, hogy a semmiből egyszer csak lesz valami. Nincs az a mesterséges intelligencia, amely az algoritmusaival képes lenne úgy belenyúlni a semmibe, hogy onnan előbányásszon egy addig még nem létező alkotást. Különösen azokban a művészeti ágakban nem képes erre – tánc, színház, ének –, amelyekben kiemelt szerepe van az emberi testnek.

Erre utal a könyvborítón látható kép, amelyen egy színész robot Hamlet-pózban tart egy emberi koponyát, és feltehetőleg a lét-nemlét problematikáján mereng?

Pontosan. Nem félek attól, hogy eljön egy ilyen világ. Egyébként sem kell félni az új világtól: az MI nem megszünteti az embert, hanem betölti.

Tényleg nincs mitől tartani?

Más értelemben persze van, hiszen a mesterséges intelligencia kétélű fegyver. Az emberi világban örök harcot vív egymással a jó és a rossz, és minden új eszköz elvileg mindkét oldalon bevethető. Hogy pontosan mi a jó és mi a rossz, az persze örök vita tárgya, ám az nem, hogy az emberi történelemből nem lehet kivenni a konfliktust, az antagonizmust, az egymással számtalan formában szemben álló erők küzdelmét.

A könyvében mégis azt írja, hogy azért valami mégis megváltozhat az MI térnyerésével: a küzdelem hevessége.

A tét lesz nagyobb. Itt vannak például a drónokra szerelhető harci eszközök. A legfejlettebb mai drónok már olyan mesterséges intelligenciák, amelyek ugyan saját döntést még nem képesek hozni, de az előre beprogramozott döntési lehetőségek közül már tudnak választani. Sokkal hatékonyabbak az elődeiknél, ily módon a pusztítani képes erő megsokszorozódik, ráadásul a használói számára a belépési küszöb alacsonyabb lesz, ezáltal megnő a rosszra való csábítás mértéke. Vagy itt van a koronavírus-járvány. Nem szeretnék semmilyen összeesküvés-elméletet gyártani, de szögezzük le: részben azért kaphattak szárnyra konteók, mert ma már megvan a technikai lehetősége annak, hogy egy erős politikai hatalom szándékosan kirobbantson egy világjárványt. És ha ezúttal nem is erről volt szó, maga a lehetőség a jövőben is bármikor adott.

Azt is írja, hogy az MI fejlődése előtt álló technikai akadályokat az emberiség fokozatosan le fogja gyűrni. De mi lesz azokkal az etikai dilemmákkal, amelyek hosszú ideje kísérik a robotizációt, pláne úgy, hogy az aggályok feltehetőleg csak erősödni fognak a jövőben?

Ez az egyik leglényegesebb kérdés. Ha nem sikerül a technikai fejlődéssel együtt válaszokat találnunk az újabb és újabb morális problémákra, az állandó és súlyos feszültséget okozhat. A mesterséges intelligencia alkalmazása már ma is tele van jogi és morális problémákkal. Nézzünk egy példát. Egyre terjednek a világban az önvezető autók. Egyelőre nem garantálható százszázalékosan, hogy nem lesznek részesei közúti balesetnek. Mi a helyzet akkor, ha egy kisgyerek kiugrik egy autonóm autó elé, és az elüti? Ilyen esetben óhatatlanul felmerül a kérdés: van-e, lehet-e felelőssége egy gépnek? Nyilván nem lehet. De akkor kinek? Az autó tervezője hibázott, vagy a szoftver készítője, esetleg a jármű karbantartója? Ezeket a kérdéseket csak akkor tehetjük félre, ha egyáltalán nem következnek be olyan balesetek, amelyekben önvezető autók is érintettek. Ehhez viszont rengeteg idő, folyamatos tanulás-tökéletesítés szükséges. Hasonló a helyzet a kriminalisztikában is, amelyben például ma már egészen kiváló MI segíti az emberi arcfelismerést. Az arcfelismerő mesterséges intelligenciák rengeteget segítenek nemcsak a bűnüldözésben, hanem a bűnmegelőzésben is. És ebből már rengeteg jogi-etikai probléma adódik. Mi van, ha a program azt süti ki önről, hogy a közeljövőben bűncselekményt fog elkövetni, és ezt megelőzendő este kopogtat magánál a rendőr, hogy bevigye?

Erről egy konkrét példát is említ a könyvében: a chicagói rendőrség egy bűnmegelőzést segítő MI-programot alkalmazott, amelynek hatására jelentősen javult a közbiztonság, mivel számos bűncselekmény elkövetését előre meg tudták jósolni, és így sikerült jó párat megakadályozniuk. Ugyanakkor az történt, hogy mivel a program segítségével hatékonyan kiszűrhető és lokalizálható bűncselekmények többségét afroamerikaik követték el, felerősödött a rendőri állomány tagjai között a rasszizmus.

Szép lassan meg fog ez változni, hiszen egy tanulási folyamatról van szó, és a mesterséges intelligenciának is szüksége van a folyamatos tanulásra, önmaga javítására. Maga a rasszizmus persze nem fog megszűnni teljesen, hiszen nem a program rasszista, hanem az ember. Ez a példa is mutatja, mennyire fontos, hogy az ember megőrizze az ellenálló képességét a saját maga alkotta intelligens rendszerek ártalmas hatásaival szemben. Tudatosan fel kell készülnünk arra, hogy ne válhassunk különböző machinációk áldozatává. Mindenki számára hozzáférhetővé kell tenni azt a tudást, ami képessé tesz bennünket arra, hogy ellenállhassunk a mesterséges intelligencia mindent bekebelezni vágyó törekvésének. Ahogy Heidegger fogalmaz, az embernek a végsőkig ellen kell állnia, nem engedheti meg, hogy a lekülönbözőbb hatalmi rendszerek eltiporhassák a nyugati ember lényegéhez tartozó szabadságvágyat.

Valójában az MI ezt veszélyezteti?

Abszolút. Ezzel a veszéllyel muszáj szembenéznünk, de jó hír, hogy megvannak erre a technikák. A legfontosabb a folyamatos tanulás, amelynek révén képesek lehetünk megakadályozni az identitáslopást. Ne hagyjuk magunkat eladni a digitális rabszolgapiacon. Aki erre nem figyel, két perc alatt bekerül a Cambridge Analytica hálójába, és akkor már nem azt a cipőt fogja megvenni, amit eredetileg szeretett volna, hanem amit felkínáltak a számára. És nem arra a politikusra voksol, akire korábban tervezte, hanem arra, akit ezerszer ajánlanak neki.

Csak egyéni lázadásra van esély?

Szó sincs róla. Ma már nemcsak valós közösségek léteznek, olyan tényleges hálózatok, amelyekben mindenki személyesen ismer mindenkit, hiszen az internet segítségével megteremtődött a lehetősége, hogy a különböző virtuális csoportok az egész emberiség köréből jöjjenek létre. Az individuumnak még soha nem volt ekkora esélye, hogy társas lény legyen, ezerféle csoportnak, közösségnek váljon a tagjává. Ez egy óriási erőtöbblet: ha valamit felismerek, és azt felpakolom a világhálóra, pillanatok alatt lehet sok ezer követőm.

Játsszunk el a gondolattal: hányféle adat tudható meg arról a 24.hu-olvasóról, aki most éppen itt jár az interjú olvasásában?

Lényegében minden lényeges információ megtudható róla. Nemcsak az, hogy elolvasta ezt az interjút, de az is, kikkel tartja a kapcsolatot a közösségi médiában, milyen csoportok, virtuális közösségek tagja, mik a vágyai, mik a félelmei. A 24.hu olvasói nem magányos lelkek, millió ponton kapcsolódnak össze a legkülönbözőbb hálózatokkal.

Akkor most sikerült sokkolnunk az olvasókat?

Szerintem ezzel sokan tisztában vannak. Persze ennél sokkal több tudható meg egy emberről a virtuális térben való mozgása alapján: hova szeretne utazni, mit tervez vásárolni, ki a kedvenc előadója. Még olyan részletek is megtudhatók egy emberről, amelyekkel ő maga nincs is tisztában. Minden egyes tevékenységünk adatokat képez a virtuális térben, ezek az adatok onnan soha nem tűnnek el, így bármikor bármilyen célból kereshetők, strukturálhatók és felhasználhatók az érdekünkben vagy ellenünk.

De ezt nem lehet kivédeni.

Dehogynem. Megvannak rá a technikák, hogy a virtuális térben elrejtsük az identitásunkat. Ezeknek a megismerésére és használatára buzdítok mindenkit. Persze időt és energiát igényel, folyamatosan frissíteni kell az ehhez szükséges tudást.

Ez nem paranoia?

Egyszer a Németh Lászlótól megkérdezték, hogy nem paranoiás-e, mire azt válaszolta: én csak azért vagyok paranoiás, mert üldöznek. Mindenesetre jobb félni, mint megijedni.

Az emberek többsége azzal nyugtatja magát, hogy túl kis pont ő, miért akarna róla bárki bármilyen adatot gyűjteni. Ugyan mire menne vele?

Nincsenek kis pontok, hiszen mindenki szem a láncban, márpedig a láncokról megszerzett tudásnak nagyon komoly értéke van. Különösen fontos tudást jelent ez a politikában, hiszen egy közvélemény-kutatáshoz képest sokkal pontosabban belőhető, hogy mekkora az a tábor, amelyik szeret, illetve elutasít egy politikust vagy egy politikai erőt. Az utóbbi évek megmutatták, hogy ennek a jövőben meghatározó szerepe lesz a különböző választásokon a világ bármely pontján. Magyarországon is. Ráadásul a virtuális tér demokratikusabb abból a szempontból, hogy kevésbé érzékelhető az anyagi források közti óriási különbség, amely az egyes politikai pártok között egyébként megvan. Más kérdés, hogy egy kétosztatú politikai mezőben még a virtuális térben is súlyos hátrányban van az az oldal, amelyiknek nincs egy közös vezetője.

Azt jósolja a könyvében, hogy mindenképpen kialakul majd az Ember 2.0-ás verziója. Várja, vagy aggódik e miatt?

Én az egyes emberről nem normatív módon gondolkodom. Társadalomtudós vagyok, nem kategorizálhatom az embereket az alapján, hogy jók vagy rosszak, mint ahogy egy természettudós sem úgy szelektál, hogy a svábbogár csúnya, a pillangó meg szép. Azt vizsgálom, ami van, nem várom sem optimistán, sem pesszimistán az Ember 2.0 létrejöttét. Realista vagyok.

És akkor Ember 1.0-ásként mehetünk élni a vegetatív életünket?

Az boldog élet lesz. Mintha a paradicsomban élnénk.

A tökéletes harmónia egy idő után borzasztóan unalmas. És egyáltalán: ön mondta az előbb, hogy az emberi világból nem vonható ki a rossz.

Ebben igaza van, bőven lesznek bajaink egymással. Ugyanakkor azt remélem, hogy az Ember 2.0 hozzásegít minket ahhoz, hogy ezeket a konfliktusokat könnyebben tudjuk majd kezelni.

Kiemelt kép: Farkas Norbert /24.hu