„Bíznunk kell a gyerekekben, hogy feszegethessék a mesterséges intelligencia határait, mert többet tudnak nálunk”

Képzeljünk el egy osztálytermet harminc diákkal, szemben egy pedagógus. A gyerekek számítógépek előtt ülnek, az összes tananyagot mesterséges intelligenciával rendelkező tanársegédek közvetítik feléjük. A tanár szinte meg sem szólal, egyetlen feladata a diákok személyiségének a fejlesztése, az oktatás személyre szabott. Kína több ezer iskolájában jelenleg ezzel kísérleteznek.

Ennyire képes egy pedagógus? Ez az irány, ami felé szeretnénk menni? Ez hatékony lehet, de mi lesz a hatása?

– kérdezte Tilesch György a Humans in Charge nemzetközi szimpózium egyik panelbeszélgetésén, amely a mesterséges intelligenciáról és a következő generációról szólt.

Néhány afrikai országból nézve, ahol vécé sincs az iskolákban, az MI-szakértő által vázolt kép utópisztikus, de Magyarországról tekintve sem tűnik reális veszélynek egy ennyire életidegen oktatás – na meg nálunk legalább csak vécépapír nincs, és a tanév elején egyébként is betiltották a telefonhasználatot az oktatási intézményekben. A panelbeszélgetés résztvevői azt fejtegették, miként lehet a fiatal generációt felkészíteni a mesterséges intelligencia rohamos fejlődésére, egyúttal megóvni őket a káros hatásaitól. A szakértők közül Cécile Aptel, a UNICEF Kutatási és Előrejelzési Globális Irodájának igazgatóhelyettese külön is válaszolt a 24.hu kérdéseire.

Ha szétbombázták az iskolát, nem számít, volt-e benne számítógép

Egy akváriumban úszkáló hal, egy kutya, egy ló és egy majom azt a feladatot kapják, hogy másszanak fel a fára. Az elhasznált mém a legegyszerűbben mutat rá az oktatási rendszereink egyik alapvető problémájára – az esélyegyenlőtlenségre. A mesterséges intelligencia, valamint az automatizált értékelések és vizsgák – amennyiben azokat a tanárok támogatására, nem pedig a helyettesítésükre használják – sokat ígérnek abban, hogy az oktatás minél személyre szabottabb legyen. A tanároknak így több idejük marad arra, hogy minden egyes gyermek mellett ott legyenek, és a gyorsabban haladókat ne tartsák vissza mások, míg a lassabban haladók több támogatást és figyelmet kapjanak. Ezt gazdagabbá lehet tenni virtuális élményekkel is: mennyivel élvezetesebb a Római Birodalomról tanulni, ha a diákok „személyesen” tehetnek fel kérdéseket egy mesterséges intelligencia által generált Julius Caesarnak – hozza példának Cécile Aptel.

„Ezek közül néhány már elérhető azok számára, akik olyan nyelvi és kulturális környezetben élnek, ahol a család vagy az intézmény megengedheti magának, hogy fizessen az ilyen szolgáltatásokért. Egy ideális világban, ahol elég iskola, tanár és erőforrás áll rendelkezésre, az ilyen rendszerek sok előnnyel járhatnak, de egy olyan helyen, ahol még az áramhoz sincs hozzáférés, nehéz elképzelni, miként lehetne kihasználni ezeket a lehetőségeket.”

Cécile Aptel az ENSZ emberi jogi főbiztosainak korábbi vezető tanácsadójaként és a Nemzetközi Vöröskeresztnél, valamint a UNICEF-nél folytatott munkája okán számos ország oktatására rálátott – például Kongóéra, Libanonéra vagy Ruandáéra. Mikor arról kérdezzük, az MI mennyiben járulhat hozzá a társadalmi szakadékok további mélyüléséhez, azt feleli, ez egy reális kockázat, hiszen már most is elképesztő különbségek vannak, nemcsak országok, hanem fővárosok és a vidéki területek között is. Bár Magyarországot nem ismeri eléggé, el tudja képzelni, mennyire különbözőek egy budapesti és egy vidéki iskola diákjainak a lehetőségei, hiszen a legtöbb országban hasonló kép rajzolódik ki.

„Ráadásul a fegyveres konfliktusok sújtotta területeken, mint például Ukrajna vagy Jemen, ha a gyerekek egyáltalán tudnak iskolába járni, sokkal stresszesebbek lehetnek, és szükségük lenne pszichológiai segítségre. A minőségi oktatáshoz való hozzáférés másik kihívása gyakran még fegyveres konfliktus nélkül is az, hogy sok országban nincs elég tanár, így az osztályok túl nagyok. Hogyan tanít egy pedagógus egyszerre 40, 50 vagy 60 gyereket? Vannak még más, nagyon nehéz helyzetek.

Csak egy példa, amit túl sok helyen látunk: az iskolákban nincs víz és vécé. Ez higiéniai szempontból is problémás, de azok a lányok, akik már menstruálnak, úgy érzik, nem tudnak emiatt iskolába menni. A lánytanulók óriási lemaradással küzdenek, hiszen minden hónapban hiányoznak egy hetet, megbuknak a vizsgákon, és nem fejezhetik be az évet, ami a fiúk és lányok között óriási egyenlőtlenséget teremt az oktatáshoz való hozzáférésnél.

A szakértő szerint jó példaként Finnország állhat előttünk, ahol már használják az oktatásban a mesterséges intelligenciát, és a kisebb létszámú csoportoknak hála a gyerekeknek több alkalmuk van interakcióba lépniük egymással és a tanáraikkal. Aptel fontosnak tartja, hogy a mesterséges intelligencia ugyan kiegészítheti a tanárok munkáját, de nem helyettesítheti azt. Az iskola a tudásszerzés mellett arról is szól, hogy a gyerekek elsajátítsanak szociális készségeket: értékeket tanuljanak, együttműködést, mások tiszteletét, azt, hogy ne bántsanak másokat, de emellett játszhassanak a barátaikkal és az osztálytársaikkal.

Egy fegyverrel pusztíthatunk és védekezhetünk is

A UNICEF több olyan programot is kutatott az elmúlt években, amelyek paradox módon a mesterséges intelligenciát használják arra, hogy megvédje a gyerekeket a mesterséges intelligencia veszélyeitől. Ilyen a Finnországban működő SomeBuddy, ami közösségi média- és gyermekjogi szakértők, pszichológusok, valamint jogászok segítségével jött létre, hogy az internetes zaklatás áldozatait támogassa, és segítsen azonosítani a bűncselekményeket; vagy a helsinki egyetemi kórház pszichiátriai osztályán kidolgozott Milli chatbot, amely mentális zavarokkal küzdő kamaszoknak nyújt segítséget. Cécile Aptel úgy véli, maximalizálnunk kell ezeknek a programoknak a pozitív hatását, de azon is el kell gondolkodnunk, milyen társadalomban szeretnénk élni, és valóban gépekre akarjuk-e bízni a gyerekeink gondozását.

„Mondok egy radikális példát: Kínában kifejlesztették az elhunyt rokonok mesterséges intelligenciával generált avatárjait a gyászolók számára. Ez persze jelenthet segítséget, de nem lenne nagyon szomorú, ha az emberek azért használnák az avatárokat, mert nincs kihez fordulniuk, kivel beszélniük, aki támogatná őket a gyászban, hogy elfogadják egy szerettük elvesztését? Gondoljunk egy árva gyerekre, aki elveszítette a szüleit. Ezt akarjuk vagy inkább egy közösséget a gyermek köré, ami támogatja őt?”

A gyerekek a fikció és a valóság közt sem értik a különbséget, amikor hallanak egy mesét, könnyen összemossák a való világgal, ráadásul egy chatbot még egy felnőttet is összezavarhat.

Abszolút. Fennáll a veszélye, különösen a fiatalabb gyerekeknél, hogy a valós világot összekeverik egy gép által támogatott világgal. Életünk első néhány éve kiemelkedően fontos az érzelmi fejlődésünk szempontjából, mégis hányszor látunk olyat, hogy ül a gyerek a babakocsiban egy okostelefonnal vagy tablettel a kezében? Kutatások rámutatnak, hogy ennek milyen fizikai következményei lehetnek – például nem fejlődik optimálisan a látásuk –, de az érzelmi fejlődésre gyakorolt hatásoknál még sok a kérdőjel. Nem tudjuk, hogyan tesznek különbséget a videón látottak és a valóság között, ami már most is probléma a tizenéveseknél, különösen azoknál, akik órákat töltenek játékkal. Néhányuknak kihívást jelenthet a társaikkal való normális szocializálódás, mert kizárólag a játékokon keresztül építenek kapcsolatokat. A gyerekeknél nagyon fontos az egyensúly megteremtése.

Hány éves kortól adna ilyen eszközöket kiskorúak kezébe, és mire hívná fel a szülők figyelmét?

Bizonyára vannak életkorok, amelyek túl alacsonyak, különösen, ha sok időt töltenek ezekkel az eszközökkel, de inkább az az érdekes, hogy mennyi ideig és kivel használják azokat. Ha együtt leül a család, és megnéznek egy szép mesét, azzal semmi gond nincs. A gond azzal van, mikor a gyerekek felügyelet nélkül órákig játszanak egyedül a készülékek előtt. Én bátorítanám a szülőket, hogy ugyanúgy beszélgessenek és tegyenek fel kérdéseket a gyerekeiknek az online tapasztalataikról, mintha azok focizni mentek volna – milyen volt, kivel játszottak és a többi.

Kerestem önt a közösségi médiában, de nem találtam Instagram-fiókot. Nem használja ezeket az alkalmazásokat?

Elég óvatos vagyok a közösségi médiával, és nagyon vigyázok az adataim védelmére. A szakmám miatt használom ezeket, de személyes tartalmakat nem osztok meg. Szülőként is odafigyeltem, hogy soha ne osszam meg a gyerekeim fényképét – ugyanis lekövethetetlen, hogyan alakul egy ilyen fotó utóélete, kinek a gépén landol, és azt mire fogják felhasználni. Ez ugyanígy igaz a felnőttekre is: este még szórakoztató posztolni a barátokkal egy közös fotót, de biztosan szeretnéd, hogy másnap a munkáltatód is lássa?

Szerintem ezek az alkalmazások és eszközök önmagukban nem rosszak. A kérdés az, hogyan használjuk és szabályozzuk őket. Vannak bizonyos online viselkedések, amelyeket kriminalizálni kellene, ugyanúgy, mint a való világban. Ilyen a sextortion is, tehát a szexzsarolás, mikor deepfake-kel generált fotókkal zsarolnak kamaszokat, hogyha nem küldenek pénzt vagy tesznek meg valamit, akkor elküldik a „róluk” készült pornográf képeket a szüleiknek vagy az iskolájuknak. Ez egyértelműen bűncselekmény, és minden platformnak gondoskodnia kell arról, hogy ezeket a tartalmakat eltávolítsák, valamint felelősségre vonják az elkövetőket.

A deepfake-nek nehéz az előnyeit látnom, habár biztosan akad néhány. Van olyan alkalmazás, amit ön teljesen betiltana?

Bármi, ami a való világban bűncselekmény, az az interneten sem történhet meg, nem segítheti elő a mesterséges intelligencia. Ugyanakkor a hozzáférés teljes betiltása elképzelhetetlen, ráadásul a tinédzserek telefon vagy számítógép előtt töltött ideje nem feltétlenül haszontalan és rossz. Tanulhatnak, játszhatnak és nagyon sok készségüket fejleszthetik így. A mesterséges intelligencia folyamatosan, rohamos ütemben fejlődik, és még olyan szakaszban vagyunk, amikor nem tudjuk pontosan, hogyan lehetne szabályozni, de számos kezdeményezést látunk – gondoljunk csak az Európai Unió által hozott AI Act törvényre. Ezek arról is szólnak, hogy a bíróságok hogyan értelmezzék a már meglévő törvényeket ezen a területen, mint például a magánélethez való jog védelmét.

Arról mit gondol, hogy Magyarországon nemrég betiltották a diákok iskolai mobiltelefon-használatát?

Számos más országban is láttunk ilyet, ahogy olyat is, hogy egy szülői mozgalom kérte a telefonok betiltását. Még nincs olyan kutatásunk, ami megmutatná, milyen hatással van a tiltás, így csak kontextusában lehet ezt vizsgálni. Ha azt szeretnénk, hogy a gyerekek koncentráljanak, és ne vonja el semmi a figyelmüket a tanulásról, az egy elfogadható indok, viszont érzékeny terep teljesen elszigetelni a diákokat a digitális eszközöktől, amikor ehelyett arra is meg lehetne őket tanítani, hogy felelősségteljesen használják ezeket úgy, hogy az segítse őket a tanulásban.

Egy bűnöző ugyanúgy hozzáfér a mesterséges intelligenciához, mint egy rendőr

Amikor arról beszélünk, hogyan óvjuk meg a gyerekeket a technológia veszélyeitől, abba beletartozik a veszélyes személyekhez való könnyű hozzáférés is – legyen szó zaklatásról, zsarolásról, csalásról, deepfake tartalmak és álhírek terjesztéséről vagy hackertámadásokban való részvételről. Faisal Mohammed ALShimmari, az Egyesült Arab Emírségek Gyermekvédelmi Szövetségének (ECPA) alapítója egy szűkebb perspektívából, a társadalom magjától vizsgálja a kérdést. Elmesél egy ügyet, amikor egy globális munkacsoport 1700 kiskorú áldozatot azonosított, akiket az interneten megzsaroltak, hogy más gyerekeket molesztáljanak és pornográf képeket készítsenek, valamint terjesszenek róluk.

„Amikor azonosítottunk két áldozatot, valami teljesen mást tapasztaltunk a családjaiknál. Mindketten folyékonyan beszélnek angolul, és ugyanúgy Európában születtek. Egy szállodai szobába szerveztük a találkozókat, hogy ne kelljen a rendőrségre menniük. Mikor az első családdal találkoztunk, a szülők már azelőtt sírtak, hogy egyáltalán beléptünk volna a szobába. Kérdeztem, miért sírnak, és azt felelték, tudják, hogy valami baj van a fiukkal. A másik apa ott sem akart lenni, sietett, elfoglalt volt. Mondtam neki, hogy rendben, elmehetsz, de legközelebb a rendőrségen találkozunk, és gondatlanság miatt két évet fogsz eltölteni a hatóság ötcsillagos szállodájában. Akkor megdöbbent, hogy mégis miért? »Azért, mert a fiad ilyen közel van ahhoz, hogy más gyerekeket zaklasson, és áldozattá tegyen.« Ennél a két esetnél is látszik, mennyire másként reagáltak a szülők.

A család a legelső védelmi vonal, maga a gyerek és a szülei.

A korábban közbiztonsági és bűnüldözési ezredesként dolgozó ALShimmari azt mondja, a rendőrségnél is hatalmas lehetőség van az MI használatában, amihez szükség lenne a nagy techcégek aktív közreműködésére is – viszont ezek nem érdekeltek az ilyen befektetésekben, mert nem hoz nekik pénzt. Megemlíti a Microsoft egyik gyermekvédelmi nyomkövető rendszerét, amely Bill Gates cégtől való távozása után hamar befuccsolt, és felteszi a kérdést, hogy az egyik legnagyobb közösségi média platform – a szakértő által nevén nem nevezett – alapítójától vajon érdemi intézkedések helyett elég-e az Egyesült Államok kongresszusi meghallgatásán tett bocsánatkérés azoknak a családoknak, akiknek a gyerekeit a közösségi médián keresztül zaklatták?

„Azzal a globális munkacsoporttal, amelynek része voltam, azon dolgoztunk, hogy az internetet egy biztonságosabb hellyé tegyük a gyermekek számára, de gondolják, hogy 15 bűnüldöző szervezet képes kezelni több mint 200 ország problémáját? Egy bűnöző ugyanúgy használhatja a mesterséges intelligenciát, mint egy rendőr, csak a másik irányba, és megfelelő szabályozás nélkül az ilyen technológiákhoz való hozzáférés bénító lesz a társadalom számára. Egyes országokban a bűnözői csoportok már most fejlettebbek, mint a bűnüldözés.”

Az MI tükröt tart elénk

„Mielőtt ilyen mélyre merülnénk a sötét oldalon, jegyezzük meg, hogy az MI tükröt tart elénk: megmutatja, mennyi minden nem stimmel velünk, az emberiséggel. Amit leírtál, az nem egy technológiai probléma. Ez egy emberi probléma. Miért van ennyi ragadozó a társadalmainkban?” – reagál ALShimmari szavaira a panelbeszélgetés negyedik résztvevője, Maria Axente, a Cambridge-i Egyetem kutatója. Axente szerint rég túlléptünk azon a szakaszon, hogy a mesterséges intelligencia menjen vagy maradjon – itt van, egyre gyorsabb, és olyan zavarokat okozhat, amiket egyelőre fel sem foghatunk.

„Viszont a jó hír, hogy a gyerekek a kezükbe veszik az irányítást. Élen járnak a technológiával való kísérletezésben, a szülők csak tanulhatnak tőlük. Emlékszem, mikor a UNICEF egyik iránymutatásán dolgoztunk, belül lázadtam, hogy túl sok minden történik, túl sok a veszély, ez nem jó a gyerekeknek – mire egy barátom azt mondta, hogy nyugi, a gyerekek rendben vannak.

Szerte a világban workshopokat vezetett kiskorúaknak, és látta a lelkesedésüket, a kreativitásukat, a szenvedélyüket, valamint azt, mennyire uralják a technológiát – jobban, mint mi magunk. Lesznek olyan helyzetek, mikor bíznunk kell a gyerekeinkben, hogy nyugodtan feszegethessék az MI határait, mert ők egy kicsit többet tudnak nálunk.

A panelbeszélgetés bevezetőjeként Maria Axente megosztott egy statisztikát, ami szerint az Egyesült Államok felnőtt lakosságának mindössze 15 százaléka ismeri annyira önmagát, hogy valóban tudja, ki ő, milyen értékeket képvisel, kik veszik körül, és milyen életet szeretne élni. Az önismeret és a kritikus gondolkozás az alapfeltétele, hogy a mesterséges intelligenciát a lehető legoptimálisabban használjuk, és ne manipulálhassanak minket általa.

Cécile Aptel arról mesélt: amikor a lánya tizennégy éves volt, a tanár megkérte őket, hogy különböző nyelveken kérdezzék meg ChatGPT-től, mi okozta a második világháborút, és mivel lehetett volna elkerülni? Amikor elkezdték összehasonlítani a különböző eredményeket, azonnal megértették a diákok, milyen elfogultak a nagy nyelvi rendszerek. Viszont nem mindenki rendelkezik olyan adathalmazzal, amely képessé teszi az összehasonlításra és elemzésre, és a mi feladatunk, hogy felruházzuk a következő generációt ezekkel a készségekkel. A szakértő szerint el kell döntenünk, milyen jövőt szeretnénk a ma és a holnap gyerekeinek: egy olyat, ahol kritikus gondolkozással vannak felvértezve, és ezek az eszközök az oktatás szolgálatában állnak, vagy azt akarjuk, hogy manipulálhatók és könnyen irányíthatók legyenek?

Egyes helyeken ezt akarják, más országokban meg azt. Na de ki döntsön? Hagyjuk, hogy meghozzák a fejünk felett ezeket a döntéseket, vagy mi döntsünk közösen?