Tech

Izrael kinyitotta Pandóra szelencéjét: mesterséges intelligencia alapú fegyvert vetett be a háborúban

Mohammed ABED / AFP
Mohammed ABED / AFP
Több ezer gázai lakos haláláért lehet felelős az izraeli hadsereg Lavender elnevezésű, mesterséges intelligencia alapú programja. A hadtörténelem első, nyilvánosan felvállalt MI-fegyvere a lapunknak megszólaló szakértő szerint veszélyes precedenst teremthet, a szabályozása pedig lehetetlennek tűnik.

Már több mint fél éve, hogy kezdetét vette az Izrael és Hamász közötti háború, melynek következtében eddig közel 40 ezren vesztették életüket. Az indulatok egyáltalán nem csillapodnak, április közepén ráadásul Irán is elkezdte aktívan támadni Izraelt. A világ egyik legerősebb katonai hatalma bár a nyugati világ többségének támogatását is élvezi, az utóbbi hónapokban megszaporodtak a kritikus hangok.

Az Izraelt érő kritikák szerint a Benjamin Netanyahu vezette adminisztráció népirtást követ el Gázában, hiszen az izraeli hadsereg célzott támadásai a Hamász-támaszpontok mellett civil lakóépületeket is céloznak, többek között ezzel magyarázható a rendkívül magas halálozási arány.

Emellett egyre többet hallani az izraeli hadsereg eddig szinte precedens nélkülinek mondható fegyvereinek bevetéséről is, amellyel a lapunknak megszólaló, az MI védelmi aspektusaiban is tanácsokat adó nemzetközi mesterséges intelligencia szakértő, Dr. Tilesch György szerint új háborútörténeti korszak veheti kezdetét.

Farkas Norbert / 24.hu Dr. Tilesch György

Háborúban a mesterséges intelligencia

Az már a háború elején sem volt titok, hogy Izrael a legmodernebb fegyverek birtokában van, amelyek védekezésre és támadásra egyaránt alkalmasak lehetnek. Az úgynevezett Vaskupola, ami október 7-én a rakétatámadások nagy részét kivédte, az egyik legfejlettebb hadiipari fejlesztések egyike, a hosszú évtizedek óta húzódó konfliktus újabb fejezetének kezdetét követően azonban gyorsan megkezdődött a mesterséges intelligencia alapú fejlesztések bevetése is.

Az első, The Gospel néven elhíresült program a katonaságnak segített felderíteni azon épületeket, ahol nagy valószínűséggel Hamász tisztviselők élnek vagy üléseznek. Ezt követően a haderő drónokkal támadta meg az épületet, sokszor olyan időben, amikor az érintettek családja is otthon tartózkodott. Ezt követően egy arcfelismerő szoftvert is bevetettek, az izraeli +972 Magazine és Local Call elnevezésű lapok által felderített, és az izraeli védelmi minisztérium által sem tagadott Lavender azonban új szintre emelte az MI-fegyverkezést. A hírek szerint a szoftver a csúcson 37 ezer gázai embert tartott számon Hamász-fegyveresként, és adott engedélyt a kilövésükre.

A korábban a Pentagonnak is dolgozó Tilesch György a beszámolók alapján úgy sejti, a rendszer alapja egy totális megfigyelési rendszer lehet, ami tulajdonképpen a kínai kreditrendszerhez hasonlóan pontozza az emberek tevékenységét egy 1-től 100-ig terjedő skálán. Ez alapján olyan személyek is magas értékelést kaphatnak, akik egy chatcsoportban vannak egy Hamász-tiszttel, vagy rokoni kapcsolatban állnak vele. Erre az alapra tevődik rá egy Where’s daddy?, vagyis egy Hol van apu? kódnévvel jelölt nyomkövető, ami leköveti a célszemélyeket és nagy valószínűséggel meghatározza, hol van az otthonuk.

Mindezt pedig egy „seek and destroy” jellegű végrehajtó egység koronázza meg, amely egy dróntámadást levezényelve ki tudja iktatni az adott embert vagy embereket.

A kaliforniai PHI Institute elnöke lapunknak elmondta, hogy bár az izraeli kormány azt mondja, ez nem egy autonóm rendszer, és a kilövéshez emberi jóváhagyás szükséges, ezt érdemes fenntartásokkal kezelni: a legtöbb cikk, szivárogtató és szakértő ugyanis ennek ellenkezőjét állítja. Tilesch hozzátette: a háború idején pedig aligha engedi a hadsereg az időveszteséget, ami a jóváhagyással jár – ez most az autonóm harcászat egyik legfontosabb dilemmája.

Abir Szultan / EPA / MTI Izraeli légitámadásokban megsemmisült lakóépületek a Gázai övezet északi részén a dél-izraeli Szderótból nézve 2023. december 10-én.

A tudósítások szerint ráadásul az izraeilek a rendszer pontosságánál fontosabbnak tartják a gyorsaságot: egy Hamász-felsővezető haláláért a hírek szerint akár 100-150 civil halálesettől is eltekinthetnek, míg egy alacsonyabb beosztású Hamász-tag halála után 10-15 civil áldozatért sem kap komolyabb fejmosást a kezelő, már ha egyáltalán van ilyen személy. A rendszer a szivárogtatók szerint jelenleg maximum 90 százalékos pontossággal működik, így még a legjobb esetben is minden tizedik áldozat civil. A gyorsasági kényszer azonban tovább ronthatja ezt az arányt.

Tilesch elmondása szerint bár a világ számára nem látható annyira, Izraelben még az Egyesült Államoknál is sokkal komolyabb az összefonódás a katonai és a startup-szféra között.

Ráadásul Izrael abszolút világvezetőnek mondható a védelmi és hírszerezési MI-megoldásokban, a szakértő szerint akár a világ három legfejlettebb állama között is ott lehet e téren. Az MI-tanácsadó szerint bár nem precedens nélküliek a hasonló alkalmazások, Izrael veszélyes trendet indított el azzal, hogy nyilvánosan felvállalta ennek használatát.

A Közel-Keleten hamarosan mindenki szert tesz majd ilyen megoldásokra belső és külső ellenségekre célozva, vagy éppen bevallja, hogy már rendelkezik vele: a kérdés már csak az, hogy mikor vetik be ezeket

– mondta Tilesch György, hozzátéve, hogy nemcsak támadásra, hanem felkészülésre és védekezésre is remekül hasznosíthatók a Lavenderhez hasonló programok.

Kibújt a szellem a palackból

A rendszer számos etikai kérdést és problémát vet fel. Az első és legfontosabb, amit már korábban is megemlítettünk, az emberi kontroll megléte, illetve, hogy a rendszer mennyire elfogult az egyes társadalmi csoportokkal szemben (ez az úgynevezett bias, ami gyakori hibája az MI-rendszereknek). Ennek megállapítása azonban lehetetlennek tűnik, ugyanis még ha fel is állna egy független MI-szakértőkből álló csapat, nem lenne olyan haderő, amei engedélyezné katonai rendszerei vizsgálatát.

A nemzetközi MI-szakértő szerint azonban a legnagyobb probléma, hogy nincs semmiféle szabályozás vagy nemzetközi egyezmény, ami korlátozná a mesterséges intelligencia alapú hadi rendszerek terjedését.

Nemrégiben átfogóan írtunk az Európai Unió mesterséges intelligencia szabályozását célzó AI Actről, azonban ebben alapból kivételt képeznek a katonai MI-megoldások. A PHI Institute elnöke szerint ez nem véletlen, ugyanis minden olyan törvényből, ami készül a világban a mesterséges intelligencia kapcsán, a katonai alkalmazásról szóló passzusok ki vannak húzva.

Ennek oka, hogy az ENSZ-ben már hosszú évek óta egyeztetnek az úgynevezett LAWS-törvényről, ami az atomfegyverek használatához hasonlóan tiltaná a mesterséges intelligencia alapú fegyverek bevetését. A kezdeményezést a szakértő szerint bár több mint 180 ország támogatja, az ellenzők között ott van az USA, Kína és Izrael is, akik köztudottan a világ legerősebb hadsereggel rendelkező országai közé tartoznak.

Persze kérdéses, hogy változtatna-e a helyzeten, ha lenne egy erre vonatkozó nemzetközi egyezmény, hiszen ezek többségének nincs betartatási ereje.

Néhány napja, amikor fény derült arra, hogy az izraeli hadsereg célpontok és célszemélyek azonosítására mesterséges intelligenciát is igénybe vett a háború során, Antonio Guterres, az Egyesült Nemzetek Szervezetének (ENSZ) főtitkára kijelentette, hogy mélyen felkavarták a hírek, és arra kérte az érintetteket, hogy hagyjanak fel ezen fejlesztések használatával. Ez azonban nem az első eset, hogy hasonló fegyvereket használtak.

Bár kevesebb szó esik róla, a szakértő emlékeztetett, hogy az orosz-ukrán háborúban is feltűnt már egy részben hasonló alapokra építkező rendszer. Tilesch szerint az egyik fő oka annak, hogy az ukránok ilyen sokáig kitartottak, hogy beállt mögéjük a big data analízissel foglalkozó amerikai Palantir vállalat, és megosztották velük egy fejlesztésüket. Ez lehetővé tette az ukrán fél számára, hogy rengeteg műholdkép, közösségi médiás bejegyzés és drónfelvétel alapján pontosan meghatározzák az ellenség lokációját. Ezt a saját fegyvereikkel összekötve pedig akár autonóm csapásmérésre is lehetőséget biztosíthatott.

A szakértő szerint ami igazán ijesztő, hogy egy hasonló rendszer létrehozása nem is olyan nehéz.

A The Verge-nek nyilatkozó Mona Shtaya, a közel-keleti politikával foglalkozó Tahrir Intézet munkatársa hozzátette: az izraeli védelmi startupok még profitálhatnak is abból, hogy a rendszereiket élesben tesztelik, ami segíthet a jövőbeni exportszerződések megkötésénél. A rendszer leleplezése sok szakértő szerint ahhoz vezethet, hogy akinek eddig nem volt ilyen fegyvere, az most szert fog tenni ilyenre, ha pedig már rendelkeznek hasonlóval, gyorsan felvállalhatják vagy be is vethetik.

Gyors eszkaláció várható

A hasonló fegyverek fejlesztésére, és ha használatára nem is, de meglétére bizonyára nem csak a Közel-Keleten lesz igény. Több szakértő is felhívta a figyelmet arra, hogy még az alapvetően liberális, emberközpontú EU-s mesterséges intelligencia-rendeletből is kimaradt a haditechnikai célú MI-fejlesztések tiltása.

Ez nem kizárt, hogy abból fakad, hogy az európai katonai nagyhatalmak, például Franciaország és Németország nem akar lemaradni a fegyverkezési versenyben, még ha az országokat vezető kormányok értékrendjével nehezen is összeegyeztethető az MI-alapú fegyverkezés. Az egyes országok katonai hadereje mellett a legnagyobb katonai együttműködési rendszer, a NATO is lépéskényszerbe került.

Ami jól látható, hogy a politikai vezetők, a szakértők és a mesterséges intelligencia alkalmazások fejlesztői közül is sokan ódzkodnak a megszólalástól a puskaporos hordóra hajazó témában.

Az ellentétek már a Biden-adminisztráción belül is felütötték a fejüket, ugyanis sok helyütt egyből ideológiai kérdést csinálnak abból, ha valaki felrója Izrael kormányának a kétes háborús döntéseket. Ezek az ellentétek pedig pont abban az évben kerülnek felszínre, amikor az Európai Unióban és az Egyesült Államokban is sorsdöntő választásokra kerül sor.

Kapcsolódó
Égető kérdést hagy megválaszolatlanul az EU egyik legfontosabb törvénye
Az Európai Unió történelmi törvénytervezete hatalmas előrelépés az MI szabályozása felé, de semmit nem kezd a kontinens lemaradásával.

Ajánlott videó

Olvasói sztorik