Az önvezető autók fejlesztése, tesztelése felgyorsult, ám olyan végzetes eset történt, amely közben fókuszba küldi a kérdést: mennyire lehetnek biztonságosak a mesterséges intelligencia által vezérelt járművek?
Az arizoniai Tempe városában történt március 18-án, hogy az Uber által tesztelt önvezető autó megölt egy gyalogost. Az erről készült felvételt csütörtökön nyilvánosságra hozta a rendőrség. Arra már volt példa, hogy ilyen járműben halt meg valaki, de ez volt az első olyan eset, hogy az autó ölt.
Tempe Police Vehicular Crimes Unit is actively investigating
the details of this incident that occurred on March 18th. We will provide updated information regarding the investigation once it is available. pic.twitter.com/2dVP72TziQ— Tempe Police (@TempePolice) March 21, 2018
Ahogy a felvételen is látható, az autó éjszaka közlekedett egy négysávos út legszélső sávjában, amikor a 49 éves Elaine Herzberg kerékpárját tolta át az úton, feltehetően szabálytalanul, kivilágítás nélkül. A jelenetet két szemszögből is láthatjuk: a jármű belsejéből, majd a benne ülő operátort mutatva, aki az ütközés előtti pillanatokban láthatóan a földet nézte, talán pihent.
Az Uber előírja, hogy sofőr is tartózkodjon az autóban arra az esetre, ha közbe kell avatkozni. A baleset idején a 44 éves Rafael Vasquez ült a járműben. Az autó láthatóan nem érzékelte a biciklist, és nem lassított le, amúgy egyáltalán nem gyorsan, 64 km/h-ás sebességgel hajtott. Tempe rendőrei szerint akkor sem lehetett volna elkerülni a balesetet, ha ember vezeti az autót, a nő annyira hirtelen bukkant fel a sötétben.
MI ROMLOTT EL?
Több szakértő szerint azonban az autónak fel kellett volna ismernie a gyalogost, így fékeznie kellett volna, és egyelőre csak találgatják, hol csúszhatott hiba a gépezetbe. A rendőrség kevés részletet közölt a nő haláláról, jelenleg szövetségi nyomozók vizsgálják az ügyet. Az Uber leállította a folyamatban lévő teszteket, és közleményben részvétet, hozzátéve, hogy mindenben segítik a hatóságok munkáját.
Ami azért kellemetlen, mert az önjáróktól éppen azt remélik a szakértők, hogy használatukkal akár 90 százalékkal is csökkenthetik évente a balesetek számát az amerikai utakon.
Az Uber technológiájának működése részleteiben ugyan nem ismert, de az önvezető autók rendszere jellemzően rengeteg szenzorból áll, köztük radarokból, Az autó lézeralapú, LIDAR nevű rendszerre támaszkodik, ami lehetővé teszi, hogy az autó felismerje a környezetet és azonosítsa az egyes objektumokat, tárgyakat, akadályokat. Mivel pontos részleteket nem ismertetett sem a rendőrség, sem az Uber, pusztán a videó alapján tudnak értékelni a szakértők is.
Az esettel kapcsolatos fő kérdés, hogy a szenzorok miért nem érzékelték a nő jelenlétét, aki már három sávon áthaladt, mielőtt az Uber autója elé került. Igaz, hogy a kamerák teljesítménye éjszaka romlik, de Sam Abuelsmaid, a Navigant Research elemzője szerint még mindig jobban teljesítenek, mint az emberi szem, a nő pedig hatótávon belül tartózkodott.
A szenzoroknak fel kellett volna ismerniük a gyalogost, a kamerák gyakorlatilag haszontalanok voltak, de a radaroknak és a LIDAR-nak is fel kellett volna ismernie, nem a semmiből bukkant elő a nő.”
– fejtette ki véleményét Raj Rajkumar, Carnegie Mellon professzora.
KI A FELELŐS?
Herzberg barátai igazságot követelnek, az Ubertől részletes válaszokat várnak a hatóságok is. Ha a nő családja pereskedni kezd, nem lesz egyszerű menet, hiszen precedenst teremthet, de erre nincs sok esély. Ryan Calo, a Washington Egyetem jogászprofesszora szerint az Uber valószínűleg peren kívül próbál majd megegyezni.
Attól függően, hogy hol volt a hiba, a család több szereplőt is elszámoltathat: az autó gyártóját, az autóban ülő operátort, a felhasznált technológiák (mondjuk a LIDAR-rendszer) gyártóját, vagy magát az Ubert. Ennek kapcsán minden korábbinál feszítőbb a kérdés: ki a felelős, ha a „robot” öl?
John Villasenor, a Kaliforniai Egyetem professzora 2014-ben tette közzé tanulmányát, amelyben arra hívta fel a jogalkotók figyelmét, hogy érdemes mielőbb kidolgozni a szabályokat, és tisztázni az önvezető autók által okozott balesetek felelősségi viszonyait. Ahogy sok más területen, a technológia itt is előrébb jár, mint a jog.
Az MIT Technology Review a Brighton Egyetem professzorát, John Kingston szakmai véleményét kérte ezzel kapcsolatban. Hagyományos értelemben két fő fogalmi eleme van egy bűncselekménynek: a mens rea (bűnös tudat), illetve az actus reus (bűnös tett). A szakértő három különféle forgatókönyvet említ, ami a jelenleg érvényes szabályok alapján alkalmazható lehet a mesterségesintelligencia-rendszerekre.
Az első esetben a bírók egy nem beszámítható lényként kezelik az MI-t, mint például ahogy egy állatot is. Ez esetben a programozója lehet érte a felelős. Erre említhető az a példa, amikor például a gazda ráuszítja valakire a kutyáját: nem a kutya lesz a hibás. Második esetben úgy veszik, hogy az MI nem érti a következményeket, csak utasításokat hajt végre, közvetlen tevékenységével ő maga nem tud bűncselekményt végrehajtani. Így a következményekkel csak a kocsiban ülő sofőr, vagy a programozó tud számolni, ő lesz a felelős.
A harmadik eset, aminek valójában semmi értelme nem lenne, az MI-t tenné felelőssé:
SZIGORÚBB SZABÁLYOK JÖHETNEK
Az Uber mellett a Waymo és a General Motors is Arizonában teszteli autóit, ahol kevésbé szigorúak az előírások, mint a többi államban, például Kaliforniában. A felvétel hatására minden bizonnyal erősebb lesz majd az igény arra, hogy felülvizsgálják ennek a születő iparnak a tesztelési szabványait, biztonsági előírásait. Az „önvezető” iparban többen is ajánlották már átfogó, minden szereplőre érvényes biztonsági szabványok felállítását, komolyabb erőfeszítés nem tettek még az ügyben.
A területet kutató Timothy Carone professzor szerint felmerül a kérdés, hogy az Uber eléggé alaposan tesztelte-e az autót, mielőtt útra eresztette, mert amennyiben a tesztelési folyamat nem volt elég hatékony, a legfontosabb feladat annak megelőzése, hogy idő előtt útra kerüljenek ezek a gépek.
(Kiemelt illusztráció: ThinkStock)
