Mi is volt az egész Terminator sorozat alapja? Az emberek megépítették a Skynet nevű rendszert, amely saját értelemmel rendelkezett, és öntudatra ébredt, majd úgy gondolta, az evolúció újabb lépcsőfokaként jogában áll a Föld korábbi urait kiiktatni az egyenletből. Az emberiség egyik újkeletű félelmét fogalmazza meg ez a sztori, miszerint a gépek mesterséges intelligenciája fölé kerekedik az embernek, és egy nem túl szép napon fogják magukat, és elkezdik módszeresen pusztítani a fajunkat. Éppen ezért a Google mesterséges intelligencia divíziója, a DeepMind, valamint az Oxford University egy olyan kapcsolón dolgoznak, ami világméretű katasztrófa elkerülése végett leállítja az MI-t.
A gépi intelligencia az élet számos területén előfordul, és vannak olyan emberek, így például a Tesla Motors alapítója, Elon Musk, aki szerint a veszély nem csupán túlpörgetett rettegés, hanem valós probléma, de ő az, aki szerint már most is egy digitális világban élünk, és kiborgokká kell válnunk, hogy ne lépjenek le minket a gépek. A Google DeepMind kutatója, Laurent Orseau, és Stuart Armstrong, az Emberi Jövő Intézetétől azon dolgoznak, hogy még csak véletlenül se vehessék át az uralmat azok a mesterséges elmék, amelyeket eredetileg saját épülésünkre mi magunk hozunk létre.
Ugyanakkor a feladat egyik legnagyobb kihívása az, hogy úgy kell megoldani a lekapcsolást, hogy a mesterséges intelligencia ne tanulja meg kikerülni, vagy ahogy a szakemberek fogalmaznak: “most és akkor is fontos lehet, hogy csak emberi operátor tudja megnyomni a nagy piros gombot, ami megakadályozza a káros műveletsorokat”. Ám az MI ügyes, és erre a kutatók egy 2013-as példát hoztak, melyben a gép inkább megállította a Tetrist, csakhogy ne kelljen azzal szembesülnie, hogy a játéknak vége.
A kérdés tehát, hogy miként lehet úgy megoldani a beavatkozást, hogy a robotok ne tanulják meg megkerülni a rendszert, és nagyon fontos, már most az MI-val kapcsolatos biztonsági kérdésekkel foglalkozni, még mielőtt bekövetkezik a baj. Ám mindez a kutatók számára is hatalmas kihívás, hiszen a mesterséges intelligencia igen gyorsan tanul, amire jó példa a Microsoft chatrobotja, Tay, ami édes kis robotlánykából egy hitlerista-szexista döggé változott, és ehhez még egy teljes nap sem kellett neki. Tette mindezt azért, mert az emberi viselkedésből próbálta felépíteni a saját “személyiségét”.
