Satya Nadella, a Microsoft vezérigazgatója, egy hosszabb X-bejegyzésben fejtette ki a véleményét a rendkívül fejlett mesterségesintelligencia-modellek veszélyeiről, valamint arról, hogy miként kellene szembenézni ezekkel a kockázatokkal.
Nem bízhatunk a fejlesztőkben
Nadella szerint a mesterségesintelligencia-rendszerek mára összetettebbé és képzettebbé váltak a hagyományos szoftvereknél, ám működésüket – belső súlyaiktól és adataiktól függetlenül – nem tudjuk pontosan lekövetni, ami komoly biztonsági kihívásokat jelent. Mivel ezek az autonóm modellek hozzáférnek legféltettebb adatainkhoz, és döntéseket hoznak helyettünk,
A Microsoft vezérigazgatója szerint a mesterséges intelligenciák mögött álló cégeket el kell választani a felettük gyakorolt hatalmat és felügyeletet biztosító rendszerektől, hasonlóan ahhoz, ahogyan a vállalati belső kockázatokat is kezeljük.
A kiszámíthatatlan mesterséges intelligenciát erős, determinisztikus külső korlátokkal, emberi ellenőrzéssel és független auditálási mechanizmusokkal kell körülvenni a rosszindulatú támadások vagy hibák megelőzése érdekében. A rendszer stabilitása és biztonsága azon múlik, hogy a megfigyelhetőségre, a sokszínűségre és a folyamatos ellenőrizhetőségre építve minimálisra csökkentsük a modellbe helyezett vak bizalmat.
Korlátok közé kell szorítani
Nadella javaslatainak jelentős része egybevág az iparág más szereplőinek véleményével, miszerint a különböző incidenseket időben nyilvánosságra kell hozni, független auditokra van szükség, továbbá ellenőrizhető adatokra, valamint a mesterséges intelligencia kordában tartására. Ez utóbbi kapcsán ugyanakkor Nadella mindenki másnál élesebben fogalmaz bejegyzésében:
Abból kell kiindulnunk, hogy a modell kompromittálódott, és kezdettől fogva korlátok közé kell szorítanunk. Gondoljunk rá úgy, mint egy vészfékre. Egy felhatalmazott személynek mindig képesnek kell lennie arra, hogy feladatvégzés közben is szüneteltesse vagy leállítsa a modellt. A fejlettebb modellek fejlettebb elszigetelési technológiákat fognak igényelni, amelyeket szabványosítanunk kell.
