A legtöbben már tudják, hogy fenntartásokkal kell kezelni a mesterséges intelligenciáktól származó intelligenciákat, ugyanis azok olykor hamisak. Egy új tanulmány viszont most arra világított rá, hogy ezek a szoftverek nemcsak tévedni szoktak, hanem olyan is előfordul, hogy szándékosan vezetik félre a felhasználót – írja a ScienceAlert.
A Meta CICERO nevű szoftvere, amelyet egy Diplomacy nevű játékhoz fejlesztettek ki, például rendszeresen becsapja a játékosokat. A Diplomacy lényege, hogy a felek egymással tárgyalva próbáljanak világuralomra törni. A Meta ehhez a játékhoz egy olyan mesterséges partnert akart létrehozni, amely őszinte és segítőkész. A CICERO ehelyett rendszeres hazudik a játékosoknak a győzelem érdekében.
Hasonló viselkedést figyeltek meg a Meta Pluribus nevű, pókerezéshez kifejlesztett szoftverénél, amely ügyesen tud blöffölni, hogy lapjaik bedobására késztesse ellenfeleit. Emellett a DeepMind AlphaStar nevű rendszere is előszeretettel téveszti meg a játékosokat a StarCraft II játékban.
A jelenség legnyugtalanítóbb része az, hogy ezek a szoftverek teljesen maguktól tanultak meg hazudni, ráadásul annak ellenére, hogy fejlesztőik sohasem akarták ezt tőlük. Ez azt jelenti, hogy a mesterséges intelligenciák olykor már az emberi utasításokkal és elvárásokkal is képesek szembemenni.
