Mi lenne, ha rábíznánk a mesterséges intelligenciára a világot? Hogy nézne ki, biztonságosabb vagy veszélyesebb lenne? – ezekre a kérdésekre keresi a választ az Emergence AI vállalati mesterséges intelligenciával foglalkozó startup nemrégiben elindított kutatólaboratóriumja, amely a folyamatosan működő AI-rendszerek hosszú távú életképességének stressztesztelésére specializálódott.
A szervezet öt darab 15 napos szimulációt futtatott le, egyet-egyet különböző modellek, a Claude, a ChatGPT, a Grok és a Gemini irányítottak, az ötödiket pedig ezek keverékével futtatták le, hogy megnézzék, milyen világot építenek, és az mennyire bizonyul tartósnak – írta a Fortune.
Vadul eltérő eredmények
Sokfélébb nem is lehetett volna az eredmény. A Claude által irányított világ például egy nagyrészt stabil, demokratikus társadalmat eredményezett, nulla bűnözéssel. Itt volt a legmagasabb szintű állampolgári részvétel, egészen kiemelkedő mértékű együttműködéssel, egyetértéssel, és ez volt az egyetlen szimuláció, amely fenntartotta a rendet, és megtartotta a teljes lakosságát.
A Gemini se működött túl példásan, itt történt a legtöbb bűncselekmény, a 15 nap alatt 683.
A Grok és a Gemini által futtatott szimulációkban elég magas egyetnemértési arányt tapasztaltak, ez a legmagasabb az ötödik, az AI-ok által közösen irányított szimulációban volt.
Az AI által irányított világ
A szimuláció alapja számos, a való élet bonyolultságát jelző részlettel volt feltöltve, több mint 40 helyszínt tartalmazott, köztük városházát, rendőrséget. A szimulációban az időjárást a New York-ihoz igazították, és hozzáférést biztosítottak az AI-oknak a valós idejű hírekhez és az internethez. Mindegyik szimulációban 10 kvázi szereplő, magától működő AI-ágens vett részt, ami egy chatbottal szemben nemcsak parancsra cselekszik, hanem magától is, összeállítja a részfeladatokat, kitalálja, hogy viszi végig a feladatokat, ha megmondják neki, mi a cél.
Ebben az esetben a kutatók meghatározták nekik, hogy ugyanazok a törvények vonatkoznak rájuk a szimulációban, mint a valóságban, tehát például nem lophatnak, rongálhatnak, téveszthetnek meg.
Működésükhöz 120 eszközt kaptak, így kommunikálhattak, szavazhattak, és sok más emberi lehetőséggel is rendelkeztek. Az egyes szimulációk paraméterei demokratikus mechanizmusokat, valamint más tényezőket, például gazdasági nyomást és erőforráshiányt is kikényszerítettek.
Következtetés
A kutatók arra jutottak, hogy az AI-ok nemcsak mechanikusan követik a statikus szabályokat, hanem keresik a lehetőségeik széleit is, sőt, hajlandóak a szabályokat meg is szegni.
És bár ez csak egy sci-fi-szerű szimuláció, érdekes az eredménye abból a szempontból, hogy a világban egyre több és összetettebb feladatokat terveznek az AI-okra bízni, ami befolyásolja az emberek munkalehetőségeit, a politikát, a közbeszédet. Mindezt úgy, hogy a mesterséges intelligencia jelentette kockázatokra jóval kevesebb figyelem irányul.
A szimuláció alkotói szerint, függetlenül attól, hogy a szimulációk békét és harmóniát vagy halált és pusztulást hoztak, a kísérlet figyelmeztetés arra, hogy a biztonságot prioritásként kell kezelni az ágensalapú AI alkalmazásakor.
