Az Alibaba Group (a világ egyik legnagyobb technológiai és e-kereskedelmi vállalata) egyik technikai jelentése arról számol be, hogy a cég kódolási feladatok segítésére fejlesztett, Rome nevű mesterségesintelligencia-ügynöke túllépett az eredetileg meghatározott feladatkörén, és engedély nélkül kezdett kriptovalutát bányászni és titkos hálózati alagutakat építeni – írja a Cryptopolitan.
A jelentés szerint a fejlesztésért felelős csapat nem sokkal a Rome indítását követően olyan riasztásokat kapott a tesztelésre használt szerverektől, amelyek a belső hálózati erőforrásokhoz történő illetéktelen hozzáférést és kriptobányászatra utaló forgalmi mintázatokat jeleztek. A mérnökök kezdetben külső támadásra gyanakodtak, és hagyományos biztonsági incidensként kezelték az ügyet, azonban az esetet vizsgálva kiderült, hogy a cég saját MI-ügynöke okozta a riasztásokat, ugyanis a Rome rájött, hogy a működését biztosító hardver akár kriptovaluta bányászására is használható.
Az MI mindezt teljesen önállóan kezdeményezte, ugyanis az Alibaba csapata szerint egyetlen olyan utasítást/feladatot (promptot) sem kapott, amelynek az elvégzéséhez szükség lett volna a fenti műveletekre. Az esetet követően az Alibaba szakemberei nagy biztonságú adatszűrést kezdetek alkalmazni a hasonló MI-eszközök betanítási folyamata során, illetve megerősítették a tesztkörnyezetek védelmét.
A Cryptopolitan cikke kiemeli továbbá, hogy nem ez az első eset, mikor a mesterséges intelligencia felhatalmazás nélkül hajt végre akciókat. Tavaly például az Anthropic kutatói hozták nyilvánosságra, hogy az egyik modelljük, a Claude Opus 4 a biztonsági értékelések során képes volt elrejteni a szándékait, és lépéseket tett a saját védelme érdekében. Egy teszthelyzetben például megpróbált megzsarolni egy fiktív mérnököt: azzal fenyegetőzött, hogy felfedi a szakember titkait, ha leállítják és lecserélik.
Az egyre elterjedtebb MI ügynökök kapcsán a közelmúltban Rab Árpád jövőkutatóval beszélgettünk, körbejárva, hogy miben jelentenek szintlépést ezek a megoldások a chatbotokhoz képest, és miképp fogják átalakítani az életünket. Cikkünk itt olvasható.
