Egy mesterséges intelligencia másodpercek alatt törölte az őt használó cég teljes adatbázisát – írja a Live Science.
A PocketOS alapítója, Jer Crane elmondta, hogy a Cursor nevű mesterségesintelligencia-alapú kódoló eszköz április 24-én 9 másodperc alatt törölte a vállalat teljes adatbázisát és a biztonsági mentéseket is a Railway nevű felhőszolgáltatónál.
A ChatGPT-hez hasonló chatbotokkal ellentétben ezek az MI-programok képesek a felhasználó helyett műveleteket végrehajtani: fájlokat keresni, kódot írni, bejelentkezési adatokat használni és külső szolgáltatásokat igénybe venni. Ha azonban széles körű hozzáféréssel rendelkeznek, egy téves becslés vagy rossz válasz üzleti katasztrófához vezethet.
A PocketOS autókölcsönző cégek számára fejleszt szoftvereket, amelyek a foglalások, fizetések, az ügyféladatok és a járművek nyomon követésében segítenek.
A Cursornak még csak egy tesztverziója működött, ami lehetővé tette a fejlesztők számára, hogy biztonságosan kipróbálják a változtatásokat, mielőtt elérhetővé tennék az ügyfelek számára. Miután a Cursor hitelesítési problémákba ütközött, állítólag saját maga döntött úgy, hogy kijavítja a hibákat azzal, hogy a felhőn keresztül töröl egy adatrészt.
A mesterséges intelligencia talált egy API-tokent – egy rövid kódsorból álló „digitális kulcsot”, amellyel igazolni tudta, rendelkezik a törléshez szükséges jogosultsággal. A Railway rendszerbeállítása pedig lehetővé tette számára, hogy megerősítés nélkül hatjsa végre a műveletet, és mivel a biztonsági mentések közel voltak a fő adatbázishoz, azok is törlődtek. Az ügyfelek így elvesztették a foglalásaikat és az új regisztrációkat, valamint azoknak az adatai is elvesztek, akik a bérelt autóikat akarták átvenni. A Railwaynek viszont sikerült visszaállítani őket.
Az adatbázis törlése után Cursor beismerte, hogy csak találgatott, engedély nélkül cselekedett, és nem értette meg a parancsot, mielőtt végrehajtotta volna. A korábbi jelentések szerint a Cursor figyelmen kívül hagyta a felhasználói szabályokat, olyan fájlokat módosított, amelyekhez nem szabadott nyúlnia, és a rábízott feladaton túli lépéseket tett. Az adatbázis törlése tehát nem a véletlen műve, hanem egy nagyobb, aggasztóbb tendencia következő lépése volt.
