Egy hibás, részben mesterséges intelligencia által generált hírszerzési jelentés majdnem arra késztette az amerikai hadsereget, hogy megtámadjon egy kínai hajót a Közel-Keleten – írja a CNN. Az incidens a forrás szerint „majdnem háborút robbantott ki”, és rávilágít a mesterséges intelligencia bevezetésének veszélyeire az Egyesült Államok Védelmi Minisztériumában.
Az értékelést egy különleges műveleti parancsnokság elemzője állította össze, aki egy mesterséges intelligenciával működő chatbotot kérdezett a kínai hajó rakományáról. A chatbot „nyílt forráskódú hírszerzési információkat titkos jelfelderítéssel” kombinált, és arra a következtetésre jutott, hogy a hajó „egy nukleáris fegyverprogram elemeit” tartalmazza.
Az nem derült ki, hogy mit szállított valójában a hajó, ahogy az sem, milyen mesterségesintelligencia-eszközt – legyen az kereskedelmi vagy az amerikai kormány számára tervezett – használt az elemző.
Az incidens különösen azért kellemetlen, mert az év elején Pete Hegseth védelmi miniszter közzétett egy felhívást, amelyben utasította a Védelmi Minisztériumot, hogy váljon „mesterségesintelligencia-központúvá”, és kísérletezzen vezető amerikai MI-cégek modelljeivel.
Az Anthropic azonban megtagadta, hogy a hadsereg felhasználja modelljeit autonóm fegyverek fejlesztéséhez, így végül az Elon Muskhoz köthető SpaceXAI kötött megállapodást arról, hogy a hadsereg használhatja a Grokot. Az NVIDIA, a Microsoft és az Amazon májusban partnerségre lépett, hogy MI-technológiáikat felajánlják a Védelmi Minisztériumnak.
