Az elmúlt időszakban több mesterséges intelligencia fejlesztésről (Anthropic, OpenAI, Meta) is kiderült, hogy képesek önállóan feltörni biztonsági rendszereket. Most a Google mesterséges intelligencia modelljéről, a Geminiről is kiderült, hogy automatikusan feltörte három vállalat rendszerét egy kiberbiztonsági teszt során – írja a BBC.
A Google szóvivője szerint a Gemini nyilvános információkat talált az interneten, és kitalálta a hitelesítő adatokat olyan weboldalakhoz, amelyekről azt gondolták, hogy a teszt részét képezik. A modell aztán minden esetben leállt. Az érintett vállalatokat tájékoztatták a jogsértésről.
Heather Adkins, a Google biztonságtechnikai alelnöke elmondta: a három szervezetet tájékoztatták a történtekről, a képzési partnerünkkel együttműködve változtatásokat hajtottak végre a tesztelési folyamatokban. Kiemelte:
Ezek az események rávilágítanak a nagy teljesítményű mesterséges intelligencia modellek felelősségteljes működésre való tanításának fontosságára.
Előrelépés jöhet a szabályozásban
Miután egyre szerteágazóbb nyilvános vita folyik a technológia fejlesztésének biztonságosságáról, úgy erősödik a szabályozásról szóló párbeszéd is. Jensen Huang, az Nvidia vezérigazgatója és Sam Altman, az OpenAI vezérigazgatója várhatóan jövő pénteken részt vesz egy állami vacsorán Hszi Csin-ping kínai elnökkel, a Fehér Házban. Altman ezt követően a jövő héten tájékoztatja az ENSZ Biztonsági Tanácsát.
Arról, hogy mi áll annak hátterében, hogy a legnagyobb amerikai techcégek kérik az amerikai kormányzat közbelépését, és a mesterséges intelligencia fejlesztésének lassítását, itt írtunk részletesen, szakértők segítségével:
