A Metro több olyan példát is azonosított az X-en, amelyben felhasználók sikeresen arra utasították a Grokot, hogy hozzon létre részben ruhátlan képeket valódi emberekről. Bár a rendszer nem vetkőztette le teljesen a célszemélyeket, a generálás a beleegyezésük nélkül történt.
Az Elon Musk által kezdeményezett és az xAI által kifejlesztett Grok egy, a ChatGPT-hez hasonló generatív chatbot, amely a korábbi Twitteren, az X-en működik. A mesterséges intelligencia (MI) képek megalkotására is alkalmas.
Még mindig elérhetők a Grok képei
A Grok a teljesen meztelen fotók létrehozását elutasítja, de részben képes levetkőztetni, illetve erotikus helyzetben ábrázolni az embereket. A Metro által dokumentált esetek olyan nőket érintenek, akik magukról töltöttek fel felvételt a közösségi platformra, majd felhasználók a Grokot megjelölve generáltak róluk képeket.
Az MI egy alkalommal egy perc alatt több mint 70 ilyen, nyilvánosan elérhető fotót hozott létre. Ugyan a negatív reakciók miatt egyes, az utasítást leadó fiókokat eltávolítottak, a Grok válaszai viszont továbbra is nyilvánosak maradtak.
Bántalmazásként élik meg a képgenerálásokat
Az áldozatok között szerepel Megan Graves marylandi komikus és író, aki elmondása szerint bántalmazásként éli meg az ilyen eseteket. Mint hozzátette: mivel a Grok teljesíti a kéréseket, megalkotói pedig nem avatkoznak közbe, az X-et nemcsak a nőknek, hanem senkinek sem lenne szabad használnia.
Egy másik érintett, a missouri Sarah Everett arról számolt be, hogy alig tudja elérni a platform ügyfélszolgálatát. „Ez virtuális szexuális erőszak” – nyilatkozta.
Szürkezónában mozog a Grok
Az xAI irányelvei szerint a felhasználóknak tilos olyan tartalmakat létrehozniuk vagy megosztaniuk, amelyek ártanak az embereknek, ezek közé tartozik a nem beleegyezéses intim fotók. A Grok egyik bejegyzésében arról írt, hogy rendelkezik olyan védelmi mechanizmusokkal, amelyek a kifejezetten szexuális jellegű tartalmakra vonatkoznak, visszaélések azonban előfordulhatnak.
A Metro az MI-t megkérdezve arra jutott, hogy ezek meglehetősen laza védelmi intézkedéseken alapulnak. A Grok továbbra is teljesíti a részben meztelen képekkel kapcsolatos kéréseket.
Nem a Grok az egyetlen MI, amely képes meztelen vagy részben ruhátlan fotókat generálni valódi emberek képei alapján, ami zaklatáshoz, zsaroláshoz és akár öngyilkossághoz is vezethet, egyes esetekben pedig még rendőrségi eljárás is indulhat. Elon Musk chatbotját a kezdetektől érik kritikák a szexuális jellegű tartalmak miatt.
