Szülők indítottak pert az OpenAI ellen, mivel a kereset szerint a ChatGPT-nek komoly szerepe volt 16 éves fiuk öngyilkosságában. A TechCrunch szerint ez lehet az első ismert, halált okozó jogellenes cselekmény miatti eljárás, amit a cég ellen indítottak.
Mielőtt a 16 éves Adam Raine öngyilkos lett, hónapokig beszélgetett arról a ChatGPT-vel, hogyan vehetné el saját életét. A legtöbb chatbot ilyen esetekre úgy van programozva, hogy automatikusan aktiválja a biztonsági funkciókat.
A fiatal fiú esetében egészen pontosan az történt, hogy miközben a ChatGPT-4o fizetős verzióját használta, a mesterséges intelligencia többször arra biztatta, hogy kérjen szakmai segítséget vagy hívjon fel egy segélyvonalat. Raine azonban megkerülte ezeket a korlátokat azzal, hogy azt mondta a ChatGPT-nek: nem a saját öngyilkosságát tervezi, hanem egy kitalált történethez kér segítséget, amin épp dolgozik.
Tudatában van ennek az OpenAI
Az OpenAI a blogján foglalkozott ezekkel a hiányosságaival. „Ahogy a világ alkalmazkodik ehhez az új technológiához, felelősséget érzünk, hogy segítsünk azokon, akiknek a leginkább szükségük van rá. Folyamatosan fejlesztjük modelljeink reagálási módját az érzékeny interakciókban” – írták, majd jelezték: a biztonsági intézkedéseik azonban sokkal megbízhatóbban működnek a rövid eszmecserék során.
Megtanultuk, hogy ezek a biztonsági intézkedések néha kevésbé megbízhatóak lehetnek hosszú interakciók során: ahogy a kölcsönös oda-vissza kommunikáció növekszik, a modell biztonsági képzésének egyes részei leépülhetnek
– olvasható a bejegyzésben.
