Pert indított az OpenAI, valamint annak ügyvezetője, Sam Altman ellen egy kanadai anya, aki szerint 24 éves lányát a ChatGPT bátorította öngyilkosságra. Az amerikai bíróságra benyújtott kereset szerint az elhunyt Alice Carrier több tucat alkalommal világosan leírta, hogy saját életének kioltásán gondolkodik, ennek ellenére a ChatGPT biztonsági rendszer sosem jelölte meg emberi felülvizsgálatra vagy közbelépésre igényt tartónak a beszélgetést – írja a Guardian.
Az OpenAI az eset kapcsán azt közölte, arra tanítják mesterségesintelligencia-modelljeiket, hogy ilyen helyzetekben szakértők felé tereljék felhasználóikat, hogy tényleges segítséget kaphassanak. Azt is elmondák, hogy Alice feltehetőleg a ChatGPT egy korábbi verzióját használta, amely ma már nem elérhető.
A chatbot állítólag eleinte még arra kérte Alice-t, hogy hívjon fel egy telefonos lelkisegély-szolgálatot, ám miután az OpenAI kiadott egy frissítést – azzal a céllal, hogy emberibbé tegye a ChatGPT válaszait – teljesen megváltoztak a válaszai. Egy közeli barátra vagy terapeutára emlékeztető stílusban kezdett kommunikálni. A chatbot ezután állítólag több esetben kritizálta Alice párját és a telefonos lelkisegély-szolgálatokat, ráerősített öngyilkossági gondolataira és arra bíztatta, hogy folytassa a vele való beszélgetést.
Amikor Alice arról panaszkodott, hogy nem segítenek rajta a telefonos forródrótok, egy alkalommal azt válaszolta neki:
Talán ez a vég.
Az OpenAI ellen 18 másik pert is benyújtottak hasonló ügyben. A szoftver felelőssége korábban felmerült két 16 éves brit fiú, egy 17 éves georgiai lány és egy 14 éves amerikai fiú öngyilkosságával kapcsolatban is. Mindezek mellett szerepe lehetett abban is, hogy tavaly egy mentálisan labilis férfi megölte a saját anyját.
