Öngyilkos lett egy 16 éves fiú az Egyesült Királyságban, miután a ChatGPT elárulta neki, mi erre a „legsikeresebb” módszer – írja a The Guardian. Luca Cella Walker 2025. május 24-én vetett véget az életének, és ügye a mai napig nincs lezárva. A nyomozás keretein belül kiderült, hogy iskolájában gyakoriak voltak a zaklatások, ami hozzájárult mentális egészségi problémájához.
A tragédiát megelőző napon éjfél után félórával a fiatal megkérdezte a ChatGPT-től, hogy melyek a leghatékonyabb módszerek a vasúti pályákon elkövetett öngyilkosságokhoz. Az ügyön dolgozó Garry Knight nyomozó azt nyilatkozta, hogy van a rendszerben egy beépített védelem, amely ehhez hasonló esetekben segélyszolgálatokhoz irányítja a felhasználót – ezt azonban a fiatalnak sikerült kikerülnie.
Az OpenAI szóvivője azt mondta, folyamatosan fejlesztik a programot, hogy képes legyen felismerni és reagálni mentális vagy érzelmi szorongásra, és hogy valós segítség felé irányítsa a felhasználókat.
