Nagyjából egy éve már, hogy az OpenAI elkészült a ChatGPT-szövegeket vízjellel ellátni képes rendszerével és az annak észlelését célzó eszközzel. A vállalat azonban döntésképtelen azt illetően, hogy kiadja-e – írja a The Wall Street Journal.
Az OpenAI úgy írta le a rendszert, hogy egy olyan észlelhető mintát kreál a szövegben, amely ellenáll a manipulálásnak, vagyis az átfogalmazásnak, viszont nem rontja a szöveg minőségét. A helyzet azonban etikai szempontból bonyolult a cég szerint, ugyanis naponta több millióan használják a chatbotot, sokan pedig munkájukban és tanulmányaik során is profitálnak belőle – nekik pedig hátrányt jelentene a vízjel használata.
A vállalat jelezte, hogy tudomásul veszi a kutatás eredményét, ettől függetlenül viszont vannak aggályaik. Az például komoly probléma lehet, hogy sokan át akarják majd fogalmaztatni a ChatGPT-s szövegeiket, hogy eltűnjön a vízjel, amivel visszaélhetnek a rosszindulatú szereplők. Emellett stigmát ragaszthat a külföldi nyelveket nem beszélő felhasználókra a fejlesztés.
Emellett persze financiális okai is vannak a fejlesztés halogatásának. A felmérésben résztvevők 30 százaléka azt mondta, kevesebbet használnák a szoftvert, ha vízjel lenne rajta, és így lebukhatnának a munkavégzésük vagy a tanulmányaik során. A cég most azt teszteli, hogy a metaadatokba rejtene vízjeleket, így kevésbé lenne egyértelmű az eredmény, mégis jelezve lenne a szoftver használata, teszi hozzá a The Verge.
