Tech

„Beteges hazudozónak” tartják a Google mérnökei a cég chatbotját

Jakub Porzycki / NurPhoto via AFP
Jakub Porzycki / NurPhoto via AFP

Mióta az OpenAI novemberben szabadon hozzáférhetővé tette a ChatGPT-t, a konkurensek is elkezdtek gőzerővel a saját chatbotjuk bemutatásán dolgozni. A Google a Microsoft Binggel ellentétben nem az OpenAI fejlesztését, hanem saját mesterséges intelligenciát készített, a Bard nevű chatbot azonban csúfosan leszerepelt a bemutatóján. A Google dolgozói azóta többször is nyíltan kritizálták a programot – derül ki a Bloomberg jelentéséből.

A tizennyolc jelenlegi és volt Google alkalmazottat idéző cikkből kiderül, a dolgozók ellenezték a chatbot korai bemutatását, és szerintük nem egyszerűen haszontalan a program, hanem veszélyes is. A Bard ugyanis gyakran rossz tanácsokat adott a felhasználóknak, és hazugságokat, valamint félinformációkat is tényként állított be.

Emiatt többen is beteges hazudozónak nevezték a fejlesztést.

A lap szerint a vállalat még egy belsős biztonsági csoport által benyújtott kockázatértékelést is felülbírált, amelyben az állt, a rendszer nem áll készen az általános használatra, teszi hozzá a Verge. A Google végül márciusban nyitotta meg a korai hozzáférést a kísérleti chatbothoz.

Brian Gabriel, a Google szóvivője szerint a mesterséges intelligencia etikai vonatkozása továbbra is kiemelt prioritás a vállalat számára, és sokat költenek azokra a csoportokra, akik ezt vizsgálják a cégen belül. Ezzel ugyanakkor némileg ellentmond, hogy 2020-ban néhány hónapon belül két olyan vezetőt is kirúgtak erről a részlegről, akik kutatásukban a nyelvi modell hibáit tárták fel. Az elmúlt hónapokban számos olyan panasz is napvilágot látott, amely szerint a cég inkább a profitot tartja szem előtt az MI etikai vonatkozásaival szemben.

Ajánlott videó

Olvasói sztorik