A mesterséges intelligencia terén tapasztalható versenyfutás részeként egyre több olyan esetet látni, amikor elhamarkodottan kerül a felhasználók elé egy-egy funkció. Remek példája ennek a Google nemrég bejelentett, egyelőre csak Amerikában elérhető új funkciója, az AI Overview. A keresőbe integrált MI-megoldás lényege az lenne, hogy gyors összefoglalót adjon nekünk a keresett témáról, ehelyett sokszor ostoba, másszor kifejezetten veszélyes tanácsokat osztogat.
A CNBC szerint például arra a kérdésre, hogy hány muszlim elnöke van az Egyesült Államoknak, az AI Overview azt válaszolta: „Az Egyesült Államoknak egyetlen muszlim elnöke volt, Barack Hussein Obama.”
Az egyszerű félretájékoztatáson túl azonban életveszélyes tanácsokat is ad a funkció. Arra a kérdésre például, hogy miként lehet elérni, hogy a sajt jobban tapadjon a pizzához, a MI azt válaszolta, hogy ragasztót kell használni. Egy másik kérdésre pedig azt válaszolta, hogy az UC Berkeley geológusai szerint az embernek naponta legalább egy sziklát meg kell enniük.
A Sky News szerint sok hibás válasz viccelődő, vagy épp direkt félrevezető Reddit-posztokból származik, ami nem meglepő, tekintve hogy az OpenAI mellett a Google-lel is megállapodásban áll a felület az ott megjelenő tartalmak tanítási célú felhasználását illetően.
A Google figyelmezteti a felhasználókat, hogy bár egy évnyi tesztelésen már túl van az AI Overview, a projekt egyelőre csak kísérleti jelleggel próbálható ki. A cég reakciójában jelezte, hogy elszigetelt példákról van szó, és az AI Overview funkció általában kiválóan teszi a dolgát.
A mesterséges intelligencia áttekintésére szolgáló eszköz általában kiváló minőségű információkat nyújt, linkekkel megtámogatva, amelyekkel mélyebbre áshat az ember az interneten.
– áll a cég közleményében, hozzátéve, hogy ahol politikai problémákat találnak, ott lépéseket tesznek, és finomítják a rendszert. Sundar Pichai vezérigazgató azóta szintén elismerte, hogy a fejlesztésnek vannak hallucinációs gondjai.
