Tavaly nagy visszhangot keltett a Microsoft mesterséges intelligenciával turbózott Tay nevű chatbotja, ami csak pár napot tölthetett az interneten. A magától tanuló, beszélgető robotot hamar betámadták a trollok, és olyan rasszista válaszokat adtak szájába, amelyeket a bot végül beépített, és későbbi beszélgetéseiben is felhasznált. Miután a felhasználóknál ez kicsapta a biztosítékot, és a redmondiak sem tudták kezelni a helyzetet, a szolgáltatás végül elérhetetlenné vált.
Ezúttal a FaceApp nevű mobilos képszerkesztő körül alakult ki hasonló minibotrány. A pár hete elérhető app szelfik, vagy a telefonon tárolt fotók alapján alakít át arcokat szinte felismerhetetlenné.
Az alkalmazásban van egy „hotness” nevű filter is (most már “spark” néven találjuk meg), ami több felhasználó szerint is rasszista töltetű. A szűrő ígérete szerint kívánatosabbá varázsol minket, sok okostelefon beépített kamerájában ez felel meg a „szépítés” funkciónak. A megfelelő hatás érdekében az app viszont több árnyalattal is világosítja a bőrt. Barack Obamával például ezt műveli:
Mint kiderült, ez nem szándékos döntés a fejlesztők részéről. A FaceApp mesterséges intelligenciájának fejlesztéséhez olyan nyílt projektekből használtak fel kódokat a készítők, mint például a Google Tensorflowja, így nem magával az app működésével van baj.
A FaceApp alapítója, Yaroslav Goncharov a TechCrunchnak erősítette meg, hogy a neurális hálózat kiképzéséhez használt, betáplált referenciafotók miatt viselkedik így az alkalmazás. és mivel feltehetően több világos bőrszínű fotót válogattak be, ez kihat a végeredményre is. Ez az eset is felhívja a figyelmet annak fontosságára, hogy milyen kimenetele lehetnek annak, ha egy vizualitásra támaszkodó program nem kellően változatos adatbázis alapján készül.
„Sajnáljuk ezt a valóban megkérdőjelezhetetlen fontosságú problémát. Ez egy szerencsétlen velejárója annak, hogy milyen fotók alapján képeztük ki a program alatt nyugvó neurális hálózatot. A filtert átneveztük olyan módon, hogy ahhoz ne kapcsolódjon pozitív asszociáció, és hamarosan az effekt működését is átalakítjuk” – kért elnézését a cégvezető, bár a cikk írásának pillanatában még mindig a fentebb ecsetelt módon működik.
A FaceApp letölthető androidos és iOS-es eszközökre is ingyen, az alábbi linkeken:
