Mobil

Mindenkit kifehérít a rasszistának bélyegzett szelfiszerkesztő

Dömös Zsuzsanna
Dömös Zsuzsanna

tech-újságíró. 2017. 04. 27. 11:10

Az elmúlt hetekben tarolt a FaceApp nevű képszerkesztő, ami több felhasználó szerint is rasszista töltetű: az app szépítő funkciója nemcsak babapofit, de akár több árnyalattal is világosabb bőrszínt varázsol az alanynak. A fejlesztők bocsánatot kértek.
Korábban a témában:

Tavaly nagy visszhangot keltett a Microsoft mesterséges intelligenciával turbózott Tay nevű chatbotja, ami csak pár napot tölthetett az interneten. A magától tanuló, beszélgető robotot hamar betámadták a trollok, és olyan rasszista válaszokat adtak szájába, amelyeket a bot végül beépített, és későbbi beszélgetéseiben is felhasznált. Miután a felhasználóknál ez kicsapta a biztosítékot, és a redmondiak sem tudták kezelni a helyzetet, a szolgáltatás végül elérhetetlenné vált.

Ezúttal a FaceApp nevű mobilos képszerkesztő körül alakult ki hasonló minibotrány. A pár hete elérhető app szelfik, vagy a telefonon tárolt fotók alapján alakít át arcokat szinte felismerhetetlenné. Olyan radikális változtatásokat végezhetünk el vele, mint az öregítés, vagy a nemünk megváltoztatása, és a végeredmény a legtöbb esetben egész látványos.

Az alkalmazásban van egy „hotness” nevű filter is (most már “spark” néven találjuk meg), ami több felhasználó szerint is rasszista töltetű. A szűrő ígérete szerint kívánatosabbá varázsol minket, sok okostelefon beépített kamerájában ez felel meg a „szépítés” funkciónak. A megfelelő hatás érdekében az app viszont több árnyalattal is világosítja a bőrt. Barack Obamával például ezt műveli:

Obama elsápadt a babapofi mellé. Forrás: 24.hu

Mint kiderült, ez nem szándékos döntés a fejlesztők részéről. A FaceApp mesterséges intelligenciájának fejlesztéséhez olyan nyílt projektekből használtak fel kódokat a készítők, mint például a Google Tensorflowja, így nem magával az app működésével van baj.

A FaceApp alapítója, Yaroslav Goncharov a TechCrunchnak erősítette meg, hogy a neurális hálózat kiképzéséhez használt, betáplált referenciafotók miatt viselkedik így az alkalmazás. A moszkvai fejlesztők valószínűleg nem figyeltek oda a diverzitásra, amikor kiválogatták a fotókat, és mivel feltehetően több világos bőrszínű fotót válogattak be, ez kihat a végeredményre is. Ez az eset is felhívja a figyelmet annak fontosságára, hogy milyen kimenetele lehetnek annak, ha egy vizualitásra támaszkodó program nem kellően változatos adatbázis alapján készül.

„Sajnáljuk ezt a valóban megkérdőjelezhetetlen fontosságú problémát. Ez egy szerencsétlen velejárója annak, hogy milyen fotók alapján képeztük ki a program alatt nyugvó neurális hálózatot. A filtert átneveztük olyan módon, hogy ahhoz ne kapcsolódjon pozitív asszociáció, és hamarosan az effekt működését is átalakítjuk” – kért elnézését a cégvezető, bár a cikk írásának pillanatában még mindig a fentebb ecsetelt módon működik.

A FaceApp letölthető androidos és iOS-es eszközökre is ingyen, az alábbi linkeken:

vissza a címlapra

Legfrissebb videó mutasd mind

Kommentek

Budapest, 2011. július 19.
Ikarus 280-as autóbuszok várakoznak átvizsgálásra a BKV dél-pesti garázsában.
MTI Fotó: Máthé Zoltán
Nézd meg a legfrissebb cikkeinket a címlapon!
24-logo

Engedélyezi, hogy a 24.hu értesítéseket
küldjön Önnek a kiemelt hírekről?
Az értesítések bármikor kikapcsolhatók
a böngésző beállításaiban.