Mobil

Mindenkit kifehérít a rasszistának bélyegzett szelfiszerkesztő

Dömös Zsuzsanna
Dömös Zsuzsanna

tech-újságíró. 2017. 04. 27. 11:10

Az elmúlt hetekben tarolt a FaceApp nevű képszerkesztő, ami több felhasználó szerint is rasszista töltetű: az app szépítő funkciója nemcsak babapofit, de akár több árnyalattal is világosabb bőrszínt varázsol az alanynak. A fejlesztők bocsánatot kértek.
Korábban a témában:

Tavaly nagy visszhangot keltett a Microsoft mesterséges intelligenciával turbózott Tay nevű chatbotja, ami csak pár napot tölthetett az interneten. A magától tanuló, beszélgető robotot hamar betámadták a trollok, és olyan rasszista válaszokat adtak szájába, amelyeket a bot végül beépített, és későbbi beszélgetéseiben is felhasznált. Miután a felhasználóknál ez kicsapta a biztosítékot, és a redmondiak sem tudták kezelni a helyzetet, a szolgáltatás végül elérhetetlenné vált.

Ezúttal a FaceApp nevű mobilos képszerkesztő körül alakult ki hasonló minibotrány. A pár hete elérhető app szelfik, vagy a telefonon tárolt fotók alapján alakít át arcokat szinte felismerhetetlenné. Olyan radikális változtatásokat végezhetünk el vele, mint az öregítés, vagy a nemünk megváltoztatása, és a végeredmény a legtöbb esetben egész látványos.

Az alkalmazásban van egy „hotness” nevű filter is (most már “spark” néven találjuk meg), ami több felhasználó szerint is rasszista töltetű. A szűrő ígérete szerint kívánatosabbá varázsol minket, sok okostelefon beépített kamerájában ez felel meg a „szépítés” funkciónak. A megfelelő hatás érdekében az app viszont több árnyalattal is világosítja a bőrt. Barack Obamával például ezt műveli:

Obama elsápadt a babapofi mellé. Forrás: 24.hu

Mint kiderült, ez nem szándékos döntés a fejlesztők részéről. A FaceApp mesterséges intelligenciájának fejlesztéséhez olyan nyílt projektekből használtak fel kódokat a készítők, mint például a Google Tensorflowja, így nem magával az app működésével van baj.

A FaceApp alapítója, Yaroslav Goncharov a TechCrunchnak erősítette meg, hogy a neurális hálózat kiképzéséhez használt, betáplált referenciafotók miatt viselkedik így az alkalmazás. A moszkvai fejlesztők valószínűleg nem figyeltek oda a diverzitásra, amikor kiválogatták a fotókat, és mivel feltehetően több világos bőrszínű fotót válogattak be, ez kihat a végeredményre is. Ez az eset is felhívja a figyelmet annak fontosságára, hogy milyen kimenetele lehetnek annak, ha egy vizualitásra támaszkodó program nem kellően változatos adatbázis alapján készül.

„Sajnáljuk ezt a valóban megkérdőjelezhetetlen fontosságú problémát. Ez egy szerencsétlen velejárója annak, hogy milyen fotók alapján képeztük ki a program alatt nyugvó neurális hálózatot. A filtert átneveztük olyan módon, hogy ahhoz ne kapcsolódjon pozitív asszociáció, és hamarosan az effekt működését is átalakítjuk” – kért elnézését a cégvezető, bár a cikk írásának pillanatában még mindig a fentebb ecsetelt módon működik.

A FaceApp letölthető androidos és iOS-es eszközökre is ingyen, az alábbi linkeken:

vissza a címlapra

Kommentek

Legfrissebb videó mutasd mind

US actress Sharon Stone arrives on May 21, 2013 for the screening of the film "Behind the Candelabra" presented in Competition at the 66th edition of the Cannes Film Festival in Cannes. Cannes, one of the world's top film festivals, opened on May 15 and will climax on May 26 with awards selected by a jury headed this year by Hollywood legend Steven Spielberg.     AFP PHOTO / LOIC VENANCE / AFP PHOTO / LOIC VENANCE
Nézd meg a legfrissebb cikkeinket a címlapon!
24-logo

Engedélyezi, hogy a 24.hu értesítéseket
küldjön Önnek a kiemelt hírekről?
Az értesítések bármikor kikapcsolhatók
a böngésző beállításaiban.