Mobil

Mindenkit kifehérít a rasszistának bélyegzett szelfiszerkesztő

Dömös Zsuzsanna
Dömös Zsuzsanna

tech-újságíró. 2017. 04. 27. 11:10

Az elmúlt hetekben tarolt a FaceApp nevű képszerkesztő, ami több felhasználó szerint is rasszista töltetű: az app szépítő funkciója nemcsak babapofit, de akár több árnyalattal is világosabb bőrszínt varázsol az alanynak. A fejlesztők bocsánatot kértek.
Korábban a témában:

Tavaly nagy visszhangot keltett a Microsoft mesterséges intelligenciával turbózott Tay nevű chatbotja, ami csak pár napot tölthetett az interneten. A magától tanuló, beszélgető robotot hamar betámadták a trollok, és olyan rasszista válaszokat adtak szájába, amelyeket a bot végül beépített, és későbbi beszélgetéseiben is felhasznált. Miután a felhasználóknál ez kicsapta a biztosítékot, és a redmondiak sem tudták kezelni a helyzetet, a szolgáltatás végül elérhetetlenné vált.

Ezúttal a FaceApp nevű mobilos képszerkesztő körül alakult ki hasonló minibotrány. A pár hete elérhető app szelfik, vagy a telefonon tárolt fotók alapján alakít át arcokat szinte felismerhetetlenné. Olyan radikális változtatásokat végezhetünk el vele, mint az öregítés, vagy a nemünk megváltoztatása, és a végeredmény a legtöbb esetben egész látványos.

Az alkalmazásban van egy „hotness” nevű filter is (most már “spark” néven találjuk meg), ami több felhasználó szerint is rasszista töltetű. A szűrő ígérete szerint kívánatosabbá varázsol minket, sok okostelefon beépített kamerájában ez felel meg a „szépítés” funkciónak. A megfelelő hatás érdekében az app viszont több árnyalattal is világosítja a bőrt. Barack Obamával például ezt műveli:

Obama elsápadt a babapofi mellé. Forrás: 24.hu

Mint kiderült, ez nem szándékos döntés a fejlesztők részéről. A FaceApp mesterséges intelligenciájának fejlesztéséhez olyan nyílt projektekből használtak fel kódokat a készítők, mint például a Google Tensorflowja, így nem magával az app működésével van baj.

A FaceApp alapítója, Yaroslav Goncharov a TechCrunchnak erősítette meg, hogy a neurális hálózat kiképzéséhez használt, betáplált referenciafotók miatt viselkedik így az alkalmazás. A moszkvai fejlesztők valószínűleg nem figyeltek oda a diverzitásra, amikor kiválogatták a fotókat, és mivel feltehetően több világos bőrszínű fotót válogattak be, ez kihat a végeredményre is. Ez az eset is felhívja a figyelmet annak fontosságára, hogy milyen kimenetele lehetnek annak, ha egy vizualitásra támaszkodó program nem kellően változatos adatbázis alapján készül.

„Sajnáljuk ezt a valóban megkérdőjelezhetetlen fontosságú problémát. Ez egy szerencsétlen velejárója annak, hogy milyen fotók alapján képeztük ki a program alatt nyugvó neurális hálózatot. A filtert átneveztük olyan módon, hogy ahhoz ne kapcsolódjon pozitív asszociáció, és hamarosan az effekt működését is átalakítjuk” – kért elnézését a cégvezető, bár a cikk írásának pillanatában még mindig a fentebb ecsetelt módon működik.

A FaceApp letölthető androidos és iOS-es eszközökre is ingyen, az alábbi linkeken:

vissza a címlapra

Kommentek

Legfrissebb videó mutasd mind

German Chancellor and CDU party leader Angela Merkel (C) addresses supporters after exit poll results were broadcasted on public television at an election night event at the party's headquarters in Berlin during the general election on September 24, 2017.
Germany voted in a general election expected to hand Chancellor Angela Merkel a fourth term, while the hard-right Alternative for Germany (AfD) party is predicted to win its first seats in the national parliament. / AFP PHOTO / Odd ANDERSEN
Nézd meg a legfrissebb cikkeinket a címlapon!
24-logo

Engedélyezi, hogy a 24.hu értesítéseket
küldjön Önnek a kiemelt hírekről?
Az értesítések bármikor kikapcsolhatók
a böngésző beállításaiban.