Nem újdonság, hogy néhány arcfelismerő rendszer rosszabbul működik a sötétebb bőrű emberek esetében – a Georgia Műszaki Intézet kutatói most azt is kiderítették, hogy ugyanígy megbízhatatlan az önvezető autók korszerű tárgyfelismerő rendszere is, vagyis az az arcfelismerő módszer, ami beazonosítja az utcán járókat a kocsi számára. A kutatók rájöttek, hogy a sötét bőrű embereket nehezebben ismeri fel az algoritmus, ami potenciálisan veszélyes is lehet számukra, hiszen
Az arXiv-on megjelent tanulmány szerint elég nagy a baj, komoly teljesítménycsökkenést lehetett észrevenni, amikor sötét bőrű járókelőket ismert fel a mesterséges intelligencia. A kutatók a bőrtípusok azonosítására használt Fitzpatrick-skálát alkalmazták a különböző bőrszínek megállapítására, és kiderült, hogy a sötétebb spektrumba sorolt bőrszínekkel már komoly gondja akadt az algoritmusnak. Összességében 5 százalékkal többet rontott a mesterséges intelligencia akkor, ha sötét bőrű járókelőket kellett felismernie, mint akkor, amikor világosabb bőrszínnel rendelkezőkkel találkozott.
Az 5 százalék nem tűnhet soknak, de komolyan megemeli a balesetek lehetőségét a sötét bőrű járókelők között, ezért a Georgia Műszaki Intézet kutatóinak már megoldása is van a problémára: sokkal több sötét bőrű emberről készült mintával kell táplálni ezeket a maguktól tanuló algoritmusokat ahhoz, hogy a fehér bőrű járókelők felismeréséhez hasonló eredményeket érjenek el. Most ugyanis az a probléma, hogy a sötét bőrű emberek alulreprezentáltak a világosabb bőrűekhez képest, a gépnek pedig nyilvánvalóan az fog jobban menni, amiről több információja van, és amiből többet tanulhat.
