Tech

Még a Microsoft arcfelismerője is rasszista

A Microsoft nem adta el az arcfelismerő technológiáját egy kaliforniai bűnüldöző szervezetnek és egy meg nem nevezett országnak, mert az még nem tökéletes, és bajba keverhetne ártatlan nőket és kisebbségeket – derül ki a CNet cikkéből. A fals működés oka egész egyszerűen az, hogy ezeket a rendszereket jellemzően fehér, középkorú férfiakon tréningezik, ami azzal jár együtt, hogy ebben a kategóriában elfogadható egyedül a pontossági arányuk.

Rasszisták lehetnek az önvezető autók
Kevésbé ismerik fel a sötét bőrszínt, mint a világosat, ezért balesetveszélyesek lehetnek.

A Microsoft elnöke, Brad Smith elmondta, hogy a bűnüldöző szervezet az autókra és a beosztottakra akarta szerelni az ilyen rendszerrel felszerelt kamerákat, hogy azonnal lefuttasson egy ellenőrzést azokon, akiket félreállított az úton. A módszer azonban

gyakori hibákat produkált volna a kisebbségek esetében, és valószínűleg a nőknél is. 

A vállalat egy amerikai börtönnek eladott hasonló technológiát, Smith szerint azért, mert itt egy kontrollált, zárt környezetben használják csak, ahol kisebb a hibahatár. A Microsoft nem árult el többet a CNetnek, az információk Smith a Stanford Egyetemen elhangzott előadásából származtak.

Még decemberben ugyanúgy a vállalat elnöke szólalt fel azért, hogy az ilyen arcfelismerő technológiákat szabályozni kéne, mert nagy részüket ugyanúgy tanítják, mint a Microsoftét. “Muszáj meggyőződnünk arról, hogy a 2024-es év nem fog úgy kinézni, mintha egy oldal lenne az 1984 című könyvből” – mondta korábban.

Ajánlott videó

Olvasói sztorik