Tech

A mi hibánk, ha a robotok rasszisták lesznek

Gyakorlatilag megszámlálhatatlan mennyiségű előítélet bombáz minket minden egyes nap – még akkor is, ha úgy gondoljuk, hogy viszonylag árnyaltan látjuk a világot, és nem hagyjuk, hogy befolyásoljanak minket a prekoncepcióink. Az IBM Think 2020 konferencián, amit ezúttal online követhetünk, Robin Hauser, a Bias című dokumentumfilm rendezője és producere beszélt arról, hogy valószínűleg nincs olyan ember a Földön, akinek ne volnának előítéletei, és valamilyen szinten ne azok mentén gondolkodna, cselekedne.

Az őseinket segítették, minket már hátráltatnak az előítéletek

Evolúciós szempontból az előítéleteknek nagyon fontos szerepük volt: az őseinket megvédték a veszélyektől, hiszen alapvetően elutasítottak miattuk mindenkit, aki a csoporton kívüli, idegen volt. Ez az őskorban, sőt, talán még később is elősegítette a túlélést, és erősítette a csoport összetartozását. „Most azonban, hogy – szerencsére – egyre sokszínűbb társadalomban élünk, és sokféle ember vesz minket körül, az előítéleteknek kevesebb a létjogosultságuk” – mondta Hauser. „Már nem segítenek, inkább hátráltatnak minket.”

A koronavírus-világjárvánnyal kapcsolatban is érzékelni lehetett, és még mindig lehet is, az előítéleteket: az Egyesült Államokban például Hauser szerint az ázsiai éttermeket jobban érinti a válság, mert kevesebben vásárolnak tőlük, arról nem is beszélve, hogy milyen különböző atrocitások érik az Amerikában élő ázsiai származásúakat.

Az előítéletet nagyon nehéz mérni, de a Harvard Egyetem kutatói készítettek néhány olyan kérdőívet, amelyek segítségével bárki letesztelheti, mennyire előítéletes. A kitöltéshez ugyan kell némi angoltudás, mégis

reális képet ad arról, hogy különböző témákban mennyire befolyásolt a gondolkodásmódunk.

Hauser, aki magát nőjogi aktivistának is tartja, meglepődve tapasztalta, hogy mérsékelten előítéletes azzal kapcsolatban, hogy a férfit a karrierrel, a nőt pedig a családdal azonosítja. A tesztek ide kattintva érhetők el.

Hauser azt is kifejtette, hogy az előítéletesség nem feltétlenül olyan dolog, amit tudatosan sajátítunk el, legtöbbször a neveltetésünk és a kultúránk is befolyásolja, hogyan látjuk a többi embert, rasszt, népcsoportot, a másik nemet. Probléma csak akkor van igazán, ha nem tudunk ezeken az előítéleteken túllépni.

Olyan embert veszünk fel magunk mellé, aki hasonlít ránk

„A munkahelyen gyakran megjelenik az előítéletesség, még akkor is, ha nem szándékos” – mondta a rendező. „Hajlamosak vagyunk például olyan embert felvenni, aki hasonlít hozzánk, ezért néz ki a Szilícium-völgy úgy, ahogy. Még annak ellenére is ezt csináljuk, hogy tudjuk, nem a leghatékonyabb, nem a legjobb megoldás.”

Kép: Getty Images

A munkahelyi előítéletességhez kapcsolódik a kompetencia / szerethetőség dilemma (competence / likeability dilemma), ami a nőket érinti: jellemzően egy női munkatársat vagy kompetensnek, vagy szerethetőnek gondolunk, de a kettő együtt nagyon nehezen szerepel. Ez azért van így, mert egy kompetens, határozott, munkájában sikeres nő tulajdonságaival ellene megy azoknak a jellemvonásoknak, amiket az emberek a nőkben szerethetőnek szoktak tartani (kedves, elnéző, megértő, satöbbi). Hiába tudjuk, hogy egy határozott főnök lehet egyébként kedves is, a nőknél az előítéletek miatt a kettőt nehéz összeegyeztetnünk.

Rasszista robotokat nevelünk

Hauser kitért arra is, hogy nagy felelősségünk van az előítéletek mérséklésében, mivel a mesterséges intelligenciát használó gépek a saját előítéleteink miatt átépítik az elfogultságot saját „gondolkodásmódjukba” is. Ha például beírjuk egy képkeresőbe, hogy „nagymama”, leginkább fehér, ősz hajú idős nőket fog kidobni, ha egy gép ebből tanul,

nagyon torz képe lesz arról, hogy is néz ki egy nagymama valójában.

Ugyanez a helyzet például a rendőrségi szoftverekkel is: ha tanítjuk a mesterséges intelligenciát, és beletápláljuk az eddigi bűnüldözési adatokat, azt hihetnénk, hogy objektív képet kap a bűnözésről. Csakhogy az Egyesült Államokban például ötször nagyobb az esélye annak, hogy egy afroamerikai embert ugyanazért a bűnért elítéljenek, mint egy fehéret. Így már mindjárt sántít a statisztika, és nem lesz objektív a mesterséges intelligencia sem.

A mi feladatunk az, hogy ezeket az előítéleteket kiszűrjük, mert a gépek nem tudják helyettünk elvégezni a munkát. Ugyanez a helyzet a mindennapokban is: mindenki előítéletes, a lényeg viszont az, hogy felismerjük, ha azok vagyunk, és ne ez motiválja a tetteinket.

Ha kommentelni, beszélgetni, vitatkozni szeretnél, vagy csak megosztanád a véleményedet másokkal, a 24.hu Facebook-oldalán teheted meg. Ha bővebben olvasnál az okokról, itt találsz válaszokat.

A cikkhez ide kattintva szólhatsz hozzá.
24-logo

Engedélyezi, hogy a 24.hu értesítéseket
küldjön Önnek a kiemelt hírekről?
Az értesítések bármikor kikapcsolhatók
a böngésző beállításaiban.