Nagyon kiakadt a Google Photos alkalmazás egyik amerikai felhasználója. A szoftver egyik funkciója, hogy a felhasználók fotóit képfelismerő algoritmussal azonosítja és szétválogatja. Ez Jacky Alcine képein nagyrészt működött is: sikeresen azonosította a program, hogy melyik képek készültek felhőkarcolókról, autókról, biciklikről, repülőgépekről, de még egy diplomaosztóról készült képet is felismert a talár alapján. A kellemetlen hiba azoknál a képeknél jött elő, amelyek a fekete férfit barátnőjével ábrázolják – azt ugyanis egy „Gorillák” nevű mappába tette a program.
Alcine a Twitteren osztotta meg, hogy miként azonosította őket az alkalmazás, amire azonnal válaszolt is a Google egyik szoftvermérnöke, elnézést kért és jelezte, hogy javítják a hibát. Ugyanakkor nem ez volt az első eset, hogy „rasszizmus” vádja érte a képfelismerő szoftvereket: egy ázsiai nő például arra panaszkodott, hogy minden róla készült fényképnél figyelmezteti a kamerája, hogy ne pislogjon.
A mérnökök folyamatosan dolgoznak azon, hogy ilyen kínos hibák ne forduljanak elő, de a képfelismerő algoritmusok működésébe kódolva van a hiba lehetősége: míg mi, emberek könnyedén ismerjük fel az arcokat, tárgyakat, tájakat, a szoftverek egyszerűbb formákra, színekre lebontva próbálják kitalálni, hogy mi van a képeken.
