A koronavírus-járvány hatására gyors fejlődésnek indult a távorvoslás, melynek lényege, hogy nem kell bebaktatnunk a rendelőbe minden alkalommal, amikor valamiféle panaszunk van, hanem a szakorvosok online is képesek diagnosztizálni. Ezt legtöbbször videókapcsolaton keresztül végzik, ám sok esetben egy képet is elég beküldeni ahhoz, hogy kiderüljön, mi a bajunk. Hasonlóképpen járt el egy apa is az Egyesült Államokban, azonban később közbe szólt a modern technológia: a Google ugyanis fia ágyékáról készített képe miatt pedofilnak nézte a férfit – írja a New York Times.
A doktor a felvételeket felhasználva antibiotikumot írt fel a gyermek ágyékgyulladására, ám amikor a fotók a felhőben is megjelentek, a technológiai vállalat algoritmusa sértőnek találta a tartalmat. A Facebookhoz, a Twitterhez és a Reddithez hasonlóan a Google is a Microsoft PhotoDNS-ével pásztázza a feltöltött képeket, gyermekek szexuális zaklatásáról szóló tartalmak után kutatva.
A Google emellett a telefonján lévő egyik videót is megjelölte, így a San Franciscó-i rendőrség eljárást indított a férfi ellen. A Markként emlegetett, ártatlanul meghurcolt férfit végül minden vád alól felmentették, fiókját azonban továbbra sem állította vissza a cég. Emellett névjegyeihez, fotóihoz és telefonszámához való hozzáférését is elveszítette, mivel a Google Fi mobilszolgáltatást használta.
Szakemberek régóta figyelmeztetnek arra, hogy az ilyen algoritmusok meglehetősen korlátozott képességekkel bírnak. Bár Christa Muldoon, a Google szóvivője szerint a moderátorokat orvosok képezték ki, azt elismerte, a tényleges szűrést végző szakemberek közül senkinek sincs orvosi diplomája, és nem is látta egyetlen szakképzetséggel rendelkező személy sem a felvételeket.
Daniel Kahn Gillmor, az American Civil Liberties Union nevű jogvédő szervezet munkatársa szerint bár a technológiai vállalatok a felhasználók életével kapcsolatos hatalmas adatmennyiséghez férnek hozzá, mégsem ismerik őket, így nincs minden esetben joguk ítéletet hozni.
A felhasználók adatainak áttekintésével kapcsolatos aggodalmak már tavaly is előkerült, amikor az Apple bejelentette, olyan gyermekvédelmi terv részeként pásztázná a felhasználók eszközein lévő képeket és videókat, mielőtt feltöltenék az iCloudba. A tervek szerint ezeket összehasonlították volna eltűnt és kizsákmányolt gyermekek központjának (NCMEC) adatbázisával, és ha egyezést talál, egy emberi moderátor zárolja a fiókat.
A tömeges felhasználói panaszok hatására végül az Apple elvetette ezt a tervét, de az iOS 15.2-es frissítésében elhelyezett egy opcionális gyermekvédelmi funkciót, teszi hozzá a Verge.
