Az elmúlt hónapok terrortámadásai után a Google alelnöke és jogtanácsosa, Kent Walker jelentette be blogbejegyzésben, hogy milyen új intézkedésekkel kívánja a keresőóriás felvenni a harcot a terrorizmussal szemben. A bejelentés azután érkezett, hogy a brit hatóságok szerint „az internet a szélsőséges eszmék petricsészéje”, és törvényekkel próbálnák kötelezni a techcégeket a hatékonyabb intézkedésekre.
Ahogy a cég írja, már most is több fejlesztést alkalmaznak aktívan: képfelismerő technológiával akadályozzák meg, hogy az egyszer már eltávolított szélsőséges tartalmak ismét felkerüljenek az oldalra, illetve emberi moderátorok segítik munkájukat abban, hogy a tiltott tartalmakat eltávolíthassák.
Mindez azonban mégsem elég hatékony, ezért a cég most négy új intézkedést jelentett be. Elsőként a szélsőséges eszmékhez kapcsolódó videók azonosításához használt technológiájukat fejlesztik tovább, ami több szempontból is problémás feladat. Egy terrortámadást ábrázoló felvétel lehet informatív is, például a BBC egyik adásán keresztül juthat el az emberekhez – de a feltöltött videó származhat egy szélsőséges szimpatizánstól is, aki büszkélkedésként tölti fel azt a videomegosztóra, így erősen a kontextustól függ, hogy egy videót végül törölnie kell-e az oldalról.
A keresőóriás olyan módon fejleszti tovább a gépi tanulási algoritmust, hogy az korábban elemzett videók alapján felállított modellek segítségével könnyebben különbséget tehessen ilyen helyzetekben.
Fejlettebb gép, több ember
Növelik a független szakértők számát is a YouTube Trusted Flagger programján belül. Ugyan az algoritmusok segíthetnek a problémás videók azonosításában, de sok esetben az emberi szakértők segíthetnek kimondani a végszót a több szempontból is kérdéses tartalmak esetében.
Míg az átlagfelhasználók által küldött bejelentések nagy része nem indokolt, addig a programban részt vevő, megbízhatónak minősített jelentők több mint 90 százalékos pontossággal dolgoznak, ami nagy segítség a cég számára.
Szigorúbban fogják kezelni azon videókat, amelyek ugyan nem sértik meg az oldal felhasználói szabályzatát, de erőszakra buzdítanak. A videó mellett megjelenő figyelmeztetésen túl több korlátozást is bevezetnek ezen tartalmakra: nem lehet reklámokat kihelyezni, és ezáltal bevételre szert tenni, emellett nem jelennek meg az ajánlott videók közt sem.
Európában élesben is elkezdik használni a Jigsaw tech inkubátor fejlesztését, melynek lényege, hogy a Google-ben az Iszlám Államra kereső, vagy az iránt érdeklődést mutató netezőket olyan oldalakra, videókra irányítja át a kereső, amelyek próbálják megelőzni azt, hogy csatlakozzanak bármilyen szélsőséges csoporthoz. Eddig közel félmillió percnyi ilyen megelőző jellegű, terrorellenes tartalmat néztek a netezők, és az első tesztek meglehetősen jó eredményeket hoztak.
A Google emellett a Facebook, a Microsoft és a Twitter techcégekkel fog együtt dolgozni egy nemzetközi fórum keretén belül, hogy egymás közt is fejleszthessék technológiáikat, és támogassák a kisebb cégek munkáját is.
