Tech

Négy lépésben vetne véget a kiberterrornak a Google

A mesterséges intelligencia sem teljesen megbízható, ezért a Google még több szakértővel és átirányított tartalmakkal próbálja lassítani a szélsőséges eszmék online terjedését a YouTube videómegosztón.
Korábban a témában:

Az elmúlt hónapok terrortámadásai után a Google alelnöke és jogtanácsosa, Kent Walker jelentette be blogbejegyzésben, hogy milyen új intézkedésekkel kívánja a keresőóriás felvenni a harcot a terrorizmussal szemben. A bejelentés azután érkezett, hogy a brit hatóságok szerint „az internet a szélsőséges eszmék petricsészéje”, és törvényekkel próbálnák kötelezni a techcégeket a hatékonyabb intézkedésekre.

Ahogy a cég írja, már most is több fejlesztést alkalmaznak aktívan: képfelismerő technológiával akadályozzák meg, hogy az egyszer már eltávolított szélsőséges tartalmak ismét felkerüljenek az oldalra, illetve emberi moderátorok segítik munkájukat abban, hogy a tiltott tartalmakat eltávolíthassák.

Forrás: Jaap Arriens/NurPhoto

Mindez azonban mégsem elég hatékony, ezért a cég most négy új intézkedést jelentett be. Elsőként a szélsőséges eszmékhez kapcsolódó videók azonosításához használt technológiájukat fejlesztik tovább, ami több szempontból is problémás feladat. Egy terrortámadást ábrázoló felvétel lehet informatív is, például a BBC egyik adásán keresztül juthat el az emberekhez – de a feltöltött videó származhat egy szélsőséges szimpatizánstól is, aki büszkélkedésként tölti fel azt a videomegosztóra, így erősen a kontextustól függ, hogy egy videót végül törölnie kell-e az oldalról.

A keresőóriás olyan módon fejleszti tovább a gépi tanulási algoritmust, hogy az korábban elemzett videók alapján felállított modellek segítségével könnyebben különbséget tehessen ilyen helyzetekben.

Fejlettebb gép, több ember

Növelik a független szakértők számát is a YouTube Trusted Flagger programján belül. Ugyan az algoritmusok segíthetnek a problémás videók azonosításában, de sok esetben az emberi szakértők segíthetnek kimondani a végszót a több szempontból is kérdéses tartalmak esetében.

Míg az átlagfelhasználók által küldött bejelentések nagy része nem indokolt, addig a programban részt vevő, megbízhatónak minősített jelentők több mint 90 százalékos pontossággal dolgoznak, ami nagy segítség a cég számára. Az eddigi 63 szervezeten felül további 50 szakértő fogja segíteni munkájukat.

Szigorúbban fogják kezelni azon videókat, amelyek ugyan nem sértik meg az oldal felhasználói szabályzatát, de erőszakra buzdítanak. A videó mellett megjelenő figyelmeztetésen túl több korlátozást is bevezetnek ezen tartalmakra: nem lehet reklámokat kihelyezni, és ezáltal bevételre szert tenni, emellett nem jelennek meg az ajánlott videók közt sem.

Európában élesben is elkezdik használni a Jigsaw tech inkubátor fejlesztését, melynek lényege, hogy a Google-ben az Iszlám Államra kereső, vagy az iránt érdeklődést mutató netezőket olyan oldalakra, videókra irányítja át a kereső, amelyek próbálják megelőzni azt, hogy csatlakozzanak bármilyen szélsőséges csoporthoz. Eddig közel félmillió percnyi ilyen megelőző jellegű, terrorellenes tartalmat néztek a netezők, és az első tesztek meglehetősen jó eredményeket hoztak.

A Google emellett a Facebook, a Microsoft és a Twitter techcégekkel fog együtt dolgozni egy nemzetközi fórum keretén belül, hogy egymás közt is fejleszthessék technológiáikat, és támogassák a kisebb cégek munkáját is.

Ajánlott videó mutasd mind

Ha kommentelni, beszélgetni, vitatkozni szeretnél, vagy csak megosztanád a véleményedet másokkal, a 24.hu Facebook-oldalán teheted meg. Ha bővebben olvasnál az okokról, itt találsz válaszokat.

A cikkhez ide kattintva szólhatsz hozzá.
24-logo

Engedélyezi, hogy a 24.hu értesítéseket
küldjön Önnek a kiemelt hírekről?
Az értesítések bármikor kikapcsolhatók
a böngésző beállításaiban.