Tudomány

Jön az online zaklatás szűrő – trollok, reszkessetek!

Horváth Balázs
Horváth Balázs

újságíró. 2016. 07. 29. 10:15

Egy új módszer nagy hatékonysággal gyomlálja ki a támadó kommenteket a netről.

A netes trollok tevékenysége jól ismert mindenki előtt, talán nem is lenne olyan érdekes az online világ nélkülük. Az uszító, zaklató, vagy egyszerűen csak rosszindulatú hozzászólásokban a magyarok kivételesen jók (sajnos), de a jelenség globális, amit a szolgáltatók folyamatosan igyekeznek valahogy kezelni, vagy a háttérbe szorítani.

Egy bizonyos felhasználói számon túl a manuális moderáció lehetetlenné válik, mivel ehhez túlságosan sok embert kellene alkalmazni. A cégek ezért inkább a mesterséges intelligenciát, illetve az úgynevezett gépi tanulás (machine learning) módszerét alkalmazzák, hogy kiszűrjék a kommentekből a trágár szavakat, a megalázó, faji, nemi megkülönböztetésen alapuló megjegyzéseket, vagy akár szexuális jellegű támadásokat.

Eddig nem sok siker fűződött ezekhez a próbálkozásokhoz, de a Yahoo szakemberei valószínűleg megtalálták a jó receptet. A szolgáltató munkatársai megjelölték azokat a szavakat, amelyek trollkodásra utalhatnak, és kiindulásként leprogramoztak egy algoritmust. A szoftver ez alapján keres és szűr, a Yahoo azonban annyival ment tovább, hogy ezzel a módszerrel nem csak az önálló szavakat, hanem egész mondatokat, gondolatokat is képes elcsípni.

Ennek azért van nagy jelentősége, mert így azok a kommentek is kiszűrhetők, amelyek nem feltétlenül a feketelistán szereplő kifejezéseket használják, vagy azokat nem abba a sorrendben, ahogy az egyébként várható lenne. A témában jártas szakértők szerint ez rendkívül nehéz feladat, hiszen az emberi találékonyság határtalan, és a nyelvi finomságokat még mindig nagyon nehéz megtanítani egy szoftvernek.

A Yahoo eljárása jelenleg az esetek 90 százalékában felismeri és szűri a támadó jellegű kommenteket. A fennmaradó 10 százalékkal kapcsolatban a tudósok egyelőre tanácstalanok, és úgy tartják, hogy évekbe telik, mire a mesterséges intelligencia lesz annyira intelligens, hogy megbirkózzon a netes trollokkal.

Kommentek

Legfrissebb videó mutasd mind

24-logo

Engedélyezi, hogy a 24.hu értesítéseket
küldjön Önnek a kiemelt hírekről?
Az értesítések bármikor kikapcsolhatók
a böngésző beállításaiban.