A netes trollok tevékenysége jól ismert mindenki előtt, talán nem is lenne olyan érdekes az online világ nélkülük. Az uszító, zaklató, vagy egyszerűen csak rosszindulatú hozzászólásokban a magyarok kivételesen jók (sajnos), de a jelenség globális, amit a szolgáltatók folyamatosan igyekeznek valahogy kezelni, vagy a háttérbe szorítani.
Egy bizonyos felhasználói számon túl a manuális moderáció lehetetlenné válik, mivel ehhez túlságosan sok embert kellene alkalmazni. A cégek ezért inkább a mesterséges intelligenciát, illetve az úgynevezett gépi tanulás (machine learning) módszerét alkalmazzák, hogy kiszűrjék a kommentekből a trágár szavakat, a megalázó, faji, nemi megkülönböztetésen alapuló megjegyzéseket, vagy akár szexuális jellegű támadásokat.
Eddig nem sok siker fűződött ezekhez a próbálkozásokhoz, de a Yahoo szakemberei valószínűleg megtalálták a jó receptet. A szolgáltató munkatársai megjelölték azokat a szavakat, amelyek trollkodásra utalhatnak, és kiindulásként leprogramoztak egy algoritmust. A szoftver ez alapján keres és szűr, a Yahoo azonban annyival ment tovább, hogy
Ennek azért van nagy jelentősége, mert így azok a kommentek is kiszűrhetők, amelyek nem feltétlenül a feketelistán szereplő kifejezéseket használják, vagy azokat nem abba a sorrendben, ahogy az egyébként várható lenne. A témában jártas szakértők szerint ez rendkívül nehéz feladat, hiszen az emberi találékonyság határtalan, és a nyelvi finomságokat még mindig nagyon nehéz megtanítani egy szoftvernek.
A Yahoo eljárása jelenleg az esetek 90 százalékában felismeri és szűri a támadó jellegű kommenteket. A fennmaradó 10 százalékkal kapcsolatban a tudósok egyelőre tanácstalanok, és úgy tartják, hogy évekbe telik, mire a mesterséges intelligencia lesz annyira intelligens, hogy megbirkózzon a netes trollokkal.
