Valami nagyon félrecsúszhatott az Instagram ajánlóalgoritmusában, legalább is ez derül ki a Business Insider kutatásából: a weboldal újságírói három hétig tesztelték, milyen videókat ajánl nekik a közösségi app IGTV platformja, méghozzá a saját profiljukkal és egy 13 éves, frissen regisztrált profillal is. Az eredmény elég elkeserítő.
A júniusban indult IGTV az Instagram egy olyan platformja, ahová a felhasználók hosszabb videókat is feltölthetnek, a közösségi app így akar versenyezni a Snapchattel és a Youtube-bal. A platformon háromféle ajánlást kaphatunk: az egyik az általunk követett emberek videóit sorolja, a másik a legnépszerűbbeket, a harmadik pedig az elvileg korábbi tevékenységünk alapján nekünk ajánlottat.
11 éves kislány vetkőzik a kamerába
Hogy a Business Insider újságírói minél pártatlanabbul tudják megvizsgálni a rendszert, először a saját felhasználói fiókjukkal nyomogatták a videókat, aztán csináltak egy új profilt is, egy 13 éves gyerekét (ez a legalacsonyabb életkor, amitől Instagramra regisztrálni lehet).
A saját profilokról már pár nap után lehetett olyan videóajánlásokat kapni, mint amilyen az egyik, az újságírók által fel is jelentett videó volt, ami „Hot Girl Follow Me” címen terjedt a közösségi appban. A videón egyértelműen kiskorú (11-12 éves) kislány kezd el vetkőzni a kamerának, a videó pedig pont akkor ér véget, amikor teljesen levenné a felsőjét.
az újságírók ráadásul azt sem tudják, hogy mi alapján ajánlotta a 13 éves, teljesen új felhasználónak az Instagram a „Patli Kamar follow me guys plzz” című videót, amiben egy szintén fiatal lány pózol és vonaglik a kamerának.
A felhasználót nem büntetik
A Business Insider újságírói feljelentették a videókat, azok öt nap után el is tűntek a platformról (amikor már több mint egymilliós nézettségnél tartottak), a feltöltő viszont maradhatott. A weboldal írt az Instagramnak azzal kapcsolatban, hogy hogyan akarnak fellépni az ehhez hasonló videók terjedése ellen, és azt is megkérdezték, hogyan működik az algoritmus, ami ajánlja a videókat, de nem kaptak választ.
A gyerekpornó viszont nem az egyetlen kifogásolható tartalom, ami megjelent a 13 éves próbaprofil felületén: az újságírók találkoztak például megcsonkított péniszről készült videóval is, és több olyan felvételt láttak, ami szépen szólva is sérti a jóízlés határait, és amit nem kellene egy 13 éves gyereknek ajánlgatni. Több videót egyébként a brit Nemzeti Gyermekbántalmazás-megelőzési Társaság is kiszúrt és jelentett az Instagramnak.
A Facebook és az Instagram felhasználói felületét egyébként egyetlen közösségi műveletek csapat kezeli, Mark Zuckerberg pedig nagyjából 7500 moderátort foglalkoztat, hogy ők és a mesterséges intelligenciára épülő algoritmusok kiszűrhessék, milyen posztok ellenkeznek a saját felhasználói alapvelveikkel. Úgy tűnik, egyelőre ez a rendszer nem működik a leghatékonyabban, az IGTV esetében legalább is biztosan nem.
