Tavaly decemberben vált ismertté a neten egy „deepfakes” nevű redditező arról, hogy szabadidejében furcsa hobbit űz: hírességek arcát cseréli össze pornósztárokéval felnőtt filmekben, amihez ráadásul egy gépi tanulásos algoritmust használ. Ilyen módszerrel több kamupornót is csinált többek közt Gal Gadottal, Maisie Williamsszel és Taylor Swifttel a főszerepben. Az ötletet más netezők is elkezdték másolni, valaki egy mobilappot is fejlesztett erre a feladatra, megadva a lehetőséget az alkotásra azoknak, akik nem értenek semmiféle gépi algoritmushoz, de szeretnék elkészíteni saját pornójukat kedvencükkel.
A FakeApp mobilappot a Redditen keresztül tette elérhetővé egy deepfakeapp nevű felhasználó, kinek állítása szerint semmi köze nincs deepfakeshez, bár az általa használt eljáráson alapul az alkalmazás működése. Az app készítője a Motherboardnak mondta el, hogy a végső cél az, hogy bármilyen videóra, bármilyen arc applikálható legyen mindössze egy gombnyomással, hogy abból aztán nagyfelbontású felvételt lehessen exportálni.
Természetesen ez rengeteg személyiségi jogi kérdést felvet, hiszen senki sem szeretné, ha visszaélnének az arcával ilyen videókban. Még ijesztőbb, hogy a gépaggyal kreált jelenetek rendkívül valósághűek, annyira, hogy a szemtelenebb felhasználók azokat valódiként terjesztik a neten. Így került fel egy Emma Watson arcával készített videó is a Celebjihadra, ahová a hírességek kiszivárgott meztelen felvételeit szokták posztolni.
Az egészben az a legijesztőbb, hogy a következő években az olyan gépi tanulásos eszközök, mint ez, szélesebb körökben is használhatóvá válnak, és a hétköznapi emberek is olyan hihető, digitális manipulációkat készíthetnek segítségükkel, ami manapság csak a nagy büdzsével felszerelt filmstúdiók kiváltsága”
– fejezte ki aggodalmait deepfakes a Motherboardnak.
És ha belegondolunk, az arccserélős megoldást nemcsak pornóhoz, de politikai beszédekhez, bosszúpornóhoz is fel lehet használni, így nagy kihívás áll a közösségi oldalak és internetcégek előtt, hogy miként fogják felismerni és szabályozni az ilyen tartalmak terjedését szolgáltatásaikban.
