A politikusokat ábrázoló, mesterségesintelligencia-algoritmusokkal készített hamis videók komoly problémát jelenthetnek a következő választási ciklus során, ez pedig rossz hír a demokrácia számára – figyelmeztetnek amerikai szakemberek.
Egy nemrég megjelent tanulmányban olvasható, hogy az erre a feladatra készített DeepFakes nevű neurális hálózat (amiről korábban már mi is írtunk) az egyik legnagyobb fenyegetés, amit a mesterséges intelligencia (MI) fejlődése magával hoz. Az algoritmust használó appok jellemzően a Google TensorFlow nevű nyílt forráskódú platformját használják.
Az MI-rendszerek képesek olyan hitelesnek tűnő, mesterséges beszédet generálni, ami valós személy hangját használja fel, így úgy tűnhet, hogy a mondanivaló valóban elhangzott adott ember szájából. Ugyan a hamis videók még messze vannak a tökéletestől, a szakemberek szerint a technológia fejlődését nézve kevesebb, mint öt év alatt már sikerül elérni azt a szintet, hogy teljesen valósághűnek tűnjenek a kamuvideók is.
Jelenleg ilyen hamis videókat tud készíteni egy algoritmus:
A videók és képek manipulálása korántsem újkeletű dolog, elég a filmekre gondolni. A gond az, hogy a DeepFakest rendkívül egyszerű használni, mert egy algoritmus végzi el a munkát, nem szükséges semmilyen vágói és grafikai ismeret a művelethez. Bár a technológia még nem tökéletes, nem is kell annak lennie, hogy az óvatlan netező elhiggye, amit lát – az Obamáról készült videót is sokan valódinak gondolták.
A rosszakarók így felhasználhatják a programot propaganda, vagy álhírek terjesztéséhez, előállításához, ez pedig még feljebb szintre emeli majd a választók befolyásolására előállított álhírek problémáját.
Úgy vélem, hogy itt az Egyesült Államokban több ilyen hamis tartalmat láthatunk majd a választások során. Mivel a technológia nem ismer határokat, ezért várhatóan a föld további részein is elterjedhet.”
– mondta el Hany Farid forensic-elemző az AP hírügynökségnek.
Az amerikai kormány már most dolgozik egy olyan szoftveren, ami felismeri a hamis videókat, ehhez a privátszektorban dolgozó kutatók nyújtanak segítséget nekik szerte a világon.
AZ ELŐZMÉNYEK
Tavaly decemberben vált ismertté a neten egy „deepfakes” nevű redditező arról, hogy szabadidejében furcsa hobbit űz: hírességek arcát cseréli össze pornósztárokéval felnőtt filmekben, amihez ráadásul egy gépi tanulásos algoritmust használ. Ilyen módszerrel több kamupornót is csinált többek közt Gal Gadottal, Maisie Williamsszel és Taylor Swifttel a főszerepben. Az ötletet más netezők is elkezdték másolni, valaki egy mobilappot is fejlesztett erre a feladatra, megadva a lehetőséget az alkotásra azoknak, akik nem értenek semmiféle gépi algoritmushoz, de szeretnék elkészíteni saját pornójukat kedvencükkel.
A FakeApp mobilappot a Redditen keresztül tette elérhetővé egy deepfakeapp nevű felhasználó, kinek állítása szerint semmi köze nincs deepfakeshez, bár az általa használt eljáráson alapul az alkalmazás működése. Az app készítője a Motherboardnak mondta el, hogy a végső cél az, hogy bármilyen videóra, bármilyen arc applikálható legyen mindössze egy gombnyomással, hogy abból aztán nagyfelbontású felvételt lehessen exportálni.
(Kiemelt illusztráció: ThinkStock)
