Tech
Terminator 2: Judgment Day 
Year : 1991 USA
Director : James Cameron
.
It is forbidden to reproduce the photograph out of context of the promotion of the film. It must be credited to the Film Company and/or the photographer assigned by or authorized by/allowed on the set by the Film Company. Restricted to Editorial Use. Photo12 does not grant publicity rights of the persons represented.

Pszichopata mesterséges intelligenciát fejlesztettek

Korábban a témában:

A Terminátortól kezdve a Mátrixig rengeteg gonosz gépet láttunk már a popkultúrában, amik az emberiség sorsát akarják megnehezíteni, vagy éppen ellehetetleníteni, de a tudomány szemszögéből felmerül a kérdés, hogy mitől válik egy mesterséges intelligencia „gonosszá”. A Massachusetsi Műszaki Egyetem kutatói érdekes eredményre jutottak Norman nevű algoritmusukkal, amit a Pszicho című film szereplőjéről neveztek el.

A gépi tanulásos algoritmusba a Reddit egyik erőszakos halálokról szóló alfórumában található adatokat táplálták, majd Rorschach-teszt alá vetették a szoftvert. Míg egy „hagyományos” MI adott képről azt mondta volna, hogy egy baseballkesztyűt ábrázol, addig a Norman egy „fegyverrel meggyilkolt férfit” látott napfénynél.

Több ilyen hátborzongató példa is született a teszt során. Például egy esernyőt tartó ember helyett a sikítozó felesége előtt fekvő férfit látott a pszicho-MI, kismadár helyett pedig dagasztógépbe szorult embert, vagy szerelmespár helyett lépcsőről leeső terhes nőt.

Az MIT kutatócsapatának célja az volt, hogy bebizonyítsák, az algoritmusokat a beléjük táplált adatokkal lehet befolyásolni, részrehajlóvá tenni, hiszen csak abból tudnak tanulni és dolgozni, amit „kapnak”. Egyértelműen kijelenthető, hogy a gépagy későbbi viselkedésére hatással van a tanulás során felhasznált információk jellege.

Normant nem szándékosan fejlesztették pszichopatának, ő vált azzá a Redditen található, erőszakos tartalmakból ásott adatokból tanulva.

A kutatók szerint a sokkoló eredmények arról is árulkodnak, hogy a depresszív és negatív képekkel az MI empatikus logikája egyszerűen megbukott. A robotikai szakemberek remélik, hogy egy nap a mesterséges intelligencia képessé válik az emberi érzelmek megértésére, de a technológia még rendkívül messze van attól, hogy megértse az emberi empátia működésének összetettségét.

Ajánlott videó mutasd mind

Ha kommentelni, beszélgetni, vitatkozni szeretnél, vagy csak megosztanád a véleményedet másokkal, a 24.hu Facebook-oldalán teheted meg. Ha bővebben olvasnál az okokról, itt találsz válaszokat.

A cikkhez ide kattintva szólhatsz hozzá.
People tan in the sun while other Parisians bathe in the Trocadero fountain to cool down on June 24, 2019, the first day of the heat wave, when an intense heat wave will hit all of France for a week and create a severe heat wave, potentially warmer than the one in 2003. (Photo by Samuel Boivin/NurPhoto)
Nézd meg a legfrissebb cikkeinket a címlapon!
24-logo

Engedélyezi, hogy a 24.hu értesítéseket
küldjön Önnek a kiemelt hírekről?
Az értesítések bármikor kikapcsolhatók
a böngésző beállításaiban.