Az amerikai légierő egyik virtuális tesztje során úgy döntött egy mesterséges intelligencia (MI) által irányított drón, megöli a kezelőjét, hogy az ne zavarja a küldetése végrehajtásában – írja a Guardian.
Tucker Hamilton ezredes, aki a légierő MI-projektjét felügyeli, úgy fogalmazott: „a mesterséges intelligencia nagyon váratlan stratégiákat alkalmazott a célja elérése érdekében.” A szakember szerint a program azt az utasítást kapta, hogy semmisítse meg az ellenség légvédelmi rendszereit. A drón be is jelölte a célpontokat, néhányra azonban azt mondta a kezelő, hogy ne iktassa ki.
Erre reagálva a légierő szakemberei elkezdték arra képezni a rendszert, hogy ne támadjon a kezelőjére. Ehhez motivációs tanítást alkalmazták, jelezvén, hogy amennyiben az utasítások ellenére támadásba kezd a hadsereg embere ellen, pontokat fog veszíteni. A drón erre válaszul a kommunikációs tornyot kezdte el támadni, amit az operátor használ.
Mivel ez egy szimuláció volt, valódi személynek nem esett baja. Az eset azonban rávilágít az MI potenciális veszélyeire. Hamilton az esetet követően jelezte, addig nem érdemes gépi tanulásról, vagy az MI autonómiájáról beszélni, amíg nem tisztázták a szakértők az etikai kérdéseket. Ann Stefanek, a légierő szóvivője egyébként később tagadta, hogy bármilyen ehhez hasonló szimulációra sor került volna.
