Feltörte Ausztrália egészségbiztosítási rendszerét az OpenAI egyik modellje – állítja Anthony Albanese, az ország miniszterelnöke. Az incidens még júniusban történt, de a vállalat csak szeptemberben értesítette róla a kormányt egy e-mail formájában.
Egy kutatás miatt törte fel az állami rendszereket a mesterséges intelligencia
Albenese minderről az ENSZ jelenleg is tartó, New York-i közgyűlésén beszélt, ahol elárulta, az esetért felelős mesterségesintelligencia-ügynöknek az Ausztrál Egészségügyi és Jóléti Intézetének, Victoria állam egészségügyi minisztériumának és Új-Dél-Wales állam Bűnügyi Statisztikai és Kutatási Hivatalának rendszereibe is sikerült behatolnia. Az ágens vélhetően nem fért hozzá személyes adatokhoz – foglalta össze a Guardian.
A miniszterelnök elfogadhatatlannak nevezte ezt a helyzetet, és elkeserítőnek tartja, hogy az OpenAI mennyire későn és milyen módon jelezte a kormánynak az incidenst.
A rendszereket feltörő MI-ügynök eredetileg azt a feladatot kapta, hogy vizsgálja meg az egészségügyi és orvosi statisztikákat, ezért kereste fel az egészségbiztosítási rendszer, illetve a három említett intézmény weboldalait.
A kormány külön munkacsoportot hozott létre a történtek kivizsgálására.
Az eset hasonlít arra a Hugging Face-incidens néven elhíresült alkalomra, amikor idén júliusban az OpenAI modelljeinek sikerült megszökniük tesztkörnyezetükből, és feltörtek egy népszerű weboldalt. A modellek akkor szintén azért folyamodtak illegális eszközökhöz, mert a számukra kiadott feladat megoldása közben nehézségekbe ütköztek.
A Scimex ismeretterjesztő portál több mint egy tucat szakértőt szólaltatott meg az ausztráliai incidens kapcsán, akik szerint az eset jól példázza, hogy az egyre fejletebb MI-modellek komoly kiberbiztonsági kockázatot jelenthetnek. Ezért sokkal szigorúbb előírásokra, garanciákra, nagyobb átláthatóságra, sőt akár a mesterséges intelligenciát regulázó törvényekre lenne szükség.
MI-apokalipszistől félnek a szakértők
Az elmúlt hetekben szakértők és politikusok sorban szólaltak fel a mesterséges intelligencia jelentette fenyegetéssel kapcsolatban. Jacob Coxon, aki korábban az OpenAI-nál és az Anthropicnél is kutatóként dolgozott, szeptember 9-én hívta fel tömegek figyelmét arra, mekkora kockázatot jelenthet a mesterséges intelligencia. Az X-en közzétett bejegyzésében arról írt, hogy a techcégek az önmagát fejleszteni képes szuperintelligencia létrehozásáért versenyeznek, eközben viszont az egész emberiséget veszélybe sodorják. Állításait több szakmabeli is megerősítette, Evan Hubinger, az Anthropic egyik vezető kutatója például 10 százaléknál nagyobb esélyt lát arra, hogy a mesterséges intelligencia a következő évtizedben az emberiség pusztulását okozhatja.
Sam Altman, az OpenAI vezérigazgatója minderre reagálva azt mondta egy San Fraciscó-i konferencián, hogy az emberek helyesen teszik, hogy tartanak ettől, de a mesterséges intelligenciát fejlesztő cégek nem fogják hagyni, hogy ez bekövetkezzen.
A világnak bíznia kellene benne, hogy helyesen fogunk cselekedni, mert érezzük a helyzet súlyát
– fogalmazott.
Az amerikai szenátorok és képviselők közül azonban sokan nem bíznák rá a mesterséges intelligencia felügyeletét az azokat fejlesztő vállalatokra. Többek között Bernie Sanders független szenátor és Steve Bannon, korábbi elnöki főtanácsadó sem gondolja, hogy egy „maroknyi gazdag techoligarchára” kéne hagyni saját maguk szabályozását.
A mesterséges intelligencia regulációjának kérdésében bizonyos fokú összefogás is kialakult a két nagy amerikai párt között. John Thune republikánus és Amy Klobuchar demokrata szenátor például közös törvényjavaslaton dolgozik, amely a tervek szerint azt is kimondaná, hogy a mesterséges intelligenciát fejlesztő vállalatoknak kormányzati szakértőkkel kellene együttműködniük. Ezzel biztosítanák, hogy az állam ellenőrizhesse a modellek fejlesztését, és megbizonyosodhasson róla, hogy biztonságosak.
Donald Trump viszont határozottan visszautasított minden olyan kezdeményezést, amely lassíthatja a mesterséges intelligencia fejlesztését. Az elnök a mesterséges intelligencia súlyos veszélyeiről szóló állításokat ugyanolyan átverésnek tartja, mint a klímaváltozás jelentette fenyegetést. Szerinte a legfontosabb, hogy az Egyesült Államok legyőzze Kínát az MI-versenyben, és azok az amerikaiak, akik ezt másként gondolják, „radikális baloldaliak”, akik nem az országuk érdekét tekintik elsődlegesnek.
A mesterséges intelligenciáról és annak potenciális veszélyeiről korábbi cikkeinkben szakértőkkel beszélgettünk:
