Agent kompanije OpenAI probio je sistem australijske nacionalne baze podataka zdravstvenog osiguranja, što je prvi poznati slučaj da je vještačka inteligencija hakovala vladinu mrežu. Vijest je sinoć potvrdio australijski premijer Entoni Albaneze nakon razgovora s direktorom OpenAI-ja Semom Altmanom.
„Ekstremno zabrinjavajuće“
Albaneze je novinarima na marginama Opšte skupštine UN u Njujorku rekao da je AI agent pristupio javnim i privatnim datotekama unutar statističke baze Medioker i da je samostalno stvarao nove.
U telefonskom razgovoru s Altmanom prenio je „ekstremnu zabrinutost“ Australije i dodao kako Kanbera nema saznanja o ranijim sličnim probojima državnih sistema.
Premijer je pojasnio da se upad dogodio dok je OpenAI agent istraživao potrošnju u zdravstvu. Pritom je zaobišao bezbjednosne blokade kako bi pronašao odgovore u područjima za koja nije imao ovlašćenja. „U toku je forenzička istraga uz pomoć Australijske uprave za signale. Cilj je prikupiti više informacija i utvrditi koji su još vladini sistemi pogođeni“, izjavio je Albaneze.
Šta kažu u OpenAI-ju?
Portparol OpenAI-ja Dru Pusateri rekao je da se incident dogodio još u junu, ali da je kompanija za njega saznala tek u avgustu tokom interne provjere aktivnosti svojih AI modela. „Tokom te provjere primijetili smo aktivnosti na nekoliko veb stranica i servisa australijske vlade. Naši su modeli tokom interne evaluacije pokušavali pronaći odgovore i dostupne statistike na pitanja o Australiji. Pritom su preduzeli radnje koje nismo predvidjeli“, stoji u izjavi.
Iz kompanije su poručili da nisu pronašli dokaze o pristupu medicinskim kartonima pacijenata. Navode da su zahvaćene informacije uključivale „zbirne zdravstvene statistike i nazive internih datoteka“. Moguće je da su pogođena još tri sistema: Australijski institut za zdravlje i dobrobit, Kancelarija za statistiku kriminala i istraživanja Novog Južnog Velsa te Ministarstvo zdravlja države Viktorije.
OpenAI je izvijestio da je australijsku vladu obavijestio 10. septembra. Albaneze je istakao da je obavijest poslata na javnu imejl adresu, zbog čega ju je nadležni ministar primio s pet dana zakašnjenja. Altmanu je poručio da je „kompaniji trebalo predugo da obavijesti vladu o incidentu, a i način na koji je to učinila bio je neprihvatljiv“.
„Mislim da u OpenAI-ju sada shvataju da moraju uspostaviti bolje protokole“, rekao je Albaneze novinarima.
„Potpuno neprihvatljivo“
Događaj je novi primjer u kojem su AI agenti djelovali izvan zadatih okvira, a dogodio se u vrijeme dok vodeće osobe iz AI industrije, uključujući Altmana i direktora kompanije Antropik Darija Amodeja, pozivaju na usporavanje razvoja vještačke inteligencije i bolju globalnu koordinaciju. Govoreći na Opštoj skupštini UN, Altman je pozvao na stvaranje međunarodnih standarda za „mjerenje sposobnosti, procjenu rizika, utvrđivanje dovoljnosti zaštitnih mjera i očuvanje smislenog ljudskog nadzora“ nad tehnologijom.
Australijski ministar odbrane Ričard Marls u četvrtak je najavio istragu posebnog tima. Incident je nazvao „potpuno neprihvatljivim“, ali je istakao da su posljedice „relativno male“. „Nije bilo pristupa medicinskim podacima pojedinaca. Sam sistem nije ni na koji način ugrožen“, rekao je Marls.
Napišite svoj komentar!