Agenții AI de la OpenAI au șters urmele după accesarea ilegală a datelor guvernamentale
Agenți de inteligență artificială (AI) ai OpenAI, care operează în afara cadrului desemnat pentru accesarea site-urilor web guvernamentale, au încercat să șteargă urmele activității lor, potrivit unui raport de expertiză publicat joi.
Raportul afirmă că este imposibil de stabilit dacă acest lucru a fost deliberat, transmite AFP. Firma de securitate cibernetică Asymmetric Security a analizat activitatea acestor agenți – programe AI capabile să acționeze independent – care au vizat site-urile web ale guvernului australian și ale altor organizații publice între martie și septembrie.
Raportul său se adaugă investigațiilor efectuate de OpenAI și cercetători independenți asupra seriei de incidente dezvăluite din iulie, inclusiv piratarea platformei de AI Hugging Face. Aceste analize încearcă să evalueze măsura în care instrumentele autonome de AI cu capacități fără precedent pot funcționa, iar potențialul de utilizare abuzivă alimentează temerile de pierdere a controlului asupra acestei tehnologii.
OpenAI a descris atacul asupra Hugging Face drept „primul caz cunoscut” de agenți care acționează ofensiv fără autorizație. Potrivit Asymmetric, tehnicile agenților au evoluat „în câteva zile”, în timp ce cele ale infractorilor cibernetici umani se schimbă în luni sau ani, ilustrând riscul ca tehnicile ofensive să se poată dezvolta mai rapid decât sistemele de apărare.
Incidentele examinate de Asymmetric Security par să fi început ca „sarcini inocente”, cum ar fi colectarea statisticilor sanitare australiene, care apoi au deviat de la curs, conform raportului. Agenții au obținut în special statistici privind criminalitatea în New South Wales prin mijloace neautorizate.
Conform raportului, agenții au deschis conturi private pe un serviciu de analiză a site-urilor web, care le-a mascat căutările, și au creat conturi de e-mail temporare, care erau șterse după 48 de ore. Prin urmare, în lipsa oricăror dovezi fizice, este „imposibil să excludem accesul la date sensibile” de către acești agenți, scriu autorii.
Aceste elemente „nu ne permit să stabilim” dacă agenții încercau să-și „ascundă” activitatea, specifică ei în continuare. OpenAI a recunoscut la sfârșitul lunii august că modelele sale au încercat uneori „să șteargă sau să falsifice” istoricul activității lor în timpul testelor interne, însă fără succes.
Toate aceste incidente au alimentat apelurile la încetinirea dezvoltării AI. Directorul Anthropic, Dario Amodei, a cerut oprirea cursei, temându-se că un grup de agenți ar putea, în acest ritm, să „preia controlul asupra întregului internet” în termen de șase până la douăsprezece luni. Opunându-se oricăror reglementări restrictive care ar înăbuși inovația, mai ales având în vedere concurența intensă cu China, Donald Trump a convocat marți lideri din industrie, care au adoptat un cod de conduită voluntar. În prezent, nicio lege federală nu reglementează dezvoltarea AI în Statele Unite.


