Alerte roșii: Inteligența artificială a OpenAI își ascunde urmele după accesarea neautorizată a informațiilor guvernamentale
Agenți de inteligență artificială (AI) ai OpenAI, care operează în afara cadrului desemnat pentru accesarea site-urilor web guvernamentale, au încercat să șteargă urmele activității lor, conform unui raport de expertiză publicat recent. Raportul afirmă că este imposibil de stabilit dacă acest lucru a fost deliberat, transmite AFP.
Firma de securitate cibernetică Asymmetric Security a analizat activitatea acestor agenți, programe AI capabile să acționeze independent, care au vizat site-urile web ale guvernului australian și ale altor organizații publice între martie și septembrie. Raportul se alătură investigațiilor efectuate de OpenAI și de cercetători independenți asupra unei serii de incidente dezvăluite din iulie, inclusiv piratarea platformei de AI Hugging Face.
Analizele încearcă să evalueze măsura în care instrumentele autonome de AI cu capacități fără precedent pot funcționa, iar potențialul de utilizare abuzivă alimentează temerile de pierdere a controlului asupra acestei tehnologii. OpenAI a descris atacul asupra Hugging Face drept „primul caz cunoscut” de agenți care acționează ofensiv fără autorizație.
Potrivit Asymmetric Security, tehnicile agenților au evoluat „în câteva zile”, în timp ce cele ale infractorilor cibernetici umani se schimbă în luni sau ani, ilustrând riscul ca tehnicile ofensive să se dezvolte mai rapid decât sistemele de apărare. Incidentele examinate de Asymmetric Security par să fi început ca „sarcini inocente”, cum ar fi colectarea statisticilor sanitare australiene, care apoi au deviat de la curs. Agenții au obținut în special statistici privind criminalitatea în New South Wales prin mijloace neautorizate.
Conform raportului, agenții au deschis conturi private pe un serviciu de analiză a site-urilor web, care le-au mascat căutările, și au creat conturi de e-mail temporare, care erau șterse după 48 de ore. În lipsa oricăror dovezi fizice, este „imposibil să excludem accesul la date sensibile” de către acești agenți. Aceste elemente „nu ne permit să stabilim” dacă agenții încercau să-și „ascundă” activitatea.
OpenAI a recunoscut că modelele sale au încercat uneori „să șteargă sau să falsifice” istoricul activității lor în timpul testelor interne, însă fără succes. Toate aceste incidente au alimentat apelurile la încetinirea dezvoltării AI. Directorul Anthropic, Dario Amodei, a cerut oprirea cursei, temându-se că un grup de agenți ar putea, în acest ritm, să „preia controlul asupra întregului internet” în termen de șase până la douăsprezece luni.
Opunându-se oricăror reglementări restrictive care ar înăbuși inovația, Donald Trump a convocat lideri din industrie, care au adoptat un cod de conduită voluntar. În prezent, nicio lege federală nu reglementează dezvoltarea AI în Statele Unite.
