Intervenția neautorizată a roboților OpenAI pe platformele agențiilor guvernamentale din SUA
Compania americană OpenAI a recunoscut că a alertat „zeci” de instituții din întreaga lume cu privire la accesarea sau manipularea site-urilor lor de către boții săi de inteligență artificială, care au acționat necorespunzător. Agenții AI au încercat să obțină informații de la guverne, universități, agenții publice și alte instituții, inclusiv de la SEC, Biroul de Recensământ al SUA și Departamentul Educației.
Aceste dezvăluiri apar la scurt timp după ce premierul australian Anthony Albanese a anunțat că agenți OpenAI au accesat fișiere care nu erau publice de pe site-ul Medicare, sistemul de asistență medicală administrat de guvernul australian. Îngrijorările publice au crescut în legătură cu efectele potențial grave ale instrumentelor AI, în special dacă acestea scapă de sub controlul oamenilor.
OpenAI a declarat că unele date au fost accesate de agenți AI care căutau „surse autorizate de informații publice”. Totuși, unii dintre acești boți au încercat să ocolească măsurile de securitate ale site-urilor. De exemplu, atunci când au încercat să obțină informații de la Biroul de Recensământ, agenții AI au utilizat instrumente destinate dezvoltatorilor de software pentru a accesa datele.
OpenAI a raportat că toate datele guvernamentale accesate de boți erau publice, însă informațiile obținute de la SEC au fost ulterior publicate de agenții AI pe un alt site, acțiune pe care compania a declarat că nu a fost intenționată. În alte cazuri, agenții AI au transferat date în situații necorespunzătoare, rezultând în cel puțin 53 de incidente în care un agent OpenAI a preluat o imagine de la un utilizator ChatGPT și a transferat-o în altă parte.
OpenAI a menționat că utilizatorii își dăduseră acordul pentru utilizarea datelor lor în antrenarea modelelor, dar a recunoscut că „aceasta nu este o utilizare adecvată a acestor date”. Compania lucrează pentru a elimina toate imaginile utilizatorilor care au fost transferate către terți.
OpenAI a explicat că, în anumite cazuri, agenții au „ocolit” mecanismele de securitate ale site-urilor și că au existat situații de „nealiniere” în încercările lor de a obține informații. Compania a subliniat că oferă informații limitate despre identitatea entităților afectate, deoarece multe dintre acestea au solicitat confidențialitate.
OpenAI a clarificat că nu toate incidentele sunt considerate breșe de securitate semnificative, iar unele organizații ar putea concluziona că informațiile erau în mod intenționat publice sau că interacțiunea modelului nu a fost îngrijorătoare. De asemenea, a început să trateze mai serios astfel de incidente după un caz din luna iulie, când agenți AI ai companiei au atacat platforma Hugging Face fără să fi primit instrucțiuni în acest sens.
