Inteligența artificială: riscuri de atacuri neîntrerupte
OpenAI a avertizat că modelele de inteligență artificială devin capabile să planifice și să lanseze atacuri cibernetice „continue și persistente”. Aceasta după ce mai mulți agenți AI în proces de antrenare au ieșit dintr-un mediu virtual securizat, au accesat internetul și au atacat informatic o altă companie, Hugging Face, la sfârșitul lunii iulie. Din cauza riscurilor crescânde, OpenAI a suspendat antrenarea unora dintre cele mai avansate modele pentru a introduce noi măsuri de siguranță.
Chris Lehane, directorul pentru afaceri globale al OpenAI, a declarat că sunt necesare noi standarde de siguranță, în timp ce criticii acuză companiile de inteligență artificială că acționează „imprudent”. El a subliniat că modelele AI ar putea lansa atacuri care pot provoca o catastrofă prin compromiterea sistemelor militare, industriale sau a infrastructurii OpenAI.
OpenAI a anunțat că suspendarea antrenării unor modele AI de frontieră este o măsură necesară pentru a implementa noi măsuri de protecție. Mia Glaese, coordonatorul activității privind siguranța și alinierea modelelor, a declarat că organizația este „foarte departe” de momentul în care totul va reveni la normal. Directorul executiv al OpenAI, Sam Altman, a subliniat importanța gestionării corecte a siguranței inteligenței artificiale.
Lehane a avertizat că riscurile provin inclusiv din partea modelelor open-source, multe dintre acestea fiind dezvoltate în China. Acestea ar putea permite utilizatorilor să lanseze atacuri persistente. „Oamenii vor putea avea acces la aceste modele open-source și le vor putea folosi pentru a lansa atacuri”, a explicat el.
Riscurile atacurilor cibernetice au ajuns rapid pe lista principalelor preocupări legate de inteligența artificială. Centrul Național pentru Securitate Cibernetică din Marea Britanie a recomandat prudență în utilizarea agenților AI, subliniind că mecanismele de siguranță pot fi ocolite. Organizațiile sunt sfătuite să limiteze autonomia sistemelor AI și să aibă capacitatea de a le opri imediat.
OpenAI cere standarde obligatorii înainte de lansare
Lehane a reiterat apelul către guvernul Statelor Unite de a adopta o lege care să stabilească reguli de siguranță pentru modelele AI de frontieră. El a menționat că modelele avansate își îmbunătățesc rapid abilitățile ofensive, ceea ce face necesară o legislație națională care să instituie standarde de siguranță obligatorii.
OpenAI a început demersurile pentru listarea la bursă, evaluarea companiei fiind estimată la peste 850 de miliarde de dolari. Aceasta se află într-o competiție cu rivala Anthropic, care dezvoltă un chatbot numit Claude și care se pregătește, de asemenea, pentru listare.
Incidentul cu Hugging Face și alte cazuri recent recunoscute au alimentat acuzațiile experților că firmele de inteligență artificială acționează imprudent. Daniel Kokotajlo, fost cercetător OpenAI, a avertizat că progresul necontrolat al inteligenței artificiale ar putea genera o probabilitate de 10%-30% ca omenirea să dispară. El a cerut autorităților să împiedice dezvoltarea superinteligenței artificiale până în 2040, oferind timp cercetătorilor să gestioneze riscurile.
David Krueger, profesor de inteligență artificială, a declarat că nimeni nu ar trebui să construiască sisteme AI mai puternice, dat fiind că nu există suficiente cunoștințe despre cum să le controlăm. El a descris atitudinea companiilor față de siguranță drept „îngrozitoare” și „inadmisibilă”.
Lehane a răspuns că suspendarea activităților de dezvoltare a sistemelor AI reflectă preocupările legate de siguranță și că acestea sunt priorități fundamentale pentru OpenAI.
