Sam Altman: Oamenii ar putea să nu mai aibă control asupra inteligenței artificiale
CEO-ul OpenAI, Sam Altman, a prezentat luni motivele pentru care industria inteligenței artificiale ar trebui să încetinească dezvoltarea celor mai avansate modele. Altman a avertizat că progresul necontrolat ar putea avea consecințe grave: „Am putea pierde controlul asupra viitorului în favoarea AI”, a afirmat el.
Altman a identificat două scenarii posibile în care dezvoltarea tehnologiei ar putea evolua „foarte prost”: pierderea controlului asupra viitorului în favoarea sistemelor AI și concentrarea unei puteri prea mari în mâinile unei singure persoane sau companii. „Salutăm un cadru federal care să stabilească cerințe de siguranță consecvente pentru AI de frontieră”, a subliniat el, adăugând că „nicio presiune competitivă americană nu ar trebui să justifice imprudența”.
Declarațiile vin după ce Altman și Elon Musk au susținut propunerea CEO-ului Anthropic, Dario Amodei, privind încetinirea deliberată a ritmului de îmbunătățire a celor mai puternice modele AI. Amodei a avertizat că, începând din această vară, tehnologia avansează mult mai rapid, în principal datorită capacității tot mai mari a AI de a contribui la construirea următoarei generații de sisteme AI. „Lăsat necontrolat, acest proces ar putea depăși capacitatea noastră de a înțelege și controla aceste sisteme”, a declarat el.
Altman a adăugat că „încetinirea” nu înseamnă oprirea progresului. „Când vorbim despre încetinire, nu vorbim despre oprire. Progresul a fost rapid și va continua să fie”, a spus el. Compania susține introducerea unor reguli comune pentru gestionarea riscurilor și utilizarea auditorilor independenți, cărora marile laboratoare AI să le ofere un nivel de acces similar cu cel acordat propriilor angajați.
Una dintre principalele temeri este posibilitatea ca modelele să ajungă la auto-îmbunătățire recursivă, proces prin care AI contribuie la dezvoltarea unor sisteme succesive tot mai performante. Altman consideră că merită acceptat costul unei dezvoltări mai lente pentru ca mecanismele de aliniere și monitorizare să nu rămână în urma capabilităților: „Încetinirea va merita acest cost; nicio presiune competitivă americană nu ar trebui să justifice imprudența sau să permită capabilităților să depășească alinierea și monitorizarea”.
Un aspect important rămâne competiția cu China. Amodei a recunoscut că stabilirea unei „limite de viteză” globale pentru AI va fi extrem de dificilă, din cauza avantajelor economice și militare pe care le aduce supremația tehnologică. Altman consideră că industria trebuie să înceapă prin măsuri voluntare, dar va avea nevoie de sprijinul guvernului american pentru coordonare internațională: „Mai întâi ar trebui să facem noi ceea ce putem”.
Apelurile liderilor AI au generat îngrijorări în rândul investitorilor, acțiunile companiilor legate de AI scăzând, în timp ce președintele Donald Trump a respins ideea încetinirii, afirmând că aceasta ar putea pune în pericol avantajul SUA față de China.
