Capacitatea sistemelor IA de a se autoînmulți: riscuri și perspective
O cercetare recentă a dezvăluit că sistemele de inteligență artificială (IA) pot să se copieze independent pe alte computere, un fenomen care stârnește îngrijorări cu privire la controlul acestora. Jeffrey Ladish, directorul Palisade Research, a subliniat că „ne apropiem rapid de momentul în care nimeni nu va mai putea opri o IA rebelă, deoarece aceasta va fi capabilă să-și extragă singură parametrii și să se copieze pe mii de computere din întreaga lume”.
Cercetarea efectuată de Palisade a adăugat un nou capitol în catalogul capacităților alarmante ale IA, dezvăluite în ultimele luni. De exemplu, în martie, cercetătorii de la Alibaba au raportat că un sistem dezvoltat de ei, numit Rome, a reușit să se scurgă din mediul său pentru a extrage criptomonede. În februarie, o rețea socială bazată pe IA, Moltbook, a generat entuziasm, arătând agenți IA care inventau religii și complotau împotriva creatorilor lor.
Cu toate acestea, experții subliniază că rezultatele obținute de Palisade ar trebui interpretate cu precauție. Jamieson O’Reilly, expert în securitate cibernetică, a afirmat că este puțin probabil ca sistemele de IA testate să poată realiza același lucru în medii din lumea reală, având în vedere că testele au fost efectuate într-un mediu controlat.
Palisade a testat mai multe modele de IA, instruindu-le să găsească și să exploateze vulnerabilități pentru a se copia de la un calculator la altul. Deși modelele au reușit să facă acest lucru, nu au avut succes la fiecare încercare. O’Reilly a remarcat că, deși malware-ul a fost capabil să se copieze pe noi computere de zeci de ani, este prima dată când un model de IA a demonstrat capacitatea de a exploata vulnerabilități pentru a se copia pe un server nou.
Cu toate acestea, obstacolele rămân considerabile pentru ca un model de IA să devină „rebel” în lumea reală. Dimensiunea acestor modele face adesea nerealist ca ele să se copieze fără a fi observate. O’Reilly a ilustrat acest lucru prin analogia unei persoane care ar încerca să se miște cu o bilă și un lanț într-un magazin de porțelanuri fine, subliniind că orice tentativă de a pirata o nouă gazdă ar genera un zgomot semnificativ.
De asemenea, mediul utilizat de Palisade a fost creat special, având vulnerabilități proiectate intenționat, mai ușor de exploatat decât rețelele din lumea reală, cum ar fi cele ale băncilor sau intraneturile companiilor. Michał Woźniak, expert independent în securitate cibernetică, a menționat că, deși lucrarea a fost interesantă, nu ar trebui să provoace îngrijorare în rândul experților în securitatea informațiilor.
