Inteligența artificială în laboratoare: impactul asupra cercetărilor privind virusurile periculoase și riscurile de dezvoltare a armelor biologice
Inteligența artificială (AI) ar putea facilita dezvoltarea armelor biologice, inclusiv prin identificarea modificărilor genetice care cresc periculozitatea agenților patogeni, avertizează experții. Utilizarea chatbot-urilor în presupuse comploturi bioteroriste și experimente în laboratoare de cercetare a ridicat semne de întrebare privind riscurile asociate acestei tehnologii. Specialiștii subliniază că, deși accesul la informații este important, producerea armelor biologice necesită cunoștințe avansate, echipamente specializate și materiale biologice greu de obținut.
Instrumentele bazate pe inteligență artificială pot fi utilizate atât de persoane fără pregătire științifică, cât și de organizații sau state care dispun de laboratoare performante și cercetători specializați. Chatbot-urile pot facilita accesul la cunoștințe tehnice și centralizarea informațiilor relevante, concentrându-se pe agenți patogeni și toxine deja existente. Riscul cel mai imediat este utilizarea AI de către organizații care au resursele necesare pentru dezvoltarea armelor biologice.
Dr. Filippa Lentzos de la King’s College London afirmă că AI poate ajuta cercetătorii să identifice modificări genetice capabile să crească periculozitatea agenților patogeni, adăugând că „AI nu elimină nevoia de expertiză, ci amplifică expertiza existentă”. Pe termen lung, există riscul ca grupuri de cercetători bine pregătiți să folosească AI pentru a proiecta agenți patogeni sau toxine complet noi, rezistente la medicamente.
Riscurile asociate utilizării inteligenței artificiale în dezvoltarea armelor biologice au fost subliniate recent de șeful MI5, Ken McCallum, care a avertizat că tehnologia ar putea facilita accesul teroriștilor la arme biologice sau generarea de agenți patogeni necunoscuți.
Cercetări și utilizări ale AI în experimente periculoase
Compania Anthropic a raportat cazuri în care cercetători din țări neprecizate au încercat să utilizeze chatbotul Claude pentru activități potențial periculoase, implicând virusuri sau toxine. Un exemplu a fost utilizarea chatbot-ului pentru a planifica experimente cu un virus al gripei aviare, pentru a introduce mutații care să faciliteze adaptarea și răspândirea acestuia la mamifere.
Într-un alt caz, poliția din India a investigat un presupus complot bioterorist în care un medic și alții au utilizat chatbot-uri pentru a obține informații despre producerea ricinei, o toxină mortală. Deși nu este clar dacă răspunsurile oferite de instrumentele AI au contribuit efectiv la aceste tentative, incidentele subliniază riscurile potențiale.
Experimentele de la MIT și problemele de securitate
Un experiment desfășurat la Massachusetts Institute of Technology (MIT) a arătat că studenții fără pregătire în științe au reușit să obțină informații despre patogeni cu potențial pandemic în mai puțin de o oră, inclusiv informații despre obținerea lor din ADN sintetic. Aceasta demonstrează că, deși obținerea informațiilor nu garantează capacitatea de a produce efectiv agenți patogeni, riscurile sunt semnificative.
Probleme similare au fost identificate și în cazul unor modele de inteligență artificială dezvoltate în China, unde cercetătorii au reușit să determine două modele Kimi să ofere informații despre fabricarea armelor biologice și comiterea unor asasinate. Aceste exemple evidențiază dificultatea de a separa informațiile științifice legitime de cele ce pot fi exploatate în scopuri periculoase.
Progrese și provocări în biosecuritate
În aprilie, oamenii de știință au anunțat crearea primilor viruși proiectați cu ajutorul inteligenței artificiale, care infectează exclusiv bacteriile, ridicând probleme de biosiguranță și biosecuritate. De asemenea, inteligența artificială este folosită din ce în ce mai mult în cercetarea biologică, contribuind la descoperiri, dar și la riscuri.
Experții subliniază că, în ciuda progreselor tehnologice, dezvoltarea armelor biologice rămâne o provocare complexă. Informația reprezintă doar o parte a problemei, iar experiența practică și accesul la materiale biologice și echipamente specializate sunt obstacole semnificative.
Controale și reglementări necesare
Unele companii de inteligență artificială au început să implementeze măsuri pentru a preveni utilizarea instrumentelor lor în dezvoltarea armelor biologice, însă majoritatea nu comunică public aceste măsuri. Profesorul Tom Inglesby, de la Universitatea Johns Hopkins, avertizează că nu există un cadru guvernamental oficial care să protejeze împotriva utilizării abuzive a AI. El solicită evaluări independente obligatorii înainte de lansarea noilor modele AI, pentru a identifica și elimina riscurile.
Inglesby consideră că accesul la date biologice cu risc ridicat ar trebui restricționat și că verificarea comenzilor de materiale genetice ar trebui să fie o practică standard, pentru a preveni utilizarea acestora în dezvoltarea de virusuri noi și periculoase.
