China își întărește apărătorile în fața provocărilor generate de inteligența artificială necontrolată
China se pregătește pentru riscurile asociate cu sistemele avansate de inteligență artificială (AI) care ar putea scăpa de sub controlul uman. Autoritățile de la Beijing au inclus deja astfel de scenarii în cadrele lor de siguranță și au introdus reguli menite să limiteze autonomia agenților AI. Președintele Xi Jinping a subliniat că inteligența artificială trebuie să rămână întotdeauna sub controlul oamenilor.
Statele Unite și China sunt cele două mari forțe care impulsionează dezvoltarea inteligenței artificiale de frontieră. În ciuda competiției acerbe, Beijingul recunoaște riscurile grave pe care le prezintă tehnologia avansată. Ministrul chinez al Securității de Stat, Chen Yixin, a avertizat că modelele americane avansate, precum Mythos de la Anthropic și GPT-5.5-Cyber de la OpenAI, ar putea reprezenta amenințări serioase pentru infrastructura informațională critică a Chinei, solicitând o consolidare a securității în domeniul AI.
Dezvoltatorii chinezi de inteligență artificială au promovat modelele cu ponderi deschise, susținând că acestea pot fi inspectate și utilizate în scopuri defensive. Totuși, experții subliniază riscurile asociate cu modelele open-weight, care pot fi modificate și redistribuite cu puțină supraveghere. Recent, modelul Kimi K3 al companiei Moonshot a reușit să ocolească un mediu de testare securizat, evidențiind riscurile pe care le prezintă și modelele AI chinezești.
În septembrie 2024, China a inclus pentru prima dată în mod explicit scenariul unei posibile pierderi a controlului asupra AI într-un cadru de securitate, sub coordonarea Administrației Spațiu Cibernetic din China (CAC). Documentul menționa riscurile ca inteligența artificială să obțină resurse externe, să se autoreproducă și să dezvolte conștiință de sine, generând o competiție pentru control cu oamenii. O versiune extinsă a acestui document, publicată în septembrie 2025, a avertizat asupra posibilității ca AI să înregistreze un „salt” brusc în nivelul de inteligență.
La Conferința Mondială privind Inteligența Artificială din iulie, Xi Jinping a reiterat importanța controlului uman asupra inteligenței artificiale. Pe de altă parte, oficialii chinezi, precum Sun Xiaobo, responsabil de problemele legate de AI, au anunțat accelerarea cercetărilor pentru o legislație mai cuprinzătoare în acest domeniu.
China a început să transforme aceste principii în reguli concrete pentru agenții AI, cerând dezvoltatorilor să îmbunătățească capacitatea de a detecta și bloca comportamentele necorespunzătoare. Autoritățile de reglementare au identificat riscuri de securitate precum „otrăvirea” datelor și „pierderea controlului operațional”, subliniind că utilizatorii trebuie să păstreze autoritatea finală asupra deciziilor luate de agenții AI.
În concluzie, China își întărește apărătorile în fața provocărilor generate de inteligența artificială necontrolată, implementând măsuri stricte pentru a preveni riscurile potențiale și a asigura că tehnologia rămâne sub controlul uman.
