Inteligența artificială ajunge la unul dintre cele mai înalte niveluri ale diplomației mondiale. Lideri ai unor companii importante din domeniul AI sunt programați să participe miercuri, 23 septembrie, la o reuniune a Consiliului de Securitate al Organizației Națiunilor Unite dedicată legăturii dintre inteligența artificială și securitatea internațională.
Printre cei anunțați se numără Sam Altman, CEO OpenAI, Dario Amodei, CEO Anthropic, și Clément Delangue, cofondator al Hugging Face. Cercetătorul Yoshua Bengio, unul dintre cei mai cunoscuți specialiști în domeniul inteligenței artificiale, urmează de asemenea să participe la briefing.
Reuniunea are loc într-un moment în care discuția despre AI nu mai privește doar chatboți, productivitate sau locurile de muncă. În centrul dezbaterilor intră acum probleme precum atacurile cibernetice asistate de AI, sistemele autonome, dezinformarea, utilizarea tehnologiei în domeniul militar și riscul ca viitoarele sisteme foarte avansate să devină dificil de controlat.
De ce discută Consiliul de Securitate despre AI?
Consiliul de Securitate este organismul ONU responsabil în primul rând de pacea și securitatea internațională. Faptul că inteligența artificială este discutată în acest cadru arată cât de mult s-a schimbat percepția asupra tehnologiei.
Reuniunea din 23 septembrie figurează oficial pe agenda Consiliului sub titlul „Menținerea păcii și securității internaționale: Inteligența artificială și securitatea internațională”. Franța deține în această lună președinția Consiliului de Securitate și conduce reuniunea.
Nu este prima discuție ONU pe această temă. Consiliul de Securitate a analizat pentru prima dată riscurile AI în 2023, iar subiectul a revenit ulterior pe agendă.
OpenAI cere standarde comune pentru sistemele AI
Sam Altman este așteptat să susțină necesitatea unor criterii comune prin care să poată fi măsurate capacitățile sistemelor AI foarte avansate și eficiența măsurilor de siguranță introduse de companiile care le dezvoltă.
Potrivit Reuters, OpenAI dorește o mai bună coordonare internațională și standarde tehnice comune pentru sistemele aflate la frontiera dezvoltării AI.
Una dintre probleme este ritmul extrem de rapid al progresului.
Modelele AI pot scrie programe, analiza volume uriașe de date, identifica vulnerabilități informatice și executa sarcini complexe prin intermediul agenților autonomi. Pe măsură ce aceste capacități cresc, specialiștii discută tot mai mult despre necesitatea unor metode independente de evaluare a sistemelor înainte ca acestea să fie utilizate pe scară largă.
Atacurile cibernetice reprezintă deja un risc concret
Unele riscuri nu mai sunt teoretice.
Anthropic a documentat în septembrie 2026 mai multe operațiuni în care diferiți actori au încercat să utilizeze sistemul Claude pentru activități precum operațiuni cibernetice, supraveghere, influență și fraudă.
Compania afirmă că a identificat inclusiv organizații asociate unor state care au folosit AI pentru analiza unor cantități foarte mari de informații, identificarea unor ținte și automatizarea unor activități de supraveghere. Anthropic spune că a blocat operațiunile respective și a întărit ulterior mecanismele de protecție.
Astfel de exemple explică de ce AI începe să fie tratată și ca problemă de securitate națională.
Ce se întâmplă dacă sistemele devin prea autonome?
Un subiect mult mai controversat privește generațiile viitoare de inteligență artificială.
Unii cercetători și lideri ai industriei avertizează că sisteme mult mai performante ar putea ajunge să își îmbunătățească anumite capacități, să execute operațiuni complexe cu intervenție umană minimă și, în scenarii extreme, să devină dificil de controlat.
Aceste scenarii nu reprezintă situația actuală a sistemelor AI și există dezbateri serioase între specialiști cu privire la probabilitatea și momentul în care asemenea riscuri s-ar putea materializa.
Tocmai această incertitudine este însă unul dintre motivele pentru care tema ajunge la ONU.
Un diplomat european citat de Reuters a indicat drept exemplu scenariul în care sisteme algoritmice care interacționează între ele ar putea contribui la escaladarea accidentală a unui conflict.
AI și armele autonome
O altă problemă este utilizarea inteligenței artificiale în armament.
AI poate ajuta la identificarea țintelor, navigație, recunoaștere, analiza informațiilor și controlul unor sisteme autonome.
Secretarul general al ONU, António Guterres, susține că deciziile care implică viața și moartea nu ar trebui transferate unor sisteme de arme autonome fără control uman. Și Franța a susținut în cadrul Consiliului necesitatea reglementării utilizării AI în domeniul militar.
Tema este complicată și de faptul că marile puteri dezvoltă simultan tehnologii militare bazate pe AI și încearcă să evite impunerea unor reguli care le-ar putea limita propriul avantaj tehnologic.
SUA și China au abordări diferite
Dezbaterea are și o dimensiune geopolitică importantă.
Statele Unite și China sunt printre principalii competitori în domeniul inteligenței artificiale, iar ambele sunt membri permanenți ai Consiliului de Securitate.
Potrivit Reuters, Washingtonul și Beijingul au discutat inclusiv posibilitatea unui mecanism de notificare pentru incidente legate de AI care ar putea ajunge la nivelul unei amenințări pentru securitatea națională.
În același timp, administrația americană a transmis că nu dorește ca reglementarea internațională să frâneze dezvoltarea tehnologiei. Președintele Donald Trump a afirmat la Adunarea Generală ONU că Statele Unite vor să încurajeze dezvoltarea AI și a respins ideea unui sistem global de control asupra tehnologiei.
António Guterres, în schimb, a cerut o cooperare internațională mai puternică în domeniul guvernanței AI.
De la chatbot la problemă de securitate mondială
În numai câțiva ani, inteligența artificială generativă a trecut de la o tehnologie utilizată în principal pentru generarea de texte și imagini la sisteme capabile să scrie software, să analizeze informații complexe și să execute sarcini prin agenți autonomi.
Următoarea etapă va aduce probabil și mai multe capacități.
De aceea, discuția de la ONU nu urmărește doar tehnologia existentă astăzi, ci și ce ar putea deveni aceasta în următorii ani.
Problema centrală este găsirea unui echilibru între beneficiile economice și științifice ale inteligenței artificiale și riscurile asociate unor sisteme tot mai puternice.
Faptul că directorii celor mai importante companii AI ajung acum în fața Consiliului de Securitate arată cât de mult s-a schimbat statutul acestei tehnologii.
Inteligența artificială nu mai este doar o temă a industriei IT. A devenit și o problemă de securitate internațională, iar marile puteri încep să discute ce reguli – dacă vor exista unele comune – ar trebui să guverneze următoarea etapă a dezvoltării sale.
