Într-un context geopolitic tot mai tensionat, în care războiul informațional se mută rapid în sfera tehnologiilor de ultimă generație, un nou studiu publicat recent în Estonia aruncă o umbră de îndoială asupra capacităților de securitate ale Europei în domeniul inteligenței artificiale (IA). Mistral AI, considerat mândria tehnologică a Uniunii Europene și principalul său competitor în fața giganților din Silicon Valley, s-a dovedit a fi alarmant de vulnerabil în fața dezinformării orchestrate de Kremlin.
Concluziile cercetării arată că modelele de limbaj open-source dezvoltate de startup-ul francez eșuează sistematic în a bloca sau identifica narațiunile malițioase rusești.
Rezultate dezastruoase în teste
Studiul a evaluat minuțios 60 de modele de inteligență artificială generativă pentru a le măsura rezistența la propagandă. Rezultatele au plasat cel mai avansat sistem dezvoltat de Mistral pe un dezamăgitor loc 47. Mai grav, toate cele patru versiuni testate ale companiei franceze au înregistrat un scor de eficiență de sub 40% în depistarea surselor identificate oficial ca fiind vectori de propagandă rusească.
Această contraperformanță a plasat campionul european mult în spatele unor modele comerciale americane, precum Claude (dezvoltat de Anthropic), dar și sub nivelul unor sisteme comerciale chinezești. Paradoxal, tocmai modelul conceput pe continentul care își propune să reglementeze cel mai dur securitatea cibernetică s-a dovedit cel mai permeabil la manipulare externă.
Dilema securității: Open-Source vs. Modele Comerciale
Arvi Tavast, directorul institutului estonian care a coordonat testele, a subliniat că această situație scoate la iveală un risc sistemic major legat de utilizarea modelelor de tip open-source (cu cod sursă deschis). Deși tehnologia open-source este apreciată pentru transparență și flexibilitate, ea prezintă vulnerabilități structurale greu de controlat în faza inițială.
„Multe organizații guvernamentale și de securitate nu pot folosi modele comerciale închise din cauza reglementărilor stricte privind partajarea datelor confidențiale. Astfel, ele devin dependente de soluțiile open-source, expunându-se însă unor riscuri masive de dezinformare”, a avertizat Tavast.
Replica Mistral: „Sunt testate modelele brute”
În replică, reprezentanții Mistral AI au oferit clarificări, susținând că testele realizate în Estonia nu reflectă performanța reală a produselor finale livrate utilizatorilor. Compania a precizat că studiul a vizat „modelele brute”, adică variantele de bază, înainte ca acestea să fie personalizate, optimizate și calibrate de către clienți.
„Luăm lupta împotriva dezinformării extrem de în serios și investim continuu în capabilități avansate de detecție și prevenție pentru a răspunde unui peisaj de amenințări aflat în dinamică”, au transmis oficialii companiei. Aceștia au adăugat că funcția lor specială destinată companiilor (Vibe Work) încorporează straturi de filtrare robuste, concepute special pentru a bloca sursele disputate, promitând totodată actualizări constante pentru a rămâne cu un pas înaintea riscurilor emergente.
Mize strategice într-un an critic
Vulnerabilitatea AI în fața propagandei nu este doar o problemă tehnică, ci una de securitate națională globală. Descoperirile vin într-un moment în care cursa pentru finanțarea inteligenței artificiale atinge cote istorice, cu infuzii masive de zeci de miliarde de dolari de la investitori, pe fondul temerilor crescute legate de deepfake-uri și campanii masive de manipulare a opiniei publice.
Pentru Uniunea Europeană, care încearcă să își afirme suveranitatea digitală în fața SUA și Chinei prin reglementări stricte și prin susținerea campionilor locali, eșecul temporar al Mistral reprezintă un duș rece. Acesta demonstrează că, în goana după inovație și independență tehnologică, securitatea informațională nu poate fi lăsată pe planul secund.
