Un studiu recent efectuat de cercetători de la Massachusetts Institute of Technology (MIT), realizat în colaborare cu platforma Hugging Face, arată o schimbare notabilă în peisajul global al modelelor de inteligență artificială: modelele „open” dezvoltate în China au crescut semnificativ în popularitate la nivel mondial și, în ultimul an, au depășit pentru prima dată modelele americane în cote de descărcări la scară globală. Conform analizei citate de Financial Times pe baza datelor MIT/Hugging Face, modelele chinezești au ajuns la circa 17% din descărcările globale de modele open, față de 15,8% ale dezvoltatorilor din Statele Unite. Această tendință reflectă, potrivit autorilor studiului, o strategie chineză orientată către eliberarea frecventă de modele deschise, care pot fi adaptate de dezvoltatori și startup-uri din întreaga lume.
Pe lângă creșterea în volum, cercetările MIT evidențiază că modelele de limbaj și componentele lor — în special cele care învață să evalueze sau să „recompenseze” răspunsurile (reward models) — pot prezenta părtiniri politice detectabile. Un studiu al Centrului pentru Comunicare Constructivă de la MIT a constatat că, în unele seturi de date folosite la antrenarea acestor modele, modelele de evaluare manifestă o orientare politică clară, chiar și atunci când sunt antrenate pe declarații considerate obiectiv adevărate. Concluziile ridică întrebări practice despre cum influențează astfel de componente neutritatea informațională a aplicațiilor AI folosite de public.
Alte cercetări academice privind „tendințele culturale” ale generației de modele confirmă că răspunsurile AI pot varia în funcție de limbă și context cultural. Un studiu al MIT Sloan arată că aceleași solicitări adresate în limbi diferite pot produce răspunsuri care reflectă orientări culturale distincte — un rezultat care, corelat cu capacitatea de personalizare a unor modele open, înseamnă că versiuni adaptate ale aceluiași model pot transmite audiențelor din regiuni diferite nuanțe și priorități diferite. Acest fenomen susține observațiile potrivit cărora modelele pot fi personalizate global, dar că personalizarea aceasta are implicații asupra informației pe care o primesc utilizatorii.
Semnalele privind conținutul și orientarea ideologică au atras atenția și a autorităților. Un memorandum intern citat de Reuters arată că agenții americane au identificat în modele dezvoltate sau comercializate din China aliniere la anumite puncte de vedere promovate de Beijing și un nivel crescut de cenzură sau filtrare la iterațiile ulterioare ale unor sisteme. Documentele oficiale consultate de Reuters nu susțin însă ideea unor „arme dezinformative” uniforme, ci indică variații între modele și evoluții în timp. Aceste constatări au determinat apeluri la audituri şi monitorizări suplimentare din partea unor instituţii care se ocupă de securitate informaţională.
Evaluările publice şi ştiinţifice asupra părtinirilor nu sunt unanime, dar un studiu condus la Universitatea Stanford a arătat că, în teste comparative, mulți utilizatori au perceput un bias politic consistent în răspunsurile mai multor modele populare, majoritatea fiind considerate ca având o înclinaţie spre stânga pentru un set larg de întrebări. Această percepție, combinată cu posibilitatea ca modelele deschise să fie adaptate local, accentuează îngrijorarea că utilizatorii din anumite regiuni sau grupuri demografice pot primi fluxuri informaționale cu nuanțe politice sistemice.
În ansamblu, concluziile raportate de sursele citate nu susțin afirmații senzaționale sau generalizatoare care să acuze, fără dovezi concrete, că „toate” sau „majoritatea” modelelor chinezești difuzează propagandă. Ele arată însă trei lucruri confirmate recent: 1) adoptarea modelelor open dezvoltate în China a crescut global, 2) modelele de evaluare și generare pot reflecta părtiniri legate de datele și procesele de antrenare, și 3) observatorii — universitari şi instituţionali — au identificat cazuri sau modele în care există aliniere la poziţii pro-Beijing sau la forme de cenzură, ceea ce a dus la solicitări de audit şi monitorizare suplimentare. Aceste concluzii provin din analize publice şi rapoarte ale echipelor de cercetare şi instituţiilor media care au examinat datele disponibile.
Pentru factorii de decizie şi pentru organizaţiile media, implicaţia imediată este clară şi pragmatică: creşterea accesului la modele personalizabile dezvoltate în jurisdicţii diferite impune mecanisme de verificare, audit extern şi transparenţă privind originea datelor şi procedurile de antrenare. Cercetările MIT şi rapoartele jurnalistice citate arată că astfel de măsuri nu elimină automat părtinirile, dar permit detectarea lor şi luarea de măsuri pentru a limita efectele nedorite asupra fluxului informaţional public.
