OpenAI, compania care dezvoltă ChatGPT, a recunoscut că scanează conversațiile utilizatorilor pentru a detecta conținut periculos și că, în anumite cazuri, raportează direct autorităților. Această practică a fost implementată ca răspuns la numeroase incidente în care utilizatorii au fost influențați negativ de interacțiunile cu chatboturi AI, ducând la automutilare, iluzii periculoase, internări în spitale, arestări și chiar sinucideri.
OpenAI a explicat că atunci când identifică utilizatori care plănuiesc să facă rău altora, trimite conversațiile lor către echipe specializate care pot lua măsuri, inclusiv blocarea conturilor. Dacă evaluarea umană confirmă o amenințare imediată de vătămare gravă, compania poate sesiza forțele de ordine. Cu toate acestea, OpenAI a precizat că nu raportează cazurile de automutilare sau intenții suicidare la poliție, invocând respectarea intimității și caracterul „unic de personal” al interacțiunilor din ChatGPT.
Această abordare a ridicat întrebări cu privire la transparența și criteriile concrete utilizate pentru a decide ce tipuri de conversații sunt suficient de îngrijorătoare pentru a atrage atenția moderatorilor și, ulterior, a autorităților. Politicile de utilizare ale companiei oferă doar exemple generale de activități interzise, precum promovarea sinuciderii sau a automutilării, fabricarea de arme, provocarea de răni altora sau distrugerea de bunuri.
În ciuda preocupărilor legate de confidențialitate, OpenAI a recunoscut că monitorizează activ conversațiile utilizatorilor și că, în anumite cazuri, le poate transmite autorităților. Această practică a fost justificată ca o măsură de protecție a utilizatorilor și a celor din jurul lor. Cu toate acestea, există îngrijorări cu privire la echilibrul între protejarea utilizatorilor și respectarea dreptului la confidențialitate.
Recunoașterea de către OpenAI a monitorizării conversațiilor utilizatorilor și raportarea acestora autorităților în anumite condiții subliniază complexitatea gestionării riscurilor asociate cu utilizarea tehnologiilor AI. Această practică ridică întrebări importante despre confidențialitate, transparență și responsabilitate în utilizarea inteligenței artificiale.
