Textele generate de AI vor putea avea watermark invizibil. Ce se schimbă în Europa

Textele generate de inteligența artificială vor putea fi identificate mai ușor în Uniunea Europeană. OpenAI a anunțat că va introduce, în următoarele săptămâni, un watermark invizibil pentru textele eligibile generate de ChatGPT și Codex în UE. Măsura vine în contextul aplicării noilor reguli de transparență din AI Act, care urmăresc ca materialele generate sau manipulate de inteligența artificială să poată fi identificate automat.

Spre deosebire de un marcaj vizibil, watermark-ul nu va apărea pe ecran și nu va modifica aspectul textului. Semnalul este introdus în modul în care modelul alege cuvintele, iar ulterior un instrument special poate analiza textul pentru a verifica dacă acesta conține semnalul asociat modelelor OpenAI.

Cum funcționează watermark-ul invizibil

Tehnologia dezvoltată de OpenAI poartă numele „textGrain”. Compania explică faptul că sistemul introduce un semnal statistic invizibil în alegerile de cuvinte făcute de model. Pentru utilizator, textul arată în continuare ca un text obișnuit și poate fi copiat sau folosit fără ca watermark-ul să fie vizibil.

Detectarea se face ulterior cu ajutorul unui instrument special. Acesta nu analizează doar anumite cuvinte sau expresii, ci caută tiparul statistic introdus în momentul generării.

OpenAI spune că rezultatele propriilor evaluări au fost comparabile sau mai bune decât alte metode testate de companie, inclusiv SynthID pentru text. Totuși, compania subliniază că tehnologia are limite și că rezultatele obținute în condiții controlate nu garantează o identificare perfectă în utilizarea de zi cu zi.

Un aspect important este lungimea textului. În testele prezentate de OpenAI, la o rată țintă de 1% pentru alarmele false, detectorul a identificat watermark-ul în aproximativ 80% dintre pasajele de 200 de tokeni și în aproximativ 95% dintre cele de 400 de tokeni în anumite tipuri de conținut. Rezultatele sunt mai slabe în domenii precum matematica, unde există mai puțină flexibilitate în alegerea cuvintelor.

Ce se schimbă pentru utilizatorii ChatGPT din Europa

OpenAI spune că watermark-ul va fi introdus în următoarele săptămâni pentru textele eligibile generate de ChatGPT și Codex în Uniunea Europeană. Compania nu îl introduce, deocamdată, ca setare implicită la nivel global.

În cazul utilizatorilor API, situația este diferită. Clienții API din întreaga lume pot opta, începând cu anunțul din 6 octombrie, pentru watermarking-ul textului pentru anumite modele. În acest caz, funcția este dezactivată implicit.

Pentru utilizatorul obișnuit, schimbarea nu ar trebui să fie vizibilă în momentul generării. Un text creat în ChatGPT va arăta la fel, însă poate conține semnalul statistic care permite unui detector autorizat să verifice dacă există indicii că materialul a fost generat de un model OpenAI.

Asta nu înseamnă însă că orice text poate fi identificat automat și fără erori ca fiind produs de inteligență artificială. OpenAI avertizează explicit asupra posibilității apariției atât a rezultatelor fals pozitive, cât și a celor fals negative.

De ce intervine Uniunea Europeană

Schimbarea este legată de articolul 50 din AI Act, partea regulamentului european dedicată transparenței. Potrivit Comisiei Europene, furnizorii de sisteme de inteligență artificială generativă trebuie să se asigure că rezultatele generate sau manipulate de AI sunt marcate într-un format care poate fi procesat automat și care permite identificarea lor ca fiind generate sau manipulate artificial.

Regulile se aplică din 2 august 2026, iar pentru anumite sisteme introduse pe piață înainte de această dată există o perioadă de grație pentru obligația de marcare și detectare, până la 2 decembrie 2026.

Obiectivul Bruxelles-ului este ca oamenii să poată înțelege mai ușor când interacționează cu un sistem AI sau când sunt expuși unui conținut creat ori modificat cu ajutorul inteligenței artificiale.

Regulamentul face însă diferența între marcarea tehnică a conținutului și etichetarea vizibilă. Pentru textul generat sau manipulat de AI care este publicat pentru a informa publicul despre chestiuni de interes public, implementatorii trebuie, în anumite condiții, să îl marcheze clar atunci când materialul nu a trecut printr-o verificare umană sau un control editorial.

Watermark-ul nu spune cât din text a fost scris de AI

Una dintre cele mai importante limite ale tehnologiei este că un watermark nu poate spune automat cât de mult a contribuit inteligența artificială la un material.

Un detector poate indica faptul că un text conține semnalul asociat unui model OpenAI, dar acest lucru nu stabilește cine a scris materialul, cine l-a editat sau cât de mult a fost modificat ulterior. De asemenea, un rezultat negativ nu reprezintă o dovadă absolută că inteligența artificială nu a fost folosită.

OpenAI spune că detectarea este mai dificilă în cazul textelor scurte și că performanța poate varia semnificativ în funcție de domeniu. Tehnologia poate deveni, de asemenea, mai puțin sigură atunci când materialul este modificat substanțial.

Acest lucru este important mai ales în cazul textelor care trec prin mai multe etape de editare. Un articol poate fi generat inițial de un model AI, apoi rescris de un om, tradus, reformulat sau combinat cu alte surse. Într-o astfel de situație, identificarea originii devine mai complicată.

Cine va avea acces la detector

OpenAI nu intenționează să ofere imediat detectorul de watermark tuturor utilizatorilor. Compania a anunțat că primește solicitări pentru acces și că, inițial, instrumentul va fi disponibil cercetătorilor aprobați și organizațiilor specializate care pot contribui la evaluarea și îmbunătățirea tehnologiei.

Decizia are legătură și cu limitele actuale ale sistemului. Un detector disponibil fără restricții ar putea fi folosit pentru a interpreta greșit rezultatele, mai ales în situațiile în care textul este foarte scurt sau a fost modificat după generare.

OpenAI spune că intenționează să publice ulterior tehnologia textGrain ca proiect open-source, astfel încât și alte organizații să poată construi instrumente bazate pe aceasta.

O nouă etapă pentru conținutul generat de AI

Introducerea watermark-ului pentru textele generate de ChatGPT și Codex marchează o nouă etapă în modul în care conținutul creat cu ajutorul inteligenței artificiale este tratat în Europa. Dacă până acum discuția despre proveniența imaginilor și videoclipurilor generate de AI a fost mai vizibilă, regulile europene extind treptat această preocupare și către text.

Pentru utilizatori, schimbarea va fi în mare parte invizibilă. Pentru platforme, cercetători, editori și organizații care verifică proveniența conținutului, însă, apar noi instrumente pentru identificarea materialelor generate de AI.

Tehnologia nu va elimina toate incertitudinile și nici nu va putea transforma detectorul într-o dovadă absolută privind originea unui text. În schimb, odată cu aplicarea regulilor din AI Act, marcarea automată și identificarea conținutului generat de inteligența artificială devin o parte tot mai importantă din infrastructura digitală europeană.