Filigranarea de text (în engleză text watermarking) este o tehnică prin care se inserează informații ascunse într-un conținut textual, cu scopul de a verifica autenticitatea, originea sau proprietatea acestuia. Cercetarea în domeniu a început în 1997, dar a cunoscut o accelerare semnificativă odată cu răspândirea sistemelor de inteligență artificială generativă bazate pe modele lingvistice mari (LLM), unde filigranarea este folosită pentru a marca textul generat automat, a detecta dezinformarea și frauda academică. Uniunea Europeană impune, prin Regulamentul privind inteligența artificială, marcarea obligatorie a conținutului generat de sisteme de inteligență artificială generativă, iar mai multe companii tehnologice mari au adoptat filigranarea în produsele lor. Fiabilitatea tehnicii a fost însă contestată de mai multe analize independente, care au documentat metode de eliminare sau falsificare a filigranelor.

Metode

Tehnici clasice Primele propuneri de filigranare a documentelor text au apărut în 1997, în contextul protecției digitale a documentelor. Metodele timpurii se împart în trei categorii principale. Filigranarea bazată pe format modifică proprietăți vizuale ale textului, precum spațierea dintre cuvinte sau caractere, sau inserează caractere Unicode invizibile, fără a schimba conținutul lexical. Filigranarea bazată pe lexic înlocuiește anumite cuvinte cu sinonime alese după o regulă predefinită, formând un tipar detectabil ulterior. Filigranarea bazată pe sintaxă restructurează gramatical propoziții echivalente semantic pentru a codifica informația ascunsă.

Filigranare pentru modele lingvistice mari Odată cu apariția modelelor lingvistice mari, a apărut o a patra categorie, filigranarea bazată pe generare, care acționează direct asupra procesului prin care modelul produce text. O metodă publicată în 2023 împarte vocabularul modelului într-o listă de tokenuri „verzi” și una de tokenuri „roșii” înainte de generarea fiecărui cuvânt, apoi favorizează statistic alegerea tokenurilor din lista verde în timpul eșantionării. Filigranul rezultat poate fi detectat printr-un test statistic, fără a necesita acces la parametrii interni ai modelului, iar autorii au raportat un impact redus asupra calității textului generat.

O implementare de producție a acestei abordări, denumită SynthID-Text, a fost dezvoltată de Google DeepMind și descrisă într-un articol publicat în Nature în 2024. Potrivit autorilor, metoda modifică doar procedura de eșantionare a modelului, fără a necesita reantrenarea acestuia, iar detecția filigranului se face fără a implica modelul lingvistic propriu-zis. Aceste rezultate provin dintr-un studiu realizat de echipa care a dezvoltat sistemul. Eficacitatea practică a unor astfel de filigrane a fost contestată ulterior de cercetări independente (a se vedea secțiunea Critici și limitări, mai jos).

Aplicații Filigranarea de text este utilizată pentru a detecta conținut generat automat și dezinformarea asociată acestuia, pentru a identifica frauda academică, precum și pentru a preveni „contaminarea” seturilor de date folosite la antrenarea unor noi modele lingvistice cu text produs de alte modele. Google a extins tehnologia SynthID la chatbot-ul său Gemini și a testat-o, în octombrie 2024, pe aproximativ 20 de milioane de răspunsuri. Potrivit companiei, rezultatele acestui test intern au arătat că utilizatorii au perceput textul filigranat și cel nefiligranat drept comparabile din punct de vedere calitativ.

Context de reglementare Regulamentul privind inteligența artificială al Uniunii Europene (AI Act) impune, prin articolul 50, ca furnizorii de sisteme de inteligență artificială generativă să marcheze ieșirile produse într-un format care poate fi citit automat, astfel încât acestea să poată fi detectate ca fiind generate artificial. Obligația devine aplicabilă integral la 2 august 2026. Filigranarea este menționată ca una dintre tehnicile recomandate pentru îndeplinirea acestei obligații, alături de metadatele semnate digital.

Între 2023 și 2024, mai multe companii tehnologice, printre care Meta, Google și OpenAI, s-au alăturat coaliției C2PA (Coalition for Content Provenance and Authenticity) și și-au anunțat angajamentul de a marca prin filigran conținutul generat de propriile sisteme de inteligență artificială.

Critici și limitări Fiabilitatea filigranării de text a fost pusă sub semnul întrebării de mai multe analize independente. Într-un articol din august 2023, cercetătoarea Claire Leibowicz a arătat că filigranarea textului este considerabil mai fragilă decât cea aplicată imaginilor, materialelor video sau audio, și a atras atenția asupra riscului ca etichetarea pe scară largă a conținutului să genereze o falsă negare a autenticității conținutului real produs de oameni, fenomen denumit „liar's dividend”.

Cercetători de la ETH Zürich, citați de MIT Technology Review în martie 2024, au demonstrat că filigranele de text pot fi compromise prin două tipuri de atacuri obținute prin interogarea repetată a modelului: falsificarea filigranului (spoofing), cu o rată de succes de aproximativ 80%, și eliminarea filigranului (scrubbing), cu o rată de succes de aproximativ 85%. În mod similar, revista Fortune a relatat, în martie 2024, că unele filigrane pot fi eliminate în aproximativ două secunde, iar experții avertizează că astfel de mecanisme pot conferi în mod paradoxal o credibilitate sporită conținutului dăunător care nu poartă etichetă, mai ales în perioade electorale.

Note

Vezi și Filigran Inteligența artificială generativă

Legături externe SynthID — Google DeepMind „Why watermarking AI-generated content won't guarantee trust online” — MIT Technology Review

Categorie:Inteligență artificială Categorie:Criptografie Categorie:Securitate informatică