OpenAI introduce textGrain, la filigrana invisibile per testi generati da AI

OpenAI ha annunciato l'introduzione di textGrain, una funzione che applica una filigrana invisibile ai testi generati dai suoi sistemi di intelligenza artificiale come ChatGPT e Codex. L'aggiornamento verrà implementato nelle prossime settimane nell'Unione Europea, mentre fuori dall'UE è già attivabile opzionalmente tramite API. La tecnologia inserisce nel testo uno schema statistico riconoscibile, senza aggiungere simboli o caratteri nascosti.

Lo scopo è rendere identificabile un testo prodotto da AI, adeguandosi alle norme di trasparenza dell'AI Act entrate in vigore il 2 agosto. Tuttavia, la stessa OpenAI precisa che non si tratta di una "macchina della verità" infallibile: test interni mostrano un tasso di falsi positivi dell'1% e la capacità di rilevamento cala drasticamente se il testo viene modificato, ad esempio sostituendo il 10% delle parole con sinonimi.

L'AI Act dell'Unione Europea, entrato in vigore il 2 agosto 2026, ha introdotto nuovi obblighi di trasparenza per le aziende che sviluppano intelligenza artificiale. Questa normativa rappresenta il primo quadro giuridico completo al mondo per regolamentare l'AI e richiede, tra le altre cose, che i contenuti generati automaticamente siano chiaramente identificabili. L'obiettivo è contrastare la disinformazione e garantire che gli utenti sappiano quando interagiscono con contenuti prodotti da macchine.

OpenAI, l'azienda dietro ChatGPT, si adegua a queste regole seguendo l'esempio di altre società come Anthropic. La sfida tecnica è complessa: creare un sistema di watermarking che sia affidabile ma non invadente. I precedenti tentativi si sono scontrati con la difficoltà di distinguere testi umani da quelli AI, soprattutto quando brevi o modificati. La soluzione textGrain nasce da questa necessità normativa e dalla crescente preoccupazione per l'uso indiscriminato di chatbot nella produzione di contenuti testuali, un fenomeno esploso con il lancio di ChatGPT nel 2022.