Ue, scatta il divieto di deepfake sessuali. E da fine anno arriva l’obbligo di filigrana sui contenuti generati con AI

I sistemi di intelligenza artificiale non potranno essere usati per generare contenuti sessuali e intimi non consensuali né materiale pedopornografico. Lo prevede l’accordo raggiunto nelle scorse ore nel trilogo – ossia il negoziato tra istituzioni europee – sull’AI omnibus, il pacchetto di semplificazione normativa che riguarda proprio il regolamento europeo sull’intelligenza artificiale. Una delle novità principali dell’intesa riguarda proprio la messa al bando dei cosiddetti deepfake sessuali, ossia contenuti sessuali o pornografici generati con l’IA. A convincere Bruxelles a intervenire su questo fronte sono state le polemiche scoppiate a inizio anno su Grok, il chatbot di X, usato dagli utenti per generare immagini pornografiche partendo da foto reali.

Cosa cambia per i sistemi di AI «ad alto rischio»

L’accordo modifica anche la tabella di marcia dell’AI Act, il pionieristico regolamento sull’intelligenza artificiale approvato in pompa magna dal Parlamento europeo nel 2024, rinviando di circa un anno l’applicazione di alcune norme sui sistemi considerati ad alto rischio. In particolare, slittano al 2 dicembre 2027 le regole per i sistemi di intelligenza artificiale con casi d’uso che coinvolgono la biometria e quelli utilizzati in infrastrutture critiche, istruzione, occupazione, forze dell’ordine e gestione delle frontiere. Il 2 agosto 2028, scatteranno invece le regole per i sistemi di IA utilizzati come componenti di sicurezza e disciplinati dalla legislazione europea in materia di sicurezza e sorveglianza del mercato.

Da fine anno scatta l’obbligo di filigrana

Entro il 2 agosto 2027, tutti i Paesi europei dovranno istituire le proprie sandbox normative per l’intelligenza artificiale, ossia quegli ambienti controllati e protetti dove aziende innovative possono testare prodotti, servizi o modelli di business tecnologicamente avanzati. L’intesa delle scorse ore, inoltre, posticipa al 2 dicembre 2026 l’obbligo di filigrana sui contenuti generati dall’intelligenza artificiale, ossia quelle tecniche che consentono di individuare e tracciare i contenuti generati dall’IA.

Esentati alcuni settori

L’intesa prevede anche un meccanismo per evitare sovrapposizioni tra l’AI Act e le normative settoriali, come quelle su dispositivi medici, i giocattoli o i macchinari industriali. Per il regolamento sui macchinari è stato raggiunto un compromesso che lo esenta dall’applicazione diretta della legge sull’AI, mentre la Commissione potrà adottare atti delegati per introdurre requisiti di salute e sicurezza per i sistemi ad alto rischio. Secondo Ursula von der Leyen, presidente dell’esecutivo Ue, l’accordo di oggi «garantisce un contesto semplice e favorevole all’innovazione, che consentirà al nostro ecosistema europeo dell’IA di crescere». Il testo passa ora alla ratifica finale dei 27 Stati membri e della Plenaria.

Foto copertina: Dreamstime/Tero Vesalainen