AI Act: dal 2 agosto i poteri ci sono. E chi costruisce i modelli ha messo per iscritto il rischio

Per due anni l'AI Act è stato discusso come un calendario. Si contavano le scadenze, si pubblicavano infografiche, si organizzavano convegni su che cosa sarebbe diventato esigibile e quando. Dal 2 agosto 2026 il regolamento ha smesso di essere un calendario ed è diventato un insieme di poteri esercitati. Nelle stesse settimane, dall'interno dei laboratori che sviluppano i modelli più avanzati sono arrivate parole che nessun ufficio legale avrebbe mai approvato. Messe una accanto all'altra, queste due notizie cambiano il modo in cui un'impresa europea dovrebbe leggere i propri contratti con i fornitori di intelligenza artificiale.

Che cosa è diventato esigibile

La pagina ufficiale della Commissione dedicata all'applicazione del regolamento mette in fila le date con una chiarezza che vale la pena riportare.

Dal 2 agosto 2026 sono applicabili i poteri di controllo relativi a tre blocchi di obblighi: le pratiche vietate, gli obblighi dei fornitori di modelli di intelligenza artificiale per finalità generali, e gli obblighi di trasparenza. Il 2 dicembre 2026 scattano i divieti riguardanti il materiale intimo non consensuale e quello pedopornografico. Il 2 dicembre 2027 si applicano le regole sui sistemi ad alto rischio elencati nell'Allegato III. Il 2 agosto 2028 quelle sui sistemi ad alto rischio incorporati in prodotti regolamentati.

Gli obblighi di trasparenza sono i più immediatamente visibili: i chatbot devono dichiarare di essere sistemi automatici, i deepfake devono essere etichettati, i contenuti sintetici devono recare marcature leggibili da una macchina. Per un'impresa che usa un assistente virtuale nel servizio clienti o genera immagini per il marketing, non è più una buona pratica: è un obbligo sanzionabile.

Per i fornitori di modelli generali, gli obblighi comprendono la trasparenza verso chi integra il modello nei propri prodotti, il rispetto del diritto d'autore e, per i modelli più avanzati, la sicurezza: protezione contro rischi chimici, biologici, radiologici e nucleari, contro la perdita di controllo, contro l'uso offensivo in ambito informatico, contro la manipolazione dannosa e contro i rischi sistemici in generale.

Chi controlla chi

Il riparto delle competenze è un punto su cui molte imprese italiane hanno ancora le idee confuse.

L'Ufficio europeo per l'intelligenza artificiale controlla i fornitori di modelli generali, i sistemi costruiti dallo stesso fornitore o dal suo gruppo, e i sistemi integrati nelle piattaforme e nei motori di ricerca online di dimensioni molto grandi. Tutti gli altri sistemi ricadono sotto le autorità nazionali competenti. I sistemi usati dalle istituzioni dell'Unione sono controllati dal Garante europeo della protezione dei dati.

Tradotto: il fornitore del modello risponde a Bruxelles, ma l'impresa italiana che usa quel modello dentro un proprio sistema risponde all'autorità nazionale. Le due responsabilità corrono in parallelo e non si escludono.

Gli strumenti di indagine

L'Ufficio dispone di richieste di informazioni in due forme. Nella forma semplice, sono sanzionate le risposte inesatte o fuorvianti. Nella forma adottata con decisione della Commissione, è sanzionata anche la mancata o incompleta risposta. Per i modelli generali può inoltre disporre valutazioni del modello, richiedere l'accesso, e ordinare restrizioni alla messa a disposizione. Per i sistemi, può condurre audizioni, con il consenso dell'interessato, e ispezioni nei locali.

Le sanzioni sono note, ma conviene averle sotto gli occhi: fino a 35 milioni di euro o al 7% del fatturato mondiale annuo, se superiore, per le pratiche vietate; fino a 15 milioni o al 3% per le altre violazioni, compresi gli obblighi dei fornitori di modelli generali; fino a 7,5 milioni o all'1% per le informazioni inesatte fornite nell'ambito dei sistemi. La Commissione ha attivato anche uno strumento per i reclami e uno per le segnalazioni di chi lavora all'interno delle organizzazioni.

I primi passi concreti

Secondo quanto riportato dalla stampa europea specializzata tra fine agosto e inizio settembre, la Commissione ha usato per la prima volta i nuovi poteri chiedendo ai principali sviluppatori documentazione su sicurezza informatica, sicurezza dei modelli e diritto d'autore, e la vicepresidente esecutiva per la sovranità tecnologica ha confermato il 29 agosto che i laboratori di frontiera sono i primi della fila (da verificare nei dettagli sui destinatari). La stampa tecnologica ha dato notizia anche del primo rapporto d'incidente presentato da OpenAI ai sensi del regolamento, con l'ammissione di lacune nel monitoraggio (da verificare).

Sono passaggi ancora iniziali, ma indicano la direzione: l'Ufficio non comincia dalle sanzioni, comincia dai documenti. Chi fornisce modelli deve essere in grado di dimostrare che cosa ha fatto per valutarne e mitigarne i rischi. Chi li integra deve sapere che quella documentazione esiste e dove si trova.

Le parole dall'interno

Mentre Bruxelles chiedeva documenti, dall'interno dei laboratori arrivavano dichiarazioni pubbliche.

L'8 settembre Jacob Coxon, ricercatore che negli ultimi tre anni si è occupato di pre-addestramento prima in OpenAI e poi in Anthropic, ha annunciato le proprie dimissioni con un messaggio pubblico: nessuna delle due società, ha scritto, sta agendo responsabilmente; stanno correndo verso sistemi capaci di migliorarsi da soli «scommettendo con le nostre vite». E ha aggiunto che chi costruisce l'intelligenza artificiale crede sinceramente che possa ucciderci tutti entro la fine del decennio, precisando che non si tratta di una trovata commerciale.

Due elementi rendono la vicenda diversa dalle tante dichiarazioni allarmistiche degli ultimi anni. Il primo: secondo quanto riferito ad Axios e ripreso dalla stampa internazionale, Coxon ha lasciato l'azienda prima che maturassero le sue quote azionarie, rinunciando quindi a un beneficio economico. Nella stessa intervista ha dichiarato di non aver visto la sua ex società compromettere la sicurezza per battere la concorrenza, e di temere piuttosto ciò che accadrà con l'aumentare della pressione: se si è costretti a correre, si tagliano i passaggi di controllo.

Il secondo elemento è ancora più rilevante. Evan Hubinger, che guida la ricerca sull'allineamento in Anthropic e che in azienda è rimasto, ha risposto pubblicamente dando ragione a Coxon e indicando la propria stima personale di una probabilità superiore al 10% entro il prossimo decennio. La BBC ha dato ampio spazio alla dichiarazione.

Pochi giorni dopo, lo stesso laboratorio ha pubblicato un rapporto di intelligence sulle minacce in cui descrive di aver bloccato un possibile tentativo di usare i propri modelli per la ricerca su armi biologiche, oltre ad attività di intrusione di origine russa e usi impropri da parte di soggetti cinesi, come riportato da BBC e Reuters.

Perché al giurista interessa la seconda notizia più della prima

Il diritto della responsabilità civile, in tutti gli ordinamenti europei, ruota intorno alla conoscibilità del rischio.

Nel nostro sistema, la responsabilità del produttore prevista dal Codice del consumo esclude il risarcimento quando lo stato delle conoscenze scientifiche e tecniche, al momento della messa in circolazione, non permetteva di considerare il prodotto difettoso. È la cosiddetta esimente del rischio da sviluppo. La responsabilità per l'esercizio di attività pericolose dell'articolo 2050 del codice civile impone di provare di aver adottato tutte le misure idonee a evitare il danno, e le misure idonee si misurano sul rischio conosciuto. La nuova direttiva europea sulla responsabilità per danno da prodotti difettosi, che include espressamente il software, sta per essere recepita e rafforza la posizione di chi agisce (da verificare lo stato del recepimento italiano).

In tutti questi schemi, la domanda decisiva è sempre la stessa: il rischio era noto a chi ha immesso il prodotto sul mercato?

Quando il responsabile della ricerca sull'allineamento di un produttore dichiara pubblicamente una probabilità numerica di esito catastrofico, la risposta a quella domanda, per la categoria di rischi a cui la dichiarazione si riferisce, diventa difficile da negare. Non perché la stima sia necessariamente corretta, ma perché dimostra che il rischio era oggetto di valutazione interna, quantificata, e condivisa. Una difesa fondata sull'imprevedibilità si scontra con documenti che il produttore ha reso pubblici da sé.

Le stesse dichiarazioni si inseriscono in un quadro normativo che, per i modelli generali con rischio sistemico, impone di valutare e mitigare quei rischi e di segnalare gli incidenti gravi. Il regolatore, dunque, non dovrà chiedersi se il rischio fosse conosciuto. Dovrà chiedersi che cosa sia stato fatto per gestirlo, e con quali prove.

Che cosa deve fare un'impresa italiana adesso

La tentazione, per chi usa questi strumenti senza produrli, è pensare che la partita riguardi soltanto i grandi laboratori. È un errore, per tre ragioni pratiche.

La catena contrattuale. Un'impresa che integra un modello generale in un proprio servizio, per esempio per valutare la documentazione dei clienti o per rispondere alle richieste, deve verificare che il contratto con il fornitore contenga impegni sulla documentazione tecnica, sulla trasparenza verso chi integra e sulla gestione degli incidenti. Se il fornitore riceve una richiesta dall'Ufficio europeo, o subisce restrizioni, l'impresa deve saperlo in tempo per gestire le conseguenze sui propri clienti.

La trasparenza verso l'utente. Gli obblighi dell'articolo 50 sono già esigibili. Un assistente virtuale che non si presenta come tale, o contenuti sintetici diffusi senza marcatura, espongono direttamente chi li usa, non soltanto chi ha sviluppato il modello.

La prova delle misure adottate. Nel momento in cui il rischio è stato dichiarato pubblicamente da chi produce la tecnologia, l'impresa che la utilizza in un contesto delicato non può più sostenere di non esserne stata consapevole. Deve poter dimostrare di aver valutato l'uso, delimitato i casi in cui la decisione automatica incide su persone, e mantenuto un controllo umano effettivo. Un registro degli strumenti in uso, con la finalità, i dati trattati e le verifiche compiute, costa poco e vale molto il giorno in cui qualcuno chiederà conto di una decisione.

L'angolo del Diavolo

Per anni le imprese tecnologiche hanno chiesto di essere regolate «con giudizio», sostenendo che i rischi estremi fossero speculazioni e che la vera minaccia fosse un'Europa troppo lenta. In agosto l'Europa ha acceso i poteri. A settembre, alcune delle persone più informate del settore hanno detto al mondo che i rischi estremi sono oggetto di stime numeriche all'interno dei laboratori.

La legge non chiede ai produttori di essere ottimisti o pessimisti. Chiede di documentare. E da questo mese c'è un'autorità che può pretendere quei documenti, e ci sono dichiarazioni pubbliche con cui confrontarli. Chi scrive i contratti con i fornitori di intelligenza artificiale dovrebbe partire da una domanda molto semplice: se domani quel fornitore dovesse spiegare a Bruxelles che cosa ha fatto per gestire il rischio che i suoi stessi ricercatori hanno quantificato, io sarei in grado di spiegare ai miei clienti che cosa ho fatto io?