AI Act e sistemi ad alto rischio: chi risponde quando l'algoritmo sbaglia?

Mi chiamo Thibault Marchand, esercito la professione tra Bruxelles, Parigi e Amsterdam, e da quindici anni mi occupo di ciò che altri avvocati preferiscono ancora chiamare — con un certo fastidio nella voce — roba da informatici. L'AI Act è entrato in vigore il 1° agosto 2024. Siamo ora al luglio 2026, nel pieno della fase di applicazione delle disposizioni sui sistemi ad alto rischio, e posso dirvi con certezza che il principale problema che i miei clienti — banche, ospedali, assicuratori, pubbliche amministrazioni — mi pongono ogni settimana non riguarda la compliance tecnica. Riguarda una domanda molto più antica, molto più scomoda: quando l'algoritmo sbaglia, chi paga?

La risposta, oggi, è: dipende. E questo è esattamente il tipo di risposta che un ordinamento giuridico maturo non dovrebbe mai dare a una questione così strutturale.

Il quadro normativo: l'AI Act e la sua architettura della responsabilità

Il Regolamento (UE) 2024/1689 — comunemente noto come AI Act — ha costruito un sistema di classificazione dei rischi che, nelle intenzioni del legislatore europeo, doveva fungere anche da parametro implicito per l'attribuzione della responsabilità. L'idea era elegante nella sua semplicità: più alto il rischio classificato dal regolamento, più stringenti gli obblighi di trasparenza, documentazione, supervisione umana e audit. Di conseguenza, più facile per il danneggiato dimostrare la violazione di uno standard di condotta predefinito.

In realtà, l'AI Act non disciplina la responsabilità civile. Lo dice chiaramente il Considerando 9 e lo ribadisce l'articolo 2, paragrafo 4: il regolamento non pregiudica le norme nazionali in materia di responsabilità contrattuale ed extracontrattuale. Il legislatore europeo ha deliberatamente lasciato questo terreno ai singoli Stati membri, nella speranza — o nell'illusione — che la parallela AI Liability Directive colmasse il vuoto. Quella direttiva, proposta dalla Commissione nel settembre 2022, giace ancora in un limbo negoziale che, a luglio 2026, non accenna a risolversi. Il Parlamento europeo ha adottato la sua posizione nel giugno 2023; il Consiglio non ha ancora raggiunto un accordo su punti fondamentali come la presunzione di causalità e l'inversione dell'onere della prova.

Il risultato è che operano in parallelo due livelli: l'AI Act come strumento di public enforcement — con le sue sanzioni amministrative fino a 35 milioni di euro o il 7% del fatturato globale per le violazioni più gravi ex articolo 99 — e i diritti nazionali come strumento di private enforcement, ciascuno con le proprie categorie dogmatiche, i propri regimi di imputazione, le proprie soglie probatorie.

Il nodo irrisolto della causalità: tra black box e onere della prova

Il problema centrale della responsabilità da AI non è la colpa. È la causalità. E non perché i giuristi non sappiano cosa sia un nesso causale — lo studiano dal primo anno di giurisprudenza — ma perché i modelli di intelligenza artificiale, in particolare quelli fondati su architetture di deep learning, producono output la cui genesi interna è spesso opaca anche ai loro stessi sviluppatori.

Prendiamo un caso reale, recente e istruttivo. Nel marzo 2025, il Tribunale di Amsterdam ha dovuto pronunciarsi su una controversia che vedeva contrapposti una compagnia assicurativa olandese e un privato cittadino cui era stata negata una polizza sanitaria integrativa in base alla valutazione di un sistema di predictive risk scoring. Il sistema era classificabile come ad alto rischio ai sensi dell'allegato III, punto 5, lettera b) dell'AI Act — sistemi utilizzati in materia di accesso a servizi privati essenziali. La compagnia aveva rispettato formalmente tutti gli obblighi del regolamento: documentazione tecnica, registrazione nel database EU, valutazione della conformità da parte di un organismo notificato. Eppure il cittadino sosteneva di essere stato discriminato sulla base di variabili proxy correlate all'origine etnica.

Il Rechtbank Amsterdam si è trovato di fronte a un muro: l'attore non riusciva a dimostrare il nesso causale tra il funzionamento opaco del sistema e il danno subito, perché la compagnia aveva prodotto solo una spiegazione post-hoc dell'output — una saliency map, tecnicamente — che il tribunale non aveva gli strumenti per valutare autonomamente. La causa è stata sospesa in attesa di una perizia tecnica, ma la lezione è già chiarissima: la trasparenza algoritmica prevista dall'AI Act non equivale a spiegabilità giuridicamente utilizzabile in sede processuale.

In Italia, il quadro è ancora più fragile. Il codice civile italiano, agli articoli 2043 e seguenti, richiede la prova del danno ingiusto, della condotta illecita e del nesso causale secondo il criterio del più probabile che non elaborato dalla Cassazione (SS.UU. n. 576/2008). Applicare questo standard a un sistema che produce una decisione attraverso miliardi di parametri è un esercizio che rasenta il surrealismo giuridico.

Provider, deployer e la catena di responsabilità: chi è davvero esposto?

L'AI Act introduce una distinzione fondamentale che i pratici del diritto devono avere sempre presente: quella tra provider — il soggetto che sviluppa o immette sul mercato il sistema AI — e deployer — il soggetto che utilizza il sistema nel proprio contesto operativo. Gli articoli 16 e 26 del regolamento distribuiscono obblighi diversi a ciascuna categoria, e questa distribuzione ha conseguenze dirette sul piano della responsabilità civile, anche in assenza della Direttiva AI Liability.

Il provider è responsabile della corretta progettazione, della robustezza tecnica, della documentazione e del rispetto dei requisiti di accuratezza ex articolo 15. Il deployer è responsabile dell'uso conforme alle istruzioni del provider, della supervisione umana effettiva e dell'adattamento del sistema al proprio contesto specifico. Nella pratica contrattuale, quello che osservo quotidianamente è una tendenza dei grandi provider — penso a certi fornitori di sistemi di scoring creditizio o di supporto diagnostico medico — a scaricare contrattualmente sul deployer ogni responsabilità per l'uso finale, attraverso clausole di limitation of liability e dichiarazioni di conformità che il deployer deve firmare senza averle sostanzialmente negoziate.

Questo crea una situazione paradossale: l'ospedale che usa un sistema di supporto alla diagnosi oncologica — alto rischio, allegato III, punto 5, lettera a) — è formalmente il deployer responsabile della supervisione umana, ma nella realtà operativa dipende totalmente dalla qualità del sistema che il provider gli ha venduto. Se il sistema genera un falso negativo e il paziente non riceve la diagnosi tempestiva, chi risponde? Il medico che ha fatto affidamento sull'output? L'ospedale che ha adottato il sistema senza condurre una valutazione d'impatto adeguata? Il provider che ha venduto un sistema con un tasso di sensibilità insufficiente per la popolazione italiana, addestrato prevalentemente su dati nordamericani?

La risposta, in assenza di un regime armonizzato di responsabilità oggettiva o semioggettiva, è: tutti e nessuno, a seconda di dove si litiga e di chi ha i migliori avvocati.

Il GDPR come strumento sussidiario e i suoi limiti strutturali

In attesa che la AI Liability Directive prenda forma, molti colleghi — e molte autorità di controllo — stanno usando il GDPR come leva alternativa per aggredire i sistemi AI problematici. L'articolo 22 del Regolamento (UE) 2016/679, che vieta le decisioni automatizzate con effetti giuridici significativi senza un adeguato intervento umano, è diventato il principale strumento di contestazione nelle cause che coinvolgono algoritmi decisionali. Le autorità Garanti di Italia, Spagna e Francia hanno adottato provvedimenti significativi in questo senso tra il 2024 e il 2026.

Il Garante italiano, con il provvedimento del 18 novembre 2024 nei confronti di un grande istituto di credito che utilizzava un sistema di credit scoring automatizzato, ha ribadito che l'articolo 22 GDPR impone non solo la possibilità formale di un intervento umano, ma la sua effettività sostanziale. Un operatore di call center che ratifica meccanicamente l'output algoritmico senza possibilità reale di modificarlo non costituisce supervisione umana ai sensi né del GDPR né dell'AI Act. Questa posizione è corretta sul piano interpretativo, ma il GDPR rimane uno strumento di data protection, non di responsabilità civile da prodotto difettoso. Le sanzioni amministrative sono potenti; il risarcimento del danno individuale rimane una strada accidentata.

L'articolo 82 GDPR prevede il diritto al risarcimento del danno per violazione del regolamento, con inversione dell'onere della prova a carico del titolare del trattamento. Ma la giurisprudenza italiana — e non solo italiana — ha mostrato una notevole riluttanza a quantificare il danno non patrimoniale da trattamento illecito di dati in termini economicamente significativi per le vittime di discriminazione algoritmica. La Corte di Giustizia, con la sentenza UI c. Österreichische Post (C-300/21, aprile 2023), ha chiarito che non ogni violazione del GDPR dà automaticamente diritto al risarcimento — occorre un danno effettivo, anche non patrimoniale, ma comunque reale e provato. Applicato alla discriminazione algoritmica, questo standard è spesso insuperabile per chi non ha le risorse per sostenere una perizia tecnica complessa.

Verso dove andiamo: scenari e domande scomode

Luglio 2026. Le autorità nazionali di vigilanza sull'AI Act — in Italia è il sistema policentrico che vede coinvolti AGCOM, ACN e Garante Privacy, con il coordinamento dell'AI Office europeo — stanno completando le prime ispezioni sistematiche sui deployer di sistemi ad alto rischio. I risultati preliminari che circolano negli ambienti che frequento dipingono un quadro preoccupante: la maggior parte dei soggetti vigilati è formalmente compliant sul piano documentale, ma la sostanza della supervisione umana e della valutazione dell'impatto è spesso un esercizio burocratico privo di contenuto reale.

Il mercato, nel frattempo, si è mosso. I grandi assicuratori hanno cominciato a offrire polizze specifiche per il rischio da AI — le cosiddette AI liability policies — che coprono le esposizioni dei deployer. È un segnale interessante: il settore assicurativo, che per definizione prezza il rischio in modo più accurato del legislatore, sta già valorizzando economicamente questa incertezza normativa. Quando il mercato delle assicurazioni si muove prima del diritto, vuol dire che il problema è reale e concreto.

La domanda che lascio al lettore non è tecnica. È di natura più profonda. L'AI Act ha creato un sistema di obblighi sofisticati, costosi, burocraticamente esigenti. Ha alzato la soglia di entry per chi vuole sviluppare o distribuire sistemi AI in Europa. Ha imposto trasparenza, documentazione, conformità. Ma ha deliberatamente evitato di toccare il cuore del problema: chi subisce il danno di un sistema AI difettoso o discriminatorio riceve, concretamente, una tutela effettiva?

La risposta onesta, a luglio 2026, è no. E la cosa più scomoda non è che il legislatore europeo non lo sappia. È che probabilmente lo sa benissimo, e ha scelto di non affrontarlo per non disturbare un'industria tecnologica che l'Europa vuole disperatamente non perdere a vantaggio degli Stati Uniti e della Cina. La compliance è diventata un prodotto. La giustizia per i danneggiati rimane una promessa.

Vi chiedo, colleghi: siamo davvero sicuri di voler chiamare questo sistema tutela dei diritti fondamentali? O stiamo semplicemente aggiungendo carta a un problema che richiede coraggio?