All'interno della categoria dei modelli di intelligenza artificiale a scopo generale, comunemente indicati con l'acronimo GPAI, l'AI Act individua una sottocategoria di modelli a rischio sistemico, identificati principalmente sulla base della potenza computazionale utilizzata per il loro addestramento.
I modelli classificati a rischio sistemico devono rispettare obblighi rafforzati rispetto alla generalità dei modelli GPAI: valutazioni tecniche approfondite per identificare e mitigare i rischi sistemici, test di resistenza contro utilizzi impropri o malevoli, e obblighi di segnalazione tempestiva di incidenti gravi all'AI Office europeo.
Questa distinzione risponde a una preoccupazione specifica del legislatore: i modelli di dimensioni particolarmente rilevanti hanno una capacità di impatto sulla società, sull'informazione e sull'economia potenzialmente molto superiore rispetto a modelli più contenuti, giustificando un livello di vigilanza proporzionalmente più intenso.
Per le imprese che integrano modelli GPAI di terzi nei propri prodotti, sapere se il modello utilizzato rientra o meno nella categoria a rischio sistemico non è un dettaglio meramente tecnico: influisce sulla qualità e sulla profondità della documentazione tecnica che il fornitore è tenuto a mettere a disposizione, elementi che l'impresa integratrice può a sua volta dover utilizzare per dimostrare la propria conformità a valle.