I sistemi di intelligenza artificiale utilizzati per valutare il merito creditizio e determinare l'accesso a un finanziamento rientrano espressamente tra i sistemi ad alto rischio elencati dall'AI Act, con obblighi specifici di trasparenza verso il cliente coinvolto nella decisione.
Quando una richiesta di credito viene rifiutata sulla base, anche parziale, di una valutazione automatizzata, il cliente ha diritto a ricevere una spiegazione significativa dei principali fattori che hanno determinato quella decisione, non una generica formula standard priva di reale contenuto informativo.
Questo obbligo si intreccia con la disciplina già esistente sul diritto alla spiegazione previsto dal GDPR per le decisioni interamente automatizzate, rafforzandola con requisiti più specifici sulla qualità e comprensibilità dell'informazione fornita, particolarmente rilevanti per un settore, quello del credito, dove le conseguenze economiche per il cliente possono essere significative.
La tensione pratica che gli istituti di credito devono gestire riguarda il bilanciamento tra questo obbligo di trasparenza e la tutela della proprietà intellettuale sui propri modelli algoritmici proprietari: la soluzione che si sta consolidando nella prassi non richiede la piena divulgazione del funzionamento tecnico del modello, ma una spiegazione dei fattori rilevanti espressa in termini comprensibili al cliente medio, senza necessità di rivelare i dettagli implementativi coperti da segreto commerciale.