Che impatto ha (o dovrebbe avere) su una impresa il Trust Gap sull’AI? Ovvero quanto si deve agire a livello di Governance la convivenza tra investimenti in AI e difficoltà di integrazione nelle logiche aziendali si traduce in una scarsità di fiducia? Il servizio sul Trust Gap negativo in relazione alla fiducia nell’AI ci dice che nel nostro paese le potenzialità dell’AI si vedono ma devono essere governate in modo più appropriato.
L’intelligenza artificiale sta di fatto diventando un fattore sempre più rilevante nella gestione dei rischi aziendali e nella definizione delle strategie ESG. Ma cosa accade quando le aspettative nella tecnologia crescono più rapidamente della capacità di controllarla?
Il Trust Gap come possibile indicatore di rischio ESG
La Governance ESG riguarda la capacità di un’organizzazione di garantire trasparenza, responsabilità, controllo dei rischi e correttezza dei processi decisionali. In questa prospettiva, il Trust Gap relativo all’AI può rappresentare un segnale di vulnerabilità organizzativa: un’impresa che utilizza sistemi di AI senza adeguati meccanismi di supervisione si espone a rischi operativi, reputazionali, normativi e finanziari.
Il problema riguarda soprattutto la responsabilità delle decisioni. Quando un algoritmo contribuisce a determinare scelte aziendali, deve essere possibile ricostruire come queste siano state elaborate, quali dati siano stati utilizzati e chi ne risponda. La governance dell’AI diventa quindi parte integrante della governance societaria e dei sistemi di controllo interno.
AI e Risk Management: dalla fiducia al controllo
I risultati della ricerca evidenziano criticità particolarmente significative per le funzioni di Risk Management. Il 37,7% delle organizzazioni segnala la scarsa chiarezza degli output come principale motivo di correzione delle risposte generate dall’AI. Seguono la mancanza di contesto (26,4%), i problemi di sicurezza (14,2%) e le inesattezze fattuali (13,2%). Questi elementi possono tradursi in decisioni errate, valutazioni distorte dei rischi e difficoltà nel dimostrare la conformità dei processi.
Per questo motivo, il rischio AI dovrebbe essere integrato nei sistemi di Enterprise Risk Management (ERM), attraverso procedure di identificazione, valutazione, monitoraggio e mitigazione. Diventano pertanto essenziali la classificazione dei sistemi in base al rischio, la supervisione umana, la tracciabilità delle decisioni, gli audit periodici e l’attribuzione di responsabilità precise.
Qualità dei dati e accountability: le fondamenta della Governance ESG
Un’altra evidenza significativa riguarda la gestione dei dati. Sempre secondo la ricerca SAS-IDC, la percentuale di organizzazioni con infrastrutture informative frammentate in silos è cresciuta dall’11% al 29%. Soltanto l’8,4% rende obbligatori strumenti di data quality nei progetti AI. Queste criticità assumono particolare importanza anche nella rendicontazione ESG, dove affidabilità, verificabilità e coerenza delle informazioni rappresentano requisiti fondamentali.
Un sistema di AI alimentato da dati incompleti o non controllati può compromettere la qualità delle valutazioni ambientali e sociali, generando errori nella misurazione delle emissioni, nella valutazione dei fornitori o nell’analisi dei rischi climatici. La governance del dato diventa così il punto di incontro tra AI Governance, Risk Management e sostenibilità aziendale.
Una governance più solida deve migliorare il ROI dell’AI
La relazione tra controllo dei rischi e risultati economici è un altro tema della ricerca. Solo il 18,7% delle organizzazioni italiane dichiara di ottenere un ROI elevato dai progetti AI. Lo studio evidenzia inoltre che le imprese con pratiche mature di Trustworthy AI hanno una probabilità 15 volte superiore di conseguire ritorni significativi. Il dato suggerisce che una governance efficace non rappresenta soltanto un costo di conformità, ma un investimento nella creazione di valore.
Per le imprese italiane, ridurre il Trust Gap significa quindi affrontare contemporaneamente tre obiettivi:
- rafforzare la G dell’ESG
- migliorare il presidio dei rischi
- aumentare il rendimento degli investimenti tecnologici.
La sfida in definitiva non è semplicemente utilizzare più intelligenza artificiale, ma costruire organizzazioni capaci di governarla perché la qualità della governance è sempre più una condizione di competitività e sostenibilità nel lungo periodo.
Partecipa alla community