Gestire i rischi dell’AI: dalla valutazione al controllo
L’adozione dell’intelligenza artificiale richiede un approccio al rischio che accompagni l’intero ciclo di vita dei sistemi e il primo passo è nel risk assessment ovvero nela capacità di chiarire quali attività affidare all’AI e quali conseguenze possano derivare da errori o utilizzi impropri.
Si tratta di una valutazione che deve considerare il contesto, le persone coinvolte e il grado di autonomia assegnato alla tecnologia. La governance poi deve individuare chi approva l’impiego dell’AI, chi ne verifica il funzionamento e chi risponde delle decisioni.
A monte delle logiche di risk management che riguardano le aziende c’è un tema di gestione del rischio che riguarda le istituzioni per garantire che lo sviluppo dell’intelligenza artificiale si muova nell’ambito di regole e percorsi definiti. Per questo la Commissione europea ha riunito un gruppo di esperti scientifici sulla sicurezza e sui rischi dell’AI più avanzata. Il panel scientifico dell’AI Act che affianca l’AI Office e le autorità nazionali nella valutazione dei modelli di intelligenza artificiale potrà contare sul lavoro di sessanta esperti indipendenti nella valutazione dei rischi sistemici, della icurezza e dei metodi di controllo, proprio in un periodo che vede crescere l’attenzione sulla perdita di controllo dei sistemi avanzati.
Competenze sempre più specifiche anche per applicare le regole
L’applicazione delle regole sull’intelligenza artificiale richiede competenze capaci di seguirne l’evoluzione tecnica ed è questo il ruolo dell’AI Act Scientific Panel,, ovvero il gruppo di 60 esperti indipendenti che supporta l’AI Office europeo e le autorità nazionali nella valutazione dei modelli di AI per finalità generali.
Istituito dalla Commissione europea sulla base dell’articolo 68 dell’AI Act e del Regolamento di esecuzione (UE) 2025/454, il panel fornisce consulenza scientifica sull’attuazione della normativa. Tra i suoi compiti figurano la segnalazione dei rischi sistemici, il supporto alla classificazione dei modelli e alle metodologie di valutazione, oltre all’assistenza alla sorveglianza del mercato.
Competenze indipendenti per valutare i rischi dell’AI
Gli esperti riuniscono conoscenze sulla valutazione delle capacità dei modelli, sulla mitigazione tecnica dei rischi, sulla cybersecurity e sui possibili utilizzi impropri. Il mandato, esercitato a titolo personale, dura 24 mesi ed è rinnovabile.
Tra i componenti figurano Yoshua Bengio e i tre italiani Alessandro Abate, Lorenzo Pacchiardi e Walter Quattrociocchi. La selezione ha considerato anche l’equilibrio geografico e di genere. Il panel integra il sistema europeo di governance dell’AI con un contributo scientifico indipendente. L’Advisory Forum raccoglie invece le prospettive più ampie di industria, società civile e mondo accademico.
I rischi di perdita di controllo e nuovi sviluppi tecnici
L’attività del gruppo ha assunto particolare rilievo nella riunione straordinaria del 9 ottobre 2026, alla quale ha partecipato Henna Virkkunen, vicepresidente esecutiva della Commissione per la Sovranità tecnologica, la Sicurezza e la Democrazia.
Al centro dell’incontro, recenti episodi di perdita di controllo dei modelli, la possibilità di monitorarne il funzionamento e gli sviluppi relativi al miglioramento ricorsivo dell’AI. La Commissione ha evidenziato la necessità di affiancare all’applicazione della legge un contributo scientifico aggiornato, coerente con la rapidità dei progressi tecnologici.
Il panel ha lavorato con l’AI Office alla preparazione di domande rivolte alle aziende sviluppatrici dei modelli coinvolti. L’Office ha già richiesto e ricevuto segnalazioni di incidenti gravi e inviato richieste sulle pratiche di sicurezza. Ulteriori approfondimenti serviranno a chiarire gli eventi e gli aspetti ancora incerti.
Le raccomandazioni per rafforzare la sicurezza
Il presidente e il vicepresidente del panel hanno presentato raccomandazioni che riguardano quattro priorità:
- governare i rischi dei modelli interni durante sviluppo e test;
- rafforzare le capacità europee di individuazione e indagine degli incidenti;
- promuovere la condivisione internazionale delle informazioni;
- aumentare l’attenzione sulle tecniche che rendono i modelli meno monitorabili.
Si tratta di raccomandazioni scientifiche alla Commissione, da distinguere da nuovi obblighi normativi già adottati. Il loro valore consiste nell’indicare dove rafforzare conoscenze, strumenti e capacità di risposta.
Dalla consulenza scientifica all’applicazione delle regole
Il panel contribuisce alle valutazioni tecniche, mentre l’AI Office svolge un ruolo centrale nell’applicazione delle disposizioni sui modelli per finalità generali. Nell’ambito dei poteri attribuiti alla Commissione, può richiedere informazioni, valutare i modelli, indagare possibili violazioni e intervenire con misure correttive e sanzioni.
La collaborazione con gli esperti aiuta quindi a collegare ricerca e vigilanza. Per le imprese che sviluppano AI, questo significa confrontarsi con un sistema di controllo nel quale documentazione, valutazione delle capacità e gestione degli incidenti devono poggiare su evidenze tecniche.
Partecipa alla community