Se si considera la gestione della cybersicurezza come un fattore di risk management si deve considerare che ci si trova oggi davanti a una nuova fase. Nella gestione del rischio legato alla cybersecurity entra in campo l’Agentic AI. Un esempio in questo senso è rappresentato da Engineering che ha lanciato EngSure, la piattaforma che impiega agenti AI per la difesa informatica e la protezione di dati, modelli e applicazioni. Quattro moduli integrano infatti monitoraggio, test, governance e analisi delle fonti, con autorizzazioni chiare e supervisione umana proporzionata ai rischi operativi.
La sicurezza dell’AI entra nei processi aziendali
Utilizzare l’intelligenza artificiale per rafforzare la difesa informatica e proteggere, allo stesso tempo, i sistemi AI adottati dalle organizzazioni. È il doppio obiettivo di EngSure, la nuova piattaforma agentica di cybersecurity di Engineering che integra intelligenza artificiale, controlli di sicurezza e competenze specialistiche per accompagnare imprese e Pubbliche Amministrazioni dalla sperimentazione all’impiego operativo dell’AI. Il perimetro comprende modelli, dati, prompt, agenti, applicazioni e flussi di lavoro, con un’attenzione specifica alle autorizzazioni e alla supervisione delle attività automatizzate.
Secondo l’impostazione sviluppata da Engineering, la protezione deve seguire l’intero ciclo di vita dei sistemi: dalla progettazione ai test prima del rilascio, fino al monitoraggio durante l’utilizzo.
Difendere le organizzazioni e governare gli agenti AI
In generale occorre considerare che l’AI modifica la sicurezza informatica su due ambiti: può rendere gli attacchi più rapidi e scalabili, ma introduce anche nuovi elementi da proteggere all’interno delle organizzazioni.
La questione diventa particolarmente rilevante quando gli agenti AI possono consultare informazioni, utilizzare strumenti e avviare operazioni. In questi casi, alla verifica delle prestazioni si affianca la necessità di stabilire quali azioni siano consentite e quando debba intervenire una persona.
EngSure, è stato concepito per correlare segnali provenienti da fonti differenti allo scopo di individuare accessi anomali o tentativi di compromissione. Può inoltre rilevare quando un agente prova a consultare dati o eseguire operazioni al di fuori del proprio perimetro autorizzato, bloccando l’attività oppure richiedendo l’intervento umano. In questa logica di Governance del risk management l’automazione viene associata a livelli di supervisione coerenti con il rischio, mantenendo le decisioni sotto la responsabilità delle persone.
I quattro moduli di EngSure
La piattaforma si basa su un framework di agenti AI proprietari, coordinati attraverso quattro moduli specializzati.
SHIELD: monitoraggio dei sistemi in produzione
Il modulo denominato SHIELD sorveglia modelli, agenti e applicazioni AI durante il loro funzionamento; è dedicato al rilevamento di anomalie e attacchi specifici e supporta le attività di risposta e contenimento. L’obiettivo è portare i controlli nell’ambiente operativo, seguendo il comportamento dei sistemi anche dopo il rilascio.
PROBE: simulazione degli attacchi e verifica della resilienza
Il secondo modulo PROBE simula attacchi e comportamenti avversari per individuare vulnerabilità e verificare la resilienza dei sistemi. Le verifiche possono essere svolte prima dell’impiego e durante l’utilizzo, inserendo la valutazione della sicurezza in un percorso continuo.
CERTIS: evidenze per governance, audit e compliance
Con il terzo modulo denominato CERTIS si ha la possibilità di trasformare controlli, test ed evidenze tecniche in informazioni utilizzabili per la governance, gli audit e le attività di compliance. La funzione prevede la possibilità di collegare gli esiti delle verifiche alle esigenze di controllo dell’organizzazione, rendendo disponibili elementi utili alla valutazione dei sistemi e alla documentazione delle attività svolte.
PROVENANCE: provenienza e affidabilità di dati e modelli
L’ultimo modulo è PROVENANCE e analizza provenienza, qualità e affidabilità di dati e modelli, supportando la valutazione del rischio nei diversi contesti applicativi. Questa componente estende l’attenzione dalle modalità di funzionamento del sistema alle caratteristiche delle risorse sulle quali si basa.
Il collegamento con la strategia IS-IA
EngSure si inserisce in IS-IA, l’architettura con cui Engineering punta a costruire, orchestrare e governare l’ecosistema AI di imprese e Pubbliche Amministrazioni. L’architettura integra EngGPT 2 e prevede interoperabilità con modelli e piattaforme differenti. La nuova soluzione estende le funzionalità alla cybersicurezza con principi di controllo, trasparenza, interoperabilità e proporzionalità. Se IS-IA riguarda la gestione dell’ecosistema AI, EngSure è dedicata al coordinamento della sua difesa.
Come ha spiegato Aldo Bisio, amministratore delegato di Engineering in una nota dell’azienda «EngSure completa questa strategia, estendendone i principi alla cybersicurezza e proteggendo l’AI quando entra concretamente nei processi aziendali».
Il passaggio centrale consiste nel rendere i controlli parte dei flussi di lavoro: definire le autorizzazioni degli agenti, verificarne il rispetto e stabilire le condizioni nelle quali l’automazione richiede una supervisione.
Un’adozione modulare e proporzionata al rischio
Secondo Engineering, EngSure può essere adottata progressivamente e operare con modelli, framework e infrastrutture differenti. La modularità consente di configurare sicurezza e governance in relazione al caso d’uso, ai requisiti normativi e al profilo di rischio dell’organizzazione. La proposta mette quindi in relazione difesa informatica, affidabilità dell’AI e responsabilità organizzative. Per portare gli agenti nei processi aziendali, il controllo delle loro azioni diventa parte della progettazione: quali dati possono utilizzare, quali operazioni possono avviare e in quali circostanze devono fermarsi e coinvolgere una persona.
Partecipa alla community