AI Agent Security: una nuova sfida per la governance ESG
La diffusione degli agenti di intelligenza artificiale apre una nuova frontiera nel rapporto tra innovazione tecnologica, cybersecurity e sostenibilità aziendale. A differenza dei sistemi tradizionali, gli AI Agent possono operare autonomamente, accedere a informazioni sensibili, interagire con applicazioni e assumere decisioni operative. Questa autonomia introduce nuove opportunità di efficienza, ma anche rischi che incidono direttamente sulle strategie ESG delle imprese.
La AI Agent Security (sicurezza degli agenti AI) diventa quindi una componente fondamentale della governance sostenibile, perché riguarda la capacità di garantire sicurezza, trasparenza, affidabilità e controllo delle attività svolte dagli agenti intelligenti.
Sul piano ambientale (E), agenti sicuri e correttamente governati possono contribuire a ottimizzare consumi energetici e risorse, evitando comportamenti inefficienti o operazioni non autorizzate. Nella dimensione sociale (S), la protezione dei dati personali, la prevenzione delle discriminazioni algoritmiche e la tutela dei lavoratori diventano condizioni essenziali per un utilizzo responsabile dell’AI.
La sicurezza è sempre più un tema di Governance
È soprattutto nella dimensione della governance (G) che la sicurezza degli agenti assume un ruolo strategico. Le imprese devono definire livelli di autonomia, autorizzazioni, responsabilità, sistemi di monitoraggio e procedure di intervento umano, garantendo la tracciabilità delle decisioni automatizzate.
La sicurezza deve essere integrata fin dalla progettazione degli agenti, secondo principi di security by design, con controlli sugli accessi, protezione dalle manipolazioni e verifiche continue dei comportamenti.
La sicurezza degli AI Agent non è dunque soltanto una questione tecnologica, ma un requisito della sostenibilità digitale: senza controllo e responsabilità, l’autonomia algoritmica rischia di compromettere la fiducia degli stakeholder e la capacità delle imprese di generare valore nel lungo periodo.
AI Agent security: perché sta diventando una priorità
Nel contesto dell’evoluzione dell’intelligenza artificiale, il concetto di AI Agent security indica l’insieme di architetture, politiche e controlli tecnici volti a governare e proteggere i sistemi di intelligenza artificiale autonomi. A differenza dei modelli generativi tradizionali che rispondono a singoli prompt, un agente AI è un’identità non humana in grado di prendere decisioni, accedere a sistemi informatici ed eseguire azioni a velocità di macchina. Gli agenti operano privi di un istinto verso i confini aziendali, accumulando permessi ed eseguendo processi nel perimetro aziendale. La sicurezza degli agenti AI richiede quindi di superare i quadri di governance tradizionali, concepiti per l’era pre-AI in cui ogni azione dipendeva dall’intervento diretto di una persona.
Per analizzare l’efficacia delle misure adottate, ServiceNow ha promosso uno studio globale “Deployed but ungoverned:The state of agentic security” (accessibile da qui) condotto con Phronesis Partners. L’indagine ha coinvolto 3.766 senior decision-maker della sicurezza e della tecnologia (livello VP e superiori, di cui il 70% SVP/VP e 30% C-suite) in 20 Paesi e 8 settori. I risultati evidenziano come l’adozione degli agenti AI sia pervasiva: il 59% delle organizzazioni ha superato la fase pilota introducendo agenti in produzione, con il 49% che gestisce tra 100 e 999 agenti e il 35% che supera quota 1.000 agenti operativi. Tuttavia, l’ampiezza della diffusione contrasta con la maturità dei controlli applicati.
Un dato significativo emerso dalla ricerca riguarda il divario tra percezione di sicurezza e controlli reali. Sebbene il 56% dei leader valuti la propria postura di sicurezza per gli agenti AI come “stabilita” e strutturata, meno della metà (46%) possiede effettivamente controlli di sicurezza e governance specifici e operativi. Analizzando le prassi aziendali, affiorano carenze rilevanti nel ciclo di vita degli agenti.
I rischi di una responsabilità aziendale troppo frammentata
In primo luogo, la responsabilità aziendale è frammentata: solo il 20% delle organizzazioni ha nominato un responsabile unico per la governance della sicurezza degli agenti AI. Nelle imprese, la gestione è suddivisa tra funzioni distinte, privando l’azienda di una visione d’insieme su accessi e rischi. In secondo luogo, la visibilità del perimetro è critica: il 29% dei team di sicurezza ha individuato negli ultimi dodici mesi agenti AI in produzione mai registrati (“shadow AI“). Inoltre, sebbene il 76% dichiari di mantenere una mappa degli accessi, solo il 19% ha visibilità in tempo reale su oltre il 90% degli agenti.
Un ulteriore elemento di vulnerabilità riguarda i meccanismi di verifica e contenimento. Solo il 32% delle organizzazioni applica un gate automatizzato ed obbligatorio che blocca il deployment senza requisiti di sicurezza. Nel 66% dei casi, le aziende non dispongono di capacità automatizzate per bloccare i comportamenti anomali di un agente, e solo il 51% adotta il rilevamento delle anomalie in tempo reale. Ciò si riflette sugli incidenti: ben il 90% delle aziende ha subito un incidente di sicurezza nell’ultimo anno, ma solo il 36% lo ha contenuto entro 24 ore.
Una superficie di attacco che va oltre l’IT tradizionale
La superficie d’attacco degli agenti AI si estende oltre l’IT tradizionale. L’82% delle organizzazioni impiega agenti che interagiscono con la tecnologia operativa (OT) o sistemi fisici, come controllori industriali, gestione degli edifici e dispositivi medici. In tali ambiti, il 76% delle imprese ha registrato incidenti che hanno coinvolto ambienti OT o fisici. Ciononostante, solo il 32% dispone di un framework di governance specifico per questi contesti.
In tema di tracciabilità, solo il 39% delle aziende include nei framework requisiti sui tracciati di audit degli agenti, e appena il 47% produce un pacchetto completo di prove su richiesta. La mancanza di registri sulle catene di ragionamento degli agenti limita le analisi forensi dopo un incidente. Lo studio ha introdotto una scala di postura su cinque domini (superficie d’attacco, sicurezza by design, visibilità, responsabilità, audit), classificando le aziende in quattro livelli (Limitato, Emergente, Avanzato, Difendibile). Solo un’organizzazione su otto (circa il 12-13%) raggiunge il livello “Difendibile”.
L’importanza di una Security by Design
Per costruire una postura solida occorre adottare la Security by Design: attualmente solo il 44% delle aziende coinvolge la sicurezza prima dello sviluppo degli agenti. La gestione su una piattaforma unificata (usata dal 47% delle aziende) offre vantaggi decisivi: il 65% delle aziende difendibili rileva anomalie in tempo reale (contro il 49% delle altre) e il 55% delle medesime contiene incidenti entro 24 ore (contro il 33%). In conclusione, la sicurezza degli agenti AI richiede visibilità in tempo reale, governance integrata e responsabilità chiare per garantire un’automazione sicura e affidabile.
Partecipa alla community