Recursive Self-Improvement e Governance ESG: chi controlla l’AI che migliora se stessa?
Il rapporto tra intelligenza artificiale e ESG ha acceso da tempo una dinamica che porta all’interno del perimetro dell’Environmental Sociale Governance tematiche che non hanno, almeno apparentemente, una relazione con la sostenibilità. Un esempio decisamente significativo in questo senso è rappresentato dalla necessità di considerare all’interno della “G” di Governance ESG le prospettive e i rischi legati al Recursive Self-Improvement (RSI).
Il tema di fondo riguarda la crescente autonomia dell’intelligenza artificiale che appunto impone una nuova dimensione nella governance dei criteri ESG. Se in qualsiasi realtà è necessario garantire che gli algoritmi operino secondo principi di trasparenza, responsabilità e controllo, in futuro sarà sempre più necessario governare sistemi capaci di modificare autonomamente le proprie caratteristiche e migliorare progressivamente le proprie prestazioni. Con il Recursive Self-Improvement (RSI) le polici di governance dell’AI sono obbligate ad andare oltre la semplice gestione delle tecnologie, ponendo interrogativi sulla capacità delle organizzazioni di mantenere il controllo di sistemi in continua evoluzione.
In altre parole la governance dovrebbe essere nella condizione di assicurare che l’innovazione tecnologica rimanga coerente con gli obiettivi strategici, i valori dell’organizzazione e le responsabilità nei confronti degli stakeholder. Il tutto in un contesto in continua e progressiva evoluzione.
Che cos’è il Recursive Self-Improvement
Per entrare nel merito di questa dimensione della Governance ESG è necessario fare un piccolo passo indietro e chiarire cosa si intende per Recursive Self-Improvement. L’auto-miglioramento ricorsivo indica la capacità teorica di un sistema di intelligenza artificiale di analizzare il proprio funzionamento, individuare limiti e inefficienze e modificare autonomamente alcuni elementi della propria architettura per sviluppare versioni progressivamente più avanzate.
Non si tratta di una novità. Il concetto di Recursive Self-Improvement risale al 1965, quando il matematico Irving John Good, collaboratore di Alan Turing, ipotizzò l’esistenza di una macchina ultra-intelligente capace di progettare sistemi ancora più intelligenti. Nell’attuale situazione dell’intelligenza artificiale più che di una macchina si devono consoderare le possibilità di alcune tecnologie di attuare forme di miglioramento automatizzato. I sistemi AutoML possono ottimizzare modelli e architetture di machine learning, mentre gli agenti AI più avanzati sono in grado di generare, verificare e correggere codice.
Nella eventualità di passaggio a un Recursive Self-Improvement generalizzato la Governance dovrebbe confrontarsi con un cambiamento radicale: l’intelligenza artificiale non sarebbe soltanto uno strumento da aggiornare, ma diventerebbe parte attiva del proprio processo di evoluzione.
L’Alignment Problem: il rischio per la governance aziendale
Dal punto di vista della Governance il tema più rilevante riguarda la necessità delle imprese di mantenere e garantire il controllo rispetto alle attività gestite attraverso l’AI. In questa prospettiva il principale problema associato al Recursive Self-Improvement riguarda l’AI Alignment, ovvero la necessità di mantenere il comportamento dei sistemi artificiali coerente con gli obiettivi e i valori definiti dagli esseri umani.
Nei sistemi tradizionali, eventuali comportamenti indesiderati possono essere affrontati attraverso aggiornamenti, modifiche del software e interventi di supervisione. L’intervento umano nella forma di Human in the loop o di Human on the loop permette di intercettare i segnali di un disallineamento, bloccare e correggere questi fattori di rischio. Nel momento in cui si entra invece in una dimensione di auto-miglioramento ricorsivo, si deve considerare il rischio che le successive modifiche rendano progressivamente più difficile verificare il rispetto dei vincoli originari.
Questo fenomeno rischia di provocare una deriva valoriale o Value Drift che potrebbe determinare uno scostamento tra gli obiettivi inizialmente assegnati all’AI e quelli effettivamente perseguiti dal sistema. Per la Governance ESG si tratta di una questione fondamentale che si traduce nella capacità di misurare, verificare e attribuire responsabilità alle decisioni come uno dei presupposti della buona governance aziendale.
Dalla supervisione umana alla governance dell’AI autonoma
L’evoluzione verso sistemi capaci di auto-migliorarsi richiede pertanto un approccio diverso dei modelli di controllo. La crescente complessità degli algoritmi potrebbe rendere sempre più difficile comprendere e verificare le modifiche introdotte autonomamente, accentuando il problema della black box, ossia di una sorta di opacità che nasconde le logiche dei processi decisionali.
Dal punto di vista della Governance ESG devono entrare in campo nuovi strumenti e nuove logiche per la supervisione innanzitutto e per il controllo.
Un primo tema riguarda il Sandboxing, la necessità di impostare queste logiche di Recursive Self-Improvement all’interno di ambienti isolati e protetti nei quali sperimentare e verificare le modifiche prima della loro applicazione. Un altro aspetto riguarda le possibilità di un Alignment by Design, ovvero una modalità di progetttazione che permetta di integrare i requisiti di sicurezza e di controllo fin dalla progettazione dei sistemi, anche attraverso metodi di verifica formale. Una ulteriore dimensione è poi rappresentata dalla Scalable Oversight, ovvero da strumenti che aumentino la capacità di controllo e di supervisione degli esseri umani. Si tratta din generale di soluzioni che sono a loro volta in fase di sperimentazione e non sono nella condizione di fornire garanzie assolute nel controllo del Recursive Self-Improvement.
Il Recursive Self-Improvement come tema ESG
Il rapporto tra Recursive Self-Improvement e sostenibilità riguarda soprattutto la capacità delle organizzazioni di governare l’innovazione tecnologica nel lungo periodo. Per le imprese, questo significa definire responsabilità chiare, procedure di verifica, sistemi di audit e meccanismi di intervento capaci di accompagnare l’evoluzione dei sistemi AI. Se queste sono indiscutibilmente le priorità occorre poi considerare anche i possibili impatti sulle altre dimensioni ESG: dalla componente sociale, legata all’equità e alle conseguenze delle decisioni automatizzate, a quella ambientale, che comprende anche i consumi energetici e le risorse computazionali necessarie per sviluppare sistemi sempre più complessi.
Partecipa alla community