Tassonomia dei Rischi Sistemici dall’IA di Scopo Generale

Autori: Risto Uuk, Carlos Ignacio Gutierrez, Daniel Guppy, Lode Lauwaert, Atoosa Kasirzadeh, Lucia Velasco, Peter Slattery, and Carina Prunkl
Titolo originale: A Taxonomy of Systemic Risks from General-Purpose AI

L’articolo presenta una tassonomia completa dei rischi sistemici derivanti dall’intelligenza artificiale (IA) di scopo generale, basata su una revisione sistematica della letteratura accademica sull’argomento.

Introduzione: Navigare il Labirinto dei Rischi dell’IA
L’intelligenza Artificiale, con la sua crescente pervasività, porta con sé un ventaglio di opportunità senza precedenti, ma anche un’ombra di rischi sistemici che possono minacciare intere società ed economie. Ma cosa si intende esattamente per “rischio sistemico” in questo contesto? E quali sono le aree più vulnerabili?

Definizione di Rischio Sistemico

Seguendo la definizione dell’EU AI Act, i rischi sistemici sono intesi come minacce su larga scala che possono influenzare intere società o economie. L’articolo rappresenta la prima versione della tassonomia, con un lavoro futuro pianificato per perfezionare le categorie di rischio attraverso un’analisi tematica dei documenti esaminati e un ulteriore sviluppo della tassonomia basata sulla metodologia della tassonomia.

Metodologia

Gli autori hanno condotto una revisione sistematica attraverso molteplici database accademici, partendo da un pool iniziale di 1.781 documenti. Seguendo un protocollo di revisione sistematica consolidato, tre ricercatori hanno esaminato in modo indipendente titoli e abstract, selezionando infine 86 documenti che soddisfacevano i criteri di inclusione. Questa revisione sistematica ha fornito la base empirica per lo sviluppo della tassonomia, guidata dalle definizioni e dagli esempi di rischi sistemici e fonti di rischi sistemici nell’EU AI Act per organizzare i risultati in categorie di rischio e fonti coerenti. È stata enfatizzata la trasparenza e la riproducibilità, con decisioni di screening, approcci di codifica e fasi di analisi documentate, con ulteriori dettagli forniti nella prossima versione di questo documento. Per questa versione iniziale della tassonomia, è stata condotta una rapida revisione dei documenti per identificare quali rischi e fonti sono stati discussi. Si sta attualmente proseguendo con un processo approfondito di codifica ed estrazione dei dati. Il lavoro futuro affinerà la tassonomia su più turni utilizzando una metodologia consolidata di sviluppo della tassonomia. È importante sottolineare che questo documento è di natura puramente descrittiva: stiamo documentando come i rischi sistemici e le loro fonti sono caratterizzati nella letteratura accademica, senza valutare la plausibilità di nessuno di questi rischi o fonti.

I 13 Cavalieri dell’Apocalisse AI: Le Categorie di Rischio Sistemico
La revisione sistematica ha identificato 13 categorie distinte di rischi sistemici derivanti dall’IA di scopo generale, che spaziano da preoccupazioni operative come il controllo e la sicurezza, a impatti sociali sulla democrazia e sui diritti fondamentali, fino a considerazioni esistenziali come cambiamenti irreversibili alla società umana.
Ogni categoria di rischio rappresenta un’area distinta ma interconnessa in cui modelli e sistemi di IA potrebbero rappresentare minacce su larga scala.

1. Controllo: Il rischio che i modelli e i sistemi di IA agiscano contro gli interessi umani a causa di disallineamento, perdita di controllo o scenari di IA non autorizzati.
2. Democrazia: L’erosione dei processi democratici e della fiducia pubblica nelle istituzioni sociali/politiche.
3. Discriminazione: La creazione, la perpetuazione o l’esacerbazione di disuguaglianze e pregiudizi su larga scala.
4. Economia: Interruzioni economiche che vanno da grandi impatti sul mercato del lavoro a cambiamenti economici più ampi che potrebbero portare a un’esacerbata disuguaglianza di ricchezza, instabilità nel sistema finanziario, sfruttamento del lavoro o altre dimensioni economiche.
5. Ambiente: L’impatto dell’IA sull’ambiente, compresi i rischi legati al cambiamento climatico e all’inquinamento.
6. Diritti Fondamentali: L’erosione o la violazione su larga scala dei diritti e delle libertà fondamentali.
7. Governance: La natura complessa e in rapida evoluzione dell’IA li rende intrinsecamente difficili da governare efficacemente, portando a fallimenti sistemici nella regolamentazione e nella supervisione.
8. Danni agli Esseri Non Umani: Danni su larga scala agli animali e allo sviluppo di IA in grado di soffrire.
9. Informazione: Influenza su larga scala sui sistemi di comunicazione e informazione e, più in generale, sui processi epistemici.
10. Cambiamento Irreversibile: Profondi cambiamenti negativi a lungo termine nelle strutture sociali, nelle norme culturali e nelle relazioni umane che potrebbero essere difficili o impossibili da invertire.
11. Potere: La concentrazione di potere militare, economico o politico di entità in possesso o controllo di IA o tecnologie abilitate all’IA.
12. Sicurezza: Le minacce alla sicurezza internazionale e nazionale, tra cui la guerra informatica, le corse agli armamenti e l’instabilità geopolitica.
13. Guerra: I pericoli dell’IA che amplifica l’efficacia/i fallimenti delle armi nucleari, chimiche, biologiche e radiologiche.

Le Fonti Nascoste del Pericolo: Identificate 50 Cause Potenziali
Lo studio ha identificato numerose fonti di questi rischi, tra cui lacune di conoscenza indotte dalla complessità, difficoltà nel percepire il danno, effetti cumulativi delle pratiche di IA, attribuzione poco chiara della responsabilità e limitazioni nei quadri di governance. Tra le fonti chiave figurano anche fattori tecnici come reti di IA opache, velocità operative elevate e capacità in evoluzione che consentono la sostituzione umana.

Implicazioni per le Politiche: Tracciare una Rotta Sicura
I risultati hanno importanti implicazioni per i responsabili politici e i fornitori di IA di scopo generale. La tassonomia può servire come base per valutare e dare priorità alle diverse categorie di rischio sistemico e per sviluppare risposte normative mirate a ridurre i rischi sistemici derivanti dall’IA di scopo generale. L’EU AI Act richiede lo sviluppo di linee guida di conformità per i fornitori di IA di scopo generale entro maggio 2025 e prevede la creazione di una tassonomia dei rischi sistemici. La ricerca contribuisce a questi sforzi.

Punti di Forza e Limiti: Uno Sguardo Obiettivo
Questo è il primo tentativo sistematico di sviluppare una tassonomia completa dei rischi sistemici derivanti dall’IA di scopo generale nella letteratura accademica. Utilizza una metodologia rigorosa che combina la revisione sistematica con lo sviluppo della tassonomia. Un’ampia portata iniziale dei documenti (1.781 documenti), una documentazione trasparente della metodologia e il coinvolgimento di più revisori e coautori indipendenti aumentano l’affidabilità. I limiti dello studio includono l’inclusione di documenti che non sono stati sottoposti a revisione paritaria, potenziali omissioni di parole chiave nella strategia di ricerca e il fatto che la natura in rapida evoluzione della tecnologia AI potrebbe introdurre nuovi rischi non catturati o sottorappresentati nella letteratura corrente. Tassonomie come questa dovrebbero essere regolarmente aggiornate per tenere conto delle capacità emergenti e dei rischi associati.

Conclusione: Verso un Futuro Più Sicuro con l’IA
I rischi sistemici derivanti dall’IA in genere si manifestano a livello sociale, raramente hanno fonti singole e tendono a essere eventi cumulativi piuttosto che improvvisi. Ciò suggerisce la necessità di metodi rigorosi per valutare gli impatti a livello sociale e indica che i fornitori di modelli e sistemi di IA dovrebbero assumersi la responsabilità dei potenziali costi sociali al di là della stretta identificazione del rischio. Questi risultati contribuiscono al crescente corpo di conoscenze sulla sicurezza e la governance dell’IA, fornendo un quadro strutturato per comprendere e affrontare gli impatti sociali più ampi dell’IA di scopo generale.