Sintesi White Paper

Framework di Valutazione per Sistemi AI nel “Mondo Reale”

Autori: Sarah Jabbour, Trenton Chang, Anindya Das Antar, Joseph Peper, Insu Jang, Jiachen Liu, Jae-Won Chung, Shiqi He, Michael Wellman, Bryan Goodman, Elizabeth Bondi-Kelly, Kevin Samy, Rada Mihalcea, Mosharaf Chowdhury, David Jurgens, Lu Wang
Titolo originale: Evaluation Framework for AI Systems in “the Wild”

• I modelli di Intelligenza Artificiale Generativa (GenAI) si sono diffusi rapidamente, diventando essenziali in vari settori, dalla sanità alla finanza, dall’istruzione all’intrattenimento. Tuttavia, i metodi di valutazione tradizionali, basati su benchmark statici e dataset fissi, non riescono a misurare adeguatamente le prestazioni di questi modelli in contesti reali, portando a una discrepanza tra i risultati di laboratorio e gli esiti pratici. Questo evidenzia la necessità di approcci di valutazione più olistici, dinamici e continui.
• Il white paper propone un framework completo per la valutazione dei modelli GenAI quando sono impiegati in scenari reali, dove gli input sono diversi e in continua evoluzione. L’obiettivo è fornire una guida pratica a professionisti, responsabili politici, ricercatori e finanziatori per migliorare i processi di valutazione.
• Cosa viene valutato? L’analisi deve andare oltre le semplici metriche di laboratorio (come l’accuratezza sui benchmark statici) per considerare le prestazioni in ambienti dinamici e imprevedibili. È fondamentale valutare come i sistemi interagiscono con gli utenti e l’impatto più ampio sulla società e sull’ambiente.
• Chi valuta e Come? Una valutazione efficace bilancia metodi automatizzati standardizzati con il giudizio umano, coinvolgendo esperti di diversi settori e stakeholder (ingegneri, utenti finali, esperti di dominio, decisori politici, consumatori). Il giudizio umano è cruciale per cogliere sfumature, ma i metodi automatizzati sono necessari per scalare la valutazione.
• Gli LLM (Large Language Models) come “giudici” possono velocizzare la valutazione, specialmente per compiti creativi o di generazione testuale, utilizzando rubriche dettagliate. Tuttavia, questa pratica presenta rischi di bias, poiché i modelli potrebbero preferire i propri stili di output, e richiede un attento confronto con il giudizio umano.
• Considerazioni Olistiche: La valutazione dovrebbe includere l’allineamento con le prospettive umane, i valori e gli standard etici. Questo richiede dati sulle preferenze di sottopopolazioni diverse. È necessario considerare anche la sicurezza, la sostenibilità (consumo energetico, impatto ambientale) e gli effetti sull’intero “ciclo di vita” del sistema, dalla formazione alla distribuzione.
• Rilevanza della Valutazione nel Tempo: I benchmark statici diventano rapidamente obsoleti. È essenziale adottare un approccio dinamico, aggiornando continuamente i benchmark e i metodi di valutazione per riflettere le sfide del mondo reale e l’evoluzione dei modelli. L’automazione nella creazione dei benchmark può aiutare, ma richiede cautela.
• Valutare le Valutazioni: È importante verificare la qualità dei benchmark (assenza di errori, diversità), la loro capacità di distinguere tra modelli e la loro correlazione con il giudizio umano sull’utilità nel mondo reale. La fuga di dati nei set di valutazione, che gonfia artificialmente le prestazioni, è un rischio significativo che richiede aggiornamenti continui dei dataset.
• Casi di Studio: Esempi pratici come la riassunzione di note cliniche (sanità) o la moderazione dei contenuti (social media) illustrano la necessità di metriche contestualizzate (es. tempo risparmiato, esiti per il paziente, impatto sugli utenti e moderatori), l’importanza di coinvolgere diversi stakeholder e la necessità di una valutazione continua per affrontare l’evoluzione delle pratiche e del linguaggio.
• Raccomandazioni chiave:
  • Praticanti: Progettare valutazioni continue, adattive e olistiche che coprano prestazioni, correttezza, affidabilità, efficienza e usabilità, integrando giudizio umano ed expertise di dominio.
  • Responsabili Politici: Regolamentare gli esiti e l’impatto sociale dei sistemi AI, non solo le tecnologie specifiche, promuovendo trasparenza e responsabilità.
  • Leader Aziendali: Investire in framework di valutazione dinamici e orientati ai risultati, promuovendo la collaborazione tra team tecnici ed esperti di dominio per allineare l’AI con gli obiettivi aziendali e gli standard etici.
  • Progettisti di Valutazione: Sviluppare framework sfaccettati che combinino metriche automatizzate e giudizio umano, adattabili all’evoluzione dei sistemi AI e sensibili a fattori etici, sociali e di dominio.
  • Agenzie Finanziatrici: Dare priorità agli investimenti in ricerca e sviluppo di framework di valutazione completi, orientati agli esiti nel mondo reale e focalizzati su prestazioni, correttezza e impatto sociale, garantendo risorse per la valutazione continua e gli approcci interdisciplinari.
• In sintesi, il white paper sottolinea che la valutazione dell’AI, specialmente dei modelli GenAI impiegati in contesti reali e ad alto rischio, deve evolvere oltre i test di laboratorio per considerare l’impatto complessivo sui sistemi, sugli utenti e sulla società, richiedendo un approccio collaborativo, trasparente, dinamico e multidisciplinare.