Workshop TrustNLP: Sei Anni di Ricerca sull'Affidabilità dell'IA

Dal suo inizio nel 2021, il Workshop TrustNLP si è tenuto in concomitanza con le principali conferenze ACL ed è cresciuto da 8 a 41 articoli negli atti in sei edizioni. Questa crescita evidenzia un cambiamento nel campo, passando dalla semplice interpretazione di modelli statici a una comprensione meccanica e alla gestione proattiva dei sistemi generativi. Una revisione completa dei 144 articoli negli atti li classifica in sei dimensioni di affidabilità basate su framework consolidati (TrustLLM, DecodingTrust), indicando sovrapposizioni con l'emergere delle capacità. L'introduzione dei primi modelli chat di grande impatto ha attivato tutte le dimensioni di affidabilità, mentre i modelli successivi si sono concentrati su veridicità e allineamento alla sicurezza. In particolare, la veridicità, assente nel 2021-2022, è prevista rappresentare il 37% degli articoli entro il 2025-2026, mentre l'equità rimane un tema costante. Questa evoluzione sottolinea la crescente importanza dell'affidabilità nell'IA man mano che i sistemi generativi guadagnano terreno.