Palla di neve delle allucinazioni: propagazione degli errori in pipeline LLM multi-agente

Un articolo su arXiv (2608.14588) introduce il concetto di 'effetto palla di neve delle allucinazioni' in pipeline LLM multi-agente sequenziali, illustrando come le allucinazioni in fase iniziale si evolvano in forme più difficili da rilevare. Gli autori rappresentano questo fenomeno come un processo di Markov del primo ordine composto da quattro stati: Fatto grezzo, Derivato, Narrativo e Invisibile, con probabilità di fuga misurate al 24,6%, 48,3% e 89,3%. In una pipeline di analisi finanziaria che coinvolge quattro agenti su FinanceBench, hanno introdotto 346 allucinazioni, rivelando un calo del rilevamento di gpt-4o dal 72,0% allo Stadio 1 al 50,9% allo Stadio 4, con il 23,7% delle allucinazioni che rimangono completamente non rilevate nell'output finale. Lo studio sottolinea un difetto critico nei sistemi multi-agente, dove gli agenti mancano di verifica durante le transizioni, portando alla trasformazione di fatti numerici in calcoli derivati, testo narrativo e, infine, conclusioni editoriali. La ricerca offre approfondimenti quantitativi sul degrado della rilevabilità attraverso queste trasformazioni. L'articolo è stato pubblicato su arXiv con ID 2608.14588v1.