Pipeline LLM a più stadi: il rilevamento senza correzione come modalità di guasto chiave

C'è un nuovo studio su arXiv (2605.27559) che analizza come funzionano i modelli linguistici di grandi dimensioni (LLM) a più stadi, concentrandosi su aspetti come il dibattito multi-agente e l'autocorrezione. I ricercatori hanno scoperto che un grosso problema si verifica quando gli agenti a valle individuano errori negli output a monte ma non suggeriscono alternative corrette. Ciò porta a comportamenti anomali, come il raggiungimento di plateau di accuratezza o addirittura la perdita di terreno durante i dibattiti. Hanno anche notato che i modelli avanzati non mostrano gli stessi miglioramenti previsti. Lo studio classifica le risposte in quattro tipi in base a come rilevano i problemi e generano risposte. Attraverso nove esperimenti con varie famiglie di modelli e benchmark, hanno scoperto che un alto tasso di correzione errata ostacola significativamente le prestazioni complessive.