Dimostrazioni Corrette Possono Ridurre l'Accuratezza dell'Apprendimento Contestuale

Un nuovo preprint su arXiv (2605.26350) rivela un fenomeno controintuitivo nell'apprendimento in-context (ICL): dimostrazioni corrette non garantiscono utilità e alcune possono persino ridurre l'accuratezza. Gli autori introducono perturbazioni che preservano il compito, in cui solo l'input dell'esempio cambia rimanendo comunque un'istanza corretta dello stesso compito. Ciò include perturbazioni che aggiornano le etichette (la semantica rilevante per il compito cambia, i target vengono ricalcolati) e perturbazioni che preservano il target (il target originale rimane valido). Formalizzano la modalità di fallimento come spostamento dell'evidenza contestuale, in cui le perturbazioni alterano la miscela effettiva di evidenza utilizzata dal modello. Lo studio sfida l'intuizione comune che esempi corretti aiutino sempre l'ICL.