Gli LLM inventano dettagli su entità sconosciute; uno studio propone il ritiro griceano

Un recente articolo su arXiv (2608.13484) approfondisce le ragioni per cui i grandi modelli linguistici (LLM) generano informazioni credibili ma inaccurate quando interrogati su entità sconosciute, invece di optare per affermazioni più sicure e generali. Gli autori applicano una prospettiva griceana, sostenendo che un parlante cooperativo incerto su un riferimento dovrebbe scegliere una risposta meno specifica, privilegiando l'accuratezza rispetto al dettaglio. Utilizzando un benchmark basato su T-REx che valuta sia la familiarità dell'entità che la specificità del referente, i ricercatori esaminano se i modelli riconoscono i propri limiti di conoscenza e prevedono la specificità delle informazioni che generano. I loro risultati rivelano che, sebbene entrambi i segnali esistano, i modelli preferiscono comunque riferimenti specifici anche quando l'entità è sconosciuta, ignorando le corrette opzioni generiche. Questo studio migliora la comprensione delle allucinazioni degli LLM e propone modi per migliorare l'affidabilità e la calibrazione del modello. L'articolo è stato presentato come invio cross-type su arXiv, con l'abstract accessibile tramite l'URL fornito.