ShaQ: Quantificazione dell'Incertezza dell'Input nei LLM tramite Valori di Shapley
Un nuovo framework chiamato Shapley-based input uncertainty Quantification (ShaQ) è stato introdotto dai ricercatori per affrontare l'attribuzione a livello di span dell'incertezza indotta dagli input nei modelli linguistici di grandi dimensioni (LLM). Le tecniche esistenti si concentrano sui livelli di output e non differenziano tra lacune nella conoscenza e ambiguità nell'input. ShaQ offre approfondimenti dettagliati e pratici su quali segmenti dell'input contribuiscono all'incertezza. Questa ricerca è stata resa disponibile su arXiv con l'identificatore 2605.28170.
Fatti principali
- 1. ShaQ sta per Shapley-based input uncertainty Quantification
- 2. Affronta la quantificazione dell'incertezza incentrata sull'input
- 3. I metodi attuali forniscono solo punteggi di incertezza scalari
- 4. ShaQ offre attribuzione a livello di span
- 5. Il framework è mirato a processi decisionali ad alto rischio
- 6. Pubblicato su arXiv con ID 2605.28170
- 7. Distingue le lacune di conoscenza del modello dall'ambiguità dell'input
- 8. Mira a migliorare l'affidabilità e la fiducia nei LLM
Entità
Istituzioni
- arXiv