LLM vs Codifica Ufficiale degli Incidenti: Benchmarking dei Modelli Frontier sui Racconti di Incidenti Mortali in Arkansas
Un nuovo studio ha esaminato sei sofisticati modelli linguistici di grandi dimensioni (LLM) per valutare quanto bene potessero corrispondere alla codifica ufficiale degli incidenti utilizzata nei rapporti di polizia dell'Arkansas. Pubblicato su arXiv (2607.29064), la ricerca mirava a migliorare i database strutturati sugli incidenti, che sono spesso difficili da analizzare manualmente. Ha esaminato 5.587 racconti di incidenti mortali e 5.889 record strutturati dal 2015 al 2025, trovando 4.194 corrispondenze. Ogni LLM ha ricevuto lo stesso prompt per classificare sei attributi dell'incidente, tra cui la modalità dell'incidente e le condizioni di luce. I ricercatori hanno utilizzato varie metriche come tassi di concordanza e punteggi F1 per misurare l'accuratezza, confrontando i risultati con i metodi standard. Questo studio potrebbe potenzialmente automatizzare la codifica dei dati sugli incidenti, aiutando gli sforzi per la sicurezza stradale.
Fatti principali
- 1. Lo studio ha confrontato sei LLM all'avanguardia per la codifica degli incidenti da racconti di polizia.
- 2. Dati dal database degli incidenti mortali dell'Arkansas (2015-2025).
- 3. Collegate 5.587 narrazioni con 5.889 record strutturati, ottenendo 4.194 corrispondenze.
- 4. Valutati sei attributi dell'incidente: modalità, relazione con non automobilisti, tipo di intersezione, relazione con zone di lavoro, condizioni della superficie, condizioni di luce.
- 5. Utilizzato lo stesso prompt zero-shot per tutti gli LLM.
- 6. Metriche di prestazione: concordanza, macro-F1, kappa di Cohen, copertura, concordanza selettiva.
- 7. Confronto con baseline di maggioranza sempre, sempre sconosciuto e regole basate su parole chiave.
- 8. Studio disponibile su arXiv con ID 2607.29064.
Entità
Istituzioni
- arXiv
Luoghi
- Arkansas
- United States