Gli LLM Minacciano l'Anonimato della Revisione Doppio Cieco
Uno studio recente pubblicato su arXiv (ID 2608.05157) indica che i modelli linguistici di grandi dimensioni (LLM) possiedono la capacità di de-anonimizzare gli autori di articoli accademici in modo più efficace degli esseri umani, rappresentando una minaccia per l'integrità del processo di revisione paritaria a doppio cieco. L'indagine, che ha analizzato solo titoli e abstract di articoli pubblicati dopo l'addestramento del modello, ha dimostrato che gli LLM restringono i potenziali autori a un gruppo limitato di cinque esperti del settore. Questa vulnerabilità persiste anche quando vengono rimossi elementi stilistici e bibliografici, suggerendo che schemi coerenti nel modo in cui i problemi vengono inquadrati e i temi di ricerca sviluppati fungono da indicatori nascosti di paternità. I risultati implicano che le salvaguardie contro i pregiudizi legati a status e affiliazione nella pubblicazione scientifica stanno diventando sempre più vulnerabili a causa degli LLM.
Fatti principali
- Studio pubblicato su arXiv con ID 2608.05157
- Gli LLM possono de-anonimizzare gli autori in modo più efficiente degli esseri umani
- Sono stati utilizzati solo titoli e abstract di articoli pubblicati dopo l'addestramento del modello
- La convinzione si concentra su un piccolo sottoinsieme di autori plausibili da pool di cinque candidati esperti del settore
- La vulnerabilità persiste anche quando vengono esclusi indizi stilistici e bibliografici
- Schemi stabili nell'inquadramento dei problemi e nell'attenzione della ricerca funzionano come firme concettuali latenti di paternità
- La revisione paritaria a doppio cieco è la principale difesa della comunità scientifica contro i pregiudizi di status e affiliazione
- I risultati indicano che la revisione a doppio cieco è sempre più fragile in presenza di LLM
Entità
Istituzioni
- arXiv