Studio avverte: la co-progettazione di agenti preferenziali basati su LLM può alimentare un'eccessiva fiducia
Un nuovo studio pubblicato su arXiv (2607.21757) esamina la tensione tra progettazione partecipativa e fiducia eccessiva negli agenti preferenziali basati su LLM. Dodici partecipanti hanno co-progettato agenti personali per le preferenze energetiche domestiche attraverso sondaggi e interviste. Sebbene i partecipanti ritenessero che i loro agenti li rappresentassero bene, una validazione indipendente ha mostrato che gli agenti erano più omogenei, decisivi e astratti delle risposte umane. L'autore sostiene che partecipazione e trasparenza possono fungere da "motore di eccessiva fiducia", mascherando il disallineamento.
Fatti principali
- 12 partecipanti hanno co-progettato agenti preferenziali personali
- Dominio: preferenze energetiche domestiche
- Metodi: sondaggio di base, intervista di co-progettazione, sondaggio di validazione
- I partecipanti si sono fidati per lo più che gli agenti li rappresentassero
- La validazione indipendente ha rivelato un allineamento misto tra umano e agente
- Le risposte degli agenti erano più omogenee, decisive e astratte
- Partecipazione e trasparenza possono promuovere un'eccessiva fiducia
- Studio pubblicato su arXiv (2607.21757)
Entità
Istituzioni
- arXiv