I Compagni AI Non Riescono a Preservare Persona e Memoria nelle Interazioni a Lungo Termine
Uno studio recente pubblicato su arXiv (2607.28818) indica che i compagni AI, pur essendo in grado di generare risposte contestualmente appropriate, faticano a mantenere personalità e modelli comportamentali coerenti durante interazioni prolungate. La ricerca presenta ANCHOR, uno strumento di audit sintetico volto a valutare l'attuazione della persona e il richiamo della traiettoria in modo indipendente. Include 2.008 conversazioni su 27 distinte personalità, nove programmi di interazione, tre impostazioni di memoria e quattro modelli in valutazione. La Sonda di Identità presenta un questionario sigillato di 102 elementi insieme a valutazioni a livello di turno, mentre la Sonda di Traiettoria valuta 110 domande controfattuali calibrate da 35 banche di conversazione. I risultati rivelano che nessun modello o configurazione mantiene in modo affidabile entrambi gli aspetti, evidenziando significativi difetti di progettazione nei compagni AI che minano la fiducia degli utenti e il coinvolgimento sostenuto.
Fatti principali
- Studio pubblicato su arXiv con ID 2607.28818
- Introduce ANCHOR, un audit sintetico per misurare il collasso della persona e la deriva comportamentale
- Include 2.008 conversazioni, 27 personalità, nove programmi di interazione, tre impostazioni di memoria e quattro modelli
- La Sonda di Identità utilizza un questionario di 102 elementi e giudizi a livello di turno
- La Sonda di Traiettoria valuta 110 domande controfattuali da 35 banche di conversazione
- Nessun modello o configurazione valutato preserva in modo affidabile la persona o la traiettoria
- Evidenzia fallimenti sistemici nell'interazione a lungo termine dei compagni AI
- La ricerca si concentra su fallimenti osservabili: collasso della persona e deriva comportamentale
Entità
Istituzioni
- arXiv