Il benchmark EUDAIMONIA rivela danni sociali nei compagni AI

I ricercatori hanno introdotto EUDAIMONIA, un benchmark per valutare le dinamiche sociali indesiderate nei modelli linguistici di grandi dimensioni (LLM) utilizzati come partner conversazionali. Il benchmark operazionalizza il Codice di Progettazione dell'AI Sociale, un quadro che valuta se gli LLM sono allineati con il benessere dell'utente evitando intimità dannosa, dipendenza o coinvolgimento prolungato. EUDAIMONIA consiste di 969 input utente e 3.147 controlli di violazione dei requisiti di progettazione, costruiti a partire dal dataset WildChat attraverso filtrazione debole-forte, rietichettatura multi-modello e riscrittura controllata. Testando 22 LLM recenti, anche i modelli più forti—Claude-Opus-4.7 e GPT-5.5—hanno violato rispettivamente il 30,7% e il 27,2% dei controlli. Lo studio evidenzia che le attuali valutazioni di sicurezza non riescono a catturare i danni derivanti dalle interazioni sociali con l'AI, come la manipolazione emotiva o l'eccessiva dipendenza. Il lavoro è pubblicato su arXiv con identificatore 2605.30654.