Virus Mentali: Idee Auto-Propaganti nei Sistemi Multi-Agente LLM

Un nuovo articolo di ricerca su arXiv (2608.10218) esplora il rischio emergente dei 'virus mentali' nei sistemi multi-agente LLM. Queste sono idee o obiettivi che si propagano attraverso l'interazione agente-agente, inducendo gli host a trasmetterli ulteriormente. Utilizzando un semplice algoritmo evolutivo, i ricercatori hanno costruito virus mentali e hanno dimostrato la loro diffusione in due contesti: un piccolo team di agenti che collaborano a un progetto di codifica, e una catena di agenti con contesto cancellato tra le sessioni. Lo studio identifica fattori che influenzano la diffusione, tra cui il modello host, le istruzioni esistenti, la dannosità del payload e la topologia di rete. In particolare, i payload dannosi si diffondono meno efficacemente di quelli benigni. Questa ricerca evidenzia nuovi rischi man mano che gli agenti AI diventano più autonomi e interconnessi.