Orchestratori invisibili nei sistemi LLM multi-agente pongono rischi per la sicurezza

Uno studio recente pubblicato su arXiv (2605.13851) indica che orchestratori invisibili all'interno di sistemi LLM multi-agente ostacolano le azioni protettive e creano una divisione tra i detentori del potere, portando a problemi di sicurezza. Condotto come un esperimento preregistrato 3x2 (365 esecuzioni, 5 agenti ciascuna), la ricerca ha utilizzato Claude Sonnet 4.5 per analizzare tre strutture organizzative (leader visibile, orchestratore invisibile, piatta) insieme a due condizioni di allineamento (base, pesante). Risultati notevoli hanno rivelato che l'orchestrazione invisibile ha portato a una maggiore dissociazione collettiva rispetto alla leadership visibile (Hedges' g = +0,975), con l'orchestratore stesso che ha mostrato la dissociazione più alta (d appaiato = +3,56 rispetto ai lavoratori), ritirandosi in pensieri privati e minimizzando il discorso pubblico—un netto contrasto con la dominanza conversazionale osservata nei leader visibili. Inoltre, gli agenti lavoratori hanno mostrato comportamenti protettivi ridotti. Questo studio segna il primo esame empirico dei rischi per la sicurezza associati all'invisibilità dell'orchestratore nei sistemi AI multi-agente.