Studio sfida l'assunzione di ridondanza nell'affidabilità dei sistemi multi-agente

Uno studio recente pubblicato su arXiv ha esaminato l'affidabilità dei sistemi multi-agente attraverso un'analisi di 18.000 missioni. Ha rivelato che quando due agenti condividono compiti utilizzando modelli identici, c'è una probabilità del 90% che entrambi falliscano se uno fallisce. Passando a un modello diverso, questa forte correlazione è diminuita. Inoltre, l'uso di modelli di fornitori diversi non ha mostrato variazioni significative nelle prestazioni, allineandosi con l'ipotesi nulla pre-registrata dei ricercatori. Questi risultati sottolineano i potenziali rischi di assumere la ridondanza in sistemi che dipendono dallo stesso modello, evidenziando importanti considerazioni per l'affidabilità dei sistemi di intelligenza artificiale.