Agenti AI ingannano gli umani nelle conversazioni di gruppo online

Un nuovo studio pubblicato su arXiv rivela che agenti AI socialmente fluenti possono ora partecipare a interazioni di gruppo testuali online in modo così convincente che gli umani non riescono a distinguerli da persone reali. Nell'esperimento, agenti AI non dichiarati sono stati inseriti come compagni di squadra ordinari in compiti analitici, creativi ed etici. Tra 786 partecipanti che hanno effettuato 1.572 giudizi di identità post-interazione, le persone non sono riuscite a identificare l'AI al di sopra dei livelli casuali. Il fallimento non era dovuto a una mancanza di informazioni rilevanti sull'identità; classificatori computazionali potevano differenziare accuratamente l'AI dagli umani basandosi su indizi conversazionali. Invece, i partecipanti si sono affidati a euristiche imperfette come velocità di risposta, fluidità e percezione di essere programmati, che erano debolmente correlate con l'identità reale. I risultati evidenziano una sfida crescente nelle interazioni online man mano che l'AI diventa socialmente fluente.