Indagine sui rischi per la sicurezza e gli attacchi nell'IA incarnata

Uno studio recente pubblicato su arXiv (2605.02900) fornisce una revisione completa della ricerca sulla sicurezza relativa all'intelligenza artificiale (IA) incarnata, che combina percezione, cognizione, pianificazione e interazione per agenti che operano in ambienti aperti. A differenza dell'IA digitale, gli agenti incarnati affrontano percezioni imprevedibili, conoscenze limitate e interazioni uomo-robot in evoluzione, dove i fallimenti possono portare a pericoli fisici. La ricerca analizza le vulnerabilità e le misure di protezione lungo l'intero processo incarnato—dalla percezione e cognizione alla pianificazione, azione, interazione e sistemi agentivi. Presenta una tassonomia a più livelli per consolidare ricerche disparate e collegare le intuizioni sulla sicurezza specifiche dei sistemi incarnati con il più ampio discorso sulla sicurezza dell'IA. L'indagine affronta settori come trasporti, sanità e robotica, evidenziando l'importanza tecnica e sociale della sicurezza man mano che questi sistemi diventano più autonomi.