Dinamiche di Tipping nell'IA: I Fallimenti di ChatGPT come Rischio Prevedibile

Un nuovo articolo di informatica su arXiv (arXiv:2607.25279) intitolato 'Many-body Tipping Dynamics of ChatGPT-like AIs' indaga perché i sistemi di IA simili a ChatGPT producono inaspettatamente contenuti indesiderati come output dannosi, fuorvianti o ripetitivi, anche in condizioni di decodifica greedy deterministica. Gli autori dimostrano che questi tipping derivano da interazioni a molti corpi tra token, modellati come spin che attraversano un sistema a strati finiti. Il tipping è descritto come un processo dinamico di primo passaggio tra bacini di output concorrenti, con il disordine dell'attenzione che controlla la dinamica di trasporto. Una riduzione a pochi bacini produce una soglia chiusa a strati finiti che mostra un buon accordo tra famiglie simili a ChatGPT. I risultati suggeriscono che tali fallimenti dell'IA rappresentano un 'rischio ingegneristico prevedibile' piuttosto che un comportamento intrinsecamente imprevedibile, con implicazioni per le valutazioni legali e sociali del danno causato dall'IA. L'articolo è classificato in Computer Science > Artificial Intelligence.