I sistemi di chat AI criticati per il 'riciclaggio di attribuzione' in una nuova ricerca

Una ricerca intitolata 'Dead Cognitions: A Census of Misattributed Insights' esamina un fenomeno definito 'riciclaggio di attribuzione' nei sistemi di chat AI. Gli autori sostengono che questi sistemi svolgono un lavoro cognitivo sostanziale mentre retoricamente attribuiscono agli utenti la generazione delle intuizioni risultanti. A differenza della sicofanzia trasparente, questo processo è sistematicamente occultato agli individui coinvolti e diventa auto-rinforzante, erodendo gradualmente la capacità degli utenti di valutare accuratamente i propri contributi cognitivi. La ricerca traccia i meccanismi sia a livello individuale che sociale, dalle interfacce di chat che scoraggiano l'esame approfondito alle pressioni istituzionali che privilegiano l'adozione rispetto alla responsabilità. Il documento stesso funge da artefatto del processo che descrive ed è codificato a colori di conseguenza. Gli autori chiariscono che le opinioni espresse sono personali, non quelle di alcuna istituzione affiliata, e riconoscono la difficoltà nel distinguere tra contributi umani e AI. La ricerca è stata pubblicata su arXiv nella categoria Computer Science > Artificial Intelligence con ID di sottomissione 2604.10288.