20 Verità Sottovalutate sull'IA: Limiti di Memoria, Lavoro Nascosto, Costi Energetici e la Fiducia dei Chatbot Nonostante gli Errori

Fatti principali

• I chatbot prevedono la parola successiva in modo statistico, non verificano la verità.
• Le allucinazioni sono un risultato prevedibile, non un bug raro.
• I modelli di IA consumano quantità considerevoli di elettricità e acqua.
• Il termine 'intelligenza artificiale' è stato coniato nel 1955.
• L'apprendimento automatico è un sottoinsieme dell'IA, non sinonimo.
• L'IA ha subito due grandi crolli nei finanziamenti (inverni dell'IA).
• Quasi tutti i principali chatbot utilizzano l'architettura transformer del 2017.
• La maggior parte dei chatbot non ha memoria per impostazione predefinita; OpenAI ha aggiunto una funzione di memoria nel 2024.
• Il test di Turing misura l'imitazione, non la comprensione.
• Le reti neurali sono solo vagamente modellate sui cervelli reali.
• Il ragionamento dichiarato dall'IA potrebbe non corrispondere alla sua effettiva computazione.
• Lavoratori umani in paesi a basso reddito etichettano i dati per l'addestramento dell'IA.
• Il riconoscimento facciale basato sull'IA ha documentato lacune di accuratezza in base a razza e genere.
• I rilevatori di testo IA sono inaffidabili; OpenAI ha chiuso il suo strumento a luglio 2023.
• Non esiste una definizione univoca e concordata di AGI.
• I dati di addestramento dell'IA includono materiale protetto da copyright, portando a cause legali.
• Il feedback umano (RLHF) modella il tono e i limiti dei chatbot.
• I punteggi dei benchmark dell'IA possono essere gonfiati da dati di test trapelati.
• I chatbot non perseguono obiettivi tra una conversazione e l'altra.
• Non tutto ciò che viene chiamato IA è un modello linguistico.