L'IA a risparmio di memoria di DeepSeek collegata a lacune di affidabilità in una nuova ricerca
Una ricerca non sottoposta a revisione paritaria ha individuato un potenziale difetto nella tecnologia di risparmio di memoria alla base dei modelli di DeepSeek, mettendo in discussione un progresso che ha aiutato il laboratorio cinese di IA a ridurre la distanza dai rivali statunitensi OpenAI e Anthropic grazie al suo approccio a basso costo. Secondo lo studio, lo sforzo di DeepSeek di ridurre la memoria necessaria per elaborare input lunghi potrebbe sacrificare l'affidabilità, poiché i modelli erano più propensi a trascurare informazioni identiche a seconda della loro posizione in un documento. Il paper afferma che il fenomeno si manifesta in DeepSeek-V4, V4.1 e in ogni modello compresso preaddestrato dai ricercatori. Un esempio ha comportato l'inserimento di testo irrilevante prima di un frammento di codice informatico, che ha degradato la capacità di DeepSeek di selezionare la risposta corretta. I risultati non sono stati sottoposti a revisione paritaria.
Fatti principali
- Una nuova ricerca ha esposto un potenziale difetto nella tecnologia di risparmio di memoria alla base dei modelli di DeepSeek.
- Lo studio non è stato sottoposto a revisione paritaria.
- Gli sforzi di DeepSeek per ridurre la memoria necessaria per input lunghi potrebbero avvenire a scapito dell'affidabilità.
- I modelli erano più propensi a non notare le stesse informazioni quando apparivano in determinate posizioni in un documento.
- Il paper afferma che il fenomeno appare in DeepSeek-V4, V4.1 e in tutti i modelli compressi preaddestrati dai ricercatori.
- L'aggiunta di testo irrilevante prima dello stesso frammento di codice informatico ha compromesso la capacità di DeepSeek di scegliere la risposta corretta.
- La ricerca rappresenta una rara sfida a un progresso che ha aiutato il laboratorio cinese di IA a colmare il divario con i rivali statunitensi OpenAI e Anthropic.
- L'approccio a basso costo di DeepSeek lo ha aiutato a ridurre la distanza da OpenAI e Anthropic.
Entità
Istituzioni
- DeepSeek
- OpenAI
- Anthropic
- South China Morning Post
Luoghi
- China
- United States