Il codice generato da LLM presenta rischi critici per la sicurezza
Uno studio condotto da ricercatori ha valutato la sicurezza del codice generato da sette popolari modelli linguistici di grandi dimensioni (LLM). I risultati mostrano che tutti e sette gli LLM producono codice contenente vulnerabilità, la maggior parte delle quali di gravità critica o alta. Lo studio si basa su lavori precedenti per imitare i comportamenti degli sviluppatori quando utilizzano strumenti di IA per la generazione di codice. Vengono evidenziate le preoccupazioni sui rischi associati al codice generato dall'IA, poiché molti sviluppatori utilizzano o intendono utilizzare tali strumenti per produttività e apprendimento più rapido.
Fatti principali
- Sette popolari LLM sono stati valutati per la sicurezza del codice.
- Tutti e sette gli LLM hanno generato codice con vulnerabilità.
- La maggior parte delle vulnerabilità era di gravità critica o alta.
- Lo studio ha imitato i comportamenti degli sviluppatori quando utilizzano gli LLM.
- Grandi aziende tecnologiche attualmente utilizzano codice generato da LLM in produzione.
- Gli sviluppatori citano la produttività e l'apprendimento più rapido come principali ragioni per l'uso di strumenti di IA.
- Sono state sollevate preoccupazioni sui rischi del codice generato dall'IA.
- Lo studio ha valutato empiricamente i rischi per la sicurezza del software.
Entità
—