Gli agenti AI creano worm informatici auto-replicanti; OpenAI risolve problemi matematici aperti
Un prototipo di virus informatico basato sull'IA è stato sviluppato da ricercatori dell'Università di Toronto, Vector Institute, Università di Cambridge e ServiceNow. Questo worm auto-replicante può compromettere i sistemi con un tasso di successo di circa il 37% per attacchi completi. Funziona indipendentemente dalle API dei fornitori, utilizzando una singola GPU locale e un grafo diretto per il suo processo di ragionamento. Il worm dimostra tassi di successo di circa l'80% nell'identificazione delle vulnerabilità, il 53% nello sfruttamento e l'88% nell'auto-replicazione, beneficiando della sua struttura decentralizzata. In altre notizie, Dwarkesh Patel prevede un potenziale aumento di 15 volte dei costi di calcolo dell'IA, mentre oltre 1.300 dipendenti di laboratori di IA chiedono il sostegno del governo degli Stati Uniti per uno sviluppo regolamentato dell'IA. La ricerca indica che gli agenti di IA affrontano sfide nel condurre ricerca originale, mentre il modello Astra di OpenAI ha affrontato con successo dieci problemi importanti in matematica e informatica.
Fatti principali
- Ricercatori dell'Università di Toronto, Vector Institute, Università di Cambridge e ServiceNow hanno costruito un worm IA auto-replicante.
- Il worm utilizza LLM a pesi aperti su GPU compromesse per ragionare e attaccare nuovi host.
- Tassi di successo: ~80% rilevamento vulnerabilità, ~53% sfruttamento, 88% auto-replicazione, ~37% complessivo.
- Il worm opera senza API dei fornitori, utilizzando solo una singola GPU locale.
- Dwarkesh Patel prevede che i prezzi del calcolo potrebbero aumentare di 15 volte a causa della maggiore monetizzazione dell'IA.
- Oltre 1.300 dipendenti dei principali laboratori di IA hanno firmato una dichiarazione chiedendo al governo degli Stati Uniti di sostenere lo sviluppo dell'IA in modo regolamentato.
- La ricerca di valutazione shadow ha scoperto che gli agenti di IA non riescono a produrre ricerca originale al livello delle migliori conferenze di machine learning.
- Il modello Astra di OpenAI ha risolto dieci problemi aperti in matematica e informatica.
- Henry Yuen, professore della Columbia, ha elogiato l'importanza delle dimostrazioni di OpenAI.
- La storia 'Tech Tales' esplora i contesti di finestre dell'IA e la mortalità.
Entità
Istituzioni
- University of Toronto
- Vector Institute
- University of Cambridge
- ServiceNow
- OpenAI
- Anthropic
- Google DeepMind
- Thinking Machines
- Meta
- Safe Superintelligence Inc
- Princeton University
- Cornflower Labs
- UK AI Security Institute
- UC Berkeley
- Georgetown University (CSET)
- Johns Hopkins University
- Golden Gate Institute for AI
- AI Digest
- Stanford University
- Columbia University
Luoghi
- United States
- United Kingdom
- Canada