L'impennata del consumo di token da parte dell'IA agentica favorisce i modelli cinesi

L'impennata dell'intelligenza artificiale globale ha raggiunto un punto cruciale, con gli agenti autonomi che ora utilizzano più di cinque volte i dati rispetto agli utenti umani. Questo aumento del consumo di dati ha comportato costi di elaborazione più elevati, a vantaggio dei modelli cinesi più economici. Gli analisti sottolineano che queste IA agentiche funzionano in modo indipendente per eseguire compiti complessi come lo sviluppo di software, la ricerca e la gestione aziendale, a differenza dei chatbot convenzionali che si limitano a reagire alle richieste degli utenti. Un singolo compito può avviare una serie di chiamate automatiche al modello mentre l'agente organizza le attività, cerca nei database, utilizza strumenti software e rivede i risultati. I dati di OpenRouter, analizzati da Andreessen Horowitz, rivelano che le richieste agentiche richiedono circa 15 volte più token rispetto alle tipiche query umane. All'inizio di agosto, l'uso giornaliero di token per i carichi di lavoro agentici ha raggiunto i 7,3 trilioni, un aumento sbalorditivo di 14 volte rispetto a sei mesi prima. L'uso agentico ha superato per la prima volta l'attività umana a febbraio, e ad agosto rappresentava oltre cinque volte i 1,4 trilioni di token prodotti dagli utenti umani sulla piattaforma. I costi crescenti legati a questo utilizzo di token potrebbero fornire un vantaggio competitivo ai modelli di IA cinesi a basso prezzo, trasformando potenzialmente il panorama del mercato dell'IA.