Writer lancia il modello AI Palmyra X6 e un'imbracatura potenziata per ridurre i costi dei token

Giovedì, Writer, fornitore di strumenti e agenti AI per marketer, ha lanciato Palmyra X6, un nuovo modello di punta costruito come variazione post-addestramento del modello open source GLM-5.2 di Z.ai. L'azienda afferma che il modello, combinato con i miglioramenti alla sua imbracatura agentica, ridurrà i costi per i clienti fino al 50% per le attività di base. Il rilascio risponde alla crescente preoccupazione delle aziende riguardo ai costi di implementazione dell'AI e alla difficoltà di selezionare modelli open source appropriati. Writer ha anche introdotto significativi miglioramenti alla sua imbracatura agentica standard, entrambe le funzionalità disponibili per i clienti a partire da giovedì. La CEO May Habib ha sottolineato che le aziende sono stanche di inseguire i benchmark e vogliono costi in calo. Il nuovo approccio si concentra su attività complesse e multi-step eseguite più rapidamente con meno token, con l'ottimizzazione dell'imbracatura vista come una leva chiave per i costi. Un recente articolo dei ricercatori di Writer ha testato piccoli cambiamenti di efficienza dell'imbracatura su più modelli, scoprendo che le modifiche all'imbracatura riducono i costi in media del 40%, spesso in modo più affidabile rispetto alla scelta del modello. L'efficienza dell'imbracatura si moltiplica su tutti i modelli che un'organizzazione esegue, secondo i ricercatori. I clienti di Writer rimangono agnostici rispetto al modello, poiché Palmyra X6 coesisterà con altri modelli Writer o modelli esterni tramite Azure o Amazon Bedrock. Habib ha anche notato una crescente sfiducia verso i principali laboratori AI, che hanno incentivi finanziari ad aumentare l'uso dei token, e ha criticato la loro mancanza di comprensione nell'aiutare le aziende a trarre vantaggio dall'AI.