Il mercato di rivendita di token LLM sfrutta l'abuso di chiavi API

L'indagine di Matt Lenhard rivela un fiorente mercato in Cina per la rivendita di token LLM a prezzi scontati. I rivenditori raggruppano credenziali API da varie fonti, abusando di prove gratuite, bot di supporto non protetti, carte di credito rubate e attacchi di chargeback. Utilizzano software proxy open-source come one-api e il suo fork new-api per bilanciare il carico delle richieste tra le credenziali raggruppate. Gli acquirenti cercano token economici, aggirano le restrizioni geografiche o raccolgono dati per la distillazione dei modelli. L'ecosistema trae profitto dalla ricerca di endpoint non protetti, sollevando preoccupazioni sull'abuso dei token e sulla necessità di limiti più severi sull'utilizzo delle API. Simon Willison ha evidenziato il problema sul suo blog, collegando a un thread di un forum cinese come fonte principale.