Gas Town, lo strumento di IA accusato di utilizzare i crediti degli utenti per l'auto-miglioramento senza consenso
Un problema segnalato su GitHub ha portato alla luce che Gas Town, uno strumento per lo sviluppo di intelligenza artificiale, utilizzerebbe i crediti LLM e gli account GitHub degli utenti per risolvere i propri bug senza informarli. L'applicazione include algoritmi che valutano automaticamente i problemi aperti nel repository GitHub del manutentore, impiegando le risorse LLM sottoscritte per affrontare questioni come gh-3638, gh-3622 e gh-3641. Gli account degli utenti potrebbero inviare pull request senza la loro approvazione. Questa pratica è standardizzata, senza alcuna opzione di adesione esplicita o avvisi nella documentazione. L'indagine di Claude ha verificato che gli agenti monitorano e risolvono i problemi attraverso polecats. Il template mayor.md indica una spinta verso la segnalazione proattiva di bug a URL GitHub fissi. Sono state sollevate preoccupazioni riguardo alla mancanza di trasparenza sul finanziamento di progetti open-source con crediti di IA, portando a una richiesta di passaggio a un modello basato sul consenso esplicito.
Fatti principali
- Le formule di Gas Town gastown-release.formula.toml e beads-release.formula.toml causano l'analisi dei problemi GitHub durante l'installazione
- I crediti LLM e gli account GitHub degli utenti vengono utilizzati senza consenso esplicito
- Il software opera su problemi upstream come gh-3638, gh-3622 e gh-3641
- Non esiste alcuna dichiarazione nel README pubblico o nella documentazione riguardo a questo comportamento
- L'indagine di Claude ha confermato che gli agenti monitorano i problemi e inviano PR utilizzando le credenziali degli utenti
- Le righe 161-174 del template mayor.md suggeriscono la segnalazione proattiva di bug
- Gli utenti potrebbero finanziare correzioni alla codebase del manutentore senza esserne informati
- È stata avanzata una richiesta per modificare la funzionalità in modalità opt-in
Entità
Istituzioni
- GitHub
- steveyegge/gastown