Piattaforme Cinesi Offrono Guide a Pagamento per Eludere la Moderazione dei Contenuti AI e Generare Materiale Esplicito

Piattaforme online in Cina stanno distribuendo tutorial a pagamento che istruiscono gli utenti su metodi per aggirare i sistemi di moderazione dei contenuti AI per generare materiale esplicito. Queste guide sfruttano specifiche tecniche di prompt engineering, inclusi l'uso di input in lingua inglese e formulazioni intenzionalmente vaghe, per eludere le protezioni integrate nei chatbot e nelle applicazioni AI. Sebbene la maggior parte dei sistemi AI implementi filtri per prevenire la creazione di contenuti per adulti, questi tutorial dimostrano come utenti determinati possano manipolare la tecnologia. Il fenomeno evidenzia le sfide in corso nella moderazione dei contenuti per gli strumenti di AI generativa, specialmente attraverso diversi contesti linguistici e culturali. La disponibilità di tali guide indica una domanda di mercato per soluzioni alternative nonostante le politiche delle piattaforme. Questo sviluppo si inserisce in un più ampio dibattito globale sull'implementazione etica e la governance delle tecnologie AI.