Il watermark SynthID di Google testato: robusto ma non una cura per la disinformazione AI

Il sistema di watermarking SynthID di Google, che mira a identificare materiale generato dall'IA, è stato testato e si è dimostrato resistente alle modifiche. Tuttavia, gli specialisti avvertono che non affronta il problema più ampio della disinformazione generata dall'IA. Secondo lo Starling Lab, un'iniziativa congiunta della Stanford University e della University of Southern California, ci sono voluti 149 anni dopo l'invenzione della fotocamera perché l'umanità producesse 1,5 miliardi di immagini entro il 1975, mentre l'IA generativa ha raggiunto questo traguardo in soli 18 mesi. Durante il Google I/O di questa primavera, l'azienda ha rivelato che i suoi strumenti hanno creato oltre 100 miliardi di immagini e video AI in pochi anni. Google sta potenziando SynthID attraverso collaborazioni con OpenAI, Runway, Nvidia e altri. La tecnologia incorpora watermark nei pixel o nell'audio, mantenendo l'integrità attraverso compressione e alterazioni, ma standard di metadati come C2PA possono ancora essere facilmente rimossi. Pushmeet Kohli, uno scienziato di Google DeepMind, ha evidenziato la resilienza di SynthID, ma l'articolo sottolinea che i watermark invisibili non possono risolvere completamente i problemi di autenticità dei contenuti AI.