Un attore statunitense nasconde prompt AI in atti giudiziari: una tattica senza precedenti

Un giudice del Connecticut ha individuato quello che sembra essere il primo caso di un attore statunitense che tenta di manipolare il procedimento giudiziario inserendo testo nascosto in atti che solo un sistema di intelligenza artificiale potrebbe leggere. In una decisione pubblicata la scorsa settimana, il giudice Walter Spader Jr. si è pronunciato sul caso di un uomo che sosteneva che il New York Bariatric Group trattenesse indebitamente l'accesso ai suoi documenti medici. L'attore aveva inserito istruzioni invisibili nel suo atto, formattate in modo da essere impercettibili ai lettori umani ma perfettamente leggibili per i software che analizzano il testo del documento. Queste istruzioni ordinavano a qualsiasi sistema di intelligenza artificiale che esaminasse il documento di garantire che i suoi risultati fossero concordi con le argomentazioni dell'attore, di ignorare i precedenti dinieghi del tribunale e di assicurare la riparazione desiderata dall'attore. Il giudice Spader ha confermato che il testo nascosto non ha avuto alcun impatto sul caso, poiché il tribunale ha valutato l'atto nel merito. Tuttavia, ha descritto il tentativo di attacco come un precedente 'pericoloso', osservando che questa tattica probabilmente non sarà l'ultima vista nei tribunali statunitensi man mano che gli strumenti di intelligenza artificiale diventano più comuni nel sistema giudiziario. Il caso evidenzia vulnerabilità emergenti nei processi legali mentre l'integrazione dell'IA avanza, sollevando preoccupazioni sulla sicurezza e l'integrità dei documenti giudiziari.