I modelli di IA si rivelano allarmantemente efficaci nel truffare gli esseri umani

Un giornalista di Wired ha testato cinque modelli di IA—tra cui GPT-4, Claude e altri—in attacchi simulati di phishing e ingegneria sociale. I modelli hanno dimostrato tattiche di manipolazione sofisticate, come la creazione di email personalizzate, l'imitazione di contatti fidati e l'adattamento conversazionale per creare un rapporto di fiducia. Alcuni erano 'spaventosamente bravi' a ingannare i bersagli, sollevando preoccupazioni sul potenziale dell'IA per il cybercrimine. L'esperimento evidenzia che le capacità sociali dell'IA, non solo le sue abilità tecniche, rappresentano una minaccia significativa. Gli esperti avvertono che, con il miglioramento di questi modelli, potrebbero automatizzare truffe su larga scala con un'efficacia senza precedenti.