La Mostra Machine Gaze di Ronnie Alley Esamina i Pregiudizi dell'IA nella Costruzione dell'Identità

Ronnie Alley, studente laureato all'ArtCenter College of Design, ha presentato il suo progetto di tesi Machine Gaze, che indaga come i sistemi di intelligenza artificiale costruiscono l'identità umana. La mostra presentava quattro esperimenti che dimostrano la tendenza dell'IA a ridurre l'identità in stereotipi o uniformità. In uno studio, prompt che facevano riferimento a identità queer hanno prodotto immagini che si concentravano pesantemente su stereotipi visivi di abbigliamento, postura e tipi corporei. Un altro esperimento che utilizzava descrizioni quasi neutre ha comunque prodotto risultati che tendevano verso individui giovani, magri e bianchi, con donne e soggetti queer spesso sessualizzati. Un terzo studio ha creato "gemelli di dati" da metadati personali, rivelando che quando genere o etnia non erano specificati, i sistemi predefinivano rappresentazioni di maschi bianchi—un'analisi ha mostrato che dati demografici di volontari con il 25% maschi e il 38% bianchi producevano risultati che erano il 77% maschi e il 75% bianchi. Lo studio finale ha utilizzato modelli linguistici di grandi dimensioni per generare descrizioni testuali della vita quotidiana in diverse regioni globali, scoprendo che i risultati convergevano verso un'unica narrativa globalizzata di professionisti urbani con hobby creativi, cancellando le differenze culturali. Il lavoro di Alley sostiene che l'IA, addestrata su dataset distorti, appiattisce la complessità umana in categorie prevedibili, ponendo rischi per le pratiche di design che fanno sempre più affidamento su questi strumenti. Il progetto è stato esposto all'Huddle di Philadelphia come parte del suo MFA in Graphic Design.