KI-Bias in der Sozialpflege benachteiligt Frauen

Eine Studie der London School of Economics zeigt, dass generative KI in der Sozialpflege für Erwachsene (Adult Social Care) geschlechtsspezifische Verzerrungen aufweist. Die KI bewertet nahezu identische Fälle unterschiedlich, abhängig vom Geschlecht der Patient*innen. Bei weiblichen Betroffenen werden Bedürfnisse häufig abgeschwächt und Probleme weniger dringlich dargestellt. Studienautor Sam Rickman betont, dass die Leidtragenden dieses KI-Bias vor allem Frauen sind. Der Einsatz von KI zur Zusammenfassung von Fallnotizen und Entscheidungsfindung führt zu einer stillen und systematischen Benachteiligung.