Virginia Eubanks
Plädoyer für transparente Technologien, die den Bedürfnissen der Schwächsten gerecht werden
*1972
Was passiert, wenn in Sozialbehörden nicht mehr Menschen darüber entscheiden, wer staatliche Hilfe erhält, sondern Künstliche Intelligenz (KI)? Mit den Antworten auf diese Frage hat die US-amerikanische Politikwissenschaftlerin und Autorin Virginia Eubanks die Öffentlichkeit aufgerüttelt. In ihrem bekanntesten Buch „Automating Inequality: How High-Tech Tools Profile, Police, and Punish the Poor“ (2018) zeigt sie, wie schädlich sich Data Mining (statistische Methoden zum Erkennen von Mustern und Trends aus großen Datensätzen), Policy-Algorithmen (Regeln, die den Entscheidungsprozess zur Erreichung bestimmter Ziele leiten) und diskriminierende Risikovorhersagen auf die Armen und die Arbeiterklasse in Amerika auswirken.
Die Professorin an der Universität Albany und Aktivistin für soziale und wirtschaftliche Gerechtigkeit belegt an Beispielen, wie KI-gestützte, automatisierte Entscheidungssysteme, etwa im Gesundheitsbereich oder bei Sozialleistungen, die Ungleichheiten zwischen Arm und Reich, Männern und Frauen, Weißen und People of Color verschärfen können. Der Grund: Die den Algorithmen zugrunde liegenden Datensätze sind fehlerhaft und vorurteilsbehaftet: je nach gesellschaftlicher Schicht, ethnischer Herkunft oder Geschlecht der Anspruchsberechtigten. Eubanks prägte für diese KI-Systeme, die historische oder kulturelle Annahmen zu Armut verankern, den Begriff „digitales Armenhaus“.
Im Bundesstaat Indiana etwa, wo die gesamte Bearbeitung von Sozialanträgen automatisiert und privatisiert wurde, war eine der Annahmen, die in das System eingebaut wurden, dass die Beziehungen zwischen den lokalen Sachbearbeiter*innen und den betreuten Familien zu Absprachen und Betrug einladen. Die persönliche Beziehung wurde daher unterbrochen; 1.500 staatliche Sachbearbeiter*innen wurden in weit entfernte Call Center verlegt, mussten nun computergesteuerte Aufgaben abarbeiten. Jeder Fehler, jeder Irrtum wurde automatisch als Versäumnis der Antragstellenden angesehen und führte ohne persönliche Klärungsmöglichkeit zur Verweigerung von Leistungen. In den ersten drei Jahren des automatisierten Programms wurden so eine Million Anträge abgelehnt, 54 Prozent mehr als in den drei Jahren davor.
Um die Probleme automatisierter Systeme zu lösen und die Überwachung und Diskriminierung von Menschen in Armut zu stoppen, plädiert Eubanks für ein Eingreifen des Staates und die Wahl von Politiker*innen, die Wert auf soziale Verantwortung legen.
Quellen:
https://en.wikipedia.org/wiki/Virginia_Eubanks
https://www.albany.edu/rockefeller/faculty/virginia-eubanks
https://www.edsurge.com/news/2018-07-24-why-one-professor-says-we-are-automating-inequality
Foto: Virginia Eubanks während einer Diskussion zu sozialen Fragen algorithmischer Entscheidungs-
findung im Repräsentantenhaus, Washington D.C., 17. Januar 2019, Foto: Sebastiaan ter Burg
commons.wikimedia.org
Zitat aus dem Englischen nach: Virginia Eubanks, Automating Inequality:
How High-Tech Tools Profile, Police, and Punish the Poor
.jpg)