Oxford zu Gast in Słubice – Prof. Dr. Brent Mittelstadt und Prof. Dr. Sandra Wachter sind Fellows an der European New School

Mehr Oxford gab es an der European New School of Digital Studies (ENS) wohl noch nie – mit Prof. Dr. Brent Mittelstadt und Prof. Dr. Sandra Wachter sind zwei führende Forschende zum Thema Digitalisierung und Künstliche Intelligenz (KI) noch bis Juli 2023 als Fellows zu Gast in Słubice. Beide kommen vom Oxford Internet Institute der Universität Oxford und forschen zu ethischen und rechtlichen Folgen vom Einsatz Künstlicher Intelligenz beispielsweise bei der Jobsuche und der Krebsvorsorge.

Vor einem äußerst interessierten Publikum gab Brent Mittelstadt am 13. Juni in der ENS einen Einblick in seine Forschung. Der Forschungsdirektor des Oxford Internet Institute leitet dort das Programm „Governance of Emerging Technologies“ und arbeitet in den Bereichen Ethik, Recht und neue Informationstechnologien. In seinem Vortrag sprach er über maschinelles Lernen und darüber, warum Fairness von KI-Anwendungen beispielsweise im Gesundheitssektor problematisch sein kann. Als Ausgangspunkt gab er Beispiele von Diskriminierungen – so wird das Risiko für Hautkrebs bei schwarzen Menschen weniger häufig akkurat angegeben. Weiterhin wurden während der Corona-Pandemie schwarze Patientinnen und Patienten später behandelt, weil der Sauerstoffgehalt im Blut nicht akkurat gemessen wurde. Auch zwischen Männern und Frauen bestehen im Gesundheitssektor teilweise fatale Unterschiede in der Beurteilung von Risikofaktoren. Wird nun per KI eine größere „Fairness“ zwischen verschiedenen Gruppe angestrebt, bestehe die Gefahr, dass man das Niveau der Versorgung der bisher bevorteilten Gruppe senke, durch sogenanntes levelling down. „The unfairness of fair machine learning“, nennt das Brent Mittelstadt und fordert vielmehr, dass man sich von einem strikt mathematischen Gleichheitsansatz löse und nach den Ursachen für die Unterschiede suche. Diese müssten anschließend verringert werden durch ein gezieltes „levelling up“ – also ein Anheben beispielsweise der Diagnose-Genauigkeit für die bisher benachteiligte Gruppe. >>>weiterlesen

Am 21. Juni stellte sich Prof. Dr. Sandra Wachter bei einer gemeinsamen Veranstaltung des Weizenbaum Instituts und der ENS in Berlin einem größeren Publikum vor. Die Professorin für Technologie und Regulierung am Oxford Internet Institute präsentierte ihre Arbeit mit dem Titel „The Theory of Artificial Immutability: Protecting Algorithmic Groups under Anti-Discrimination Law“. Sie beschreibt darin, wie Künstliche Intelligenz zunehmend eingesetzt wird, um mitunter lebensverändernde Entscheidungen beispielsweise bei einer Bewerbung um einen Job oder einen Studienplatz zu treffen. Problematisch daran: Die KI trifft Entscheidungen aufgrund von undurchsichtigen Gruppenzugehörigkeiten. So kann es negative Auswirkungen haben, einen bestimmten Browser zu benutzen oder zu schnell über eine Webseite zu scrollen. Das Antidiskriminierungsrecht, das eigentlich genau dafür da ist Benachteiligungen etwa aufgrund von Geschlecht, Alter und ethnischer Herkunft zu verhindern, kann hier nicht helfen. Sandra Wachter argumentiert, dass die Europäische Gesetzgebung auch solche Gruppen schützen sollte, die erst durch Algorithmen geformt werden.

Zu den weiteren Schwerpunkten in der Arbeit von Sandra Wachter zählen Diversität und Fairness, staatliche Überwachung und der Schutz der Online-Menschenrechte. Während ihres Fellowships an der ENS, das von der Dieter Schwarz Stiftung gefördert wird, führt sie geisteswissenschaftliche Studien zu wichtigen technologischen Fragen rund um Datenschutz, algorithmische Entscheidungsfindung, automatisierte Fairness und Voreingenommenheit durch. Brent Mittelstadt beschäftigt sich während seines Aufenthaltes an der ENS unter anderem mit technischen und organisatorischen Rechenschaftsinstrumenten für vertrauenswürdige KI sowie mit beruflichen Haftungsregelungen für Entwickler. Beide Fellows sind bei Prof. Dr. Philipp Hacker vom Lehrstuhl für Recht und Ethik der digitalen Gesellschaft zu Gast.

Text: Frauke Adesiyan
Fotos: Ulrike Waltsgott; Katharina Stefes