Einsatz automatisierter Entscheidungen

Sind die EU-Staaten vorbereitet?

Automatisierte Entscheidungen sind in Europa im Alltag angekommen. Wie Algorithmen angewendet und kontrolliert werden, unterscheidet sich allerdings stark. In dem  Report „Automating Society – Taking Stock of Automated Decision-Making in the EU“ zeigen AlgorithmWatch und wir erstmals Regulierungslücken auf und empfehlen eine engere europäische Koordination.
Der Einsatz automatisierter Entscheidungen (automated decision-making, ADM) und Künstlicher Intelligenz nimmt Fahrt auf: In Finnland werden private E-Mails von Jobsuchenden analysiert, um Persönlichkeitsprofile zu erstellen, in Italien helfen Maschinen zu entscheiden, wer eine medizinische Behandlung erhält, in Dänemark sollen automatisierte Systeme dabei helfen, vernachlässigte Kinder zu identifizieren.

Praktische Beispiele helfen eine Grundlage zu schaffen

Für politische Entscheidungsträger ist es derzeit kaum möglich, zu überblicken, wo welche Systeme zu welchen Zwecken eingesetzt werden. Auf EU-Ebene und in einigen Mitgliedstaaten wird daher meist theoretisch über Kriterien diskutiert, nach denen derartige Systeme beurteilt werden sollten, etwa durch ethische Leitlinien. Das ist durchaus zu begrüßen, allerdings helfen praktische Beispiele dabei, die Grundlagen für konkretere, aber auch realistischere Ansätze zu schaffen. Der Report liefert mehr als 60 konkrete Beispiele aus zwölf Ländern, zudem eine Übersicht der relevanten Akteure und der politischen Debatte. Die untersuchten Länder begegnen den Herausforderungen Künstlicher Intelligenz und automatisierter Entscheidungsfindung sehr unterschiedlich. Drei Beispiele: 

Finanzielle Förderung

Während in Spanien (Bruttosozialprodukt BSP 1.437 Milliarden USD) die Regierung über das Programm Activa Industria 4.0 gerade einmal vier Millionen Euro für 400 Unternehmen zur Verfügung stellt, um „die digitale Transformation voran zu treiben und besser zu verstehen, wie Big Data, Robotik, Sensorik“ und viele weitere Entwicklungen angewendet werden können, fördert in Schweden (BSP 276 Milliarden USD) eine einzige private Stiftung über das „Wallenberg Autonomous Systems and Software Program“ zwei Universitäten mit 100 Millionen Euro, um maschinelles Lernen und KI zu erforschen. Regierungs- und Expertenkommissionen In Deutschland und Großbritannien widmen sich parallel Parlaments- und Regierungskommissionen, Datenschützer, Plattformen, Interessenvereinigungen und zivilgesellschaftlichen Organisationen dem Thema automatisierter Entscheidungen. In Ländern wie Polen, Slowenien oder Italien werden zwar entsprechende Systeme in der Praxis verwendet, eine politische Diskussion darüber findet dagegen kaum statt.

Gesetzliche Regulierung und Aufsicht

In Frankreich sieht ein Gesetz vor, dass Algorithmen offengelegt werden müssen, aber niemand hält sich daran. In Finnland haben ein Ombudsmann und ein Tribunal entschieden, dass eine Bonitätsprüfungsfirma einen Mann diskriminiert hat und ihr unter Androhung eines Bußgelds von 100.000 Euro untersagt, das System weiter einzusetzen.

Neue Technologien verstehen und zum Wohl der Gesellschaft nutzen

Der Report macht nicht nur deutlich, wie verbreitet ADM-Systeme bereits sind, sondern auch, wie unterschiedlich und ungesteuert der Umgang mit ihnen ist. Politik und Zivilgesellschaft sollten die Ergebnisse nutzen, um Vergleiche zwischen Ländern zu ziehen und die Herangehensweise im eigenen Land auf den Prüfstand zu stellen. „Diskussionen über ‚Künstliche Super-Intelligenz, die Menschen unterjocht‘, sind derzeit en Vogue, aber irrelevant“, beschreibt Matthias Spielkamp, Geschäftsführer von AlgorithmWatch und Herausgeber des Reports. „Entscheidend ist, zu verstehen, welche Herausforderungen Entwicklungen wie ‚predictive analytics‘ mit sich bringen, die menschliches Handeln vorhersagen wollen – sei es bei Wahlen, Kriminalität oder der Kindererziehung. Diesen Herausforderungen müssen wir durch angemessene Regulierung, Prüfverfahren und Aufsichtsbehörden gewachsen sein.“

Ralph Müller-Eiselt, unser Experte für Digitalisierung, mahnt mit Bezug auf die Empfehlungen des Reports, „die Lücken zwischen den Mitgliedsstaaten der EU zu schließen und das Vorgehen zu koordinieren – Europa muss mit einer Stimme sprechen, wenn es darum geht, Standards für automatisierte Entscheidungsfindung zu setzen.“ Er sieht einen besonderen Schwerpunkt darin, die öffentliche Verwaltung für den Umgang mit derartigen Systemen zu befähigen: „Die Verwaltungen müssen lernen, diese Technologien zum Wohl der Gesellschaft zu nutzen.“