Gutachten der Datenethikkommission:

76. Ausgabe, 1. Quartal 2020

Gutachten der Datenethikkommission:

Technik dient dem Menschen – nicht umgekehrt

Zwischen Antidiskriminierung und Überregulierung

Die Datenethikkommission (DEK) hat Ende 2019 ein Gutachten inklusive Handlungsempfehlungen vorgelegt, die den Umgang mit algorithmischen Systemen maßgeblich beeinflussen würden.

Algorithmusgestützte Systeme sollen das Leben vereinfachen und gehören zur Digitalisierung dazu. Trotzdem gibt es Fälle, in denen Menschen von Algorithmen aussortiert werden. Selbst die Entscheider verstehen dabei oft nur Bahnhof. Auch solche Art Diskriminierung soll künftig unterbunden werden. Verbraucherschützer fordern eine sofortige Umsetzung, während die Industrie darin einen unnötigen Stolperstein bei der Digitalisierung sieht.

Basics: Was ist die Datenethikkommission?
Bundesministerium des Innern, für Bau und Heimat (BMI), Zitat: „Der Einsatz von Algorithmen und Künstlicher Intelligenz sowie der Umgang mit Daten birgt große Potenziale. Gleichzeitig stellen sich zahlreiche ethische und rechtliche Fragen.“ Um diese Fragen zu beantworten, setzte die Bundesregierung im Juli 2018 ein Gremium aus Experten verschiedener Disziplinen ein, um „auf der Basis wissenschaftlicher und technischer Expertise ethische Leitlinien für den Schutz des Einzelnen, die Wahrung des gesellschaftlichen Zusammenlebens und die Sicherung und Förderung des Wohlstands im Informationszeitalter zu entwickeln.“ Das Team besteht aus 16 Expertinnen und Experten, u.a. aus den Kompetenzbereichen Ethik, Datenschutz, Digitalpolitik, Industrie und Digitalisierung, zu denen beispielsweise Prof. Dr. Sabine Sachweh, Professorin für Angewandte Softwaretechnik an der FH Dortmund gehört.
Am 23.10.2019 legte die Datenethikkommission ihr abschließendes Gutachten vor, das neben einer ausführlichen Zustandsbeschreibung 75 konkrete Handlungsempfehlungen beinhaltet.

Basics: Was sind Algorithmen?
Ein Algorithmus führt Anweisungen unter bestimmten Parametern aus, um zu einem Ziel zu gelangen bzw. ein Problem zu lösen oder eine Aufgabe zu bewältigen. Einfacher: Ein Algorithmus ist ein Rechenvorgang nach einem sich wiederholenden Schema. Der Begriff „Algorithmus“ leitet sich vom Gelehrten „al-Chwarizmi“ (latinisiert „Algorismi“) ab, der zwischen dem achten und neunten Jahrhundert lebte und als Wegweiser für die Mathematik gilt.
Im Alltag sind Algorithmen allgegenwärtig. Sie geben Shoppingtipps, empfehlen uns Musik – und bestimmen häufig über die Kreditwürdigkeit von Personen. So schreibt Journalistin Lisa Hegemann in der Zeit: „Wer einen Kredit bekommt und wer nicht, entscheiden heute oft nicht mehr Bankberater, sondern maschinell lernende Algorithmen“, und führt weiter aus: „Es zählen dabei nicht nur die eigenen Daten, sondern auch die anderer Kreditnehmerinnen und Kreditnehmer mit ähnlichen Merkmalen.“

Quintessenz des Papiers:
Transparenz! Transparenz! Transparenz!
Eine Kernaussage, die sich als roter Faden durch das Papier zieht, ist der Ruf nach mehr Transparenz für den Verbraucher, im Zuge derer auch die Datensouveränität des Einzelnen gestärkt wird. „Dazu bedarf es ggf. Klarstellungen bzw. Erweiterungen der bestehenden Informationsfreiheits- und Transparenzgesetze.“ Das beinhaltet auch, dass Unternehmen und Behörden algorithmische und damit meistens stark automatisierte Anwendungen lückenlos nachvollziehbar machen, inklusive verwendeter Personendatensätze.
Damit einher geht auch der erste Punkt, in dem die DEK Maßnahmen gegen Totalüberwachung und „dem Demokratieprinzip zuwiderlaufende Beeinflussung politischer Wahlen […] sowie viele Formen des Handels mit personenbezogenen Daten fordert.“ Eine Umsetzung würde große Konzerne maßgeblich beeinflussen. Denn Unternehmen wie das soziale Netzwerk Facebook leben letztendlich davon, Daten zu verkaufen, damit z. B. Werbekunden zielgerichtet Anzeigen schalten können.
Zu diesen Werbekunden gehören übrigens auch politische Parteien. Die CDU erntete zur Europawahl 2019 Kritik für ihr „Microtargeting“, für Werbung, die gezielt an bestimmte Personenkreise ausgespielt wird. Die CDU hat laut Studie der Bayrischen Landeszentrale für neue Medien, in diese Art Wahlwerbung knapp 560.000 Euro investiert.*

Kritik aus der Wirtschaft: Datenethik?
Ja bitte! Aber nur, wenn sie nicht stört.
Der Digitalverband Bitkom sieht in dem Anliegen der DEK vor allem eine Bedrohung der digitalen Weiterentwicklung. Bitkom-Präsident Achim Berg konstantiert: „Ziel kann aber nicht sein, den Weg in die digitale Welt zu verstellen und Deutschland zu einem analogen Inselstaat zurückzubauen.“ Nicht ganz überraschend reagiert auch der Verband der Internetwirtschaft „eco“ mit wenig Gegenliebe: „Regulierungsphantasien wie eine neue allgemeine europäische Algorithmen-Verordnung (EUVAS) könnten zur echten Digitalisierungs-Bremse werden, denn Algorithmen sind die Basis digitaler Transformation.“
Das unabhängige Forschungsinstitut „Center for Data Innovation“ wirft Deutschland in einem Kommentar vor, der KI-Branche willentlich Steine in den Weg zu legen. Stattdessen müsse man darauf achten, eine Umgebung zu schaffen, die Innovation fördere, um besser mit China und den USA mithalten zu können.
Ein erstrebenswertes Ziel, mit Blick darauf, dass China unter anderem im Fokus der Menschenrechtsorganisation „Human Rights Watch“ steht, weil die Behörden angefangen haben, Algorithmen zu nutzen, um gegen ihre Bürger vorzugehen. Und war da in den USA nicht auch irgendetwas – mit Facebook, Daten und Skandal?
Am Ende des Tages, muss die Datensouveränität des Individuums an erster Stelle stehen. Natürlich klicken viele Nutzer auf „Zustimmen“ und akzeptieren damit AGBs, die auch Tracking und das Sammeln und Verwerten von personenbezogenen Daten beinhalten. Unter Umständen aber auch, weil Ottonormalanwender kaum noch durchblickt, wie dieser Klick sein Leben beeinflussen könnte. Hier ist Aufklärung gefragt. Die digitale Wettbewerbsfähigkeit Europas, kann nicht die digitale Entmündigung seiner Einwohner zur Folge haben.

Autor: Robert Gryczke

Quelle: * https://www.blm.de/files/pdf2/studie_microtargeting_deutschlandeuropawahl2019_hegelich-1.pdf

Quelle: (BMI.Bund.de/..., Homepage Datenethikkommission inklusive Unterseiten, abgerufen am 11.03.2020); (Giga.de, „Was ist […]“, abgerufen am 11.03.2020); (PDF „Empfehlung [...]“ vom 09.10.2018); (PDF „Gutachten […] - Kurzfassung“ vom 23.10.2019); (VZBW.de, „Algorithmen […]“, abgerufen am 11.03.2020); (Wikipedia.de, „al-Chwarizmi“, abgerufen am 11.03.2020); (Sumago.de, „Google Algorithmus [...]“, abgerufen am 11.03.2020); (Zeit.de, „Weiblich, Ehefrau, kreditunwürdig?“ vom 21. November 2019, abgerufen am 11.03.2020);(Crisis-Prevention.de, „Digitale Entwicklung [...]“, abgerufen am 11.03.2020); (Welt.de, „Parteien setzen auf […]“ vom 23.10.2019, abgerufen am 11.03.2020); (Behörden-Spiegel.de, „Datenethikkommission [...]“ vom 24.10.2019, abgerufen am 11.03.2020); (BLM.de, „Microtargeting […]“, abgerufen am 11.03.2020); (Netzpolitik.org, „Überfälliger Wegweiser [...]“, abgerufen am 11.03.2020); (Bitkom.de; „Zum Abschlussbericht“; abgerufen am 11.03.2020); (Eco.de; „eco kommentiert [...]“, abgerufen am 11.03.2020); (Datainnovation.org; „German Recommendations [...]“ vom 23.10.2019, abgerufen am 11.03.2020)