Digitalisierung

Wie sich Algorithmen bändigen lassen

   Artikel anhören
© Pixabay.com
Die Initiative D21 hat neun Richtlinien zum ethischen Umgang mit algorithmischen Systemen herausgegeben. Dabei geht es um Bias, Transparenz, Nachvollziehbarkeit sowie Verantwortung beim Monitoring von Algorithmen.
Algorithmen sind aus unserem digitalen Alltag nicht mehr wegzudenken. Hannes Schwaderer, Präsident der Initiative D21, erklärt in einer Pressemitteilung: „Viele Anwendungen und Dienste des Alltags und der beruflichen Praxis beruhen heute auf algorithmischen Systemen. Sie helfen, indem sie z. B. aus großen Datenmengen Erkenntnisse ziehen und Informationen in Millisekunden verarbeiten oder Prozesse automatisieren“. Algorithmische Systeme werden jedoch zunehmend komplexer und intransparenter, sagen die Experten der Initiative D21. Da immer auch Personen hinter diesen Systemen stecken und diese gestalten, prüfen und nutzen, sind sie außerdem nicht frei von Bias.


Diesen Herausforderungen und der Frage, wie man sie am besten bewältigt, widmete sich eine 2018 von der Initiative D21 gegründete Unterarbeitsgruppe (UAG), die nun neun Leitlinien zum ethischen Umgang mit Algorithmen-Monitoring veröffentlicht hat. Die Richtlinien sollen bezüglich der Themen Verantwortlichkeit und Kontrolle, Nichtdiskriminierung, Transparenz und Nachvollziehbarkeit sowie Nachhaltigkeit Orientierung geben.

Drei unterschiedliche Perspektiven

Die UAG, bestehend aus Experten aus den Bereichen Wissenschaft, Wirtschaft, Verwaltung und Zivilgesellschaft, schaute sich das Algorithmen-Monitoring aus einer Reihe unterschiedlicher Blickwinkel an: einem technologischen, einem sozioökonomischen und einem ethisch-rechtlichen. So wurde beispielsweise erörtert, welche rechtlichen Grundlagen die Regulierung algorithmischer Systeme sichert, welche soziale und ökonomische Chancen und Herausforderungen algorithmische Systeme kreieren und wie die praktische Umsetzbarkeit eines Algorithmen-Monitorings garantiert und optimiert werden kann. Daraus leiteten die Experten folgende Richtlinien ab:


1.

Verantwortlichkeiten verteilen und verorten

Verantwortlichkeiten müssen zwischen den beteiligten Akteurinnen und Akteuren aufgeteilt werden, so dass Verantwortliche vor allem für Nutzende und Betroffene eindeutig identifiziert werden können.


2.

Bias erkennen und bewerten

Durch die deutlichere Konfrontation mit bisher verborgenen subjektiven Wertungen müssen diese sogenannten Bias überprüft und der Umgang mit ihnen gestaltet werden.

3.

Transparenz ermöglichen

Transparenz ist eine notwendige Grundlage für Prüfbarkeit, ihre Umsetzung in algorithmischen Systemen muss spezifisch an die Nutzungsgruppen angepasst werden.

4.

Nachvollziehbarkeit gewährleisten

Algorithmische Systeme müssen von Anfang an so gestaltet werden, dass Prozesse im Nachhinein durch kontextbezogene Informationen über das System für unterschiedliche Nutzungsgruppen nachvollziehbar sind.

5.

Bestehende Regulierungen anwenden

Das bestehende Recht muss angewendet, für eine digitale Anwendung überprüft und gegebenenfalls angepasst werden.

 

6.

Grundlegende Regeln definieren

Mit Mindeststandards sind algorithmische Systeme vergleichbarer und deren Einhaltung kann zu mehr Vertrauen und Akzeptanz führen.

7.

Wissen interdisziplinär austauschen

Kontinuierlicher, disziplin- und organisationsübergreifender Austausch verbessert die Qualität algorithmischer Systeme.

8.

Positiven Nutzen für Gesellschaft erzeugen

Nur eine am Gemeinwohl orientierte Entwicklung und ein nachhaltiger Einsatz algorithmischer Systeme können ethischen Anforderungen langfristig gerecht werden.

9.

Leitlinien kontinuierlich überprüfen

Die regelmäßige Beurteilung von Anpassungen rechtlicher Regelungen und deren Auswirkungen auf die Gestaltung algorithmischer Systeme müssen Bestandteil der Überprüfung sein, die Leitlinien kontinuierlich verbessert werden.

Laut Corinna Balkow, Projektleiterin der UAG Algorithmen-Monitoring, sollen die Leitlinien zunächst Antwort auf die Frage geben: An was muss ich denken, wenn ich mich mit dem Thema Algorithmen beschäftige? Auch für die Marktforschung dürften die Richtlinien interessant sein, schließlich sollte man sich auch beziehungsweise gerade in dieser Branche die Frage stellen, wie man transparent und verantwortungsvoll mit erhobenen Daten umgeht. Die Leitlinien, so Balkow im Gespräch mit planung&analyse, sind zwar nicht verpflichtend, sollen Unternehmen, die mit algorithmischen Systemen arbeiten, jedoch dazu anregen, über das Thema nachzudenken und eventuell eigene Leitlinien zu erstellen. Dementsprechend hat das Nichteinhalten zunächst keine direkten Konsequenzen, kann sich aber laut der Expertin durchaus negativ auf das Image eines Unternehmens auswirken, wenn der Kunde das Gefühl hat, dass Themen wie Transparenz, Nachvollziehbarkeit und Nichtdiskriminierung dort nur einen geringen Stellenwert haben.

Die Initiative D21 ist Deutschlands größtes gemeinnütziges Netzwerk für die Digitalisierung und hat es sich zum Ziel gesetzt, die digitale Spaltung der Gesellschaft zu verhindern. Heute zählt die Initiative rund 200 Mitgliedsunternehmen und -organisationen aller Branchen sowie politische Partner von Bund und Ländern.

Ich habe die Datenschutzbestimmungen zur Kenntnis genommen und akzeptiere diese.
stats