"Die Schlagzeilen von übermorgen vermeiden"

Wie kann man diesen Bias auf die Schliche kommen?Hier gibt es unterschiedliche Möglichen, wie die Auditierung von Algorithmen, Benutzerbefragungen, analytische Studien zum Verhalten von Algorithmen, Simulationen oder auch ethnographische Studien die den sozio-technischen Kontext, in dem Algorithmen entwickelt und eingesetzt werden, beleuchten.

Finden diese Effekte genug Beachtung von offizieller Seite? Was wäre nötig? Beachtung findet das Thema immer dann, wenn unerwünschte Effekte bekannte werden. Es wäre wünschenswert, wenn wir dem Thema auch Abseits von Krisen Beachtung schenken. Die Entwicklung von Algorithmen schreitet rasant voran, Algorithmen und die Datenströme die sie nutzen werden immer dynamischer, anpassungsfähiger und intransparenter. Deshalb müssen wir Vorausdenken und Verfahren und Standards entwickeln, die es uns ermöglichen die Schlagzeilen von übermorgen zu vermeiden und die Entwicklung und den Einsatz von Algorithmen zu regulieren, ohne das Innovationspotential von Unternehmen zu gefährden.

 Wie sollten sich Unternehmen sich bei der Anwendung von Algorithmen verhalten? Es wäre wünschenswert, wenn sich Unternehmen nicht nur mit den klassischen Kenngrößen, die durch einen Algorithmus optimiert werden sollen  auseinandersetzen - also etwa die Zeit, die Nutzer auf einer Webseite verbringen, die Anzahl der Klicks auf Werbung oder die Zeitersparnis der Servicemitarbeiter in der Bearbeitung von Anfragen -, sondern auch mit möglichen unerwünschten Effekten. Hierfür ist es unter anderem notwendig sich regelmäßig mit den unterschiedlichen Nutzergruppen kritisch auseinanderzusetzen und diese Erkenntnisse in die Entwicklung und Anwendung von Algorithmen einfließen zu lassen. Wenn Algorithmen in sehr sensitiven Anwendungsfeldern, wie etwa dem Gesundheitswesen, genutzt werden, ist es ratsam Ethikerinnen oder Ethiker von Anfang an mit einzubeziehen.Sie halten eine Keynote auf der GOR in Berlin. Auf was können sich die Besucher freuen? Ich plane das Thema Algorithmen aus zwei Perspektiven zu beleuchten. Einerseits Algorithmen als Werkzeug für die computer-basierten Sozialwissenschaften und andererseits Algorithmen als Teil von sozio-technischen Systemen. Mein Vortrag soll aufzeigen, dass Fragen der Validität, Zuverlässigkeit und Ethik von Algorithmen für beiden Bereiche zentral sind.

Vielen Dank für das Interview. Wir freuen uns auf den Vortrag auf der GOR.