Menschen vs. KI

Können Roboter morden?

Montag, 17. September 2018
Der Aufstieg der Künstlichen Intelligenz bestimmt nicht nur die aktuellen Debatten in der Marketingbranche - sondern auch die Zukunft der Menschheit. Dieser Überzeugung ist Philipp Thesen, Co-Kurator der ADC Design Experience und Design-Professor für Mensch-System-Interaktion an der Hochschule Darmstadt. In seinem Gast-Essay bei HORIZONT Online beantwortet der Experte für digitale Technologien und Customer Experience die Frage, ob KI den Menschen mehrheitlich dienen oder sie beherrschen wird. Bei der Beantwortung spielt auch Design eine bedeutende Rolle.
Im Berliner Tatort "Tiere der Großstadt" vom vergangenen Sonntag wird der Besitzer eines vollautomatischen Kiosks von einem kaffeekochenden Roboter mit einem präzisen Stich in die Halswirbel umgebracht. Kommissar Karow lässt sich die Funktionsweise eines Roboters erklären und fragt sich: "Können Maschinen morden?". Die Antwort ist klar: Der Roboter wird niemals aus eigenen Motiven zum Mörder. Er hat keinen eigenen Willen und könnte diesen auch nicht in Beziehung zu seiner Umwelt setzen. Deshalb kann ein Mord, der durch einen Roboter ausgeführt wird, nur von einem Menschen programmiert sein. Um Unfälle in der Industrie zu vermeiden, haben Roboter, wie im Tatort auch dargestellt, viele Sicherheitssysteme.

Aber der vorzüglich produzierte Tatort thematisiert eine zentrale Frage unserer Gesellschaft: Übernehmen die Roboter irgendwann die Macht? Viele bedrohliche Szenarien verunsichern die Bevölkerung wie zum Beispiel autonome Drohnen, die Zielpersonen per Gesichtserkennung orten, um sie dann vollautomatisiert zu töten, ohne dass ein menschlicher CIA-Agent in Langley noch einmal die Maschinen-Entscheidung überprüft. Die kalifornische Ideologie geht in diese Richtung: Viele CEOs im Silicon Valley sind davon überzeugt, dass Maschinen bessere Entscheidungen treffen werden als Menschen.

Die Künstliche Intelligenz hat längst Einzug in unseren Alltag gehalten: In Kalifornien verursachen autonome Fahrzeuge schon die ersten tödlichen Unfälle. Google Duplex vereinbart Restaurantreservierungen und Friseurtermine so überzeugend, dass sich die KI als Maschine zu erkennen geben muss. Sprachassistenten wie Alexa, Echo und Google Home werden millionenfach genutzt. Aber auch jeder Spam-Filter basiert auf KI - und das seit Jahrzehnten.

Der Aufstieg der Künstlichen Intelligenz bestimmt die Zukunft der Menschheit. Aber wird sie uns dienen oder uns beherrschen? Dies ist auch eine Frage des Designs. Die Beantwortung dieser Frage entscheidet darüber, ob sich die Künstliche Intelligenz gesellschaftlich durchsetzen wird oder aber auf den geballten Widerstand der Menschen stößt. Deshalb darf man die Diskussion über neue Technologien nicht nur technisch führen. Sie ist auch eine politische und kulturelle Auseinandersetzung über die Frage, wie wir Menschen künftig leben und arbeiten wollen.
„Man darf die Diskussion über neue Technologien nicht nur technisch führen. Sie ist auch eine politische und kulturelle Auseinandersetzung über die Frage, wie wir Menschen künftig leben und arbeiten wollen.“
Philipp Thesen
Mit der Digitalisierung und der Künstlichen Intelligenz durchdringen Technologien alle Bereiche des Lebens. Es entsteht jetzt ein Mensch-Maschine-Kontinuum, über das bereits seit Jahrzehnten vor allem in der Literatur und in Hollywood in romantisch-kritischen Cyborg-Visionen reflektiert wird.

Die Verschmelzung von Arbeit und Leben ist dabei ein zentrales Thema. Und unsere Industrie in Deutschland und Europa beginnt, diese Verschmelzung von physikalischer und digitaler Welt zunehmend zu beherrschen. Sie entwickelt digitale Twins von Flugzeugen, Schiffen und großen Industrieanlagen, die eine komplette digitale Repräsentanz aller Bauteile und Abläufe darstellt. Diese hilft, Detailprozesse zu überwachen, Defekte zu analysieren und Verschleiß zu erkennen, da alles, was ein physisches Objekt erlebt, digital nachvollzogen wird.

Der digitale Twin ist keine neue Erfindung. Das Konzept geht auf die frühen Tage der Raumfahrt zurück, als die NASA von jeder Raumschiffkapsel eine originalgetreue Kopie in ihrer Leitwarte in Houston zur Verfügung hatte, um alle Abläufe im Weltraum auf der Erde simulieren zu können. Als die Rechnerkapazitäten eine kritische Masse erreichten, wanderten diese analogen Simulationsmodelle in die digitale Welt. Ein digitaler Twin erlaubt im neuen Produktionsverfahren der Mass Customization quasi unendliche Designvarianten, ohne das Produktionsband ein einziges Mal anzuhalten.

Das Beispiel zeigt: Heute sprechen wir vom Internet der Dinge und vom Internet der Dienste. Aber wo bitteschön bleibt das Internet der User? Ich frage mich, warum wir digitale Repräsentationen von Maschinen so gut beherrschen, aber für die Menschen noch keinen echten digitalen Twin entwickelt haben. Einen digitalen Twin, der den Menschen in seiner Gesamtheit repräsentiert, mit der gesamten Biografie seiner sozialen, kulturellen, politischen und ökonomischen Interaktionen.

Das Silicon Valley verfügt längst über digital twins von Milliarden Bürgern. Aber diese digital twins sind dark twins. Sie bilden den Menschen nur zum Teil ab, da sie sich nur für seine Konsumpräferenzen interessieren. Facebook, Amazon und Google nutzen Artificial Intelligence nur dazu, um die gigantischen Datensätze für Werbung zu vermarkten. Alle Unternehmen eint dabei, dass sie – wie die Geheimdienste – ihre Daten im Dunkeln sammeln und verwerten.
„Heute sprechen wir vom Internet der Dinge und vom Internet der Dienste. Aber wo bitteschön bleibt das Internet der User?“
Philipp Thesen
Stellen Sie sich vor, Sie würden im Internet Ihrem eigenen dark Twin einmal persönlich begegnen: Sie würden sich nicht wieder erkennen. Ihr Gesicht wäre eine hässliche Fratze, ein furchterregendes Bildnis Ihres ganz persönlichen digitalen Dorian Grey.

Das wachsende Unbehagen in der Bevölkerung über den rasanten Aufstieg des maschinellen Lernens und der Artificial Intelligence hat auch damit zu tun, dass sie nicht Akteure dieser faszinierenden Technologie sind, sondern passive Objekte, die unablässig gescannt, ausgewertet und berechnet werden. Das führt dazu, das die dystopischen Fantasien in Hollywoodfilmen einerseits und die scharfe Kritik an der unkontrollierten Anwendung von Artificial Intelligence, wie beispielsweise von Stephen Hawking und Elon Musk sehr populär sind. Daher muss die Forderung lauten: Holt unsere dark Twins aus dem Schatten!

Die Bürger wollen weltweit die Kontrolle über ihre Daten zurück. Bei Datensicherheit und Datenschutz gibt es nach den jüngsten Skandalen rund um Cambridge Analytica klare Mehrheiten. Die Menschen, die auch immer zugleich Konsumenten und Kunden sind, reklamieren ihre Daten für sich zurück, um Ihre Konsumentensouveränität zurückzugewinnen. Sie ahnen zu recht, dass sie in den Händen der Künstlichen Intelligenz nur verwertbares binäres Material sind und nicht der souveräne Konsument und Bürger, der ihnen von der Marktwirtschaft und Demokratie immer vollmundig versprochen wurde.

Vor diesem Hintergrund müssen wir Designer erhebliche Anstrengungen unternehmen, um den Menschen mit der Maschine zu versöhnen, wenn wir gesellschaftliche Akzeptanz für diese technologischen Errungenschaften organisieren wollen. Das kann nur gelingen, wenn wir unsere Prioritäten ändern. Wichtig ist nicht, Maschinen den Anschein von Harmlosigkeit zu verleihen, indem wir Designer Robotern ein hübsches Gesicht aufmalen, das uns mit Kleinkind-Augen anschaut. Wir müssen endlich Transparenz über die Auswirkungen dieser Technologien auf die Gesellschaft schaffen und dies in eine aufrichtige Gestaltung unserer Umwelt umsetzen.

Menschen dürfen nicht zu passiven Objekten rasanter ökonomischer und sozialer Veränderungen durch die Digitalisierung gemacht werden. Sie sollten stattdessen zu selbstbestimmten Akteuren der sinnvollen Anwendung und smarten Nutzung dieser wundervollen Technologien befähigt werden.

Die Künstliche Intelligenz kann die Grundlage für ein neues, anderes Leben sein. Um das zu erreichen, muss die Industrie endlich radikal vom Menschen aus denken. Und nicht einfach nur Technologie einkaufen oder entwickeln und sie dann dem User zumuten. Es geht um nichts weniger als um die Humanisierung von Technologie. Künstliche Intelligenz muss zivilisiert werden!
„Künstliche Intelligenz kann die Grundlage für ein neues, anderes Leben sein. Um das zu erreichen, muss die Industrie endlich radikal vom Menschen aus denken. [...] Es geht um nichts weniger als um die Humanisierung von Technologie. Künstliche Intelligenz muss zivilisiert werden!“
Philipp Thesen
Um die Künstliche Intelligenz zu humanisieren, muss sie für den Menschen zugänglich, leicht erlernbar, anwendbar und gestaltbar sein. Die Technologie muss für den Menschen so ausgestaltet werden, dass er sie als tolerant, geduldig, warmherzig und empathisch empfindet.

Kurz gesagt: Künstliche Intelligenz muss domestiziert werden, damit der Mensch ihr vollständig vertrauen kann. Man könnte jetzt einwenden, dass die Forderung nach Domestizierung der Maschine zu holzschnittartig formuliert sei. Es muss aber klar werden: Der Hund darf den Halter nicht beißen, sonst wird der Stecker gezogen. Der Mensch hat in Jahrtausenden gelernt, dass er sich die Welt untertan macht und nicht umgekehrt. Und alle Erfindungen des Menschens waren in seiner langen Technikgeschichte immer eine Verlängerung seines eigenen Körpers und seiner eigenen Fertigkeiten. Am Ende jeder technologischen Entwicklung stand immer ein Werkzeug, das seine Kraft gehebelt hat und intelligente Lösungen seiner alltäglichen Probleme bereithielt. Technologie muss sich deshalb, wenn sie auf den Märkten langfristig erfolgreich sein will, wieder auf den Menschen besinnen.

Der elektronische Großrechner hat seinen Wandschrank verlassen und wurde zum Personal Computer (PC), um nun in fast jeder Hosentasche rund um den Globus als Smartphone herumgetragen zu werden. Er ist damit tatsächlich zu einem privaten und persönlichen Werkzeug für Millionen von Individuen geworden. Nach diesem Vorbild muss die Artificial Intelligence zur Personal Intelligence werden. Von der AI zur PI. Zu einem Werkzeug für Jedermann. Zu einer Technologie, mit der jeder Mensch zum souveränen Akteur und Nutzer wird und unmittelbar von dem technischen Fortschritt profitiert.

Und hier kommt letztendlich der Designer ins Spiel. Es war schon immer die Kernaufgabe des Designers, Technologien zu humanisieren. Designer verstehen die Ängste, Wünsche und Bedürfnisse der Menschen. Als Anwalt des Kunden sorgt der Designer in unserer Industrie für die nötige Empathie. Deshalb muss sich die Designdisziplin ihrer großen Verantwortung stellen: der Zivilisation von Künstliche Intelligenz. Designer beobachten, erforschen und analysieren schon immer in- tensiv die Menschen und den Kontext ihrer Anwendung. Designer gestalten die intuitive Beziehung des Menschen zu seinen Dingen und zu seiner eigenen digitalen Interaktionsrepräsentanz. Und so wird der Designer zum Vermittler zwischen Technologie und Lebenswelt. Uns steht ein großer Werkzeugkasten zur Verfügung, der uns erlaubt, radikal die Perspektive des Users und Menschen einzunehmen. Daher muss die Formel lauten: PI = AI + UX. Personal Intelligence = Artificial Intelligence + User Experience.

Allerdings bedingt das, dass der Designer sich nicht auf die Insel der beautification zurück zieht, sondern sich mit Technologie beschäftigt und diese für den Menschen kontextualisiert. Heute sind die Ergebnisse zwar noch wenig überzeugend, aber es gibt bereits AI die Bilder malt, die auf der Art Basel ausgestellt wurden und von den Betrachtern nicht von menschlich hergestellter Kunst unterschieden werden konnten. Es gibt bereits Musik, die von AI komponiert wurde und es gibt bereits Bücher und Rezensionen, die von AI geschrieben wurden.

Das kreativ-schöpferische Element bleibt also möglicherweise nicht dem Menschen vorbehalten. Allerdings sieht es im Moment so aus, als fehle es diesen Werken an Überraschung und Witz, da sie in linearer Weise maschinell entstanden sind. Aber für die Masse werden maschinell hergestellte Logos, die auf Grundlage erlernter ästhetischer Grundlagen erstellt wurden, möglicherweise reichen. Dafür wird es dann nur noch sehr wenige Designer brauchen. Der Designer sollte daher seine humane Kreativität einsetzen, um die Personal Intelligence der Zukunft zu gestalten.
„Personal Intelligence = Artificial Intelligence + User Experience“
Philipp Thesen
Er kann dafür Big Data und Analytics und nutzen und auf seine Fähigkeit zurück greifen, die Bedürfnisse des Nutzers zu verstehen. Das Verstehen relevanter persönlicher Informationen gehört schon heute zum Rüstzeug jeden Designers, der an der digitalen User Experience arbeiten. Schon heute kennen und nutzen wir teilweise die Möglichkeiten datenbasierter Gestaltung in Personalisierungsprozessen, um passgenaue digitale Experiences in real-time zu bauen. Schon heute können wir viele Millionen User-Szenarien simultan berechnen und in einer hohen Geschwindigkeit digitale Prototypen, Anwendungsszenarien und Experimente entwickeln. Das Ziel ist schon heute, smarte Anwendungen für eine ganz spezifische Person (Segment of One) zu konfigurieren. Die Künstliche Intelligenz wird dem Designer dabei helfen, diese Prozesse zu automatisieren und millionenfach zu skalieren.

Wenn wir uns Personal Intelligence als persönliches Tool vorstellen, dann könnte daraus ein Digital Twin für den Menschen erwachsen. Er wäre eine komplette unverzerrte digitale Repräsentation der individuellen Persönlichkeit, mit all ihren sozialen Beziehungen, Präferenzen, Haltungen, politischen Ansichten, beruflichen Qualifikationen mit einem breiten Spektrum von Interessen, Wünschen und Bedürfnissen. Dieser persönliche Digital Twin wäre unter der kompletten Kontrolle der souveränen Person und nicht unter der Fuchtel von kalifornischen Konzernen.

Wenn wir Designer also Künstliche Intelligenz dem einzelnen Menschen als Tool an die Hand geben, dann wird er sozusagen vom fremdbestimmten Objekt zum selbstbestimmten Subjekt – zum Master seines eigenen digitalen Universums. Nur das kann unser Ziel sein.


stats