Wie KI unsere Kultur in den Käfig sperrt

Für KI ist es ein Klacks, die Lieblingsfarbe der Deutschen oder deren beliebtesten Fußballverein zu ermitteln: die Farbe Blau und der FC Bayern München. Wenn solche Studienergebnisse veröffentlicht werden, dann steigt mit zunehmender Verbreitung der Informationen die Wahrscheinlichkeit, dass eine zukünftige KI immer wieder das gleiche ausrechnet: Blau und FC Bayern. Aber wie sicher weiß man dann, ob das immer noch stimmt? Würde die KI einen Popularitätswechsel auf Borussia Dortmund mitbekommen, wenn man nicht frisch und gezielt nachmisst? Eine intelligente KI würde vielleicht eine aktuelle Steigerung von Dortmunds Trikot-Verkäufen berücksichtigen - sofern diese Daten zugänglich sind. Aber ist es grundsätzlich garantiert, dass eine kleine Menge neuer Daten eine Chance hat gegen die sich immer wieder reproduzierenden Schleifen alter Daten?

Es gibt eine Vielzahl solcher Schleifen, etwa in der Psychologie: Wenn du freundlich bist, wird die dadurch ausgelöste Freundlichkeit deines Gegenübers dich noch glücklicher und freundlicher machen usw. Leider scheint ein so günstiger Effekt durch eine positive Rückkopplungsschleife eher eine Ausnahme zu sein. Die Regel ist die Übertreibung, der Exzess oder gar der Kollaps. Jeder kennt das akustische Feedback, wenn der Schall eines Lausprechers wieder ins Mikrophon gerät - und sich zu unangenehmem Krach hochsteigert. Etwas weniger offensichtlich sind solche fatalen Schleifen in der Ökonomie: Meldet eine große Firma Konkurs an, steigt in der Region die Arbeitslosigkeit und die Kaufkraft sinkt. Dann müssen auch der Bäcker und der Blumenhändler dichtmachen. Die Attraktivität der Region fällt immer mehr, so dass man keine neuen Investoren anlockt usw.

Negative Auswirkungen solcher Feedbackschleifen sind weniger offensichtlich, wenn der gesamte Prozess lange dauert. Beispielsweise müssen viele Volkswirtschaften immer mehr Schulden aufnehmen, um für ausreichend Nachfrage zu sorgen. Der Schuldenberg und der daran geknüpfte Zinsdienst wachsen über Jahrzehnte immer mehr, was es nachfolgenden Generationen zunehmend unmöglich macht, eine aus sich selbst funktionierende Wirtschaft zu betreiben. Lässt man die Zeit-Dimension weg, wird die Absurdität einer solchen Schleife klar: Im Grunde isst man sein eigenes Bein, um nicht zu verhungern. Das Unschöne solcher Schleifen kommt auch zum Ausdruck im Ursymbol der Schleife: dem „Uroboros“, einer sich selber in den Schwanz beißende, sich selber verzehrende Schlange.

Könnte es sein, dass sich die Marktforschung durch eine unkritische Adaption von KI-Studien - in Form von simulierten Feldern anstatt frischer Datenerhebungen - langfristig selber schwächt? Könnten die Ergebnisse von KI-„Studien“, welche sich im Zeitverlauf auf immer mehr andere KI-Studien beziehen, nicht immer einförmiger, langweiliger und trivialer werden? Selbstverständlich kann ein erfahrener Marktforscher - genauso wie die KI - Studienergebnisse mit einer bemerkenswert hohen Wahrscheinlichkeit voraussagen. Sagen wir: zu 90 Prozent. Aber eben nicht zu 100 Prozent. Der französische Dichter Paul Valery schreibt einmal: „Das Wirkliche ist, was in unendlich vielen Perspektiven, Kombinationen, Aktionen vorkommen kann, mit einem Wort eine potentielle Unendlichkeit.“ Daher lohnt es sich, immer wieder neu zu forschen, weil sich unsere Welt in immer wieder neu präsentiert, immer in Bewegung ist. - Oder etwa nicht?

Tatsächlich scheint unserer Kultur zuweilen in Schleifen gefangen. Im Radio läuft mehr Popmusik aus vergangenen Jahrzehnten als aktuell produzierte. Jugendliche - traditionellerweise zuständig für das Aufbrechen von Traditionen - scheinen heute kleidungsästhetisch eher in die Vergangenheit zurückzuschauen als neue Looks gestalten zu wollen. Wie häufig erscheint noch ein Roman, der formal tatsächlich neuartig ist? Wie innovativ ist das Kino? Man könnte zynisch feststellen, dass KI-Studien vielleicht genau das Richtige sind für Menschen, die sich gerne in Schleifen aufhalten, denen nichts Neues mehr einfällt bzw. die sich für Neues gar nicht so interessieren. Vielleicht werden die Farbe Blau und der FC Bayern München auf ewig am beliebtesten sein. Aber ist das plausibel?

Schon Nietzsche beklagte den bequemen, angepassten, langweiligen „letzten Menschen“: „Wehe! Es kommt die Zeit, wo der Mensch nicht mehr den Pfeil seiner Sehnsucht über den Menschen hinauswirft, und die Sehne seines Bogens verlernt hat, zu schwirren!“ Aber schon im nächsten Satz schreibt er: „Ich sage euch: man muss noch Chaos in sich haben, um einen tanzenden Stern gebären zu können. Ich sage euch: ihr habt noch Chaos in euch.“ In der Menschheitsgeschichte gab es immer Wandel und auch die gleichmacherischen Effekte unserer Medienwelten werden das nicht ändern. (Man denke an: Die immer wieder anbrandenden Nostalgie-Wellen. Die immergleichen Instagram-Bilder, die dem „Individuum“ Style-Befehle erteilen. Oder auch die das Gehirn formatierenden Denkmuster in den Social-Media-Blasen.) Für Neues aber sorgt allein schon der menschliche Trotz, das Verlangen nach individueller Abgrenzung, und - zumindest bei einem Teil der Menschen - das unstillbare Bedürfnis nach Kreativität und neuer Erfahrung. Es gibt kein Ende der Geschichte, nur Phasen relativer Monotonie.

Einen Sinn für das wirklich Neue wird die KI auf absehbare Zeit kaum haben. Und wenn man nicht sehr auf ihren Input achtet, werden ihre Rechenkünste ihr nicht einmal das Verhalten der Massen vorhersagen können. Denn im schlimmsten Falle könnte sie eingesperrt sein in eine Kammer der Selbstbezüglichkeit, mit nur geringem Kontakt zur wahren Welt außerhalb.