Künstliche Intelligenz Yahoo-Algorithmus erkennt Hass-Kommentare im Netz

Mittwoch, 03. August 2016
Yahoo will Beleidigungen mit Künstlicher Intelligenz erkennen.
Yahoo will Beleidigungen mit Künstlicher Intelligenz erkennen.
Foto: Yahoo

Es ist eine Frage, mit der sich viele Internet-Unternehmen beschäftigen: Wie kann man gegen Hass-Kommentare ankämpfen? Yahoo hat nun einen Algorithmus entwickelt, der erkennt, ob in Kommentaren Hass verbreitet wird oder nicht. Der Internet-Pionier konnte damit einer Studie zufolge in 90 Prozent der Fälle beleidigende Aussagen identifizieren. Diese Technik hat wesentliche Vorteile im Vergleich zur traditionellen Stichwortsuche.
Derzeit funktionieren Hate-Speech-Detektoren in der Regel über die Suche nach entsprechenden Wörtern oder Phrasen. Enthält ein Posting ein für beleidigende Kommentare typisches Stichwort, wird es vom Algorithmus gelöscht. Yahoo geht einen Schritt weiter und fügt dem ganzen noch eine Künstliche Intelligenz hinzu. Die "word embedding" genannte Technik systematisiert Wörter nicht wie viele andere Algorithmen in Gruppen wie etwa "positiv" und "negativ", sondern behandelt sie als Vektoren mit vielen Dimensionen. Das hat den Vorteil, dass das System mit der Zeit die Bedeutung anderer ähnlicher Wörter lernt und auch subtilere Formen von Hass in Kommentaren erkennen kann. Mit einer Aufspür-Rate von 90 Prozent arbeitet Yahoos System der Studie zufolge besser als viele andere Anwendungen, ist aber noch nicht perfekt. Noch sei die Technik nicht so weit, sagt Alex Krasodomski-Jones, Wissenschaftler am britischen Center for Analysis of Social Media, gegenüber dem MIT Technology Review: "Beleidigungen automatisch zu identifizieren ist überraschenderweise schwierig", wird der Forscher zitiert. "Bei zehn Tweets, wird sich eine Gruppe Menschen sehr schnell einig sein, welche davon beleidigend sind. Stellen Sie sich vor, wie schwer das für einen Computer wäre."

Der Algorithmus wurde zwar bislang nur auf den Seiten von Yahoo getestet. Der jüngst von Verizon aufgekaufte Internetkonzern ist sich aber sicher, dass die Technik auch im Bereich der Computerlinguistik insgesamt von hoher Bedeutung sein kann, wie Wired UK berichtet.

Denn Hass-Kommentare scheinen derweil zu einem gesamtgesellschaftlichen Problem zu avancieren. Vor allem soziale Netzwerke wie Twitter und Facebook kämpfen gegen Hate-Speech, für einige Politiker jedoch nicht mit der nötigen Eile. Nach bundesweiten Razzien gegen Verfasser von Hasskommentaren erhöhte Justizminister Heiko Maas jüngst den Druck auf Facebook und beschwerte sich in einem Brief über den mangelnden Fortschritt beim Kampf gegen Hetze im Netz. Auch Nachrichtenportale kämpfen gegen Hate-Speech, meistens jedoch mit einem Moderator, der sich auf die Suche nach justiziablen Äußerungen macht. Weil viele Redaktionen damit schlicht und einfach überfordert sind, haben bereits einige ihre Kommentarfunktion abgeschaltet. ron
Meist gelesen
stats