Soziales Netzwerk Facebook sucht Terrorinhalte mit Künstlicher Intelligenz

Freitag, 16. Juni 2017
Die Facebook-Zentrale in Menlo Park
Die Facebook-Zentrale in Menlo Park
© Facebook

Online-Netzwerke verlassen sich bei verbotenen Inhalten meist auf Hinweise von Nutzern. Beim Kampf gegen Terror-Propaganda setzt Facebook inzwischen auch auf seine selbstlernenden Maschinen. Eine Einschätzung durch Menschen wird aber auch weiterhin gebraucht.

Facebook setzt Künstliche Intelligenz ein, um terroristische Inhalte auf seiner Plattform zu entdecken. Dabei gehe es unter anderem darum, bereits bekannte Bilder und Videos beim erneuten Hochladen zu stoppen, erklärte die zuständige Facebook-Managerin Monika Bickert in einem Blogeintrag am Donnerstag.

Zugleich experimentiere das weltgrößte Online-Netzwerk aber auch mit Software, die automatisch eine terroristische Einstellung in Texten erkennen solle. Aktuell würden dafür Einträge ausgewertet, die wegen der Unterstützung von Terror-Organisationen wie Isis oder Al-Kaida bereits gelöscht wurden. Mit den Ergebnissen dieser Analyse wird ein Algorithmus gefüttert, der gerade lerne, Posts mit solcher Ausrichtung selbst zu erkennen. Neben Englisch laufe die Arbeit auch in weiteren Sprachen, auch aus dem arabischen Raum, sagte Bickert.

"Wir wollen terroristische Inhalte sofort entdecken, bevor Menschen in unserer Community sie zu sehen bekommen", betonte die Managerin, die zuvor unter anderem Staatsanwältin in den USA war. Inzwischen werde mehr als die Hälfte der wegen Terror-Propaganda gelöschten Facebook-Accounts vom Netzwerk selbst entdeckt, betonte sie. Normalerweise ist Facebook auf Hinweise von Nutzern auf illegale oder beim Netzwerk untersagte Inhalte angewiesen. Eine Ausnahme ist Kinderpornografie, gegen die unter anderem mit automatisierter Software gekämpft wird.

"Auch wenn unsere Software immer besser wird, hängt sehr viel auch vom Kontext ab", schränkte Bickert ein. Wenn zum Beispiel in einem Video Isis-Symbole zu sehen seien, könne es um Terror-Propaganda oder auch aber einen Nachrichtenbeitrag handeln. Hier seien im Moment Entscheidungen von Menschen unverzichtbar.

Vor allem in Europa stieg zuletzt der politische Druck auf Facebook und andere Online-Dienste, härter gegen terroristische Inhalte vorzugehen. So erklärte die britische Premierministerin Theresa May nach dem jüngsten Attentat auf der London Bridge, Extremismus finde im Netz eine sichere Brutstätte - und die großen Internetunternehmen ließen dies zu. dpa

Meist gelesen
Ich habe die Datenschutzbestimmungen zur Kenntnis genommen und akzeptiere diese.
stats