Worum geht es? Facebook spürt momentan viel Gegenwind. Eine Whistleblowerin hat interne Dokumente veröffentlicht. Diese zeigen das zweifelhafte Innenleben des Internetkonzerns, zu dem auch Instagram und Whatsapp gehören. So war sich Facebook zum Beispiel bewusst, dass seine Algorithmen dabei helfen, Hassrede und Desinformation zu verbreiten und psychische Leiden bei jungen Menschen zu fördern. Dennoch wurde das Wachstum stets als oberste Maxime definiert.
Geht diese Strategie auf? Was den Umsatz und den Gewinn angehe, zahle sich das sicher aus, sagt SRF-Digitalredaktor Jürg Tschirren. «Die Zahl der monatlich aktiven Nutzer und Nutzerinnen zu steigern, war und ist immer noch die wichtigste Metrik, nach der Facebook den eigenen Erfolg misst.» Das für das Wachstum zuständige Team bei Facebook nehme innerhalb des Unternehmens eine zentrale Stellung ein und übe auch sehr viel Einfluss auf den Facebook-Chef Mark Zuckerberg aus.
Wie wichtig ist die Marktbeherrschung? Für soziale Netzwerke wie Facebook gilt: Je mehr Leute dort sind, umso attraktiver. «Das liegt in der Logik solcher Plattformen», erklärt Tschirren. Es gehe um den Netzwerkeffekt: «Für Facebook heisst das, dass sie mehr Werbung anzeigen können. Und Werbung macht für Facebook seit jeher den Löwenanteil der Einnahmen aus.» Um möglichst viele User möglichst lange auf der Plattform zu halten, riskiere man, dass dort auch kontroverse Inhalte zu sehen sind. «Denn die Leute, die damit interagieren, sind länger auf der Plattform und sehen Werbung.»
Was tut Facebook gegen solche Inhalte? Facebook hat immer wieder angekündigt, gegen Hassrede oder Desinformation mit eigens entwickelten Algorithmen vorzugehen, die solche Seiten erkennen sollen. Doch diese wirkten nicht wie gewünscht, so der Digitalredaktor.
Hassrede wird heute in höchstens fünf Prozent der Fälle automatisch erkannt.
Denn um erkennen zu können, ob etwas Hassrede ist oder nicht, ist der Kontext nötig. «Algorithmen sind heute zwar sehr gut darin, Sprache zu erkennen, aber nicht den Kontext.» Facebook verspreche immer wieder, das Problem bald mittels künstlicher Intelligenz in Griff zu bekommen. «Aber interne Dokumente von Facebook zeigen jetzt, dass Hassrede heute in höchstens fünf Prozent der Fälle automatisch erkannt wird.»
Wieso werden Inhalte nicht geprüft? Für Facebook ist es einfacher, auf eine technische, automatisierte Lösung zu setzen, so Tschirren, und vor allem auch billiger, als wenn Menschen dafür eingesetzt würden. Doch auch für Menschen sei es nicht möglich, die Masse an Inhalten bei Facebook vernünftig sichten und bewerten zu können: «Facebook beschäftigt heute hierzu um die 40'000 Personen auf der ganzen Welt. Jeden Tag werden aber über vier Milliarden Inhalte geteilt. Jede müsste täglich 100'000 Inhalte kontrollieren, was einfach nicht möglich ist.»
Was gibt es für alternative Ansätze? Eine Lösung wäre gemäss Tschirrens Einschätzung, die Algorithmen von Facebook – und die anderer soziale Netzwerke, bei denen das Problem auch auftritt – anzupassen, sodass sie nicht mehr möglichst kontroverse Inhalte bevorzugen, die für mehr Engagement sorgen, aber eben auch Hassrede fördern. «Eine andere Möglichkeit wäre, die Viralität der Inhalte zu begrenzen, so dass sie sich nicht mehr ungehindert weiterverbreiten.»
Jeden Tag werden über vier Milliarden Inhalte geteilt.
Und helfen würde schliesslich auch, die Medienkompetenz junger Menschen zu fördern. «Einen kritischen Umgang mit News. Aber das ist natürlich etwas, das man nicht einfach an Facebook delegieren kann.»
