Rassismus, Morddrohungen, Gewaltdarstellungen und Desinformation sind Inhalte, mit denen die meisten Menschen im Internet möglichst wenig zu tun haben möchten. Genau deshalb gehören sie für manche Menschen aber zum Alltag: Die Moderatorinnen und Moderatoren von sozialen Netzwerken wie Facebook, Twitter und TikTok sichten jene Inhalte, die gemeldet werden, und entscheiden anschließend, ob sie gegen die Nutzungsbedingungen der jeweiligen Plattform oder geltendes Recht verstoßen. Es ist ein anstrengender und aufreibender Job – der aus Sicht der Betroffenen noch immer noch nicht richtig wertgeschätzt und bezahlt wird.

Um das zu ändern, trafen sich Ende vergangener Woche knapp 50 Moderatorinnen und Moderatoren von Meta und TikTok in Berlin. Es war das erste Mal, dass sich Moderatorinnen verschiedener Netzwerke trafen, um zu diskutieren, was in ihrer Branche alles falsch läuft und was sie ändern können, um ihre Arbeitsbedingungen zu verbessern.

"Content-Moderation ist eine Arbeit, die häufig als Clickwork betrachtet wird und dementsprechend schlecht bezahlt wird", sagt Julia Kloiber, Mitgründerin der Initiative Superrr Lab, die sich unter anderem für mehr Fairness in der Techbranche einsetzt und die das Treffen mitorganisiert hat. "Tatsächlich ist es eine anspruchsvolle Aufgabe, die viel kulturelles Wissen und ständiges Anpassen an komplexe Regeln und neue Begebenheiten erfordert. Die Moderatorinnen und Moderatoren sprechen nicht selten mehrere Sprachen, studieren nebenbei und treffen Entscheidungen im Hinblick auf das gesunde Zusammenleben im Netz und in Demokratien", sagt Kloiber. Dennoch würden sie von ihren Arbeitgebern oft schlecht behandelt.

Bis zu 25.000 grenzüberschreitende Bilder pro Tag

Tatsächlich sind viele Moderatoren von Plattformen wie Facebook und TikTok, von denen es weltweit Zehntausende gibt, nicht direkt bei den Netzwerken angestellt, sondern bei Subunternehmen und externen Dienstleistern. Sie haben häufig nur befristete Verträge, verdienen kaum mehr als den Mindestlohn, müssen sich rund um die Uhr im Schichtsystem organisieren und werden dabei nicht selten auf ihre Performance hin überwacht, wie unter anderem Recherchen von Netzpolitik.org im Jahr 2019 gezeigt haben. Glaubt man Stimmen aus der Branche, hat sich seitdem nicht viel geändert.

"Was viele der Teilnehmenden erst während des Austauschs untereinander gemerkt haben, ist, wie stark doch die Unterschiede zwischen den Subunternehmen und den bei den Netzwerken angestellten Moderatoren sind", sagt Kloiber. Das fange bei der Bezahlung an und höre bei psychologischen Hilfsangeboten und der mentalen Betreuung auf. Solche Angebote haben viele Unternehmen mittlerweile zwar, viele Mitarbeitende sehen sie aber als nicht ausreichend an. Außerdem bestehe, gerade bei internen Hilfsangeboten, häufig eine gewisse Hemmschwelle: Wem die Inhalte zu schaffen machen, die man täglich vorgesetzt bekommt, möchte das vielleicht nicht unbedingt mit Vorgesetzten oder Kollegen teilen.

"Es gibt Verschwiegenheitsvereinbarungen und eine Kultur der Geheimhaltung, die sogar dazu führt, dass man keinen Kontakt zu Kollegen hat, die ein Stockwerk höher arbeiten", sagt ein Moderator, der für einen Dienstleister arbeitet und der aus Angst um seinen Job anonym bleiben möchte. "Einzelne Abteilungen erhalten Gefälligkeiten, die gleichzeitig zu mehr Wettbewerb und Entfremdung zwischen Kollegen führen", sagt er. All das erschwere es, sich innerhalb der Firma zu organisieren.

In den vergangenen Jahren gab es immer wieder Berichte über die prekären Arbeitsverhältnisse von Content-Moderatoren. Es gab Studien darüber, wie die sozialen Plattformen eine Schattenindustrie aus unterbezahlten Arbeiterinnen und Arbeitern erschaffen haben, die in afrikanischen und asiatischen Ländern sitzen und den Müll aussieben, der täglich anfällt. Es gab Dokumentarfilme, in denen Menschen zu Wort kamen, die bis zu 25.000 problematische Bilder am Tag sichten. Immer wieder berichten ehemalige Angestellte, auch aus Europa, über posttraumatische Belastungsstörungen. In Nigeria klagt ein ehemaliger Moderator namens Daniel Motaung gegen Meta und den Dienstleister Sama.