Fluch und Segen

So segensreich, so toll, so interessant das Mitmach-Internet auch sein mag, so furchtbar ist es zugleich. Es ist traurigerweise zugleich Publikationsort für die dunkelsten Orte an die Menschen sich begeben können. Täglich werden zahllose Texte, Fotos und Videos voll von Hass, Missbrauch und Gewalt auf Plattformen wie Facebook, YouTube & Co hochgeladen. Dass wir die meisten davon nie zu sehen bekommen, dafür sorgt ein Heer von Menschen, die versuchen, deratige Beiträge möglichst schnell zu entdecken und zu löschen. In Manila beispielsweise sitzen Tausende von Menschen und löschen von Facebook, Youtube & Co den Müll, den Andere dort hochgeladen haben.

Sie heißen Content Moderatoren oder auch Content Cleaner und sind nicht direkt bei den Milliarden schweren Konzernen angestellt, sondern bei Unterfirmen. Dienstleister, welche all die kaputten, kranken, menschenverachtenden Fotos, Videos etc. versuchen aus den Netzen zu entfernen. Offizielle Zahlen gibt es kaum, man schätzt, dass zwischen 100.000 und 150.000 Menschen als Content-Cleaner tätig sind. In ihren Verträgen steht meistens "Data Analyst" oder "Community Operation Analyst", was wirklich dahinter steckt, merken sie oft erst später. Die Mitarbeiter*Innen sind nur kaum dafür ausgebildet und werden zumeist sehr schlecht bezahlt.

Die Cleaner werden meist nach Sprachräumen oder Territorien eingeteilt, wer ein goßes Gebiet überwacht, muss am Tag bis zu 4500 sogenannte Tickets, oftmals bis zu 20000 Bilder und Videos, bearbeiten. Bearbeiten heißt im Grunde genommen, den optischen und akustischen Müll zahlloser User wegzuräumen, die abseitige Fantasien haben, die andere Menschen schockieren, ängstigen oder "Fame" bei anderen ähnlich gestörten Personen erlangen wollen. Die "Cleaner" haben nur wenige Sekunden Zeit um zu entscheiden, ob sie die zu überprüfenden Aufnahmen ignorieren oder löschen. Dabei müssen sie erkennen, ob es sich um Kunst, um Nachrichten oder um Aufnahmen handelt, die gegen gängige Moral verstoßen oder Verbrechen darstellen. Dabei sind sie nicht unfehlbar, auch so manches zeitgeschichtlich bedeutsame Foto ist ihnen schon zum Opfer gefallen. Doch das kann man verschmerzen, bedenkt  man die unglaubliche Menge an üblem Material, die sie tagtäglich aus dem Web entfernen.

Damit wir uns richtig verstehen,- das was die Content Cleaner tun, ist keine Zensur, es ist zwingend notwendiger Schutz der Allgemeinheit vor moralisch verwerflichen, oft genug menschenverachtenden und kriminellen Angriffen auf unsere Gesellschaft.

Keine Auffangnetze

Täglich tausendfach Folter, Morde, Vergewaltigung oder Kindesmissbrauch. Die Cleaner können damit unterschiedlich umgehen, vieles können sie als Routine schnell wieder wegklicken, anderes verfolgt sie noch jahrelang. Logischerweise geht es an den Mitarbeiter*Innen nicht spurlos vorüber, wenn sie tagtäglich mit Phänomenen wie sexueller Gewalt, Folter, Mord, Hate Speech oder Fake News konfrontiert werden. Seelische Abstumpfung, Schlaflosigkeit und Depressionen sind an der Tagesordnung. Psychologische Betreuung, um mit all dem besser umgehen zu können, erhalten sie nicht. Und zu allem Überfluss dürfen sie über all das auch privat mit Niemand sprechen, sie alle haben Vertrauligkeitsklauseln in ihren Verträgen stehen, die sie zur Verschwiegenheit verpflichten.

Sie begegnen Millionenfach den niedrigsten Instinkten von Menschen, begegnen Unbeschreiblichem. Während die "Cleaner" in westlichen Ländern selten länger als ein, zwei Jahre diese Tätigkeit ausüben, haben Jene in der dritten Welt oft gar keine Jobalternative und bleiben viele Jahre in dem Job, der sie psychisch an ihre Grenzen bringt.

Braucht man sowas?

Dass diese Arbeit dringend notwendig ist, steht außer Frage und ergibt sich allein schon daraus, dass AI und Algorithmen viel zu viele Fehler machen. Die Europäische Union verschärft auch regelmäßig die Verpflichtungen der Plattformanbieter zur kontinuierlichen Überwachung und Bereinigung ihrer Angebote. Kritisch ist allerdings, wer diese Arbeit unterbezahlt kaum geschult und ohne psychologische Betreuung schultern muss. Genau hier wollen die großen Silicon-Valley-Internetkonzerne Geld einsparen und verlagern den größten Teil der Arbeit in Billiglohnländer. Verlagern ihn auf Menschen, die sich aus Existenznöten nicht leisten können, diese Albtraumjobs zu kündigen.

Hier müsste ein Umdenken stattfinden und nur geschultes, fair bezahltes Personal mit entsprechenden psychologischen Auffangnetzen mit diesen Aufgaben betraut werden.