Rasmus Fleischer: Att jobba med självmordsfilmer

Ordet ”innehållsmoderering” klingar ungefär lika sterilt som ”lokalvård”. Båda syftar på olika former av städning, oundgängliga för varje nätplattform respektive byggnad. Lokalvårdaren städar bort damm, smulor och spyor. Moderatorn städar bort spam, trakasserier och videoskildringar av det grövsta våld du kan tänka dig.

Städjobben har i båda fall låg lön och låg status. De är arbetskraftsintensiva, vilket betyder att de har visat sig svåra att robotisera. Däremot är dessa jobb lätta att outsourca. Få företag betraktar städning som en kärnverksamhet, utan köper upp tjänsten från externa firmor.

Så långt går det att se stora likheter mellan lokalvård och innehållsmoderering. Här kommer en avgörande skillnad. Den som städar en byggnad måste befinna sig på plats, inne i byggnaden. Att moderera innehållet på en nätplattform kan däremot göras på distans, var som helst i världen – men det kräver språkkunskaper och en insikt i lokal kultur och sociala koder.

Tiktok har över en miljard användare, främst unga. Varje dag postar de miljoner videosnuttar. Allting hänger på att det sker en ständig sållning, så att användar­upplevelsen kan balansera på den tunna linjen mellan att vara intetsägande och trauma­tiserande. Algoritmerna står för en del av sållningen, men så fort en video snabbt börjar stiga i popularitet skickas den även för granskning av mänskliga ögon. Hur kan detta inte räknas till Tiktoks kärnverksamhet?

Nej, innehållsmoderatorerna är inte anställda av Tiktok, utan av koncernen Majorel, som även sköter digital städning åt en rad andra plattformsföretag. Bara i Marocko uppges en bra bit över tusen personer jobba heltid med att moderera Tiktok, som är under stark tillväxt i den arabiskspråkiga världen. Arbetsvillkoren har nyligen uppmärksammats i Business Week. Moderatorerna måste gå igenom åtskilliga videos per minut och kan när som helst mötas av filmer på tortyr eller självmord – bilder som kan stanna på näthinnan långt efter att anställningen är slut.