A vida secreta dos moderadores de mídia social

Há muito conteúdo considerado muito violento, sexual, abusivo ou de outra forma para ser visto nas mídias sociais. TikTok, Instagram, Facebook, Twitter/X, todos eles moderam seu conteúdo em graus variados, mas se você pensou que havia algum grande computador por trás de tudo, você pode querer pensar novamente.

Pessoas reais vasculham o conteúdo enviado para esses sites, garantindo que, embora nunca vejamos paisagens horríveis, elas sejam expostas a elas constantemente e diariamente. A BBC conversou com o moderador Mojez, de Nairóbi, sobre o preço que isso pode custar na vida de um moderador.

"Se você pegar seu telefone e depois for ao TikTok, verá muitas atividades, danças, você sabe, coisas felizes", disse ele. "Mas no fundo, eu pessoalmente estava moderando, às centenas, vídeos horríveis e traumatizantes. Eu assumi a responsabilidade. Deixe minha saúde mental levar o soco para que os usuários em geral possam continuar com suas atividades na plataforma."

Embora existam moderadores em todo o mundo, uma grande parte está sediada na África Oriental, com muitos moderadores alegando que o trabalho destruiu sua saúde mental. Alguns deixaram a indústria completamente, enquanto outros se uniram para formar um sindicato.

Os modelos de IA estão em andamento para fazer essa moderação, mas precisam ser treinados por pessoas, que, portanto, ainda terão que ver conteúdo horrível e abusivo. Até que uma dessas ferramentas possa moderar perfeitamente os espaços online, haverá pessoas na linha de frente.