O Discord desbane cerca de 200 usuários afetados por um bug que reconheceu imagens em grade como conteúdo nocivo

Cerca de 200 contas do Discord foram restabelecidas após um bug que levou à suspensão permanente dos usuários do serviço de mensagens devido à detectação incorreta de imagens em grade como contendo material nocivo. Foi noticiado no fim de semana que uma vulnerabilidade nas ferramentas de moderação de IA do Discord fez com que o serviço detectasse incorretamente qualquer imagem de grade quadrada como contendo CSAM.

"Nossos sistemas sinalizam conteúdo comparando-o com material conhecido e nocivo. Esse tipo de correspondência de similaridade pode gerar falsos positivos, por isso um membro da nossa equipe de Confiança e Segurança sempre revisa o conteúdo sinalizado antes de qualquer ação ser tomada", explicou o Discord em um tópico no Twitter/X. O relatório afirmou que o foco principal do conteúdo sinalizado é pausar os uploads, em vez de banir um usuário completamente.

O bug foi o que causou os banimentos, e as contas afetadas foram revisadas e restabelecidas. O Discord revela que mais de 8.000 contas foram afetadas pelo bug desde maio deste ano, mas todas foram desbanidas.

"Sabemos que essa não é uma explicação satisfatória se essa fosse sua conta, e deveríamos ter percebido isso antes. Estamos trabalhando em melhores salvaguardas para que isso não aconteça silenciosamente novamente e, de forma mais ampla, para garantir que nossos sistemas de segurança não penalizem pessoas que não fizeram nada de errado", escreveu o Discord.

Então, se você estava esperando para mostrar seu inventário de Minecraft cheio de diamantes, mas não queria ser banido pelo bug, agora parece que os recursos de reconhecimento de padrões do Discord foram ajustados para evitar banimentos injustos.