Um ataque coordenado de ódio de extrema direita, potencializado pelos algoritmos das redes sociais, motivou a ONG Código Não Binário a criar uma ferramenta de inteligência artificial para detecção de discurso de ódio anti-LGBT+ e a acionar a Justiça contra as big techs Meta (proprietária do Facebook, do Instagram e do Whatsapp), Google (responsável pelo YouTube), X e ByteDance (TikTok) em ação civil pública que denuncia a violência digital.
As diretoras da Código Não Binário, Veronyka Gimenes e Amanda Claro, participaram na segunda-feira (2) do jornal Conexão BdF, da Rádio Brasil de Fato, e contaram sobre o processo que levaram à criação da ferramenta e ao processo judicial – protocolado com apoio do Instituto Brasileiro de Transmasculinidades (Ibrat), do Fórum Nacional de Travestis e Transexuais Negras e Negros (Fonatrans) e da revista AzMina.
Em maio de 2024, um corte de um episódio do podcast Entre Amigues, da Código Não Binário, viralizou nas principais redes. O vídeo falava sobre o termo “boyceta”, usado na periferia de São Paulo para se referir a pessoas transmasculinas. O assunto foi o mais comentado do Brasil no X (rede de Elon Musk) por dois dias, em grande parte com discurso de ódio. O conteúdo também foi impulsionado pelo algoritmo do TikTok para milhões de perfis.
Ao partir para a análise do conteúdo, o grupo, em busca de preservar a saúde mental das pessoas envolvidas, desenvolveu uma metodologia de extração de dados. Dois mil comentários foram classificados manualmente, e, a partir daí, uma ferramenta de inteligência artificial (IA) passou a realizar a análise dos demais. Um relatório técnico foi elaborado e baseou a Ação Civil Pública.
Deixe uma resposta
Want to join the discussion?Feel free to contribute!