Angola

Facebook treina AI em ‘Hateful Memes’

O Facebook disse que a IA ficou mais otimizada na filtragem, à medida que a rede social se volta mais para as máquinas como resultado dos bloqueios.

O Facebook divulgou uma iniciativa na terça-feira para enfrentar “memes odiosos” usando inteligência artificial, apoiada pelo crowdsourcing, para identificar postagens motivadas com intuito malicioso. A principal rede social disse que já havia criado um banco de dados de 10.000 memes – imagens frequentemente misturadas com texto para enviar uma mensagem específica – como parte de um esforço intensificado contra o discurso de ódio.

O Facebook disse que estava divulgando o banco de dados para os pesquisadores como parte de um “Hateful Memes Challenge” para desenvolver algoritmos aprimorados para detectar mensagens visuais baseadas no ódio, com um prêmio total de US $ 100.000 (cerca de 75,4 lakh).

“Esses esforços estimularão a comunidade mais ampla de pesquisa em IA a testar novos métodos, comparar seu trabalho e comparar seus resultados, a fim de acelerar o trabalho de detecção de discursos de ódio multimodal”, disse o Facebook em um post no blog .

O esforço do Facebook ocorre quando se apóia mais fortemente na IA para filtrar conteúdo censurável durante a pandemia de coronavírus que marginalizou a maioria de seus moderadores humanos.

Seu relatório trimestral de transparência disse que o Facebook removeu cerca de 9,6 milhões de postagens por violar políticas de “discurso de ódio” nos primeiros três meses deste ano, incluindo 4,7 milhões de peças de conteúdo “ligadas ao ódio organizado”.

O Facebook disse que a IA se tornou mais otimizada na filtragem, à medida que a rede social se volta mais para as máquinas como resultado dos bloqueios.

Guy Rosen, vice-presidente de integridade do Facebook, disse que, com a IA, “somos capazes de encontrar mais conteúdo e agora podemos detectar quase 90% do conteúdo que removemos antes que alguém nos relate”.

O Facebook disse que se comprometeu a “interromper” a conduta odiosa organizada um ano atrás, após os ataques mortais à mesquita na Nova Zelândia, que provocaram uma “chamada à ação” dos governos para conter a disseminação do extremismo online.

Sistemas automatizados e inteligência artificial podem ser úteis, disse o Facebook, para detectar conteúdo extremista em vários idiomas e analisar o texto incorporado em imagens e vídeos para entender todo o seu contexto.

Mike Schroepfer, diretor de tecnologia do Facebook, disse a jornalistas em uma teleconferência que uma das técnicas que ajudaram a esse esforço foi um sistema para identificar imagens “quase idênticas”, para resolver o reposicionamento de imagens e vídeos maliciosos com pequenas alterações para evitar a detecção.

“Essa tecnologia pode detectar combinações quase perfeitas”, disse Schroepfer.

Heather Woods, professora da Universidade Estadual do Kansas que estuda memes e conteúdo extremista, elogiou a iniciativa do Facebook e a inclusão de pesquisadores externos.

“Os memes são notoriamente complexos, não apenas porque são multimodais, incorporando imagem e texto, como observa o Facebook, mas porque são contextuais”, disse Woods.

“Imagino que a nuance e a especificidade contextual dos memes continuem sendo um desafio para o Facebook e outras plataformas que buscam eliminar o discurso de ódio”.

Domingos Massissa

Estudante de Engª Informática, editor do portal amante do mundo NERD, onde engloba cinema tecnologia e Gamers.

Artigos Relacionados

Deixe uma resposta

O seu endereço de email não será publicado.

Botão Voltar ao Topo