Instagram lança sistema baseado em IA para combater comentários ofensivos

Avatar

Por Lucas Bicudo

29 de junho de 2017 às 16:01 - Atualizado há 3 anos

Logo ReStartSe

GRATUITO, 100% ONLINE E AO VIVO

Inscreva-se para o Maior Programa de Capacitação GRATUITO para empresários, gestores, empreendedores e profissionais que desejam reduzir os impactos da Crise em 2020

O Instagram está lançando um sistema baseado em Inteligência Artificial que detecta automaticamente comentários ofensivos e hostis pela rede social. A nova tecnologia baseia-se no trabalho que o Facebook e o Instagram fizeram com o DeepText, um mecanismo de classificação de texto destinado a ajudar as máquinas a interpretar palavras que não estão em contexto, a fim de combater o spam.

Com base no sucesso desse sistema, a equipe da rede social queria ver se poderia abordar uma questão ainda mais persistente: comentários malvados, odiosos e de assédio. Os contratados treinaram o DeepText para identificar comentários negativos e classificá-los em amplos segmentos, como “bullying, racismo ou assédio sexual”. Acredita-se que os avaliadores tenham analisado pelo menos dois milhões de comentários no total.

Não deixe de conferir: Montamos o e-book: “Conheça o Vale do Silício“, para te ajudar a entender como as coisas funcionam em um dos maiores centros de inovação do mundo.

Uma vez que o sistema for lançado, esses tipos de comentários simplesmente não irão aparecer. O filtro, por enquanto, estará disponível apenas em inglês, mas todos os envolvidos no projeto são bilíngues e logo logo o teremos em outras línguas.

Se este sistema se revelar eficaz, o Instagram pode tornar-se ainda mais um refúgio, o que provavelmente é bom para a retenção do usuário a longo prazo.

(via TechCrunch)

Faça parte do maior conector do ecossistema de startups brasileiro! Não deixe de entrar no grupo de discussão do StartSe no Facebook e de inscrever-se na nossa newsletter para receber o melhor de nosso conteúdo! E se você tem interesse em anunciar aqui no StartSe, baixe nosso mídia kit.

[php snippet=5]