Instagram lança sistema baseado em IA para combater comentários ofensivos

Avatar

Por Lucas Bicudo

29 de junho de 2017 às 16:01 - Atualizado há 3 anos

Logo Black Friday 2020

Nossos melhores Cursos Executivos ou Programas Internacionais com até 50% off

Quero saber mais

Vem aí a melhor formação de líderes do Brasil

Logo Liderança Exponencial Aprenda as novas competências fundamentais para desenvolver uma liderança exponencial e desenvolva diferenciais competitivos para se tornar um profissional de destaque no mercado.

100% online, aulas ao vivo e gravadas

Próxima turma: De 14 a 17/Dez, das 19hs às 22hs

Inscreva-se agora

O Instagram está lançando um sistema baseado em Inteligência Artificial que detecta automaticamente comentários ofensivos e hostis pela rede social. A nova tecnologia baseia-se no trabalho que o Facebook e o Instagram fizeram com o DeepText, um mecanismo de classificação de texto destinado a ajudar as máquinas a interpretar palavras que não estão em contexto, a fim de combater o spam.

Com base no sucesso desse sistema, a equipe da rede social queria ver se poderia abordar uma questão ainda mais persistente: comentários malvados, odiosos e de assédio. Os contratados treinaram o DeepText para identificar comentários negativos e classificá-los em amplos segmentos, como “bullying, racismo ou assédio sexual”. Acredita-se que os avaliadores tenham analisado pelo menos dois milhões de comentários no total.

Não deixe de conferir: Montamos o e-book: “Conheça o Vale do Silício“, para te ajudar a entender como as coisas funcionam em um dos maiores centros de inovação do mundo.

Uma vez que o sistema for lançado, esses tipos de comentários simplesmente não irão aparecer. O filtro, por enquanto, estará disponível apenas em inglês, mas todos os envolvidos no projeto são bilíngues e logo logo o teremos em outras línguas.

Se este sistema se revelar eficaz, o Instagram pode tornar-se ainda mais um refúgio, o que provavelmente é bom para a retenção do usuário a longo prazo.

(via TechCrunch)

Faça parte do maior conector do ecossistema de startups brasileiro! Não deixe de entrar no grupo de discussão do StartSe no Facebook e de inscrever-se na nossa newsletter para receber o melhor de nosso conteúdo! E se você tem interesse em anunciar aqui no StartSe, baixe nosso mídia kit.

[php snippet=5]