LinkedIn adota IA para identificar e remover perfis inadequados

Com a iniciativa, a empresa busca tornar a plataforma mais segura e profissional para os mais de 660 milhões de usuários cadastrados

Isabella Carvalho

Por Isabella Carvalho

17 de janeiro de 2020 às 12:40 - Atualizado há 1 mês

LinkedIn

Com mais de 660 milhões de usuários, o LinkedIn está usando inteligência artificial para detectar e remover perfis inadequados. Nesta quinta-feira (16), Daniel Gorham, engenheiro de software da plataforma, explicou como a empresa tem colocado em prática a iniciativa. “Nesta postagem, falaremos sobre nossa abordagem para lidar com um tipo específico de mau comportamento: perfis que contêm conteúdo inapropriado. Isso pode variar de palavrões a anúncios de serviços ilegais”, escreveu.

Venha aprender com os líderes das empresas mais inovadoras do Vale do Silício (EUA), China, Israel e Portugal

O primeiro passo foi identificar e estabelecer um conjunto de palavras e frases que violam os Termos de Serviço e Diretrizes da comunidade do LinkedIn. A partir dessa “lista de bloqueio”, perfis que usavam essas expressões foram marcados, manualmente, como fraudulentos e removidos. Pensando em escalar essa abordagem, a empresa adotou um sistema de Rede Neural Convolucional (CNN), que foi alimentado por contas que até então tinham sido classificadas como inapropriadas e apropriadas. 

Para refinar a solução e evitar erros, o LinkedIn também identificou palavras que podem ser usadas em mais de um contexto e coletou amostras de contas que tinham essas expressões. Segundo Gorham, o sistema pontua novas contas diariamente. “Detectar e prevenir abusos no LinkedIn é um esforço contínuo que exige uma colaboração extensiva entre várias equipes. Encontrar e remover perfis com conteúdo inapropriado de maneira eficaz e escalável é uma das maneiras pelas quais trabalhamos constantemente para fornecer uma plataforma segura e profissional”.

O engenheiro afirmou que empresa continuará aprimorando e expandindo o conjunto de treinamentos para identificar novos conteúdos. “Também pretendemos aproveitar os serviços de tradução da Microsoft para garantir um forte desempenho em todos os idiomas suportados pela plataforma do LinkedIn”.