"A IA pode perpetuar desigualdades e preconceitos se não for projetada com cuidado"

O tema de Inteligência Artificial não é de hoje que é discutido e comentado. E no último mês este assunto voltou a ficar em evidência com o ChatGPT, onde muitos usaram a ferramenta para entender o funcionamento dela. Confesso para vocês que eu fiz uma busca pelos conteúdos que as pessoas trouxeram sobre o tema, e encontrei uma infinidade delas para diversas áreas, mas quero contar para vocês como foi a minha experiência em utilizar a ferramenta com o foco em perguntas para Diversidade e Inclusão. Uma das questões que trouxe para a IA responder foi: 

A Inteligência Artificial é aliada da Diversidade? 

E a resposta foi: “A Inteligência Artificial pode ser uma aliada da diversidade se for desenvolvida com os valores de diversidade, equidade e inclusão em mente e se for utilizada de maneira consciente e responsável.”

Ou seja, pode ajudar a reduzir os preconceitos e a discriminação que ocorrem em muitos setores da sociedade, como no mercado de trabalho, por exemplo, onde a discriminação pode ocorrer durante o processo de contratação ou promoção. Por meio da análise de grandes quantidades de dados, a tecnologia pode identificar padrões de discriminação e ajudar a desenvolver políticas para combatê-los.

Qual é o papel da IA no RH?

Utilizamos a IA para facilitar as nossas vidas, para diversos processos dentro das organizações e principalmente dentro do RH. Já utilizamos diariamente nos processos seletivos através de ATS, o próprio Recruiter do LinkedIn, aliás sabiam que a Startse tem no aplicativo ferramentas de IA disponíveis para serem utilizadas? Acredito que valem a pena vocês conferirem e testarem. Vejam aqui! 

Além disso, a inteligência artificial pode ajudar a garantir que as informações e recursos sejam acessíveis a todos, independentemente de suas origens ou capacidades. Por exemplo, as tecnologias de reconhecimento de voz e de linguagem natural podem ajudar pessoas com deficiências visuais ou auditivas a acessar informações e serviços de maneira fácil e eficiente. 

Fiquei surpresa em saber que a tecnologia reconhece que a Acessibilidade é parte importante do processo e questionei o porquê ela considerar isso importante e a resposta foi: "Não possuo emoções, nem opiniões pessoais, posso fornecer algumas razões pelas quais muitas pessoas consideram a acessibilidade importante, seguem algumas delas:

• Igualdade de oportunidades
• Inclusão social
• Respeito aos direitos humanos

Além disso, a acessibilidade é um benefício para toda a sociedade, pois não é apenas Pessoas com Deficiência que se beneficiam, é toda uma sociedade ao qual as pessoas estão inseridas.

Mas a ferramenta nos lembrou que: “A IA pode ser programada com preconceitos ou reforçar desigualdades existentes se não for desenvolvida com cuidado. É importante que as equipes de desenvolvimento sejam diversas e inclua pessoas de diferentes origens, experiências e perspectivas para garantir que a tecnologia seja desenvolvida de forma justa e inclusiva.”

Isso significa que pode ser uma aliada da diversidade se for usada de maneira consciente e responsável, com valores de diversidade, equidade e inclusão em mente e se for desenvolvida por equipes diversificadas e inclusivas.

Como lidar com vieses na inteligência artificial?

Quem alimenta a ferramenta é desconstruído dos seus vieses? A IA é construída por pessoas que coletam e processam os dados e consequentemente são pessoas enviesadas dentro de suas vivências. Como bem sabemos, seres humanos são sujeitos a falhas. Em todo o contexto e na sociedade que estamos inseridos, acredito que todos nós somos preconceituosos (racista, capacitista, homofóbico, misógino, entre outros), e com a tecnologia trazemos o mesmo contexto, afinal de contas, somo nós quem construímos ela.

Quem constrói a Inteligência Artificial? 

Segundo o Fórum Econômico Mundial, 8 em cada 10 profissionais que trabalham com a ferramenta são homens, o que contribui para que a ferramenta não seja diversa, mas entendemos também que a ferramenta ainda está em desenvolvimento. Porém, é necessário avaliar como as ferramentas que utilizam a IA trabalham, garantir que os sistemas sejam desenvolvidos sem vieses e que as ferramentas tragam variedades em todos os processos que elas atuam. Times diversos na construção da IA tendem a tomar melhores decisões. E se isso não ocorrer, é hora de buscarmos este time para que a ferramenta seja imparcial nos resultados que ela possa apresentar.

Questionei a ferramenta com mais uma pergunta: 

Como a IA pode promover a inclusão pelos algoritmos? 

E a resposta foi: “A IA pode promover a inclusão através de algoritmos que são projetados para serem justos e imparciais, além de serem sensíveis às necessidades e capacidades de diferentes grupos de pessoas. Segue alguns exemplos em como podemos promover a inclusão:

• Redução de Vieses: os algoritmos podem ser projetados para reduzir vieses e a discriminação em dados e processos de tomadas de decisão. Isso pode ser feito através da remoção por meios de dados sensíveis, como raça, gênero e idade, ou pelo ajuste dos modelos de IA para corrigir vieses pré-existentes.
   
• Personalização: A IA pode ser usada para personalizar serviços e produtos de acordo com as necessidades e preferências individuais. Por exemplo, algoritmos de recomendação podem ser adaptados para levar em conta as preferências de pessoas com deficiência ou outras necessidades especiais.
   
• Acessibilidade: A IA pode ser usada para melhorar a acessibilidade de tecnologias e serviços para pessoas com deficiências. Por exemplo, as tecnologias de reconhecimento de voz pode ser usada para permitir que pessoas com deficiências visuais e/ou motoras controlem seus dispositivos eletrônicos.
   
• Identificação de Necessidades: A IA pode ser usada para identificar necessidades não atendidas ou grupos de pessoas que estão sendo deixadas para trás. Por exemplo, a IA pode ser usada para identificar áreas onde há falta de serviços de saúde ou educação, ajudando a identificar onde os recursos devem ser direcionados.
   
• Comunicação: A IA pode ser utilizada para facilitar a comunicação entre pessoas que falam idiomas diferentes ou têm dificuldades de comunicação. Por exemplo: a tradução automática pode ser usada para permitir que pessoas falem idiomas diferentes que se comuniquem em tempo real."

Mas a Inteligência Artificial reforçou um ponto importante: 

“A IA também pode perpetuar desigualdades e preconceitos se não for projetada com cuidado. É importante que os algoritmos sejam desenvolvidos com valores de diversidade, equidade e inclusão em mente e que sejam testados para garantir que não perpetuem desigualdades existentes.”

Diversidade e Inclusão é um caminho sem volta e precisamos garantir que todos os processos dentro do nosso dia a dia de trabalho, tragam a imparcialidade para garantir um resultado que promova igualdade, equidade e respeito pelas diferenças. Por mais atrativo que seja utilizar a ferramenta de Inteligência Artificial é importante lembrar que as empresas tem o compromisso real com a promoção da Diversidade e Inclusão através de liderança forte e programas abrangentes que combinem esforços humanos e tecnológicos.

Na sociedade que estamos inseridos, somos preconceituosos em desconstrução, pelo menos é o que acredito e desejo acreditar. Que em um futuro breve, a gente possa ver a IA sendo mais diversa e inclusiva.

*Este artigo foi construído em parceria com o CHATGPT.

*Este artigo não representa a opinião da StartSe; a responsabilidade é da autora.