“Hoje a Inteligência Artificial nos cerca”: Danielle Torres, da KPMG, explica fundamentos da IA associados ao ESG

Inteligência Artificial e ESG andam juntas? De acordo com o Gartner, a questão da sustentabilidade atravessa todas as tendências tecnológicas estratégicas para 2023. Até 2025, 50% dos CIOs terão métricas de desempenho vinculadas à sustentabilidade da organização de TI. 

Para Danielle Torres, trans-feminina, sócia-diretora da KPMG no Brasil e mestranda em Analytics no Instituto de Tecnologia da Geórgia (Estados Unidos), é preciso entender as questões que perpassam a tecnologia, olhando principalmente para a ética, já que ela reflete o comportamento da sociedade. 

Em entrevista à StartSe, ela elenca os fundamentos e como eles esbarram nos negócios, já que a IA não está mais isolada: ela está em tudo. Da curiosidade, ela foi impactada pela ideia do fim dos empregos pela Inteligência Artificial e pela narrativa de máquinas que aprendem como humanos, construindo uma jornada profissional multidisciplinar até chegar ao mestrado na área. 

Estamos vivendo um boom de Inteligência Artificial, vendo a tecnologia se tornar cada vez mais cotidiana e acessível. O que você acha deste movimento?

Bom, esse é um movimento que ele não tem mais volta, né? A Inteligência Artificial nos cerca e todo mundo tem seus assistentes virtuais, em um maior ou menor grau. Algoritmos que otimizam o nosso caminho no trânsito, curadores de conteúdo na internet, nas redes sociais. Então, assim, ela está se tornando talvez mais notável e nos transformando, digamos, substancialmente do ponto de vista social.

E é por isso que eu acredito que a gente precisa passar a comunicar isso de uma forma que as pessoas entendam. Não é que a inteligência artificial é como o ser humano. Ela emula um comportamento que nos parece uma resposta próxima ao comportamento humano. E isso é importante porque eu acho que uma das grandes angústias do nosso tempo é essa grande aceleração que é inevitável, com a adoção dessas tecnologias cada vez mais presentes, cada vez mais visíveis, a gente se dando conta da Inteligência Artificial no nosso dia a dia. 

E, ao mesmo tempo, uma frustração muito grande por uma não compreensão do que é essa Inteligência Artificial. E quando a gente não compreende a base disso, muitas coisas que nos falam a gente toma como uma verdade porque não há uma compreensão do que é essa tecnologia. Então, à medida que nos falam ‘olha, essa tecnologia vai substituir o seu trabalho’, tudo isso assusta as pessoas. E, por outro lado, as pessoas vão conseguir uma atualização para operar nessa nova tecnologia? 

Isso é um dos grandes questionamentos que a gente tem atualmente. Mas eu acho que ajudaria nesse processo a gente passar a explicar a inteligência artificial a partir da aplicação de modelos que é: emulam uma tomada de decisão e aí isso nos parece um processo autônomo e inteligente.

E dentro dessa linguagem de explicar o que é essa tomada de decisão de uma maneira um pouco mais é compreensiva, eu queria dar um exemplo para uma técnica de aprendizagem de máquina de aprendizagem estatística que chama KNN(K — Nearest Neighbors), que quer dizer vizinho mais próximo. Então vamos supor que eu tenha um agrupamento ali de 80 bolinhas azuis e cinco bolinhas amarelas. Uma nova bolinha é colocada nesse agrupamento. Qual que você acha que vai ser a cor que a máquina, que o computador vai atribuir para essa bolinha? Azul, porque é o que tá a maioria. Todos os vizinhos mais próximos são azuis, em sua grande maioria. Logo, eu entendo isso como azul.

E disso deriva um algoritmo bastante funcional de classificação de dados. Óbvio que a teoria é bem mais complexa do que expliquei, mas isso mostra para a gente como que um algoritmo é construído. 

Por exemplo, nesse caso que falei, a gente observa que esse algoritmo que descrevi da classificação das bolinhas, ele tem um problema, né? Ele tende a entender todo mundo como azul. Mas eu falei que tinha bolinhas amarelas. Percebe que isso aí já é um bias (viés) de um algoritmo? Isso já é uma predisposição de um algoritmo a fazer uma classificação. 

Então fica mais fácil na hora que a gente começa a falar de ética e inteligência artificial. Se a gente compreende como os fundamentos da Inteligência Artificial funcionam, é mais fácil a gente compreender que dependendo da forma e da aplicação, um algoritmo pode ter uma postura preconceituosa.

Diante disso, quais avanços e possibilidades você vê para os negócios? Como a IA já está afetando os negócios?

Na hora que a gente traz para o mundo dos negócios, toda essa aplicação, as possibilidades são praticamente infinitas. Seja na análise de dados, na análise de sentimentos do consumidor, na leitura do que está sendo propagado em relação a uma dada marca nas redes sociais, como que tá a motivação. 

Então repara que a gente começa a criar modelos que estabelecem correlações também. Eu percebo que todo mundo que gosta da música A também tem na sua playlist a música B, então uma pessoa que gosta da música e não tem na sua playlist a música B, eu indico a música B para ela. E aí repara que descrevi de uma forma simplória um algoritmo de contagem, mas repara que isso me dá novamente uma sensação de que a máquina me compreendeu. 

Traduz isso na aplicação dos negócios. A gente tá falando do clássico de itens em um e-commerce que a gente vai, ah, você tá vendo esse item, você também poderia ver esse outro item você. Vai fechar o seu check-out? Olha, não esquece de adicionar esse produto também, percebe? E por aí a gente vai construindo uma estratégia bastante efetiva de uma comunicação direta com consumidor. E é claro que aqui eu tô dando um recorte de possibilidades porque a gente falar de inteligência artificial é algo tão amplo no mundo dos negócios que aqui eu tenho um pequeno recorte.

Você vê alguma intersecção entre IA e ESG? Qual? 

Em relação ao ESG, novamente, eu vou ter que fazer um recorte porque eu poderia aqui trazer N temas de como a inteligência artificial se conversa com ESG. Desde a otimização de modelos de mensuração de mudanças climáticas, a utilização de relatórios de divulgação e compilação de dados, gestão de dados da organização para fazer as divulgações de sustentabilidade, asseguração desses dados. Mas eu vou trazer aqui um aspecto que é muito mais relacionado ao social, à governança, que diz respeito à ética no uso da inteligência artificial.

Porque, de fato, a Inteligência artificial está presente no nosso dia a dia. E essa inteligência artificial tem bias (viés), naturalmente. Eu dei um exemplo simples, mas que deu para exemplificar o que é bias na classificação. 

Então, à medida que a gente traz um processo de ranqueamento, de classificação, de aprovação para determinada vaga com modelos obviamente muito mais sofisticados do que aqueles que descrevi, a primeira coisa que me chama a atenção e que me gerou muita curiosidade de estudar é a questão da ética. 

Uma vez que eu aplico um modelo de uma maneira autônoma, eu tenho a possibilidade de contra-argumentar a classificação desse modelo? Então esse é um aspecto para a organização pensar em termos da sua governança sobre os algoritmos que ela possui, os impactos sociais que esses algoritmos tem e privacidade de dados. Que dados que eu tô utilizando? Ah, eu posso dizer eu não utilizo nenhum dado sensível para a tomada de decisão dos meus algoritmos. Legal, mas existem correlações de dados, existem atributos que estão inter-relacionados. Então, uma vez que eu utilizo um determinado atributo que parece que não é sensível, mas ele é um caminho para tomada de decisão com base em um dado sensível.  

Bom, mas qual é a solução para isso? É uma regulação? É complexo a gente falar em regulação porque precisa ser algo balanceado entre não coibir a Inovação e o aspecto positivo que ela nos traz. E, ao mesmo tempo, propiciar uma proteção do próprio consumidor em relação ao uso de seus dados, ao que está sendo feito por essas modelagens e tudo mais.

Algumas abordagens regulatórias tem ido no sentido de classificar qual que é o impacto de um determinado algoritmo, desde atividades mais triviais que não precisam ser reguladas até atividades muito sensíveis, como aprovação em emprego, processos imigratórios e tudo mais, em que você aumenta o requerimento sobre o nível de documentação, de cuidado com o algoritmo, dependendo da aplicação que ele tá tendo na sociedade. É uma abordagem que vem sendo discutida nesse meio.

De que forma as empresas podem usar a inteligência artificial em prol das iniciativas de ESG?

É claro que é sempre difícil a gente olhar para frente quando a gente está discutindo tecnologias de ponta, né? 

O próprio usuário da tecnologia vai estabelecendo novos caminhos e o social vai transformando a tecnologia da mesma proporção ou em uma proporção também que ele é transformado. 

Mas isso não nos impede de ver sinais fortes, sinais claros de que as coisas estão caminhando. Então a gente fala muito de metaverso, a gente fala de algoritmos cada vez mais avançados. Teve recentemente aí um grande boom do ChatGPT que demonstra uma capacidade de diálogo que impressiona. Então tudo isso vai mostrando que a gente tá indo para um caminho em que a inteligência artificial é mais visível para nós e ela passa a atuar em mais setores da nossa vida.

Olhando para o futuro, como essas duas siglas podem impactar os negócios? É preciso começar a olhar para elas desde já? Se sim, como? 

E dentro desses sinais, é muito claro que ESG, Inteligência Artificial já não são mais sinais, eles já são realidades. O ESG tá aí, inclusive o aumento dos requerimentos de divulgação já é uma realidade, a gente já tem o ISSB com movimento extremamente relevante de tornar a informação de sustentabilidade com um olhar para o investidor, assim como é a informação contábil. A inteligência artificial, ela também já está presente nos mais diferentes aspectos da nossa sociedade. 

Então, esses dois elementos a gente não fala mais de futuro, a gente fala de realidade. E o que cabe às organizações começar a pensar a sua estrutura de governança para identificação de riscos e oportunidades relacionados a esses dois temas. 

E isso certamente passa pelos órgãos mais elevados de governança. Que a pergunta de uma agenda de um board hoje, ao meu ver, ela tem que passar por esses temas: como que está a estratégia da organização em relação ao ESG? A nossa governança é capaz de identificar esses riscos e oportunidades? Ela é capaz de traduzir isso em informações relevantes para os nossos investidores e stakeholders também? 

Trazendo um pouco o aspecto da Inteligência Artificial, que eu acho que ele tá contido nisso que eu falei, mas como é que tá as nossas políticas de privacidade, dos dados? Como é que tá a ética no uso desses algoritmos, a gente compreende quais são os limites dos algoritmos que a gente mesmo já implementou? Então, por tudo aí, a gente vai vendo tópicos que as organizações podem se beneficiar na reflexão dessas discussões.

E aí eu queria deixar uma mensagem final que é um aspecto que quando a gente olha a inteligência artificial, a gente não pode se desprender do aspecto do afeto, o aspecto da emoção, que é algo muito humano. E aí eu vou usar como exemplo para dizer o que eu tô querendo dizer a expressão: a todo vapor. 

A gente utiliza essa expressão, muito provavelmente derivado de aspectos da Revolução Industrial, do vapor movendo máquinas e aí obviamente a gente traduz a nossa realidade a partir do entendimento de nós como seres funcionais dessa revolução, de seres funcionais a vapor. A gente tá vivendo uma nova revolução em que a gente fala de algoritmos. Então, a gente começa a ver que a gente passa a se entender como algoritmos, como tomadas de decisão, como ação e respostas a certos modelos. E isso, é óbvio, que ele tem a sua base matemática, mas nós somos também seres emocionais.

E por sermos seres emocionais, o afeto é algo muito valoroso para nós. Então, nesse período de aceleração, de pensar nesses modelos, o que essas tecnologias vão trazer, etc, eu acho que a gente também tem que fazer uma reflexão básica que é o que nós, como seres humanos, a gente precisa para ter uma experiência de vida prazerosa, uma experiência de vida que nos traga esse sentimento de afeto.

Conheça o curso AI FOR LEADERS da StartSe University e saiba como aplicar a Inteligência Artificial hoje na sua empresa.