Como carros autônomos escolherão as vidas a serem poupadas em um acidente?

Avatar

Por Isabela Borrelli

26 de outubro de 2018 às 18:52 - Atualizado há 2 anos

Vem aí a melhor formação de líderes do Brasil

Logo Liderança Exponencial Aprenda as novas competências fundamentais para desenvolver uma liderança exponencial e desenvolva diferenciais competitivos para se tornar um profissional de destaque no mercado.

100% online, aulas ao vivo e gravadas

Próxima turma: De 14 a 17/Dez, das 19hs às 22hs

Inscreva-se agora
Logo Black Friday 2020

Nossos melhores Cursos Executivos ou Programas Internacionais com até 50% off

Quero saber mais

Apesar de ainda estarmos um pouco distantes do momento em que veículos autônomos circularão livremente pelas cidades, algumas questões referentes à sua aplicação já são discutidas. Uma delas, por exemplo, é a ética. Afinal se um carro inevitavelmente tiver uma colisão, como ele escolherá quem sacrificar: os pedestres ou os passageiros? Os mais novos ou mais velhos?

Considerando essa questão, o MIT realizou uma pesquisa em 2016, na qual por meio de um quiz online usuários respondiam uma série de questões éticas relacionadas a batidas de carro fictícias.

Em resumo, milhões de pessoas de mais de 233 países e territórios responderam, tomando 40 milhões de decisões éticas no total. A partir desses dados, os autores do estudo encontraram algumas preferências globais: poupar humanos a animais, mais vidas o que menos e crianças ao invés de adultos. O estudo sugere que esses podem ser fatores base para a criação de políticas e leis para carros autônomos.

Ao mesmo tempo, os autores deixaram claro que os resultados não refletem um algoritmo de tomada de decisão. “O que nós estamos tentando mostrar é ética descritiva: o que as pessoas preferem em decisões éticas”, revela Edmond Awad, co-autor do artigo, para a The Verge. “Mas quando falamos de éticas normativas, que é como deve ser feito, os especialistas do assunto que devem tomar a decisão”.

É importante levar em consideração que por mais que essas decisões deverão ser tomadas no futuro, ainda estamos temos um longo caminho pela frente. Autonomia de máquinas ainda está no comecinho e carros autônomos são apenas protótipos e não produtos. Especialistas também afirmam que não está claro como essas decisões serão programadas, mas existe uma clara necessidade de consulta pública e debate.

Da ética para a legislação

Quão próximos estamos de precisar de uma legislação para esses problemas? Quando as empresas vão começar a programas decisões éticas em veículos autônomos?

A resposta curta é: isso já está acontecendo. Segundo o The Verge, isso acontece se levarmos em consideração de que todo algoritmo toma decisões e que algumas podem ter consequências éticas. Mas, em termos mais concretos, é provável que as preferências aproximadas estejam sendo codificadas, mesmo que as empresas envolvidas não estejam dispostas a falar sobre elas publicamente.

Em 2014, por exemplo, o fundador do Google X, Sebastian Thrun, disse que os protótipos de carros autônomos da empresa escolheriam acertar o menor de dois objetos no caso de um acidente. E, em 2016, Chris Urmson, do Google, disse que seus carros “se esforçariam para não atingir usuários desprotegidos: ciclistas e pedestres”. Naquele mesmo ano, um gerente da Mercedes-Benz teria dito que os veículos autônomos da empresa priorizariam as vidas dos passageiros em um acidente, embora a empresa depois tenha negado isso.

É compreensível que as empresas não estejam dispostas a serem abertas sobre essas decisões. Por um lado, sistemas autônomos ainda não são sofisticados o suficiente para diferenciar, jovens e idosos. Por exemplo: algoritmos e sensores de última geração podem fazer distinções óbvias, como entre esquilos e ciclistas, mas não podem ser muito mais sutis do que isso. Além disso, qualquer que seja a vida que as empresas digam que priorizam – pessoas ou animais, passageiros ou pedestres – será uma decisão que afeta alguém. É por isso que são dilemas éticos: não há uma resposta fácil.

Empresas privadas estão trabalhando bastante nessas questões, diz Andrea Renda, pesquisadora sênior do Centro de Estudos Políticos Europeus. “O setor privado está tomando medidas sobre isso, mas os governos podem não achar isso suficiente”, diz Renda ao The Verge. Segundo ele, na Europa, a UE está trabalhando em diretrizes éticas e provavelmente as aplicará por meio de “legislação de comando e controle ou por meio de certificação e co-regulação”.

Renda adverte que, embora o público precise estar envolvido nesses debates, “confiar apenas em consultas ascendentes seria extremamente perigoso”. Os governos e especialistas, ele diz, precisarão fazer escolhas que reafirmam os direitos humanos.

Mas os problemas à frente já podem ser vislumbrados na Alemanha, o único país até hoje a propor diretrizes oficiais para escolhas éticas feitas por veículos autônomos. Os legisladores tentaram cortar o nó do problema do carro afirmando que toda a vida humana deveria ser valorizada igualmente e que qualquer distinção baseada em características pessoais como idade ou sexo deveria ser proibida.

Mas, como os pesquisadores do MIT observam, se essa escolha for implementada, isso vai contra a forte preferência do público por poupar os mais jovens aos idosos. Se um governo introduz esta política, eles questionaram, como vai lidar com a reação “que inevitavelmente ocorrerá no dia em que um veículo autônomo sacrificar crianças em uma situação de dilema.”

Awad diz que esse tipo de conflito é “inevitável”, mas deve fazer parte do processo. “O importante é tornar essas decisões transparentes”, diz ele, “para deixar claro o que está sendo feito. Todos precisam estar envolvidos nessas decisões.”