Google desenvolve “botão vermelho” para caso as máquinas tomem o controle

Avatar

Por Lucas Bicudo

3 de junho de 2016 às 16:14 - Atualizado há 4 anos

Logo ReStartSe

Inscreva-se para o maior e mais audacioso evento de inovação, tecnologia e transformação digital já feito na América Latina. 30 dias que vão mudar sua visão de mundo, dos seus negócios e da sua carreira.

Online e totalmente gratuito - 01 a 30 de outubro/2020

As máquinas estão se tornando cada vez mais inteligentes, graças aos esforços de companhias como Google, Facebook e Microsoft para moldarem o futuro. Os AI Agents (agentes de inteligência artificial), como são conhecidos, já conseguem ganhar de seres humanos em jogos de tabuleiro como Go e estão se tornando cada vez mais competentes naquilo que são programados para empreender.

Agora um laboratório de pesquisas de inteligência artificial do Google, em Londres, desenvolveu um estudo para garantir que tenhamos um botão vermelho caso as coisas fujam do controle, como é normalmente previsto e retratado nos filmes.

A DeepMind, unidade de desenvolvimento de IA do Google, uniu-se com cientistas da Universidade de Oxford para descobrirem uma maneira com que os AI Agents não aprendam a prevenir, ou busquem prevenir, o controle dos humanos.

O relatório, intitulado “Safely Interruptible Agents” e publicado no site do Machine Intelligence Research Institute (MIRI), explica que AI Agents “provavelmente não agirão de forma otimizada todo tempo. Se eles estiverem operando em tempo real e sob a supervisão de um humano, talvez seja necessário o botão vermelho para prevenir que uma sequência lógica de desastre ocorra e alguém saia lesionado.”.

A DeepMind reconhece que a tecnologia desenvolvida tem potencial para causar danos. Os fundadores Demis Hassabis, Mustafa Suleyman e Shane Legg só aceitaram o negócio do Google com a condição de que fosse desenvolvida uma extensa pesquisa em cima de ética de inteligência artificial, à evitar qualquer tipo de acidente e previsão distópica de futuro.

Estão todos avisados.

(via TechInsider)

Mensagem do Editor

Ei, tudo bom?

Gostaria de agradecer pela visita! Meu nome é Felipe Moreno, sou editor-chefe do StartSe e, como muito de vocês, dono de uma (minúscula) startup de mídia.

E te fazer um pequeno convite: vamos bater um papo! É só se cadastrar aqui embaixo e eu vou te enviar alguns e-mails para você com o melhor do nosso conteúdo para te ajudar, seja você um empreendedor, funcionário, investidor ou apenas interessado neste maravilhoso mundo!

É um caminho de comunicação direto que nenhum outro portal oferece para seus leitores. E a intenção é construir uma comunidade vibrante que esteja preparada para todos os enormes desafios que virão. Vamos construir conhecimento e conteúdo juntos! Conto muito com a presença de vocês neste papo!
[php snippet=5]