OpenAI cria comitê de segurança enquanto treina GPT-4o

A OpenAI, criadora do ChatGPT, anunciou nesta terça-feira (28) que formou um Comitê de Segurança e Proteção para fazer recomendações ao Conselho da empresa sobre decisões críticas em projetos e operações da companhia. Entre eles, o GPT-4o, novo modelo de inteligência artificial generativa que irá substituir o GPT-4, sistema usado no ChatGPT.

De acordo com o comunicado publicado no blog da OpenAI, o comitê será formado pelo CEO Sam Altman, além dos diretores Bret Taylor, Adam D’Angelo e Nicole Seligman. Especialistas técnicos e políticos da OpenAI também farão parte do grupo. Entre eles, Aleksander Madry (Chefe de Preparação), Lilian Weng (Chefe de Sistemas de Segurança), John Schulman (Chefe de Ciência de Alinhamento), Matt Knight (Chefe de Segurança) e Jakub Pachocki (Cientista Chefe).

Além desses profissionais, a OpenAI também contratará e consultará outros especialistas técnicos e de segurança, incluindo ex-funcionários do governo norte-americano que atuaram na área de segurança cibernética, como Rob Joyce, que assessora a OpenAI em segurança, e John Carlin.

"A OpenAI começou recentemente a treinar seu próximo modelo de fronteira e prevemos que os sistemas resultantes nos levarão ao próximo nível de capacidades em nosso caminho para a AGI. Embora tenhamos orgulho de construir e lançar modelos líderes do setor em termos de capacidades e segurança, acolhemos com satisfação um debate robusto neste momento importante", diz a empresa por meio do comunicado.

A primeira tarefa do comitê será avaliar e desenvolver ainda mais os processos e salvaguardas da OpenAI durante os próximos 90 dias. Ao final esse prazo, o grupo vai compartilhar suas recomendações com o Conselho da empresa. Após a revisão completa por parte do Conselho, a OpenAI então compartilhará publicamente uma atualização sobre as recomendações adotadas para segurança e proteção.