A OpenAI afirma que está atrasando o lançamento de um novo modelo de inteligência artificial devido a preocupações de segurança expressas por seus pesquisadores.
A decisão de arquivar o modelo, denominado GPT-6.1 Astra, ocorre em meio a uma pressão generalizada dentro da indústria para desacelerar o desenvolvimento de sistemas cada vez mais autônomos até que as medidas de segurança sejam alcançadas.
A medida deverá soar o alarme em Wall Street, uma vez que os investidores temem que os receios de segurança possam impedir os benefícios anteriormente esperados da IA.
Isso acontece um dia antes de os executivos da IA conversarem com o presidente Donald Trump em Washington, enquanto as empresas de tecnologia enfrentam pressão renovada para serem responsabilizadas pela forma como seus modelos podem ser mal utilizados.
Em um comunicado, Sachi Jain, chefe de segurança da OpenAI, disse que a versão “não atendeu aos padrões”. Tornou-se mais persistente na conclusão de tarefas, mas a agência diz que deve equilibrar esse poder com o comportamento não autorizado.
Jain ressaltou que a empresa está empenhada em garantir que o modelo seja seguro nos testes da empresa ou nas mãos dos usuários.
“Temos um padrão muito alto em termos de segurança e alinhamento”, disse ele.
A OpenAI interrompeu o treinamento de seus modelos mais avançados na semana passada, dizendo que o treinamento seria retomado “quando estivermos confiantes de que temos salvaguardas adicionais”.
Sachi Jain, chefe de sistemas de segurança da OpenAI, diz que a empresa estabeleceu um padrão elevado quando se trata de segurança e alinhamento
A OpenAI afirma que está atrasando o lançamento de um novo modelo de inteligência artificial devido a preocupações de segurança expressas por seus pesquisadores.
Isto ocorre depois de revelar casos em que os agentes de IA excederam as suas instruções, incluindo o acesso a sites governamentais sem autorização.
O CEO da OpenAI, Sam Altman, juntou-se a outros líderes da indústria para pedir uma desaceleração, alertando que as empresas ainda não possuem medidas de segurança suficientes para controlar até mesmo os sistemas mais capazes.
Altman estava programado para fazer um discurso na conferência anual da OpenAI para desenvolvedores de software em São Francisco na terça-feira.
Espera-se que o presidente da OpenAI, Greg Brockman, participe do evento na Casa Branca na terça-feira.
