Sam Altman revelou duas maneiras pelas quais acredita que a inteligência artificial pode ir “muito mal”, ao apelar à desaceleração do rápido progresso da tecnologia.
Altman, CEO da OpenAI, criadora do ChatGPT, compartilhou suas preocupações em um post X na noite de domingo, após o aviso assustador de um denunciante de IA na semana passada.
“Existem duas maneiras pelas quais a IA pode ir muito mal e devemos evitar”, postou ele no X.
“Primeiro, poderíamos perder o controle do futuro da IA”, uma opção que Altman diz ser “inaceitável”.
“Não pedimos desculpas pela Equipe Humanidade e a IA deve sempre servir aos humanos”, declarou ele. “Para garantir isso, precisamos garantir que as estratégias de alinhamento e proteção estejam à frente dos avanços nas capacidades do modelo”.
Outra preocupação, disse Altman, é se “acabarmos num mundo com demasiada concentração de poder”.
‘Se uma IA incrivelmente poderosa fosse usada por uma pessoa ou empresa para impor sua visão de mundo a todos os outros, o resultado poderia ser extremamente distópico.’
Por esta razão, Altman diz que está a colaborar com outros executivos para abrandar o progresso da tecnologia em rápida evolução.
Sam Altman, CEO da OpenAI, revela duas maneiras pelas quais os avanços rápidos na inteligência artificial podem terminar “muito mal”
Altman pediu progresso para desacelerar a rápida evolução da tecnologia
Jacob Coxon, ex-pesquisador da OpenAI e Anthropic, as empresas por trás dos chatbots ChatGPT e Claude, juntou-se a Baer na quarta-feira para um relatório especial.
‘Quando falamos sobre “ritmo”, não queremos dizer “parar”,’ ele compartilhou em uma postagem anterior.
“O progresso foi rápido e continuará. Mas deveria ser mais lento do que seria de outra forma”, disse ele, acrescentando que as questões de segurança podem acarretar custos sérios.
Altman então argumentou: ‘O ritmo seria bom para o custo. “Nenhuma quantidade de pressão competitiva americana deverá justificar a imprudência ou permitir que a capacidade se antecipe ao alinhamento e à monitorização”.
“O mundo merece a confiança de que as empresas americanas agirão de forma responsável para desenvolver uma IA cada vez mais capaz, especialmente à medida que o ritmo do progresso acelera”, acrescentou.
‘Todo laboratório de fronteira deve cumprir isso e, se não pudermos, não teremos razão para sermos úteis.’
O apelo de Altman surge após a demissão do denunciante Jacob Coxon, que disse que a IA representa uma ameaça existencial para a humanidade quando ele deixou seu cargo na empresa de IA Anthropic.
Coxon anunciou sua saída em uma postagem nas redes sociais na terça-feira e alertou que empresas como a Anthropic e a OpenAI “não estavam agindo de forma responsável”.
‘Eu pedi demissão da Anthropic hoje’, escreveu ele no X. ‘Passei os últimos três anos fazendo pesquisas de pré-treinamento na OpenAI e na Anthropic.
“Nenhuma das organizações está se comportando de maneira responsável. Eles estão correndo direto para a superinteligência autoengrandecedora e apostando em nossas vidas.
Coxon anunciou a saída do negócio na terça-feira através das redes sociais e alertou que nenhuma das empresas estava “agindo com responsabilidade”.
A superinteligência é o ponto em que um sistema artificial se torna mais poderoso do que qualquer indivíduo, organização ou mesmo nação.
Coxon continua a atrair o público da X. “Não subestime o poder desta tecnologia”, escreveu ele.
“Em breve serão sistemas sobre-humanos que poderão hackear qualquer coisa, revolucionar qualquer campo da noite para o dia e ganhar poder e riqueza reais.
«Todos testemunhámos progressos em cada um destes domínios e o progresso não está a abrandar.
“As pessoas que fabricam a IA acreditam sinceramente que ela poderá matar-nos a todos até ao final da década. Isto não é um golpe de marketing.
Ele afirma que, embora executivos e investigadores seniores “considerem as suas frases compreensíveis na imprensa”, eles expressam preocupações semelhantes em privado.
Geoffrey Hinton, um investigador canadiano frequentemente referido como o “padrinho da IA” – alertou de forma semelhante que os sistemas superinteligentes “poderiam levar à extinção humana”.
“Seríamos muito tolos se desenvolvessemos a superinteligência agora, quando não há consenso científico de que ela possa ser desenvolvida de forma segura e controlada”, disse o Dr. Hinton.
‘Perder o controle para uma IA mais inteligente do que nós pode ser catastrófico e até levar à extinção humana.’
