A inteligência artificial deve ser tratada como uma nova espécie com valores estranhos que os humanos podem não ser capazes de controlar, insiste um cientista pesquisador.
No último alarme sobre o rápido avanço da tecnologia, o denunciante Josh Engels diz que a IA tem o potencial de representar “riscos muito grandes para a humanidade”.
Ele deixou a equipe de segurança do Google DeepMind para ingressar na METR, uma organização sem fins lucrativos que analisa as ameaças representadas pela IA.
Ele alertou no domingo: “Acho que, de certa forma, é melhor pensar nisso não como tecnologia, mas como uma segunda espécie que estamos quase dando à luz. E pense que em breve estaremos vivendo na Terra com seres muito mais espertos que nós.
‘Preocupo-me com o facto de que, se não tivermos o poder de garantir que eles têm em mente os nossos melhores interesses, então não há garantia de que as pessoas estarão no controlo do futuro.’
Numa entrevista à BBC, ele acrescentou que há muitas maneiras pelas quais uma espécie artificial poderia “desempoderar a humanidade”.
Josh Engels tornou-se o mais recente denunciante a alertar que a IA agora tem o potencial de representar “riscos muito grandes para a humanidade”
Questionado sobre por que quereria fazer isso, ele respondeu: ‘Não creio que neste momento tenhamos uma forma de moldar estes sistemas. Eles têm esse valor estranho que não entendemos.
‘Não é que estes sistemas odeiem a humanidade. Acontece que eles têm motivações estrangeiras que não colocam as pessoas na frente e no centro.
Seus comentários sobre os riscos de “aquisições” seguem o pesquisador Jacob Coxon, que deixou a empresa líder de IA Anthropic, alertando que ela e a rival OpenAI estão “jogando com nossas vidas”.
Coxon disse à BBC no domingo: “Se não abrandarmos o atual ritmo de progresso, existe uma forte possibilidade de que todos estaremos mortos num futuro próximo”.
Outros profissionais do setor previram na semana passada que a IA tem 10% de chance de matar todos os seres humanos na próxima década.
Dada a sua cautela, os chefes das principais empresas de IA pediram uma desaceleração no desenvolvimento durante o fim de semana.
Esta semana, o Rei organizará uma cimeira de líderes da IA em Dumfries House, em Ayrshire, onde os apelará a utilizarem a tecnologia “para o bem da humanidade”.
Uma fonte real disse: ‘Ele espera que as discussões tragam uma compreensão mais ampla das responsabilidades, bem como das oportunidades de desenvolvimento desta tecnologia, para que qualquer desenvolvimento tecnológico seja centrado nos benefícios das pessoas.’
Deputados e pares apelarão ao governo na segunda-feira para apresentar um novo projeto de lei sobre IA para enfrentar a ameaça que representa aos direitos humanos.
A lei deve estabelecer um quadro regulamentar que imponha mais obrigações aos sistemas vulneráveis, afirmou o Comité Misto dos Direitos Humanos.
Quer que alguns usos da IA sejam totalmente proibidos, incluindo a criação de perfis para prever o risco de uma pessoa cometer um crime, como apresentado no filme de ficção científica Minority Report.
O comité afirmou: “Isto significaria que seria proibido o fornecimento de sistemas de IA extremamente poderosos (como a inteligência artificial geral e a superinteligência artificial) que apresentam o risco de danos generalizados e muito graves, incluindo a capacidade de escapar ao controlo humano eficaz”.
