O homem conhecido como o ‘Padrinho da IA’ alertou contra poderosos sistemas de inteligência artificial.
Dr. Geoffrey Hinton é um cientista da computação britânico-canadense conhecido por seu trabalho em redes neurais artificiais.
Apesar dos seus antecedentes, o Dr. Hinton alerta agora que a IA “poderia levar à extinção humana” – se se tornar “superinteligente”.
Superinteligência é o ponto em que um sistema se torna artificial Mais poderoso do que qualquer indivíduo, empresa ou mesmo nação.
“Seríamos muito tolos se desenvolvessemos a superinteligência agora, quando não há consenso científico de que ela possa ser desenvolvida de forma segura e controlada”, disse o Dr. Hinton.
‘Perder o controle para uma IA mais inteligente do que nós pode ser catastrófico e até levar à extinção humana.’
Os comentários do Dr. Hinton acompanharam um projeto de lei elaborado pela ControlAI e proposto pelo deputado trabalhista Alex Sobel.
O projeto de lei de segurança da superinteligência artificial do Reino Unido será apresentado ao Parlamento amanhã e proibirá o desenvolvimento de IA superinteligente no Reino Unido.
Dr. Geoffrey Hinton é um cientista da computação anglo-canadense conhecido por seu trabalho em redes neurais artificiais.
O Dr. Hinton alertou agora que a IA “poderia levar à extinção humana” – se se tornar “superinteligente”. Imagem: Terminator Salvação
De acordo com a ControlAI, mais de 135 deputados multipartidários do Reino Unido já apoiaram a campanha.
“Vencedores do Prémio Nobel, cientistas de IA e CEOs de empresas líderes de IA dizem que a redução do risco de extinção da IA deve ser uma prioridade global”, explica a declaração da campanha ControlAI.
«As IA especializadas – como os avanços na ciência e na medicina – melhoram o crescimento, a inovação e o serviço público. Os sistemas de IA superinteligentes comprometerão a segurança nacional e global.
«O Reino Unido pode garantir os benefícios da IA e mitigar os riscos assumindo o compromisso de introduzir regulamentos obrigatórios sobre os sistemas de IA mais fortes.»
Figuras-chave da IA, como o CEO da OpenAI, Sam Altman, que outrora apelou a mais regulamentação da tecnologia emergente, estão agora a lutar contra o “excesso de regulamentação”.
Num discurso no Senado em Maio do ano passado, Altman argumentou que regras semelhantes às da UE seriam “desastrosas”.
Altman afirmou: “Precisamos de espaço para inovar e avançar rapidamente”.
Da mesma forma, falando numa grande conferência sobre privacidade no início do mês, Altman disse que era impossível implementar salvaguardas de IA antes que “surgissem problemas”.
No entanto, o Dr. Hinton argumenta que esta atitude poderia facilmente levar à destruição completa da humanidade.
Falando no ano passado, ele disse: ‘Se não conseguirmos descobrir uma solução para como ainda podemos existir quando eles são muito mais inteligentes e muito mais poderosos do que nós, estaremos fritos.’
‘Precisamos de uma contrapressão aos tecnólogos que dizem que não existem regras na IA.’
