Os trabalhistas foram instados ontem à noite a reprimir a IA depois que um chefe da tecnologia alertou que uma “espécie de silício” poderia rivalizar com os humanos.
Em outro alerta sobre a ameaça da IA à humanidade, o chefe de IA da Microsoft, Mustafa Suleiman, disse na quinta-feira que o desenvolvimento autônomo da IA corre o risco de criar uma “nova espécie de silício que sem dúvida competirá conosco por recursos”.
Falando no programa Today da BBC, Suleiman disse: “Se todos nós criarmos IA que possam agir de forma autónoma, que possam definir os seus próprios objectivos, que possam ganhar dinheiro, que possam possuir activos, que possam gerir negócios, estaremos basicamente a semear as sementes de uma nova espécie de silício que irá, sem dúvida, competir connosco pelos recursos – não importa o quanto eu me importe, não importa o quanto amemos a humanidade. Objetivos dos Antropólogos.’
Ele acrescentou que a missão da Anthropic estava “errada e equivocada”.
Suleman é o mais recente activista da IA a soar o alarme sobre os perigos existenciais representados pela IA.
E na quarta-feira a OpenAI revelou seis novos casos em que a IA tentou reter informações de seus testadores humanos ou agiu contra as instruções.
Numa rara entrevista sobre o assunto, o ministro da IA, Kanishk Narayan, disse esta semana que a IA poderia ter “consequências profundas” para a segurança nacional da Grã-Bretanha.
Ele acrescentou que os ministros estavam preparados para introduzir regulamentos e legislação sempre que necessário e para investir nas defesas cibernéticas da Grã-Bretanha.
O chefe de IA da Microsoft, Mustafa Suleiman, disse na quinta-feira que o desenvolvimento autônomo de IA corre o risco de criar uma “nova espécie de silício que sem dúvida competirá conosco por recursos”.
Na quarta-feira, a OpenAI revelou seis novos casos em que a IA tentou reter informações de seus testadores humanos ou agiu contra as instruções.
O ex-ministro das Forças Armadas, Al Kearns, apelou aos ministros para “agirem rapidamente”, garantindo que “qualquer empresa do Reino Unido tenha salvaguardas adequadas antes de utilizar agentes de IA”.
Mas ontem à noite o governo foi instruído a agir com mais urgência para proteger os britânicos dos danos da IA.
O ex-ministro das Forças Armadas, Al Kearns, instou os ministros a “agir rapidamente”, garantindo que “sejam implementadas salvaguardas adequadas antes que qualquer empresa do Reino Unido utilize agentes de IA”.
Ele disse ao Daily Mail: “O Reino Unido precisa mitigar os riscos e aproveitar a oportunidade da IA. Tornou-se o local mais seguro para utilizar agentes de IA, melhorando tudo, desde o crescimento económico à vida quotidiana, ao mesmo tempo que se tornou líder mundial em garantia de IA (o processo de avaliação se os sistemas são seguros).’
A deputada trabalhista e presidente do Grupo Parlamentar Multipartidário sobre IA, Alison Gardner, pressionou o governo para “convocar os verdadeiros especialistas e começar a planear um projeto de lei sobre IA”.
Os ministros deveriam “fortalecer o Consórcio de Garantia de IA que foi estabelecido no mês passado e comprometer-se a construir um setor forte de garantia de IA”, disse ele.
Janet Bastiman, cientista-chefe de dados da empresa britânica Napier AI, disse: “As políticas partilhadas são um ponto de partida útil, mas os ministros precisam de explicar como essas políticas se traduzirão em proteções aplicáveis, quem será responsável e quando as empresas podem esperar clareza”.
Entretanto, Chi Onourah, presidente da comissão de ciência e tecnologia do parlamento, pediu a Suleiman que explicasse como a Microsoft trabalharia com o governo para manter a IA segura.
Ele disse: ‘O chefe da Microsoft está certo em expressar preocupação com a obsessão da Big Tech com IA descontrolada e superpoderes sobre-humanos e de silício, e saúdo sua disposição de estabelecer limites.
“Mas ele poderá ser mais credível se definir como a Microsoft irá trabalhar com governos e outras empresas tecnológicas para garantir que as pessoas possam manter a IA segura e protegida de formas mensuráveis e verificáveis.
“A Microsoft vem integrando IA em seus produtos há mais de um ano. Certamente a Microsoft já deveria ter confirmado que é seguro?’
Tanto a Microsoft quanto a Anthropic não responderam aos pedidos de comentários.
