Uma violação das defesas cibernéticas do Reino Unido pela IA é “inevitável” e o Reino Unido deve estar preparado, alertou o ministro do setor.
O ministro da IA, Kanishk Narayan, disse que o Reino Unido provavelmente será vítima de um ataque ao anunciar planos para aumentar a segurança.
Acontece que o presidente da Microsoft diz que as máquinas de leite e de lavar são atualmente mais regulamentadas do que o setor.
No seu primeiro grande discurso, Narayan alertou que o Reino Unido deve enfrentar um grande ataque às suas infra-estruturas.
Referindo-se a um hack na Austrália, onde um agente desonesto da OpenAI invadiu um site do governo e acessou dados pessoais, ele disse que o Reino Unido precisava estar preparado.
“O incidente deveria nos preocupar”, disse ele. ‘Isso me preocupa. Parece provável, se não inevitável, que as nossas próprias defesas cibernéticas sejam violadas”.
Ele disse que o governo deveria levar a sério os riscos da IA – conforme determinado por quem trabalha no setor.
No mês passado, o investigador Jacob Coxon demitiu-se da Anthropic, dizendo que a IA “poderia matar-nos a todos até ao final da década”.
A violação das defesas cibernéticas do Reino Unido pela IA é “inevitável” e o Reino Unido deve estar preparado, alerta o ministro do setor
Questionado sobre se a IA poderia acabar com a humanidade, ele disse: ‘Especialmente na questão do risco, quando você ouve avisos de pessoas que trabalham nessas empresas, você tem que levá-los a sério.’
Narayan também disse que os desenvolvedores deveriam apenas “construir máquinas que nos coloquem no comando”, e ajudar a humanidade.
“À medida que entramos na era da superinteligência, as escolhas que fazemos são importantes”, disse ele.
‘Devemos construir máquinas que nos sirvam. Máquinas que ajudam os cientistas a descobrir novos medicamentos, máquinas que dão aos profissionais de saúde mais tempo com as pessoas que deles dependem, máquinas que ajudam as empresas britânicas a serem mais produtivas.
‘Acima de tudo, máquinas que nos deixam no comando dos humanos.’
Ele disse que o governo deveria tomar “ações rápidas” para se proteger contra agentes on-line desonestos, acrescentando: “O público britânico tem razão em esperar que este governo leve a sério os riscos da IA”.
Num comunicado de imprensa oficial que acompanhou o seu discurso, as autoridades também pareceram alertar que o Reino Unido não estava preparado para um ataque.
“É provável que um grande incidente envolvendo agentes de IA seja mais rápido e mais generalizado do que outros grandes incidentes aos quais os governos foram concebidos para responder, e exigirá o desenvolvimento de novas competências e capacidades para enfrentar este desafio”, afirmou.
Narayan disse que cientistas do Instituto de Segurança de IA da Grã-Bretanha estavam realizando testes nos modelos mais recentes, incluindo o Gemini do Google, para garantir “segurança robusta”.
A gigante da web disse que restringirá o acesso ao Gemini apenas a um grupo avaliado de especialistas em segurança cibernética.
Os ministros fortalecerão partes do projeto de lei de segurança cibernética e resiliência para proteger hospitais e serviços públicos de IA desonesta, acrescentou Narayan.
Acontece que o presidente da Microsoft, Brad Smith, diz que o leite e as máquinas de lavar são mais regulamentadas do que a IA.
‘Neste momento, a sua máquina de lavar está sujeita a mais regulamentações de segurança do que a IA.’ Cada caixa de leite que você vê no supermercado está sujeita a regulamentos e inspeções de segurança”, disse ele.
Ele acrescentou que é necessário que haja regulamentos de segurança globais com a obrigação legal de notificar uma “vítima” se o seu sistema for violado por um agente de IA desonesto.
