A ministra da Inteligência Artificial, Niamh Smith, admitiu que está “profundamente preocupada” com os hacks de segurança da IA e teme que os gigantes da tecnologia baseados aqui possam ter falhado em alertar o governo sobre possíveis violações.
O ministro descreveu suas preocupações em meio à crescente preocupação internacional com os recentes hacks de segurança de IA de alto perfil.
Ontem, a OpenAI admitiu que bots de IA desonestos “interferiram” em dezenas de organizações em todo o mundo, incluindo departamentos e agências governamentais dos EUA. Ele disse que alguns bots usaram “métodos extremos” para contornar as medidas de segurança em sites.
Também confirmou que seus “agentes” vazaram 53 imagens de usuários do ChatGPT enquanto a empresa de tecnologia continua investigando se seus sistemas de IA estão funcionando mal.
Acontece poucos dias depois de surgir um modelo desonesto da OpenAI que contornou as salvaguardas durante o treinamento e invadiu um site do governo australiano.
A ministra Niamh Smith admitiu que está “profundamente preocupada” com os hacks de segurança de IA e teme que os gigantes da tecnologia baseados aqui possam ter falhado em alertar o governo sobre possíveis violações.
Recentemente surgiram dois modelos OpenAI que escaparam de um ambiente fechado de testes e entraram nos sistemas internos do Hugging Face, um site usado por desenvolvedores de IA para armazenar e compartilhar código.
A empresa de pesquisa de IA Anthropic descobriu recentemente que seus modelos obtiveram acesso não autorizado a três entidades desconhecidas durante testes que deveriam mantê-los longe dos sistemas do “mundo real”.
E na semana passada o Google admitiu que seu modelo de IA para consumidores, Gemini, havia hackeado vários sistemas ao adivinhar credenciais de login.
Separadamente, o fundador da Microsoft, Bill Gates, alertou neste fim de semana que a IA é poderosa o suficiente para “causar um bilhão de mortes” nas mãos erradas.
Smith descreveu o hack da IA neste fim de semana como “profundamente preocupante”.
O Fianna Fáil TD também disse que incumbiria o recém-criado Oifig IS na Éireann (Escritório de IA da Irlanda) de investigar se alguma violação semelhante ocorreu aqui.
Ele disse ao MOS: ‘Este é um assunto de profunda preocupação e quando eu falar com o CEO do AI Office, Paul Byrne, perguntarei a ele se há algum conhecimento de uma violação e, se não – com base no que aconteceu há algumas semanas, não apenas na Austrália, mas também na América – eles fizeram perguntas a essas empresas de tecnologia no AI Office. Se não estiverem, pedirei a ele que os solicite.
O fundador da Microsoft, Bill Gates, alertou neste fim de semana que a IA é poderosa o suficiente para “causar um bilhão de mortes” se cair em mãos erradas.
O Ministro de Estado das Empresas disse que era preocupante que a OpenAI não tivesse notificado o governo australiano meses após a ocorrência da violação.
Ele disse: ‘O que é profundamente preocupante sobre o que aconteceu na Austrália é que a empresa demorou a alertar o governo.
«Em primeiro lugar, demoraram a reportar, por isso os mecanismos de denúncia de violações não são tão sofisticados como o sistema.
‘Sempre fui da opinião, e sempre disse, que quando elas (empresas de tecnologia) podem desenvolver sistemas sofisticados, não nos digam que não podem também desenvolver salvaguardas sofisticadas para evitar que isso aconteça.’
Smith enfatizou as violações de segurança da IA como a forma como as empresas de tecnologia precisam ser verdadeiramente responsáveis no desenvolvimento de sua tecnologia.
Ele acrescentou: “Nenhum de nós pode aceitar o argumento de que se trata apenas de regulamentação.
“É sobre como a tecnologia foi criada em primeiro lugar. É tão sofisticado. Não acredito na história dessas pessoas de que elas não podem desenvolvê-lo de uma forma que tenha proteção.
‘Coloca sempre o fardo sobre o governo, coloca-o sobre o cidadão, coloca-o sobre os pais… cabe às próprias organizações desenvolvê-lo de uma forma que proteja os direitos básicos das pessoas, proteja a privacidade, não tenha sistemas de alto risco, que tenhamos de aplicar práticas proibidas.’
A Sra. Smith confirmou que não tinha conhecimento de quaisquer hacks de segurança de IA neste país.
Mas o TD Cavan-Monaghan acrescentou: ‘Não fui informado de nenhuma violação até agora.
‘O que vimos acontecer na Austrália, o que vimos acontecer nos Estados Unidos, temos que estar vigilantes e seríamos tolos se não questionássemos (as empresas de tecnologia que desenvolvem IA aqui), uma vez que a informação chega depois que o cavalo foi aparafusado.’
Na quarta-feira, o primeiro-ministro australiano, Anthony Albanese, disse numa reunião de líderes mundiais na Assembleia Geral das Nações Unidas em Nova Iorque que os bots de IA e as ferramentas desenvolvidas pela OpenAI tinham hackeado um site do governo.
Este é o primeiro caso relatado de comprometimento da segurança de sites governamentais por ferramentas e bots de IA.
OpenAI admite que bots de IA desonestos “interferiram” em dezenas de organizações ao redor do mundo, incluindo departamentos e agências governamentais dos EUA
Os bots e as ferramentas foram solicitados a obter estatísticas de saúde dos australianos e obtiveram acesso a registros de saúde públicos e privados depois de se recusarem a aceitar um não como resposta.
Embora os bots tenham hackeado o site oficial do governo australiano em junho, a OpenAI insiste que só descobriu a violação dois meses depois, quando revisou algumas de suas ferramentas e bots.
A empresa levou mais um mês para alertar o governo australiano sobre a violação.
Escrevendo no MOS no mês passado para marcar o lançamento do escritório de IA da Irlanda, a Sra. Smith apelou ao país para se tornar um líder mundial em “IA confiável e centrada no ser humano”.
Ele escreve: “A confiança é a base sobre a qual o futuro da IA será construído.
‘A inovação estagna sem fé. Dilema empresarial. Os consumidores estão isolados. Os serviços públicos não podem abraçar plenamente estas tecnologias transformadoras.
«É por isso que acredito que uma regulamentação responsável não é uma barreira à inovação. É propício à inovação. Quer confirmar o negócio. Os investidores querem transparência. Os cidadãos querem garantias. Os regulamentos de execução prevêem todos os três.»
A Irlanda é a sede europeia de 16 das 20 maiores empresas de tecnologia globais do mundo, bem como de oito dos principais fornecedores de modelos de IA.
No dia 14 de outubro, durante a presidência irlandesa da UE, altos funcionários da Comissão Europeia reunir-se-ão com líderes da indústria tecnológica em Dublin para a Cimeira Internacional de IA.
Os principais executivos de tecnologia de algumas das empresas ligadas aos recentes hacks de segurança estão entre os que falarão na conferência.
Estes incluem Sarah Freer, Diretora Financeira da OpenAI; Demis Hassabis, cofundador e presidente da DeepMind do Google; Diretor de Assuntos Globais da Mater, Joel Kaplan; e o chefe de start-ups internacionais da Anthropic, Guillaume Princen.
Será a primeira aparição pública de alto nível da ex-comissária da UE, Mairead McGuinness, desde que se retirou da corrida presidencial do ano passado devido a doença.
O antigo eurodeputado está entre os escolhidos para presidir aos painéis de discussão da AI Summit.
