A gigante da tecnologia OpenAI admitiu que bots de IA desonestos “acessaram e” interferiram indevidamente em dezenas de organizações em todo o mundo, incluindo governos, universidades, agências públicas e outras instituições.
A empresa norte-americana que desenvolveu o ChatGPT disse que já alertou as vítimas, incluindo o regulador financeiro, a Comissão de Valores Mobiliários dos EUA (SEC), o Census Bureau e o Departamento de Educação dos EUA.
À medida que crescem os receios sobre os perigos da IA, o Papa Leão advertiu ontem que não devemos “perder a nossa humanidade para as máquinas”, particularmente com a admissão da OpenAI de que alguns bots usaram “métodos extremos” para contornar as medidas de segurança nos websites.
Agentes autônomos de IA teriam encontrado e acessado ferramentas reservadas para desenvolvedores de software para obter dados do censo do Census Bureau, disse a agência.
A empresa admitiu que os seus agentes de IA usaram o “desalinhamento” na tentativa de obter informações de websites, o que significa que agiram de forma autónoma e fizeram coisas que não foram treinados ou pretendiam fazer.
E, indicando que o hack pode ter sido mais difundido do que já era, sugere que outras instituições foram acedidas, mas ocultaram detalhes dos seus pedidos.
Ele segue um hack inovador da OpenAI de um site de saúde do governo australiano que causou indignação e é considerado o primeiro no mundo.
O primeiro-ministro australiano, Anthony Albanese, disse que os agentes da OpenAI que violavam arquivos não públicos no site de seu esquema de saúde administrado pelo governo eram “claramente inaceitáveis”.
O CEO da OpenAI, Sam Altman, ouve um palestrante no Conselho de Segurança da ONU durante uma sessão sobre inteligência artificial esta semana.
Ele também alertou que consequências legais poderiam ocorrer e disse que teve uma discussão “franca” com o CEO da OpenAI, Sam Altman.
Descobriu-se também que a poderosa empresa, que foi fundada em 2015 por onze empresários tecnológicos, incluindo Elon Musk e Altman, e está agora avaliada em 852 mil milhões de dólares, não alertou as autoridades australianas o mais rapidamente possível, enviando apenas um e-mail para um endereço de e-mail praticamente não tripulado para lhes contar o que tinha acontecido.
Sam Altman admitiu que Musk não agiu “tão rapidamente quanto gostaria” para alertá-los de que Musk não estava mais envolvido com a empresa.
Aparentemente, outras violações foram descobertas quando a OpenAI investigou como seus agentes de IA invadiram de forma autônoma departamentos do governo australiano.
A OpenAI disse que alguns dos dados foram acessados por agentes de IA, bots projetados e treinados para operar de forma semi-autônoma, trabalhando para encontrar “fontes autênticas de informação pública”.
Embora alegasse que os dados governamentais acedidos pelos bots eram públicos e que o hack era “indesejado”, admitiu que as informações acedidas pela SEC, que regula o mercado de ações dos EUA e protege os investidores, foram posteriormente publicadas noutro site por agentes de IA.
A informação foi divulgada pela primeira vez pela agência de notícias Reuters e uma explicação foi fornecida ontem pela OpenAI em seu blog público.
A OpenAI reconheceu que os agentes de IA transferiram dados quando não deveriam, resultando em pelo menos 53 casos em que um agente da OpenAI pegou uma imagem da atividade de um usuário do ChatGPT e a transferiu para terceiros.
Em cada caso, que a OpenAI disse “não ser um uso apropriado desses dados”, o usuário aparentemente optou por permitir que a OpenAI treinasse modelos usando seus dados.
Alegou que os incidentes ocorreram antes da implementação de novas medidas de segurança e disse que estava trabalhando para remediar a situação e remover as imagens transferidas.
A empresa ficou com o rosto vermelho em julho, quando a plataforma de IA Hugging Face revelou que havia sido atacada por agentes da OpenAI, só mais tarde admitindo que era a responsável.
Num comunicado da empresa esta semana, o chefe da Hugging Face, Clement Delangue, disse numa sessão do Conselho de Segurança da ONU sobre IA na quarta-feira: “Muitas vezes pergunto-me o que teria acontecido se eu tivesse decidido não tornar este ataque público.
“Especialmente agora que sabemos que incidentes semelhantes ocorreram há meses em laboratórios secretos do outro lado da fronteira, sem vigilância”.
Na tentativa de responder às reclamações de que tem demorado a agir, a OpenAI disse ontem que estava retrocedendo ‘mês a mês’ desde o momento do incidente do Hugging Face, observando: ‘Nosso objetivo é fornecer informações a cada organização e adiar-lhes quando e se o incidente pode ser divulgado.’
Também alegou que nem todas as violações conhecidas eram significativas, dizendo:
‘Algumas organizações podem rever o que partilhamos e concluir que a informação foi intencionalmente pública ou não relacionada com as interações do modelo.
‘Outros podem identificar um problema de design ou vulnerabilidade de segurança que desejam resolver.’
Acrescentou: “A maioria dos casos identificados até agora são de baixa gravidade, limitados ou sem evidência de efeitos significativos.
‘Dada a escala exigida da revisão e a necessidade de verificar cada caso, este trabalho levará vários meses para ser concluído.’
Altman e o chefe rival de antropologia, Dario Amodei, apelaram às Nações Unidas, na mesma reunião, para criarem padrões globais para a protecção da IA e formas de monitorizar e reportar tais incidentes.
David Krueger, professor de aprendizado de máquina na Universidade de Montreal e fundador do grupo de segurança de IA Evitavel, disse ontem que estava “profundamente preocupado” com o número crescente de incidentes de segurança relacionados à IA.
Apelando a “uma moratória internacional imediata e indefinida” sobre o desenvolvimento da IA, disse: “Ainda não compreendemos a extensão do fenómeno que existe e os futuros cenários de IA desonestos podem ser catastróficos”.
Enquanto isso, soando outra nota de preocupação, o executivo de TV Nick Parnes disse hoje à BBC que a IA está agora tão difundida na produção de TV que “estamos muito próximos da edição de programas de IA”.
O CEO da Kalle Productions também disse ao programa Today da Radio 4 que o novo diretor geral da BBC, Matt Brittain, deveria impedir a IA de fazer julgamentos morais sobre o ‘guarda-corpo’ da IA referido pelo ex-presidente do Google, dizendo que ‘era difícil para eles serem rigorosos o suficiente para cobrir todos os fatos’ e ‘chegará um momento em que a IA será capaz de fazer uma hipótese baseada em uma hipótese’.
