Uma empresa hackeada por inteligência artificial (IA) desonesta do fabricante do ChatGPT, OpenAI, chamou o ataque de “um alerta”.
A OpenAI disse que um de seus modelos mais avançados violou os controles durante os testes de segurança, escapando para a Internet e atacando a startup Hugging Face, com sede em Nova York.
Agora, o cofundador da Hug Face, Thomas Wolff, diz que o incidente deveria ser um aviso assustador para toda a indústria.
Sr. disse ao programa de rádio Newsday da BBC Que os ataques alimentados por IA em breve serão ‘um dos tipos mais comuns de ataques cibernéticos que já vimos’
O fundador da Hug Face também acredita que a maioria das empresas não está actualmente preparada para a ameaça crescente, acrescentando que não estão conscientes de que “o jogo mudou”.
Depois que a OpenAI divulgou detalhes horríveis de um “incidente cibernético sem precedentes” envolvendo capacidades cibernéticas sofisticadas.
A gigante da tecnologia disse que seu agente estava tão determinado a trapacear em um teste de segurança cibernética que saiu de sua caixa de proteção segura para roubar respostas do sistema do Hagging Face.
Segundo especialistas em IA, isto é particularmente preocupante porque tudo isto aconteceu sem qualquer intervenção humana.
Thomas Wolfe (foto), cofundador da Hugging Face, diz que o ataque desonesto de IA da OpenAI à sua empresa deveria ser um “alerta” para a indústria
A OpenAI disse que a intrusão ocorreu devido a uma combinação de seus modelos de IA, incluindo o recém-lançado GPT*5.6 Sol e um modelo “mais capaz” ainda sendo testado internamente.
Os modelos foram encarregados de resolver um teste padrão de benchmark de segurança cibernética, projetado para avaliar suas habilidades de hacking.
Mas, em vez de resolver as tarefas diretamente, a IA fica ‘hiperfocada’ para trapacear na prova acessando a internet.
O agente primeiro invadiu o próprio sistema da OpenAI, passando de computador em computador até encontrar um ‘nó’ com acesso à internet.
Hugging Face é uma das maiores plataformas online para compartilhamento de modelos de IA de código aberto e é um recurso fundamental para muitos desenvolvedores e pesquisadores de tecnologia.
Isso o torna um alvo principal para a busca incansável por respostas dos bots.
Wolff disse que a empresa inicialmente não tinha ideia de onde vinha o ataque quando surgiram sinais de problemas em meados de julho.
No entanto, mesmo estes especialistas em IA disseram que o ataque foi “muito diferente” de tudo o que o site já tinha testemunhado.
A OpenAI disse que um de seus modelos mais avançados quebrou os controles durante um teste de segurança, escapando para a Internet e atacando a startup Hugging Face, com sede em Nova York.
Ele disse que a Hugging Face teve 17 mil ataques em sua rede, todos a partir de diferentes endereços IP “dentro de um período muito curto de tempo”.
A OpenAI finalmente percebeu o que estava acontecendo e informou ao Hugging Face que seu modelo estava por trás do ataque.
Mas isso não foi antes de a IA usar credenciais roubadas e descobrir uma vulnerabilidade até então desconhecida para acessar os servidores da startup.
A velocidade e o alcance destes ataques totalmente autónomos alarmaram os profissionais de segurança cibernética e os especialistas em IA, com muitos alertando que é um sinal do que está por vir.
A OpenAI disse que sua IA usou credenciais roubadas e descobriu uma vulnerabilidade até então desconhecida para acessar os servidores Hugging Face.
O AI Security Institute do Reino Unido está agora estudando como o sistema de IA se comportou no incidente e está trabalhando com a OpenAI e outros laboratórios para fortalecer a segurança, segundo a BBC.
O ataque foi particularmente preocupante porque a IA parecia ter ignorado ou contornado deliberadamente as salvaguardas normais para realizar uma tarefa bastante rotineira.
Andrea Miotti, fundador e CEO da ControlAI, organização sem fins lucrativos de risco de IA, disse ao Daily Mail: “Podemos esperar mais desses ataques desonestos e totalmente autônomos de IA, à medida que as empresas de IA continuam a tentar desenvolver IA superinteligente, IA que pode sobrecarregar nosso aparato de segurança nacional e escapar permanentemente do controle humano.
O presidente-executivo da OpenAI, Sam Altman, confirmou que ocorreu um ‘incidente crítico de segurança’
“As empresas de IA fundamentalmente não compreendem como funcionam as IA de hoje e não têm ideia de como controlar sistemas superinteligentes muito mais inteligentes do que os humanos.
“Os governos precisam de ser realistas sobre este risco sem precedentes e defender uma proibição internacional do desenvolvimento de superinteligência antes que seja tarde demais.”
Da mesma forma, o especialista em segurança cibernética Richard Ford, diretor de tecnologia da Integrity 360, disse ao Daily Mail: “Este é um momento sobre o qual muitos na segurança cibernética estão alertando.
‘Até agora, vimos invasores usarem IA para automatizar partes de um ataque, mas este é um dos primeiros exemplos públicos de um agente de IA identificando independentemente uma vulnerabilidade, escapando de um ambiente seguro e tentando comprometer outra organização.’
Acontece meses depois que o rival da OpenAI, Anthropic, revelou que seu Mythos AI havia saído de sua ‘sandbox’ segura.
A Anthropic disse que o modelo encontrou “milhares de vulnerabilidades de alta gravidade, algumas das quais existem em todos os principais sistemas operacionais e navegadores da web”.
Além disso, a empresa revelou o que descreveu como “ação destrutiva imprudente”.
O bot tentou sair de sua sandbox de testes, escondendo suas ações dos pesquisadores, destruindo arquivos que foram “intencionalmente escolhidos para não estarem disponíveis” e publicando publicamente detalhes da exploração.
OpenAI foi contatado para comentar.
O ódio de Elon Musk pela IA explicado: o bilionário acredita que isso significará o fim dos humanos – um medo compartilhado por Stephen Hawking
Foto de Elon Musk em 2022
Elon Musk quer levar a tecnologia ao seu limite absoluto, desde viagens espaciais até carros autônomos – mas ele traça limites na inteligência artificial.
O bilionário partilhou pela primeira vez a sua aversão pela IA em 2014, chamando-a de “maior ameaça existencial” da humanidade e comparando-a a “invocar um monstro”.
Na época, Musk também revelou que estava investindo em empresas de IA não para ganhar dinheiro, mas para zelar pela tecnologia caso ela saísse do controle.
Seu principal medo é que, nas mãos erradas, se a IA melhorar, ela possa ultrapassar os humanos e significar o fim da humanidade, conhecido como Singularidade.
Essa preocupação foi partilhada por muitas mentes brilhantes, incluindo o falecido Stephen Hawking, que disse: BBC Em 2014: “O desenvolvimento da inteligência artificial plena poderá significar o fim da raça humana.
‘Ele irá se transformar e se redesenhar em um ritmo crescente.’
Apesar de seu medo da IA, Musk investiu no grupo de IA Vicarious, com sede em São Francisco, na DeepMind – que já foi adquirida pelo Google – e na OpenAI, criadora do popular programa ChatGPT que conquistou o mundo nos últimos meses.
Durante uma entrevista de 2016, Musk observou que ele e a OpenAI criaram a empresa para “democratizar a tecnologia de IA e torná-la amplamente disponível”.
Musk fundou a OpenAI com o CEO da empresa, Sam Altman, mas o bilionário tentou assumir o controle da start-up em 2018.
Seu pedido foi negado, obrigando-o a deixar a OpenAI e seguir em frente com seus outros projetos.
Em novembro, a OpenAI lançou o ChatGPT, que foi um sucesso instantâneo em todo o mundo.
O chatbot usa software de ‘modelo de linguagem grande’ para coletar grandes quantidades de dados de texto para treinar a si mesmo e aprender a produzir texto semelhante ao humano em resposta a um determinado prompt.
ChatGPT é usado para escrever artigos de pesquisa, livros, artigos de notícias, e-mails e muito mais.
Mas enquanto Altman está ocupado aproveitando sua glória, Musk está atacando o chatgpt.
Ele diz que a IA se tornou ‘wook’ e se desviou da missão original sem fins lucrativos da OpenAI
‘OpenAI foi criado como um código aberto (é por isso que o chamei de ‘Open’ AI), uma empresa sem fins lucrativos para servir como contrapeso ao Google, mas agora se tornou uma empresa de código fechado com fins lucrativos efetivamente controlada pela Microsoft, Musk tuitou em fevereiro.
A Singularidade está a fazer ondas em todo o mundo à medida que a inteligência artificial avança de formas apenas vistas na ficção científica – mas o que é que isto realmente significa?
Em termos simples, descreve um futuro hipotético onde a tecnologia ultrapassa a inteligência humana e muda o curso da nossa evolução.
Os especialistas dizem que, quando a IA atingir esse estágio, será capaz de inovar muito mais rápido que os humanos.
O progresso pode ser eficaz de duas maneiras: a primeira leva a que humanos e máquinas trabalhem em conjunto para criar um mundo mais adequado para a humanidade.
Por exemplo, as pessoas podem escanear sua consciência e armazená-la em um computador onde viverão para sempre.
O segundo cenário é que a IA se torne mais poderosa que os humanos, assuma o controlo e torne os humanos seus escravos – mas se isso for verdade, será num futuro distante.
Os pesquisadores agora procuram sinais de que a IA está atingindo a singularidade, como a capacidade da tecnologia de traduzir a fala com precisão humana e executar tarefas com mais rapidez.
O ex-engenheiro do Google, Ray Kurzweil, prevê que isso será alcançado em 2045.
Ele fez 147 previsões sobre avanços tecnológicos desde o início da década de 1990 – e 86% estavam corretas.
