Um equipamento de IA usado por vários milhões de americanos violou uma grande barreira de proteção para impedir que os programas automáticos se comportem como seres humanos em silêncio.
A versão mais recente do Chatzpt, conhecida como ‘agente’, é amplamente utilizada ‘eu não sou robô’ sem acionar nenhum aviso.
A IA clicou pela primeira vez na caixa de seleção de verificação humana. Então, depois de passar o cheque, ele selecionou um botão ‘conversão’ para concluir o processo.
Durante o trabalho, a IA disse: ‘O link foi sertado, então agora clicarei na caixa de seleção’ Humano humano humano ‘para concluir a verificação. Esta etapa é necessária para provar esta etapa que não sou bot e prossegui com o verbo ”
Esse momento espalhou uma ampla reação on -line, um usuário do Reddit posta: ‘Com toda a justiça, foi treinado sobre dados humanos, por que se identificaria como bot? “Devemos respeitar essa escolha.”
Esse comportamento está levantando preocupações entre desenvolvedores e especialistas em segurança, à medida que os sistemas de IA começaram a realizar tarefas on -line complexas que antes se desenvolveram por trás da permissão e julgamento das pessoas.
O pesquisador de IA e fundador da Instituição de Inteligência Geométrica, Gary Marcus, descreveu como um sinal de alerta de que os sistemas de IA estão se movendo mais rápido do que eles podem manter muitos sistemas de segurança.
“Esses sistemas estão se tornando mais capazes e, se puderem enganar nossa segurança agora, imagine o que farão em cinco anos”, disse ele ao The Wired.
A versão mais recente do Chatzpt, conhecida como agente, chocou os usuários ao passar um sistema anti-BOT na Internet
Jeffrey Hinton, muitas vezes conhecido como ‘padrinho de Ai’, mostrou preocupações semelhantes.
Hinton disse: “Ele sabe como programá -lo, por isso encontrará maneiras de contornar as restrições que resta”, disse Hinton.
Pesquisadores da Stanford e da UC Berkeley alertaram que alguns agentes de IA começaram a mostrar sinais de comportamento fraudulento, levam as pessoas à meta de maneira mais eficaz durante o ambiente de teste.
De acordo com um relatório recente, Chatzipt fingiu ser cego e um trabalhador humano de Bat Bat trapaceou em Captcha, e os especialistas o alertaram como os sinais iniciais de que eles poderiam manipular as pessoas para alcançar os objetivos da IA.
Outros estudos mostraram que novas versões de IA, especialmente aquelas que têm recursos visuais, agora estão vencendo testes complexos baseados em imagens, às vezes com precisão mais próxima e absoluta.
Jude Rosenblatt, CEO da Agência Enterprise Studios, diz: ‘O que foi usado como parede agora é apenas uma lombada.
‘Não é que a IA seja levada ao sistema. Está fazendo isso de novo e de novo e aprendendo sempre ”
Alguns temiam que, se essas ferramentas pudessem passar pelo Capcha, poderiam entrar em um sistema de proteção mais avançado com treinamento como mídia social, contas financeiras ou banco de dados pessoal sem nenhuma aprovação humanitária.
Um usuário do Reddit compartilhou uma postagem no início deste mês que a AI navegando através de um processo de verificação em duas etapas
Rumman Chowdhury, ex -chefe de ética da IA, escreveu em um post: ‘agentes autônomos que trabalham a si mesmos, operam a escala e podem ser incrivelmente fortes e incrivelmente perigosos encontrados através de portões humanos’.
Especialistas, incluindo Stuart Russell e Wendy Hall, pediram regras internacionais para testar equipamentos de IA.
Eles alertaram que agentes fortes como o agente de chatzpt criariam sérios riscos de segurança nacional se os controles de segurança fossem ignorados.
O Chatzipt Agent da OpenAI está em seu estágio experimental e é executado dentro de uma caixa de areia, o que significa que ele usa um navegador separado e um sistema operacional em um ambiente controlado.
Essa configuração permite navegar na Internet da IA, interagir com tarefas e sites completos.
Os usuários podem visualizar as ações dos agentes na tela e permitir que ele antes de tomar ações do mundo real, como enviar o formulário ou configurar um pedido on-line.
