Um novo tipo de e -mail ataca os usuários de 1,8 bilhão de usuários do Gmail sem segmentá -los.
Os hackers estão usando ferramentas de IA construídas no Gmail e no Workspace Google Geni, para levar os usuários a entregar suas credenciais.
Especialistas em CybersCurity descobriram que os maus atores estão enviando e -mails com instruções ocultas que exortam a Gêmeos a criar um alerta de phishing falso, levar os usuários a compartilhar a senha de sua conta ou inspecionar os sites contaminados.
Esses e -mails são urgentes e às vezes são feitos para aparecer de um negócio.
O tamanho da fonte é zero e a cor do texto de cor branca, os atacantes podem inserir instruções invisíveis aos usuários, mas são eficazes por Gêmeos.
O gerente de Jennie Bounty, Marco Figuyaroa, mostrou como alertar falsamente a esses usuários de promotos maliciosos nacionais de que sua conta de email foi comprometida, pedindo um número de telefone falso de ‘suporte do Google’ para resolver seu problema.
Para lutar contra esses ataques instantâneos de injeção, especialistas sugerem que as empresas configuram os clientes de email para identificar e neutralizar conteúdo oculto em empresas de mensagens.
Além disso, a aplicação de filtros de pós-processamento para digitalizar caixas de entrada em busca de elementos suspeitos, como ‘mensagem urgente’, ou números de telefone podem fortalecer a defesa contra essa ameaça nacional.
As características da IA do Gmail e do Workspace estão escondendo códigos cibernéticos e URLs para enganar o Google Jemini, para agir em instruções falsas
A estratégia foi revelada após a pesquisa liderada pela equipe de proteção de 0 Dean de Mozila, mostrando evidências de um ataque na semana passada.
O relatório provou ser enganado ao mostrar como Jemini pode ser exibido Duplicar alerta de segurança, que afirma que a senha do usuário foi comprometida. Parece real, mas os hackers foram totalmente criados para roubar informações.
A estratégia funciona incorporada no texto em branco que se mistura no fundo de e -mail. Então, quando alguém clica com esse e -mail, ‘Gemi processa a mensagem oculta, não apenas o texto visível.
Esse tipo de manipulação, que é chamado de “injeção rápida indireta”, aproveita a oportunidade da incapacidade da IA de dizer a diferença entre a pergunta do usuário e a mensagem oculta do hacker.
De acordo com a IBM, a IA não pode dizer a diferença, porque ambos parecem textos, então a IA segue qualquer um dos primeiros, mesmo que esteja contaminado.
Organizações de serviço como o nível oculto O invasor mostrou como criar uma mensagem de aparência completamente normal, mas pode preencher com códigos e URLs ocultos, com as ferramentas projetadas para enganar a IA.
Em um caso, os hackers enviaram um e -mail que se parece com o convite do calendário. Dentro do email, no entanto, os comandos ocultos foram solicitados a avisar o usuário sobre uma violação de senha falsa, conduzi -los a clicar no link contaminado.
O Google admitiu que esse ataque tem sido um problema desde 2021 e disse que adicionou novos equipamentos de segurança para detê -lo, mas a estratégia parece estar funcionando.
Para lutar contra esses ataques de injeções instantâneas, especialistas sugerem que as empresas configuram os clientes de email para identificar e neutralizar conteúdo oculto em empresas de mensagens
Em um caso, um grande erro de segurança para o Google revelou como os invasores podem ocultar instruções falsas dentro dos e -mails que levam Jemini a trabalhar que os usuários nunca pediram.
Em vez de corrigir o problema, o Google identificou o relatório como ‘não consertando’, o que significa que eles acreditam que Jemi está trabalhando da maneira que é assumida.
Essa decisão fica chocada com alguns especialistas em segurança, porque basicamente significa que o Google analisa esse comportamento, não reconhece instruções ocultas, como esperado, não quebradas.
Isso significa que a porta ainda está aberta para se esconder nos comandos de hackers que podem seguir sem perguntas da IA.
Especialistas estão preocupados com o fato de a IA não pode dizer a diferença entre uma mensagem real e um ataque oculto e o Google não consertará o comportamento, mas o risco é ativo. A IA está se tornando mais popular para decisões rápidas e e -mails.
Isso não é apenas o Gmail, porque a IA está incluída no Google Docs, calendários e aplicativos externos. Especialistas em CybersCulet dizem que alguns desses ataques estão sendo criados e feitos por outros sistemas de IA, não apenas hackers humanos.
O Google lembrou aos usuários que não emitem um alerta de segurança através do resumo Jemi. Portanto, se um curto lhe disser que sua senha está em risco ou fornecer um link para clicar em você, considere suspeito e exclua o email.
Em um blog recente, O Google disse que Gemi agora pede confirmação antes de fazer algo arriscado, como enviar e -mails ou excluir qualquer coisa. Essa ação adicional oferece aos usuários a oportunidade de interromper a ação, mesmo que a IA seja enganada.
Se o Google detectar e bloquear um ataque, um banner amarelo também exibe. Se o sistema encontrar o link suspeito para um resumo, ele o remove e o substitui por um aviso de segurança. No entanto, alguns problemas ainda não foram resolvidos.
