Você consegue dizer a diferença entre um rosto real e um gerado pela IA?
De acordo com um novo estudo, pode ser mais difícil do que você pensa.
Pesquisadores da Universidade de Lancaster descobriram que as pessoas não são melhores do que o acaso para distinguir os impostores de IA dos verdadeiros.
Para piorar a situação, as pessoas consideram os rostos gerados pela IA mais confiáveis do que os seus homólogos humanos.
De acordo com os pesquisadores, isso representa um sério risco de que as pessoas possam ser vítimas de fraude de identidade ou pesca de gato impulsionada pela IA.
O autor principal, Alexis McGuire, estudante de doutorado na Universidade de Lancaster, disse ao Daily Mail: “As pessoas muitas vezes consideram os rostos gerados por IA como confiáveis, tornando-os ferramentas particularmente poderosas para fraudes e enganos online.
‘Por exemplo, um golpe baseado em texto pode se tornar mais verossímil se for acompanhado por um rosto em que as pessoas confiem instintivamente.’
Então, quantos desses rostos gerados por IA você consegue distinguir de pessoas reais? Faça o teste abaixo para descobrir.
Os rostos gerados por IA eram bastante fáceis de detectar devido a “artefatos de IA”, como sextos dedos, dentes ou orelhas desalinhados.
No entanto, uma nova pesquisa sugere que este conselho não melhora a capacidade das pessoas de detectar deepfakes, e os trapaceiros da vida real podem facilmente editar ou evitar esses erros.
Da mesma forma, este novo estudo sugere que as gerações recentes de modelos de geração de imagens se tornaram quase impossíveis de serem detectadas pelos humanos.
“Se as pessoas não actualizarem constantemente os seus conhecimentos sobre o que procurar, isso pode dar-lhes uma falsa sensação de segurança e torná-las mais, e não menos, vulneráveis”, diz a Sra. McGuire.
Em seu artigo, publicado Diário da VisãoOs cientistas encarregaram 169 participantes de avaliar uma coleção de 96 rostos reais e falsos.
Os participantes viram um rosto selecionado aleatoriamente e foram solicitados a selecionar se era gerado por IA ou real.
No entanto, em média, as pessoas acertaram apenas 58,4% das vezes – probabilidades pouco melhores do que atirar uma moeda ao ar.
A precisão variou de acordo com a raça e o modelo específico de IA, mas a tendência foi bastante consistente.
Os cientistas descobriram que a maioria das pessoas consegue distinguir entre rostos reais (meio) e rostos gerados por IA (esquerda e direita).
Surpreendentemente, os pesquisadores descobriram que os rostos criados pelo novo “modelo de difusão” de IA eram mais fáceis de identificar do que os modelos mais antigos de “rede adversária generativa” (GAN).
Mas os resultados mais chocantes vieram de um experimento de acompanhamento, no qual foi pedido aos participantes que avaliassem a confiabilidade.
Rostos humanos reais foram consistentemente classificados como os menos confiáveis, pontuando apenas 4,04 em uma escala de um a sete – sendo sete extremamente confiáveis.
As faces GAN excepcionalmente difíceis de detectar foram classificadas como mais confiáveis com uma pontuação de 4,36, enquanto as faces do modelo de difusão foram as mais confiáveis com 4,7.
Não é de surpreender que isso signifique que as pessoas confiam mais nos rostos criados por um modelo ampliado, embora os considerem menos realistas.
Ms McGuire disse: ‘Esta descoberta apresenta um paradoxo e, portanto, levanta a possibilidade de que o realismo e os julgamentos de confiabilidade sejam conduzidos por dois processos mentais diferentes.’
Os pesquisadores sugerem que isso pode ocorrer porque os rostos gerados por IA tendem a se agrupar em torno de rostos humanos “comuns”.
Quando encontramos frequentemente certos tipos de características faciais, nosso cérebro combina esses detalhes para criar uma representação de como um rosto deveria ser.
Qual desses rostos você acha mais confiável? Os cientistas descobriram que os rostos gerados por IA (à esquerda) foram classificados como mais confiáveis do que os rostos reais (à direita).
Novos rostos são avaliados em relação a esse cluster e, quanto mais próximos estiverem da média, mais familiares se sentirão.
Como as IA combinam milhões de pessoas numa mistura média, este processo pode fazê-las parecer mais normais e confiáveis do que uma pessoa real; Mas é improvável que esta seja toda a história.
As IAs criam “rostos suaves e idealizados que parecem particularmente atraentes”, que as pessoas consideram inerentemente atraentes.
Ms McGuire acrescentou: “Eles têm características que as pessoas associam naturalmente à confiança, como serem mais atraentes.
‘A pesquisa mostra há muito tempo que as pessoas muitas vezes consideram as pessoas atraentes mais confiáveis.’
Isto levanta uma séria preocupação de que os rostos gerados pela IA possam tornar-se uma ferramenta perfeita para fraudadores e criminosos que desejam ganhar a confiança de suas vítimas.
Se você quiser participar da pesquisa, a Lancaster University criou uma pesquisa online, disponível neste linkOnde você pode testar sua capacidade de reconhecer rostos de IA.
