Um homem inocente descobre a identidade do verdadeiro ladrão depois que um sistema de reconhecimento facial de IA o associa por engano a um ladrão – e eles não se parecem em nada.
Alvi Chaudhary, 26 anos, estava trabalhando na casa que divide com seus pais em Southampton, no dia 7 de janeiro, quando os policiais o prenderam e mantiveram sob custódia por 10 horas.
O sistema automatizado da Polícia de Thames Valley (TVP) adicionou uma foto de seu rosto – tirada depois que ele foi falsamente preso há cinco anos – a um clipe de um ladrão que roubou £ 3.000 e algumas joias de um mosteiro budista de Milton Keynes há um mês.
Ele foi finalmente libertado sem qualquer ação às 2 da manhã, quando a polícia percebeu que ele não era apenas o homem errado – mas completamente diferente do culpado no CCTV.
O verdadeiro ladrão – um homem chamado Eduard Zlatinanu – foi condenado a 21 meses de prisão depois de se declarar culpado de uma acusação de roubo no Tribunal da Coroa de Aylesbury, em 12 de janeiro – apenas cinco dias depois de Chowdhury ter sido preso por engano.
Mas o culpado foi preso em 8 de dezembro – o dia do roubo – levantando questões sobre a razão pela qual o homem inocente foi levado sob custódia mais de quatro semanas depois.
E é difícil imaginar como a dupla poderia ser confundida, com Chowdhury ostentando cabelos cacheados e Zlatinianu, 23 anos, ostentando um estilo preto curto.
O homem preso injustamente tem uma barba um pouco mais espessa, mas um bigode consideravelmente mais fino que o do ladrão, e sobrancelhas maiores.
Alvi Chowdhury, na foto à esquerda, foi preso depois que um sistema de reconhecimento facial de IA o combinou por engano com o ladrão Eduard Zlatinanu
Eles estão a mais de 220 quilômetros de distância com Zlatinanu, que morava em Birmingham no momento do roubo, e com o Sr. Chowdhury, na costa sul.
O roubo viu Zlatinanu e um segundo perpetrador – que permanece não identificado – roubarem uma pilha de dinheiro doado para ajudar as vítimas das recentes enchentes no Sri Lanka por volta das 4h.
Reagindo à foto de seu suposto sósia, Chowdhury disse ao Daily Mail: “Todo mundo me disse a mesma coisa sobre o suspeito (que eles não são parecidos). Ainda não sei como eles nos enganaram.
Ele disse que foi comparado a fotos dos três suspeitos enquanto estavam sob custódia – nenhuma das quais correspondia.
Isso incluía um homem que tinha “cerca de 18 ou 19 anos e não tinha pelos faciais”.
O engenheiro de software foi finalmente entrevistado à meia-noite, depois de ser preso às 16h por oficiais da Polícia de Hampshire – trabalhando em prisões em nome da TVP.
Mas depois de apenas 10 minutos de interrogatório, os detetives ficaram convencidos de que ele não era de fato o homem capturado no clipe do CCTV.
“Quando fui libertado, a polícia estava a rir porque viu as imagens e eram claramente duas pessoas diferentes”, disse Chowdhury.
‘O agente da TVP admitiu-me que, mesmo antes de me entrevistar, sabia que eu não era suspeito porque tinha visto a fotografia da minha custódia e tinha visto imagens do suspeito e soube imediatamente.’
O homem inocente abriu um caso na polícia e diz que quer dinheiro e um pedido de desculpas pela terrível provação.
Ele disse anteriormente que culpou o software – que retornava correspondências falsas em 4% das vezes entre rostos asiáticos – bem como os detetives que analisavam os clipes.
Chowdhury disse: “Nenhuma empresa de tecnologia poderá produzir um sistema com uma taxa de falha de um em 25. É horrível. Está cheio de bugs.
“Eles disseram que seus oficiais o revisaram visualmente. É ainda mais preocupante porque é provável que haja discriminação racial.
‘Você provavelmente já viu dois caras morenos, embora tenham características completamente diferentes, e disse: ‘Sim, eles parecem próximos o suficiente. Vamos prendê-los.’
A TVP confirmou que a prisão do Sr. Chowdhury foi feita “com base na avaliação visual dos próprios agentes investigadores” após a correspondência automática inicial.
“Eles viram que eu era compatível, então poderiam ter feito alguma pesquisa, algumas informações básicas sobre mim e não apenas olhar duas fotos e vir me prender”, acrescentou Chaudhary.
‘Se eles estivessem fazendo algum trabalho de detetive de verdade, teriam passado direto por mim, embora seu sistema de reconhecimento facial me identificasse como suspeito.’
O software de reconhecimento facial está longe de ser infalível e uma investigação do Ministério do Interior revelou em Dezembro que as correspondências com rostos negros são falsos positivos em 5,5% das vezes, muito mais do que os 0,04% de correspondências com rostos brancos que se revelam falsos positivos.
Os sistemas são geralmente aprovados por forças policiais individuais, mas o Ministério do Interior pressionou pela sua implementação e recolheu o algoritmo alemão usado para rastrear cerca de 19 milhões de fotografias faciais numa base de dados nacional.
Eles realizam cerca de 25 mil buscas por mês e, segundo o Conselho Nacional de Chefes de Polícia, as correspondências deveriam ser consideradas inteligência e não verdadeiras.
A foto no rosto do Sr. Chowdhury estava no sistema após uma prisão falsa anterior em 2021, quando ele era estudante em Portsmouth.
Naquela ocasião, ela e seu grupo de quatro mulheres e quatro homens foram atacados por um grupo de oito a 10 homens enquanto pegavam comida depois de uma noitada.
Mas, em vez disso, foram Chaudhary ferido e o seu grupo de amigos que foram interrogados depois de terem sido mantidos sob custódia durante 16 a 17 horas e presos quando a polícia soube que outro casal tinha sido atacado na mesma noite.
Participe da discussão
A polícia deveria poder confiar no reconhecimento facial de IA quando este pode destruir vidas com correspondências falsas?
O ladrão roubou £ 3.000 e algumas joias do Mosteiro Budista de Milton Keynes um mês antes da prisão de Chowdhury.
Quando os policiais visualizaram as câmeras de ambos os ataques, Chaudhary acabou sendo inocentado e a polícia disse que suas informações e DNA seriam removidos do sistema – mas seu rosto ainda estava no software quando ele foi preso em janeiro.
“Agora que eles têm outra foto minha, teoricamente, com esse sistema de reconhecimento facial, eles vão me encontrar duas vezes mais”, acrescentou. ‘Eu poderia ter sido preso.’
O Sr. Chaudhary apelou ao governo para que assuma a responsabilidade pelas deficiências do sistema e reveja a sua utilização.
Ele disse: ‘Eles realmente precisam ver isso. Alguém deve ser responsabilizado e deve haver consequências, novas leis e legislação devem ser aplicadas para proteger os membros do público.
«É necessária legislação sobre a forma como os sistemas de reconhecimento facial de IA são utilizados. A força policial precisa ser investigada e é preciso haver mais profissionalismo na forma como conduzem o seu trabalho.’
Apesar de ter sido inocentado logo após o inquérito, Chowdhury está preocupado que a reação à sua última detenção falsa possa causar-lhe conflitos no trabalho.
O engenheiro de software tem autorizações de segurança do Home Office e da Met Police e teve que declarar sua provação.
“Parece muito suspeito agora”, disse ele.
Os Comissários da Polícia e do Crime alertaram para o “preconceito inerente” e insistiram que “não há provas de efeitos adversos em nenhum caso individual, isto é mais por sorte do que intencional”.
Um porta-voz da TVP disse anteriormente: ‘Embora peçamos desculpas pela angústia causada ao queixoso neste caso, a sua detenção baseou-se na avaliação visual dos próprios agentes investigadores de que a pessoa correspondia ao suspeito nas imagens CCTV após uma correspondência de reconhecimento facial anterior, e não foi influenciada pelo perfil racial.
“É certo que a tecnologia de reconhecimento facial retrospetivo forneceu inicialmente informações, mas não determinou a detenção.
«Mesmo que a pessoa seja excluída da investigação na investigação subsequente, isso não torna a detenção ilegal.
‘Continuamos a usar ferramentas de policiamento de forma responsável enquanto nos esforçamos para melhorar e construir confiança em nossas comunidades.’
A Polícia de Hampshire anteriormente se recusou a comentar.
