A polícia não deveria ser autorizada a usar a tecnologia devido ao seu “preconceito racial” e às falhas “terríveis” no software, depois de um homem inocente ter sido preso depois de um sistema de IA o ter identificado erroneamente como um ladrão.
Alvi Chaudhary, 26 anos, estava trabalhando na casa que divide com seus pais em Southampton, no dia 7 de janeiro, quando os policiais o prenderam e mantiveram sob custódia por 10 horas.
O sistema de reconhecimento facial automático da Polícia de Thames Valley (TVP) combinou uma foto de seu rosto – tirada depois que ele foi falsamente preso há cinco anos – com um clipe de um ladrão que roubou £ 3.000 e algumas joias de um mosteiro budista de Milton Keynes há um mês.
Ele acabou sendo libertado sem qualquer ação às 2 da manhã, depois que a polícia percebeu que ele não era o homem no clipe do CCTV.
Chaudhary, um engenheiro de software, está agora processando a polícia e diz que quer dinheiro e um pedido de desculpas pela terrível provação.
Ele disse ao Daily Mail que culpou o software – que retornava correspondências falsas em 4% das vezes entre rostos asiáticos – e os detetives que analisavam os clipes.
Chowdhury disse: “Nenhuma empresa de tecnologia poderá produzir um sistema com uma taxa de falha de um em 25. É horrível. Está cheio de bugs.
“Eles disseram que seus oficiais o revisaram visualmente. É ainda mais preocupante porque é provável que haja discriminação racial.
‘Você provavelmente já viu dois caras morenos, embora tenham características completamente diferentes, e disse: ‘Sim, eles parecem próximos o suficiente. Vamos prendê-los.’
De acordo com Chowdhury, imagens de CCTV do crime mostraram um jovem que parecia diferente em todos os aspectos, exceto no cabelo encaracolado que compartilhavam.
A TVP informou que outro homem chamado Eduard Zlatinianu (23) foi preso naquele dia. crime E Chowdhury foi condenado no Tribunal da Coroa de Aylesbury apenas cinco dias após a sua falsa detenção.
Um segundo criminoso que ajudou a roubar itens de um fundo de caridade para as vítimas das enchentes no Sri Lanka em Bihar permanece não identificado.
A força confirmou que a prisão do Sr. Chowdhury foi feita “com base na avaliação visual dos próprios agentes investigadores” após a correspondência automática inicial.
“Eles viram que eu era compatível, então poderiam ter feito alguma pesquisa, algumas informações básicas sobre mim e não apenas olhar duas fotos e vir me prender”, acrescentou Chaudhary.
‘Se eles estivessem fazendo algum trabalho de detetive de verdade, teriam passado direto por mim, embora seu sistema de reconhecimento facial me identificasse como suspeito.’
Alvi Chaudhary está processando a polícia depois que o reconhecimento facial o confundiu com um ladrão em uma cidade a 160 quilômetros de distância e diz que detetives “preguiçosos” não foram os culpados por sua prisão.
Depois de ser preso às 16h por policiais da Polícia de Hampshire – trabalhando na prisão em nome da TVP, o engenheiro de software foi finalmente entrevistado à meia-noite.
Mas depois de apenas 10 minutos de interrogatório, os detetives ficaram convencidos de que ele não era de fato o homem capturado no clipe do CCTV.
“Quando fui libertado, a polícia estava a rir porque viu as imagens e eram claramente duas pessoas diferentes”, disse Chowdhury.
‘O agente da TVP admitiu-me que, mesmo antes de me entrevistar, sabia que eu não era suspeito porque tinha visto a fotografia da minha custódia e tinha visto imagens do suspeito e soube imediatamente.’
A foto facial do engenheiro de software estava no sistema após uma prisão falsa anterior em 2021, quando era estudante em Portsmouth.
Naquela ocasião, ela e seu grupo de quatro mulheres e quatro homens foram atacados por um grupo de oito a 10 homens enquanto pegavam comida depois de uma noitada.
Quando o seu amigo ficou lá com os dentes e o Sr. Chowdhury deixou “um corte na cabeça”, o grupo ficou chocado ao descobrir que a polícia vinha não para ajudá-los – mas para prendê-los.
Após 16 a 17 horas sob custódia, ele foi interrogado e preso quando a polícia soube que outro casal havia sido atacado na mesma noite.
Chaudhary foi finalmente inocentado quando os policiais viram o CCTV de ambos os ataques.
Eles disseram que suas informações e DNA seriam excluídos do sistema, mas seu rosto ainda estava no software quando ele foi preso em janeiro.
“Agora que eles têm outra foto minha, teoricamente, com esse sistema de reconhecimento facial, eles vão me encontrar duas vezes mais”, acrescentou. ‘Eu poderia ter sido preso.’
O software de reconhecimento facial está longe de ser infalível e uma pesquisa do Ministério do Interior revelou em dezembro que as correspondências com rostos negros eram falsos positivos em 5,5% das vezes. Os rostos brancos correspondem a valores muito superiores a 0,04 por cento, o que dá um resultado falso positivo.
Os sistemas são geralmente aprovados por forças policiais individuais, mas o Ministério do Interior pressionou pela sua implementação e recolheu o algoritmo alemão usado para rastrear cerca de 19 milhões de fotografias faciais numa base de dados nacional.
Eles realizam cerca de 25 mil buscas por mês e, segundo o Conselho Nacional de Chefes de Polícia, as correspondências deveriam ser consideradas inteligência e não verdadeiras.
E Chaudhary apelou ao governo para que assuma a responsabilidade pelas deficiências do sistema e reveja a sua utilização.
Ele disse: ‘Eles realmente precisam ver isso. Alguém deve ser responsabilizado e deve haver consequências, novas leis e legislação devem ser aplicadas para proteger os membros do público.
«É necessária legislação sobre a forma como os sistemas de reconhecimento facial de IA são utilizados. A força policial precisa ser investigada e é preciso haver mais profissionalismo na forma como conduzem o seu trabalho.’
Chaudhary lembrou como não lhe foi permitido recolher o seu casaco enquanto os agentes o algemavam e revistavam a propriedade dos seus pais.
‘Eu apenas disse: ‘Olá oficial, não estou com problemas, estou?’ De brincadeira”, acrescentou.
‘Nunca fui a Milton Keynes, estava no trabalho naquele dia, estava em reuniões, conversando com clientes e minha equipe interna, indo ao Tesco na hora do almoço, fazendo transações bancárias em Southampton.’
Chowdhury estava preocupado com os policiais tentando prestar depoimento enquanto esperava do lado de fora e perguntou se poderia observá-los revistando seu quarto.
Uma vez na delegacia, o engenheiro de software inicialmente se recusou a tirar uma foto de custódia, devido à sua frustração em ter sua foto facial anterior colocada no sistema, antes de mais tarde concordar com isso.
Ele se lembrou de como foi mantido em uma cela escura e cheia de ecos – silenciosa, exceto pelo som de água corrente.
Warren King foi expulso de seu Sainsbury’s local pela equipe no mês passado, depois que o reconhecimento facial identificou corretamente que um criminoso estava lá dentro – mas a equipe expulsou o homem errado.
Apesar de ter sido inocentado logo após o inquérito, Chowdhury está preocupado que a reação à sua última detenção falsa possa causar-lhe conflitos no trabalho.
O engenheiro de software tem autorizações de segurança do Home Office e da Met Police e teve que declarar sua provação.
“Parece muito suspeito agora”, disse ele.
Os Comissários da Polícia e do Crime alertaram para o “preconceito inerente” e insistiram que “não há provas de efeitos adversos em nenhum caso individual, isto é mais por sorte do que intencional”.
Um porta-voz da TVP disse anteriormente: ‘Embora peçamos desculpas pela angústia causada ao queixoso neste caso, a sua detenção baseou-se na avaliação visual dos próprios agentes investigadores de que a pessoa correspondia ao suspeito nas imagens CCTV após uma correspondência de reconhecimento facial anterior, e não foi influenciada pelo perfil racial.
“É certo que a tecnologia de reconhecimento facial retrospetivo forneceu inicialmente informações, mas não determinou a detenção.
«Mesmo que a pessoa seja excluída da investigação na investigação subsequente, isso não torna a detenção ilegal.
‘Continuamos a usar ferramentas de policiamento de forma responsável enquanto nos esforçamos para melhorar e construir confiança em nossas comunidades.’
A Polícia de Hampshire anteriormente se recusou a comentar.
O advogado de Chowdhury, Ian Gould, do DPP Law, disse: “Isto não é policiamento por consentimento e não é policiamento por bom senso.
‘Neste caso, a polícia está jogando na loteria da IA com vidas humanas e Alvi é preso injustamente; Agora a polícia tem que pagar o preço.
Reagindo à provação de Chowdhury, a Dra. Mary-Ann Stephenson, presidente da Comissão para a Igualdade e os Direitos Humanos, afirmou: “Quando utilizados de uma forma que respeite e proteja os direitos das pessoas, o reconhecimento facial e tecnologias semelhantes podem ajudar a combater crimes graves e a manter as pessoas mais seguras.
‘No entanto, como vimos, existe o perigo de que estas tecnologias possam ser imprecisas e identificar falsamente as pessoas
«Os dados mostram que existe disparidade racial na identificação de falsos positivos, o que leva a violações dos direitos humanos e ao sofrimento das vítimas.
«Isto significa que precisamos de regras claras, para garantir que a tecnologia de reconhecimento facial só seja utilizada quando for necessária, proporcionada e limitada por salvaguardas adequadas.
«Para garantir que o novo quadro seja devidamente seguido, deverá ser criado um novo órgão independente, com poderes adequados de aplicação e supervisão para garantir o cumprimento.»
Um cliente inocente da Sainsbury foi expulso de sua loja local pela equipe no mês passado, depois que um software de reconhecimento facial identificou corretamente que um criminoso estava lá dentro – mas a equipe expulsou o homem errado.
Warren estava na filial Elephant & Castle do supermercado Raja quando dois funcionários e um segurança o escoltaram repentinamente para fora, no que ele descreveu como “o momento mais humilhante de sua vida”.
Quando o homem de 42 anos perguntou por quê, apontou para uma placa que mostrava que a loja usava tecnologia de reconhecimento facial.
Na verdade, eles o confundiram com alguém que estava no sistema de furto e entrou na loja ao mesmo tempo.
Em janeiro, a Polícia de Gales do Sul multou um homem negro que foi identificado como possível combinação com um suspeito suspeito, apesar de estar em 32º lugar em uma lista de correspondências sugeridas usando tecnologia de reconhecimento facial.
