A Sainsbury’s parou de usar tecnologia de reconhecimento facial ao vivo em uma de suas filiais depois que um cliente foi erroneamente identificado como ladrão de lojas e solicitado a sair.
Matt Arnold, 46 anos, foi parado por gerentes em um caixa de autoatendimento depois que câmeras de IA o vincularam a um incidente “no início da semana”.
Ele estava comprando suprimentos para um evento de comédia stand-up e, quando acenou para um atendente aprovar a bebida, examinou seus itens com seu cartão de fidelidade Nectar.
Para sua surpresa, dois gerentes chegaram e ela foi escoltada para fora da loja em East Dulwich, sudeste de Londres.
Descrevendo a experiência como um “terrível vislumbre do futuro”, Arnold, um promotor de comédia, alertou que a tecnologia corre o risco de alienar os consumidores.
“A equipe disse que fui detectado pela IA e a câmera me sinalizou”, disse ele à BBC.
‘O comprador não anda por aí com tantas compras, não escaneia, não guarda o cartão Néctar.
‘O que me perturbou foi o que o futuro poderia reservar – as pessoas apenas ouvindo o que as máquinas lhes dizem para fazer, sem pensar nas consequências.’
Uma porta-voz da Sainsbury confirmou que a tecnologia foi pausada na loja de Dulwich enquanto uma investigação era realizada
Quando foi expulso em 6 de agosto, Arnold disse que viu um monitor CCTV exibindo um aviso e um círculo vermelho ao redor de seu rosto.
A sede da Sainsbury o contatou no dia seguinte para se desculpar, dizendo que o incidente foi devido a um “erro humano” e não a uma falha de software.
Não é a primeira vez que um comprador inocente é identificado erroneamente pela equipe da Sainsbury em meio a uma confusão sobre tecnologia.
Warren Raja, da Elephant & Castle, contou como se sentiu um criminoso depois de um incidente “orwelliano” semelhante em janeiro.
Os funcionários abordaram o estrategista de dados em sua loja local, pediram que ele saísse e retiraram suas compras.
Mais tarde, porém, descobriu-se que ele foi confundido com outra pessoa que a IA havia registrado anteriormente como criminosa, que estava na loja ao mesmo tempo.
Esse incidente também foi atribuído a “erro humano” pela fabricante de software Sainsbury’s e Facewatch.
Facewatch esteve envolvido em casos semelhantes com outros varejistas, incluindo uma loja Home Bargain em 2024 e uma Cardiff B&M no ano passado.
Arnold disse acreditar que os funcionários estavam lutando para operar o sistema em lojas movimentadas.
“Embora o que aconteceu comigo seja terrível, sinto muito pela equipe”, disse ele.
‘Vai dar errado. Eles não estão sendo equipados para implementar a IA adequadamente”.
Uma porta-voz da Sainsbury confirmou que a tecnologia foi interrompida na loja de Dulwich enquanto se aguarda uma investigação, mas defendeu a sua implementação mais ampla, citando o aumento da violência contra os trabalhadores do retalho.
Eles disseram: ‘Entramos em contato com o Sr. Arnold para pedir desculpas por sua experiência. O incidente foi causado por erro humano, não por tecnologia de reconhecimento facial.
“Os clientes podem ter certeza de que o sistema tem uma taxa de precisão de 99,98% e que cada partida é analisada por um técnico treinado.”
Um porta-voz do FaceWatch disse: ‘Podemos confirmar que nossa tecnologia de reconhecimento facial ao vivo não foi a culpada neste incidente.
«Foi enviado um aviso correto ao retalhista, mas a forma como foi posteriormente tratado e comunicado pelo retalhista ao cliente estava sujeito a erro humano.»
