Tecnologia de reconhecimento facial por IA provoca onda de processos de pessoas negras após identidades erradas resultarem em prisões

IA's facial recognition technology triggers a wave of lawsuits by black individuals after mistaken identities lead to arrests.

Disseram-lhe que era procurado por crimes na Louisiana antes de o levarem para a cadeia. Reid, que prefere ser identificado como Quran, passaria os próximos dias preso, tentando entender como poderia ser suspeito em um estado que ele diz nunca ter visitado.

Uma ação judicial movida neste mês culpa o uso indevido da tecnologia de reconhecimento facial por um detetive do xerife no Condado de Jefferson, Louisiana, por sua provação.

“Eu estava confuso e com raiva porque não sabia o que estava acontecendo”, disse Quran à Associated Press. “Eles não podiam me dar nenhuma informação além de ‘Você tem que esperar a Louisiana vir te buscar’, e não havia prazo para isso.”

Quran, de 29 anos, está entre pelo menos cinco reclamantes negros que entraram com processos contra a polícia nos últimos anos, alegando que foram identificados erroneamente pela tecnologia de reconhecimento facial e depois presos injustamente. Três desses processos, incluindo um de uma mulher que estava grávida de oito meses e acusada de roubo de carro, são contra a polícia de Detroit.

• Amazon vai investir até $4 bilhões na Anthropic, concorrente do Cha...
• Ações indianas sem mudanças significativas à medida que as ações de...
• Ações indianas com abertura discreta; Delta Corp em foco após aviso...

A tecnologia permite que as agências de aplicação da lei alimentem imagens de vigilância por vídeo em um software que pode pesquisar bancos de dados governamentais ou mídias sociais em busca de uma possível correspondência.

Críticos afirmam que isso resulta em uma taxa maior de identificação errada de pessoas de cor do que de pessoas brancas. Os apoiadores dizem que tem sido vital para capturar traficantes de drogas, resolver assassinatos e casos de pessoas desaparecidas, identificar e resgatar vítimas de tráfico humano. Eles também afirmam que a grande maioria das imagens pesquisadas são fichas criminais, não fotos de carteiras de motorista ou fotos aleatórias de indivíduos.

No entanto, alguns estados e cidades limitaram seu uso.

“O uso dessa tecnologia pela aplicação da lei, mesmo que existam padrões e protocolos, levanta sérias preocupações com as liberdades civis e a privacidade”, disse Sam Starks, advogado sênior da The Cochran Firm em Atlanta, que representa Quran. “E isso sem falar na confiabilidade da própria tecnologia.”

O processo de Quran foi arquivado em 8 de setembro no tribunal federal de Atlanta. Ele nomeia o xerife do Condado de Jefferson, Joseph Lopinto, e o detetive Andrew Bartholomew como réus.

Bartholomew, usando imagens de vigilância, baseou-se exclusivamente em uma correspondência gerada pela tecnologia de reconhecimento facial para solicitar um mandado de prisão contra Reid depois que um cartão de crédito roubado foi usado para comprar duas bolsas por mais de US$ 8.000 em uma loja de consignação fora de Nova Orleans em junho de 2022, diz o processo.

“Bartholomew não fez nem mesmo uma busca básica em relação a Mr. Reid, que teria revelado que ele estava na Geórgia quando ocorreu o roubo”, diz o processo.

Contatado por telefone, Bartholomew disse que não tinha comentários. Um porta-voz do escritório do xerife, Capitão Jason Rivarde, disse que o escritório não comenta processos pendentes.

Em um depoimento buscando o mandado, Bartholomew citou fotografias estáticas das imagens de vigilância, mas não mencionou o uso da tecnologia de reconhecimento facial, de acordo com o processo de Quran.

O detetive disse que foi informado por uma “fonte confiável” que um dos suspeitos no vídeo era Quran. Uma fotografia do Departamento de Veículos Motorizados de Quran parecia corresponder à descrição do suspeito nas imagens de vigilância, disse Bartholomew.

Starks acredita que a fonte citada por Bartholomew era a tecnologia de reconhecimento facial, tornando o depoimento “no mínimo enganoso”, disse ele. Um e-mail de janeiro do Subchefe Dax Russo do Condado de Jefferson para o xerife é uma evidência adicional disso, de acordo com Starks.

O e-mail explicando os eventos que levaram à prisão de Quran afirmou que os membros da força foram informados novamente de que precisam de evidências adicionais ou pistas ao usar a tecnologia de reconhecimento facial para um mandado de prisão, de acordo com o processo.

O processo acusa Bartholomew de prisão ilegal, perseguição maliciosa e negligência. Lopinto não implementou políticas adequadas em relação ao uso da tecnologia de reconhecimento facial, então ele também deve ser responsabilizado, alega o processo. Ele busca danos não especificados.

Enquanto Quran estava preso, sua família contratou um advogado na Louisiana que apresentou fotos e vídeos de Quran ao escritório do xerife. A pessoa nas imagens de vigilância era consideravelmente mais pesada e não tinha uma pinta como Quran, de acordo com seu processo.

O escritório do xerife pediu a um juiz para retirar o mandado de prisão. Seis dias após sua prisão, autoridades do xerife no Condado de DeKalb, na Geórgia, libertaram Quran.

Seu carro tinha sido rebocado e a comida na cadeia o deixou doente, disse ele. Quran, que trabalha em logística de transporte, também perdeu o trabalho.

Quase um ano depois, a experiência ainda o assombra. Ele se pergunta o que teria acontecido se ele não tivesse dinheiro para contratar um advogado. E ele ainda pensa naquela parada policial em uma rodovia da Geórgia.

“Toda vez que vejo a polícia no meu retrovisor”, ele disse, “isso apenas traz de volta à minha mente o que poderia ter acontecido, mesmo que eu não tivesse feito nada.”