Quase lá: Especialistas alertam para o risco de racismo no uso de reconhecimento facial durante o carnaval

Estudos apontam que os sistemas de reconhecimento facial atualmente no mercado apresentam índices maiores de erro quando mapeiam rostos de mulheres e negros.

Imagem de menino negro, de cabelos pretos e crespos, vestindo um moletom vermelho com capuz abaixado, sorrindo para a câmera. A imagem tem marcações digitais simulando um escaneamento.
Crédito: Freepik

por Jorge Cavalcanti* - Marco Zero

As pontes que dão acesso ao Bairro do Recife e os principais polos de folia de Olinda este ano estarão sendo monitorados no carnaval por um sistema de câmeras de reconhecimento facial cujo objetivo é identificar foragidos da Justiça. O anúncio foi feito pela Secretaria de Defesa Social (SDS) na entrevista coletiva de divulgação do esquema de segurança para o período festivo, terça-feira (30). O uso da ferramenta gera debate sobre o viés racista dos algoritmos que determinam o funcionamento da tecnologia e a possibilidade de pessoas negras serem presas injustamente. A Marco Zero Conteúdo ouviu especialistas para entender quais são os riscos e questionamentos.

A SDS tratou como “inovação” o uso do sistema de reconhecimento facial, mas não informou o nome do software adquirido pelo Estado de Pernambuco ao valor de R$ 400 mil, com recursos do Fundo Nacional de Segurança. A tecnologia vai estrear no desfile do Galo da Madrugada, no Sábado de Zé Pereira, no centro do Recife, e operar durante os demais dias de folia. O anúncio acontece depois do governo ter desligado, no final do ano passado, 240 câmeras de videomonitoramento instalados no Recife e outras 38 em Olinda, por conta do fim do contrato e a não realização de uma nova licitação.

 

Estudos apontam que os sistemas de reconhecimento facial atualmente no mercado apresentam índices maiores de erro quando mapeiam rostos de mulheres e negros. Um trabalho desenvolvido nos Estados Unidos identificou taxas do chamado “falso positivo” para asiáticos e afro-americanos até 100 vezes maiores do que para brancos. 

Na entrevista coletiva da SDS, a secretária executiva da pasta, Dominique de Castro Oliveira, defendeu o uso da ferramenta no carnaval. “É mais um equipamento à disposição do policial, não funciona por si só. A câmera de reconhecimento facial, sozinha, não determina a prisão. Ela apenas traz um alerta e, a partir dali, apura-se a informação de forma a confirmar se é o caso de um mandado de prisão em aberto. A tropa está orientada a fazer esse check de identidade”, garantiu.

De acordo com a representante do governo, o sistema que será usado no tem como base de dados o Banco Nacional de Mandados de Prisão. São hoje 332.548 ordens de prisão à espera de cumprimento listadas no banco, dos quais 13.457 em Pernambuco, de acordo com o Conselho Nacional de Justiça (CNJ). O órgão não consegue, porém, informar quantos desses mandados de prisão em aberto são alimentados também com a fotografia da pessoa procurada.

Em reserva, a reportagem conversou com profissionais do sistema de justiça criminal para entender melhor como esse banco nacional  funciona. E ouviu que não há atualização em tempo real porque precisa ser alimentado por servidores em cada unidade da federação.    

Cadê o debate?

A presidente do Instituto de Pesquisa em Direito e Tecnologia do Recife (IP.rec), Raquel Saraiva, relembra uma audiência pública realizada pela 8ª Promotoria de Justiça de Defesa da Cidadania do Recife, em dezembro do ano passado, em que Prefeitura do Recife e Governo do Estado se comprometeram a só implantar a tecnologia após discussões amplas para aperfeiçoar as ferramentas. 

“Essa notícia nos pegou de surpresa. É sabido que essa tecnologia funciona a partir de um recorte de raça, classe e gênero. Para nós, é uma aplicação de alto risco, ainda mais sem um processo de discussão”, avalia Raquel Saraiva. O IP.rec elaborou uma nota técnica sobre o assunto. O trabalho, feito antes do anúncio da SDS, aborda aspectos técnicos e jurídicos e lista campanhas nacionais e internacionais que tratam do tema. Clique aqui para ler a nota técnica na íntegra.

Pesquisador na área da segurança pública, o advogado Almir Felitte ressalta que já são de conhecimento público os casos de prisões injustas e ilegais baseadas no “falso positivo” do reconhecimento facial. “Costumo dizer que essa ferramenta não é nem inteligente, porque apresenta taxas de erro para além do aceitável, nem artificial, porque trabalha a partir de uma lógica gerada por humanos dentro de uma perspectiva racista”, analisa. Ele é autor do livro A história da polícia no Brasil: estado de exceção permanente?

Comandantes usarão bodycams

Além do sistema de reconhecimento facial para capturar foragidos, para este ano, a outra novidade anunciada foi o uso das câmaras corporais acopladas à farda de policiais durante o carnaval. “Elas, às vezes, são fruto de alguns questionamentos e dilemas. Mas, na visão da SDS, é um equipamento muito importante não só na defesa do cidadão, mas também para o próprio policial”, destacou a secretária executiva da pasta.

O uso de câmeras corporais pelas forças de segurança foi recomendado pelo Ministério da Justiça e Segurança Pública em portaria publicada em janeiro. De acordo com a pasta, as bodycams devem estar ligadas e em modo de gravação ininterrupta durante o turno de serviço do agente; o conteúdo deve ficar armazenado e acessível por um período de seis meses.

Clique aqui para ler a portaria.

Pernambuco dispõe hoje de 187 câmeras corporais. Elas começaram a ser usadas em setembro do ano passado, num projeto-piloto desenvolvido no 17º Batalhão de Polícia Militar, com atuação em Paulista e Abreu e Lima, cidades do Grande Recife. Três meses depois, o major José Evandro Barros, acompanhado de outro oficial, compareceu ao Ministério Público de Pernambuco para falar a três promotoras sobre o uso experimental da tecnologia.

“A orientação é de que a câmera fique ligada, mas em stand by, sendo acionada sempre que tiver início qualquer ocorrência”, explicou o tenente Reginaldo Medeiros, na ocasião. Naquela data, 5 de dezembro de 2023, de acordo com os oficiais, apenas 57 das 187 bodycams estavam em uso por conta de problemas técnicos relativos à estação  de armazenamento das imagens. 

A advogada Maria Clara D’Ávilla destaca que o uso do equipamento por policiais em serviço é uma demanda de alguns anos das organizações da sociedade civil que monitoram a segurança pública. Ela atua no Gabinete de Assessoria Jurídica às Organizações Populares (Gajop)

“É uma tecnologia importante no esforço de reduzir a violência e letalidade policial. Mas elas, isoladamente, nem sempre garantem isso. É preciso ter também outros mecanismos, como transparência no funcionamento do equipamento e armazenamento dessas imagens, a independência das ouvidorias das Polícias Militares e o fortalecimento do controle externo das atividades policiais”.

Em Pernambuco, até o momento, as imagens captadas pelas bodycams estão sendo armazenadas no 17º Batalhão. Pelo que os oficiais da PM informaram ao MPPE, as mídias são auditáveis, sendo possível descobrir tentativas de acesso indevido ao banco de dados. 

No Brasil, hoje, a tecnologia é usada em 25 dos 27 Estados do Brasil, com diferentes níveis de presença. Recentemente, o governador Tarcísio Freitas (Republicanos) recuou da intenção de desfinanciar o uso da tecnologia em São Paulo.

*Jornalista com 19 anos de atuação profissional e especial interesse na política e em narrativas de garantia, defesa e promoção de Direitos Humanos e Segurança Cidadã


Matérias Publicadas por Data

Artigos do CFEMEA

Coloque seu email em nossa lista

lia zanotta4
CLIQUE E LEIA:

Lia Zanotta

A maternidade desejada é a única possibilidade de aquietar corações e mentes. A maternidade desejada depende de circunstâncias e momentos e se dá entre possibilidades e impossibilidades. Como num mundo onde se afirmam a igualdade de direitos de gênero e raça quer-se impor a maternidade obrigatória às mulheres?

ivone gebara religiosas pelos direitos

Nesses tempos de mares conturbados não há calmaria, não há possibilidade de se esconder dos conflitos, de não cair nos abismos das acusações e divisões sobretudo frente a certos problemas que a vida insiste em nos apresentar. O diálogo, a compreensão mútua, a solidariedade real, o amor ao próximo correm o risco de se tornarem palavras vazias sobretudo na boca dos que se julgam seus representantes.

Violência contra as mulheres em dados

Cfemea Perfil Parlamentar

Direitos Sexuais e Reprodutivos

logo ulf4

Logomarca NPNM

Cfemea Perfil Parlamentar

Informe sobre o monitoramento do Congresso Nacional maio-junho 2023

legalizar aborto

...