Reconhecimento facial racista: prisão virou mercadoria para empresas, diz pesquisador

Em abril de 2024, João Antônio Trindade Bastos, jovem negro de 23 anos, foi detido durante um jogo de futebol de seu time, em Aracaju. Um ano depois, na cidade de São Paulo, Francisco Ferreira da Silva, aposentado de 80 anos, foi levado à delegacia enquanto fazia um trabalho voluntário. Ambos foram identificados e confundidos por meio de sistemas de reconhecimento facial. Eles só conseguiram ser liberados após a polícia confirmar o erro. Esses casos e outros similares são exemplos recentes que refletem um padrão histórico de prisões injustas contra a população negra.

O Pauta Pública desta semana debate os limites e os riscos do uso da tecnologia de reconhecimento facial, especialmente quando aplicada à segurança pública. O entrevistado é Pedro Diogo Carvalho, coordenador de Vigilância e Novas Tecnologias no Laboratório de Políticas Públicas e Internet (LAPIN) e integrante da campanha Tire Meu Rosto da Sua Mira. Ele vê com preocupação o aumento da implantação de programas de vigilância digital e defende que mais tecnologia não significa mais segurança, principalmente quando ela reforça desigualdades históricas e viola direitos fundamentais.

“Esses sistemas [de reconhecimento facial] vão reproduzir padrões racistas e atualizam a vigilância que já existe em relação à população negra e às populações mais economicamente desfavorecidas. […] A prisão virou uma mercadoria, porque aquilo ali está funcionando numa lógica muito comercial: é a relação entre Estado, empresa e tecnologia.[…] Mais armas, mais uso de câmeras não quer dizer uma melhoria na segurança pública.” Leia os principais pontos e ouça o podcast completo abaixo.

O projeto Smart Sampa, em São Paulo, prevê a instalação de até 40 mil câmeras com reconhecimento facial. Como você avalia os impactos da expansão do uso dessas câmeras de segurança sob o argumento de controle da criminalidade para os direitos civis, sobretudo de populações negras e periféricas?

O projeto Smart Sampa está ligado a uma tendência nacional de implantação dessas tecnologias de reconhecimento facial em redes de videomonitoramento, que não é algo novo. Desde 2019 a gente vê essa tendência, iniciada na Bahia, inclusive. A Bahia foi um estado que se tornou como protagonista da utilização desses sistemas e foi algo que foi se espalhando em todo o território nacional e agora ganha bastante destaque com o uso bem midiático das câmeras a partir da prefeitura do Ricardo Nunes, que usa o Smart Sampa como um grande elemento eleitoral, um grande elemento de destaque da sua gestão na prefeitura.

A sociedade civil como um todo vê o uso dessas câmeras como uma grande problemática da segurança pública na atualidade, tendo em vista os modos como esses sistemas levam à expansão das ações policiais, sobretudo em relação à população negra, mas também pelos processos de discriminação algorítmica que existem na utilização desses sistemas. Por um lado, a gente vê os problemas dos falsos positivos, das prisões injustas, mas em especial a gente vê o modo como esses sistemas atualizam a vigilância que já existe em relação à população negra e às populações mais economicamente desfavorecidas.

A assertividade penal, que já é um problema comum ao sistema de justiça criminal no Brasil inteiro, é atualizado a partir dessas tecnologias de vídeo monitoramento, que expandem essa lógica. E, por outro lado, tem esse caráter de reafirmação do discurso populista penal, esse populismo penal, esse senso comum que é verificado na ideia de mais polícia, quer dizer, mais segurança, o que vemos cada vez mais como uma não realidade. A gente percebe que mais polícia, mais armas, mais uso de câmeras não quer dizer uma melhoria na segurança pública.

Por que as câmeras de vigilância são consideradas como ferramentas racistas? De que maneira elas podem aprofundar essa seletividade penal?

Sistemas de reconhecimento facial são construídos por desenvolvedores e eles precisam ser treinados a reconhecer pessoas. Eles são como uma criança sendo robotizada. Eles precisam ser treinados a poder fazer identificação, poder fazer reconhecimento e são os algoritmos que atuam em cada função que eles fazem.Eles reconhecem pontos na face, identificam padrões. E como eles aprendem a fazer isso? Eles aprendem recebendo uma base enorme de rostos, de faces. E aí eles vão aprender a identificar aquilo.

Esse conjunto de dados é chamado de base de treinamento. O que foi identificado por vários pesquisadores, é que essas bases de dados eram formadas por processos de sub-representação e sobre-representação. Ou seja, existiam muitos rostos brancos nessas bases de dados e existiam poucos rostos negros, assim como existiam muitos rostos de homens e poucos rostos de mulheres. Isso leva ao quê? A problemas em identificar rostos de mulheres negras e de homens negros e uma maior capacidade de identificar rostos brancos. Isso não quer dizer que não errava com rostos brancos. Isso quer dizer que eles tinham uma taxa de erro menor em relação aos rostos negros.

Eles têm problemas em identificar qualquer pessoa. Erros de sistemas tecnológicos são a base da tecnologia. Toda tecnologia erra, toda tecnologia tem uma taxa de erro. Então, inclusive, não acredite quando a prefeitura ou o governo do estado diz que não há erros, porque vai ter erro. E, para além disso, um sistema tecnológico, ele não pode ser visto fora da realidade social onde ele vai ser implantado. Então, se você está incluindo um sistema de videomonitoramento com reconhecimento facial, conectado a uma base de dados de uma polícia que tem um histórico de violência racial, esse sistema vai produzir padrões racistas.

Isso quer dizer o quê? Que esse sistema vai reproduzir padrões racistas de perseguição e de monitoramento. Padrão de perseguição que já está colocado e que a gente sabe que são as populações negras, são as populações economicamente desfavorecidas em uma sociedade extremamente injusta como é a cidade brasileira.

A campanha Tire Meu Rosto da Sua Mira, que você faz parte, defende o banimento total do uso do reconhecimento facial na segurança pública. Qual seria o caminho alternativo para garantir segurança pública sem abrir mão dos direitos fundamentais à privacidade e à não-discriminação?

A segurança pública realmente é um dos problemas mais sensíveis que tem na realidade política brasileira atual, e ela toca em muitos clamores e muitos pontos, mas eu acho que o primeiro ponto que a gente precisa seguir é a ideia que segurança pública é política pública. E uma política pública precisa de planejamento, precisa de participação social, de transparência e que os dados sejam compartilhados com a população, entendendo também as particularidades de segurança de confidencialidade que existem. Esse é o primeiro ponto que a gente precisa compreender.

Recentemente, o LAPIN (Laboratório de Políticas Públicas Internet), que faço parte, e o Panóptico, que é uma equipe dos Centros de Estudos em Segurança e Cidadania, que faz o monitoramento de iniciativas de reconhecimento facial pelo território nacional, fizemos um trabalho em conjunto. Foi sobre o mapeamento de transparência em iniciativas de reconhecimento facial pelo Brasil. Pegamos mais de 90 iniciativas e buscamos entender quais eram os graus de transparência que tinham nessas iniciativas. A gente percebeu que eram muito baixos, no território nacional, em todos os estados e em todos os municípios. Então, a transparência mostra como a segurança pública não está sendo vista como política pública. O caminho alternativo é pensar a segurança pública como política pública.

O segundo ponto é que precisamos enfrentar diretamente um paradigma de segurança pública baseado na guerra de drogas e em uma lógica militarizada de trabalho policial e de segurança pública. Essa lógica do encarceramento em massa, que é voltada em relação a guerra de drogas e uma lógica militarizada de polícia, é um dos grandes fatores do crescimento de organizações criminosas e facções pelo território nacional. As grandes facções nascem no encarceramento em massa. Então, essa lógica não funciona para garantir maior segurança para a população. A gente precisa enfrentar esse paradigma.

Temos mais de 30 anos de Constituição cidadã. Precisamos pensar que saímos da ditadura e fomos para a democracia, mas três anos depois da Constituição de 88, tivemos o massacre de Carandiru. Então, a inauguração da República Brasileira foi com vários massacres acontecendo. Precisamos questionar esse processo, esse é o caminho, pensar a segurança pública com política pública e questionar um sistema de justiça criminal que parece vinculado à violência de Estado como praxe do que funciona nesse país.

A sociedade evidencia o populismo penal, evidencia o racismo com base no sistema de justiça criminal e as heranças da militarização das agências policiais no Brasil. Não podemos naturalizar a falta de transparência, a falta do entendimento de segurança pública como política pública. A partir do reconhecimento facial, podemos começar a construir uma agenda alternativa para a segurança pública no Brasil.