Breves apontamentos sobre as sociedades de controle

Diante da expansão global da tecnologia de reconhecimento facial, presente em diversos contextos sociais e comerciais, o presente artigo investiga a lógica desses dispositivos, definindo o escopo da análise realizada em relação à segurança pública no Brasil. Com esse objetivo, pretende-se desenvolver reflexões de caráter jurídico-filosófico, analisando os dados resultantes da atuação desses mecanismos, os quais revelam uma notável ineficiência, mesmo diante do expressivo investimento realizado para sua implementação no contexto brasileiro. Para o intento, procuramos lançar luz ao modo de funcionamento de tais ferramentas baseadas em algoritmos e, uma vez explicitado brevemente o seu funcionamento, busca-se desvelar a racionalidade desses dispositivos, argumentando-se que a lógica na implementação das tecnologias de reconhecimento facial busca a segurança, isto é, uma nova maneira de pensar a penalidade de modo que essas ferramentas passem a somar às estruturas de mecanismos de segurança já conhecidas. Por fim, busca-se suscitar os impactos sociais que o uso (in)discriminado do dispositivo causa, respaldado por trás de seu opaco véu da objetividade e da neutralidade.

Assim, o presente trabalho está estruturado em cinco seções. Na introdução, contextualizamos o problema e apresentamos os objetivos centrais da pesquisa. Na seguinte seção, abordam-se brevemente as sociedades de controle, com ênfase nos contornos da biopolítica contemporânea e na transição das disciplinas para os mecanismos securitários. Na terceira seção, examinamos a emergência da governamentalidade algorítmica, detalhando suas três etapas operacionais - datavellance, datamining e datanticipating - e discutindo críticas e consequências do uso de algoritmos em práticas de segurança. A quarta parte analisa a aplicação das tecnologias de reconhecimento facial na segurança pública brasileira, com atenção especial aos casos dos estados da Bahia e de Goiás, explorando seus impactos e a ausência de transparência e regulamentação adequada. Por fim, nas conclusões, enfatizamos que o principal aspecto a ser desvelado na lógica opaca das tecnologias algorítmicas reside no fato de que os modelos que as constituem são resultado de escolhas humanas, orientadas por interesses econômicos, políticos e sociais, além de marcadas por diferenças culturais. Assim, ainda que reivindiquem objetividade e neutralidade, tais tecnologias tendem a reproduzir - e, em certos casos, intensificar - efeitos discriminatórios como parte de seu funcionamento.

Para o estudo da emergência dos novos mecanismos de controle da contemporaneidade, importa fazer uma breve digressão que ressalte como as formas características presentes nas sociedades disciplinares - fixadas nos limites da organização dos meios de confinamento (prisões, hospitais, escolas, fábricas), presentes nos séculos 18 e 19, com seu ápice no início do século 20 - apresentam-se em crise (^{Deleuze 1992b}) ou, melhor, em franco processo de metamorfose desde, pelo menos, a transição do século 20 para o 21.

Ao fim do século 20, foi sentida a ineficácia relativa entre o cárcere e a vigilância - binômio presente nas sociedades disciplinares -, o que ocasionou a desconfiança das próprias instituições em suas técnicas de subjetivação (^{Rodriguez 2019}). Destarte, foi atestada a incapacidade de essas formas sociais atingirem os fins que lhes eram dispostos - concentração e distribuição do espaço, bem como ordenação do tempo para maximizar a força produtiva dos sujeitos disciplinados (^{Deleuze 1992b}) -, e a consciência da crise pelas próprias instituições foi o que propiciou o solo para antecipações e metamorfoses em suas técnicas ( ^{Rosa e Amaral 2017}).

Assim, se a crise se faz incessantemente presente, esta só poderia ser vista como um “combate de retaguarda”, visando à implementação de novas formas de controle (^{Deleuze 1992a}). Não por acaso, as próprias instituições de confinamento são as primeiras a perceberem a situação alarmante em que se encontram, ocasionando os diversos e constantes discursos de “reforma” (^{Amaral 2017}). Não obstante, são das crises que surgem as oportunidades dessas reformas, que servem, justamente, a propiciar uma fórmula de escape de sua ruína (^{Rosa e Amaral 2017}). Daí depreende-se que, por meio das contínuas crises, na verdade ocorre um movimento de autofortalecimento do capitalismo - sendo esses momentos de “instabilidade” os instantes notáveis para percebermos a sua capacidade de metamorfose (^{Amaral 2020a}). Logo, tomaremos a crise dos interiores - institucionais e subjetivos - como o ponto-chave para a compreensão do panorama biopolítico¹ da contemporaneidade (^{Rodriguez 2019}), pois são “das candentes e sempre urgentes ‘reformas’, que nascem as novas configurações de controle” (^{Rosa e Amaral 2017}, 52-53, grifos no original).

Nesse horizonte, pode-se perceber que, pelo menos desde os anos 1970, e com maior ênfase nos últimos 30 anos, as tecnologias de vigilância vêm operando um processo de deslocamento em relação às tecnologias de cárcere (^{Rodriguez 2019}). Essas recentes transformações, inscritas em um hodierno contexto social em que o interior e o exterior possuem fronteiras arenosas, traçam um novo horizonte para a aplicação de um obscuro biopoder. Tal processo não implica substituição, mas antes o deslocamento das sociedades disciplinares em direção às sociedades de controle (^{Mendes 2020}).

Importa compreender que não se está diante do esgotamento das sociedades disciplinares, mas já não nos limitamos mais a isso, e a ascensão dos novos mecanismos de sanção demonstram esse caráter (^{Amaral 2017}). Não veremos, no entanto, os mecanismos de segurança tomarem o lugar por completo dos mecanismos disciplinares; ao contrário, esses mecanismos abrem novos espaços de punição, em que veremos as disciplinas e os biopoderes em constante interação (^{Chignola 2018}). Não há, portanto, uma “era securitária”; a mudança que veremos será de aparição de novas técnicas punitivas e seus aperfeiçoamentos (^{Foucault 2008a}). Da mesma forma, a própria disciplina se reconfigura no século 21. Basta uma rápida análise no campo do trabalho na transição para o século 21 para perceber a emergência de novas disciplinas: da insegurança perene no trabalho aos guias de boas práticas, benchmarking e outras técnicas. Trata-se de disciplinas que se reconfiguraram, o que é necessário reconhecer.

Considerando que as tecnologias de poder não podem ser vistas como sucessões, ou seja, uma era das disciplinas que antecederia uma era securitária (^{Amaral 2020a}), essas tecnologias se manifestam de um modo muito mais complexo. É nesse horizonte que situamos o poder punitivo, assumindo-o, neste artigo, como um conjunto prático, isto é, “[...] uma espécie de homogeneidade, um domínio de referência daquilo que os homens fazem (tecnologias) e como fazem (estratégias)” (^{Amaral 2020b, 41}). Isso quer dizer que esse conjunto de fenômenos, mecanismos e técnicas são dispostos em situações estratégicas (^{Foucault 1995}). A homogeneidade, segundo Foucault, “[...] é assegurada, portanto, por esse domínio de práticas com sua versão tecnológica e sua versão estratégica” (2006, 94). Trata-se, enfim, de um conjunto de ações sobre ações possíveis, que estrutura o campo de ação dos outros, conduzindo condutas e ordenando possibilidades (^{Foucault 1995}).

Desse modo, a coexistência estratégica das tecnologias de poder - de soberania, disciplinares ou securitárias - ajuda a formar edifícios complexos de punição que se retroalimentam, estando em constante trânsito e contaminações. Para a análise, vale perceber qual dos sistemas de correção que se estabelece na contemporaneidade, ou seja, qual deles se exerce com maior predominância (^{Amaral 2020a}). Diante desse contexto, o problema da penalidade e das suas reconfigurações, atualmente, deve se estabelecer nos termos da segurança: “uma maneira de somar, de fazer funcionar, além dos mecanismos de segurança propriamente ditos, as velhas estruturas da lei e da disciplina” (^{Foucault 2008a, 26}). Justamente por isso que não veremos o desaparecimento das práticas punitivas estatais que subjugam, corrigem e disciplinam os corpos - como as prisões. A segurança, enquanto forma de pensar a punição, faz erigir, multiplicar, reativar e transformar os antigos mecanismos disciplinares (^{Amaral 2020a}).

Os moldes da biopolítica contemporânea

Os dispositivos securitários emergem das brechas criadas pelas crises das instituições de confinamento e serão utilizados como estratégia para organizar uma biopolítica focada no mote da segurança (^{Amaral 2017}). Ressalta-se que o elemento essencial de uma biopolítica fundada no paradigma do controle é, paradoxalmente, a liberdade (^{Foucault 1995}). Isso porque, para ter o governo como gestor dos perigos, é essencial que se instale um jogo permanente entre liberdade e segurança - dentro desse jogo, encontra-se o âmago da nova razão governamental. O risco, desse modo, torna-se um fator inserido em uma lógica de cálculo, ou seja, na prática, o que ocorre é um verdadeiro cálculo de riscos. A diferenciação desses cálculos ocorre de acordo com um maior grau de risco, a partir de uma possível identificação de zonas mais ou menos perigosas.

A noção de perigo e de risco estão postas, pois, no cerne da questão ( ^{Rosa e Amaral 2017}). Da mesma forma, a liberdade não é apenas aceita ou tolerada; ao contrário, é criada e incentivada, tornando-se um fator indispensável para o funcionamento da gestão governamental. Para que a segurança seja estabelecida, uma margem de liberdade precisa estar disposta às relações de poder (^{Amaral e Dias 2024c}). A liberdade, enfim, é verdadeira condição de existência do poder (^{Foucault 1995}). Desse modo, a vida, sob o regime do controle contemporâneo, é exercida numa lógica de gestão de perigos (^{Amaral 2020a}). Nesse sentido, o estímulo à vida e à produtividade não mais são efetivados em moldes estritos e fechados que visam subjugar o corpo enquanto mero objeto. Agora, as suas técnicas - voltadas ao controle e à gestão ao ar livre - possibilitam a liberdade que fundamenta as raízes do controle (^{Amaral e Dias 2024c}).

A partir dessa biopolítica, aqui entendida como um conjunto de mecanismos ( ^{Rosa e Amaral 2017}), surge um diferente arranjo na distribuição de uma série de fenômenos, em que se busca inserir os acontecimentos em termos de probabilidade. Para tanto, o instrumento ideal se torna a aplicação da estatística de uma média considerada ótima para balizar os limites do aceitável. A fixação dessa média estatística, assim, debruça-se sobre os efeitos dos fenômenos sobre a população - que deve ser entendida, aqui, como objeto de uma gestão de governo (^{Foucault 2008a}).

A técnica política securitária busca, com esses instrumentos e fins, acondicionar um meio - compreendido como suporte e elemento de circulação de uma ação, ou seja, regular a aleatoriedade inscrita em um espaço dado (^{Amaral 2020a}). Esse modo diferencial de tratar o acontecimento, introduzido pela lógica da racionalidade governamental securitária, implica algumas consequências que podem ser vistas claramente na implementação dos mecanismos de segurança estudados no presente artigo: enquanto a disciplina pretende isolar, concentrar e encerrar, baseando-se em uma lógica centrípeta, os dispositivos securitários tendem ampliar seus espaços de atuação, ou seja, são centrífugos. Esses dispositivos, dentro dessa lógica, buscam a organização e a ampliação de circuitos cada vez mais amplos a serem desenvolvidos (^{Foucault 2008a}). Assim, novos elementos são implementados a todo tempo; Foucault assevera que se integram “[...] a produção, a psicologia, os comportamentos, a maneira de fazer dos produtores, dos compradores, dos consumidores, dos exportadores, integra-se o mercado mundial” (2008a, 59).

As técnicas de segurança, nesse contexto, sofreram certa modificação - baseando-se em cálculos de custos e limites do aceitável - expressando a emergência dessa nova racionalidade governamental atrelada à população. Isso ocorre porque, pelo menos desde os anos 1970, o crime passa a ser interpretado como um comportamento econômico (Rosa e ^{Amaral 2017}). Assim, a relação econômica se torna fundamental para a análise do custo da repressão e da delinquência (^{Amaral 2020a}), ainda que não esgote a complexidade dos mecanismos de controle social. Nessa direção, não haveria tanto sentido em seguir investindo em apenas mecanismos de normalização geral e de exclusão (Rosa e Amaral 2017). O panorama que se configura tem por base a otimização dos sistemas de diferença, promovendo uma limpeza do terreno para processos oscilatórios e “tolerantes, nos quais a intervenção deixa de operar pela sujeição direta dos indivíduos, passando a uma intervenção do tipo ambiental” (^{Foucault 2008b, 354-355}).

Para a melhor compreensão da dimensão estratégica dos dispositivos securitários, deve-se estar claro que essa alteração nos moldes da biopolítica surge diretamente da necessidade de organizar a força de trabalho como instrumento do Estado, é dizer, uma necessidade direta para o desenvolvimento dos objetivos do capitalismo (^{Amaral e Dias 2024c}). Já havia enunciado Deleuze: “não é uma evolução tecnológica sem ser, mais profundamente, uma mutação do capitalismo” (1992b, 227). Importa destacar que o regime da disciplina foi central na constituição dos mecanismos necessários para a construção do capitalismo industrial - um arranjo que, embora ainda presente, já não determina os modos de regulação contemporâneos. É crucial ressaltar que ainda que não nos limitemos ao antigo modo de produção, a disciplina jamais deixou de ser um pilar central na gestão do trabalho.

Nesse horizonte, para a consolidação plena do capitalismo contemporâneo, a inclusão dos corpos no aparato de produção se torna agenda central, bem como a adaptação do fenômeno das populações aos processos econômicos, inserindo técnicas que visam à extração da mais-valia. Para atender a essa demanda, o exercício de poder sobre o corpo precisa ser reajustado, tendo sempre em vista que as técnicas de subjetivação utilizadas pelas instituições de confinamento estavam se tornando ineficazes. Assim, o exercício de poder voltado à disciplina individual dos corpos, em certa medida, perde força, atuando agora como dimensão complementar da regulação da população (^{Chignola 2018}). O que importa, na contemporaneidade, não é tanto a destruição dos corpos - percebida como contraproducente para a geração de riqueza -, mas sim o conjunto de técnicas e táticas aplicadas à força de trabalho, a fim de organizá-la por meio da vigilância (^{Revel 2014}).

Isso significa que não estamos mais limitados a um antigo modelo de capitalismo, centrado na fábrica, fundado na concentração do capital e voltado para a produção. O capitalismo torna-se um regime de sobreprodução. Logo, torna-se dirigido mais ao produto do que à produção, ou seja, para a venda ou para o mercado; daí se exprime a sua ampla capacidade dispersiva (^{Deleuze 1992b}). Desse modo, veremos a substituição da fábrica pela empresa - pois se trata de um regime muito mais disperso - e a transformação da forma salário, agora inflamada pela premiação, condicionando a busca incessante pelo mérito (^{Amaral e Dias 2024c}). A competição, assim, é introduzida como um emulador central e se torna um elemento essencial desse novo panorama, estimulando o indivíduo por meio de uma modulação permanente do salário por um “sistema de prêmios” (^{Rosa e Amaral 2017}, 43-44), que excita e contrapõe os indivíduos (^{Deleuze 1992a}).

Portanto, tomando por vista a radical mudança na dinâmica do Capital, a produção de novas formas ultrarrápidas de controle ao ar livre é produto direto da expansão inesgotável de um sistema que, ainda que se encontre entregue ao seu limite, não cessa de se expandir ( ^{Rosa e Amaral 2017}). O novo clima penalógico, diante dos novos contornos na dinâmica do capitalismo, manifesta-se com a ampliação da malha penal, que, ao se utilizar das novas técnicas de controle tecnológicas baseadas em dados, permeiam a sociabilidade agora também em meio aberto, de modo a complementar e reforçar as instituições de confinamento. Trata-se de uma nova governamentalidade² que, sustentada por dispositivos securitários, será exercida sobre a população, de forma alguma elidindo a função central da punição (^{Amaral 2017}).

Nas sociedades de controle - que exsurgem exatamente das mencionadas mutações do capitalismo -, o essencial, acentua Deleuze, baseia-se em uma cifra: “a cifra é uma senha, ao passo que as sociedades disciplinares são reguladas por palavras de ordem” (1992b, 226). As cifras, por meio de uma linguagem numérica do controle, demarcam o acesso ou a rejeição à informação. Assim, os indivíduos são desarticulados em divíduos (^{Deleuze 1992b}), sendo partes de si mesmos impressos em dados e amostras quantificáveis. Nesse sentido, a quantificação em dados, informações, senhas e cifras vem a facilitar a previsibilidade de sujeitos, grupos e comportamentos (^{Amaral e Dias 2024b}), implicando uma verdadeira sublimação do controle para além do cárcere ( ^{Schervenski da Silva 2024}).

Os dados, nesse horizonte, adquirem especial relevo para as práticas punitivas contemporâneas, demandando técnicas refinadas de vigilância. As práticas sociais hodiernas como o consumo, o salário e a dívida, acabam por criar condições de tornar as condutas dos indivíduos comportamentos previsíveis - como, por exemplo, informações sobre gastos no cartão de crédito, histórico de compras e localização registrada por aplicativos. Esse ambiente cria um solo fértil para que Estados e governos se utilizarem desses comportamentos previsíveis, inscritos em dados, a fim de alimentar seus complexos mecanismos de vigilância. Estes, para atingir os fins dos agenciamentos punitivos, alinham-se à própria ideia de controle da vida. Assim, para a prospecção desses dados em prol de seus interesses, os agenciamentos adotam as dinâmicas de vigilância e controle social, resguardando-se na justificativa da segurança (^{Amaral e Dias 2024c}). Por consequência, a esfera securitária e a esfera econômica se encontram com barreiras totalmente nebulosas, criando um complexo que opera a favor da governança de possibilidades futuras (^{Amoore e De Goede 2005}).

A emergência da governamentalidade algorítmica

A vigilância mediante algoritmos consolidou-se e disseminou-se de forma expressiva em nossa sociedade. Como mencionado, há pelo menos três décadas, os dispositivos de monitoramento - especialmente câmeras - passaram a integrar nosso cotidiano. Inicialmente restritos a ambientes privados, voltados ao controle de espaços laborais e de consumo, esses mecanismos, em seguida, estenderam-se às vias urbanas, apropriando-se progressivamente do espaço público. Não tardou para que as câmeras migrassem para dispositivos móveis, com suas funções de registro vinculadas à segurança, ao entretenimento, ao trabalho, à vigilância e à curiosidade (^{Rodríguez 2019}).

Desse modo, ocorre um movimento duplo: de um lado, a digitalização, convertendo o analógico para o digital; de outro, a datificação, entendida como o processo de transformar eventos, acontecimentos e interações em dados passíveis de armazenamento, circulação e análise. Ambos os processos ocorrem tanto na vida cotidiana quanto nas práticas punitivas, confundindo as duas experiências em uma só. Assim, toda a vigilância que existia antes para fins coercitivos torna-se volvida aos prazeres do sujeito, criando um espaço de uma obscura liberdade absoluta (^{Harcourt 2015}). Dentro dessa lógica, inserem-se os atuais bancos de dados: a sua entrada é garantida em algum deles - nas redes sociais, por exemplo - se o usuário oferecer suas informações e dados como contrapartida. Logo, ao ceder “livremente” seus dados, o usuário também se movimenta “livremente” dentro desses espaços digitais (Rosa e ^{Amaral 2017}). Desse modo, todas ações que praticamos nas redes de comunicação, em seus navegadores e plataformas, são rastreadas e arquivadas, constituindo um grande arquivo de nossas ações, escolhas e hábitos (^{Bruno 2016}). O controle, nesse contexto, exerce-se com uma grande contribuição da liberdade ( ^{Rosa e Amaral 2017}).

Se a vigilância algorítmica já redefine a noção de privacidade, a sua materialização no espaço público - por meio de tecnologias de reconhecimento facial - radicaliza ainda mais o seu alcance. Isso porque a sua implementação monitora não apenas ações digitais, mas significa também o monitoramento do corpo nos espaços físicos (^{Beiguelman 2021}). O implemento das câmeras é um bom exemplo para perceber a acentuação da vigilância sobre as nossas vidas; no entanto, é certo que cada vez mais atividades são incorporadas às redes sociais, e não apenas as atividades que as câmeras conseguem capturar (^{Rodríguez 2019}). Assim, na medida em que as tecnologias de reconhecimento facial evoluem, elas se integram cada vez mais às redes e aos sistemas computacionais, resultando em maior frequência do procedimento do mapeamento do rosto. Dessa forma, o rosto pode ser compreendido como a nova “digital”, pois, uma vez identificado, permite rastrear o corpo em um espaço dado (^{Beiguelman 2021}). A vigilância, destarte, não precisa mais necessariamente das instituições de confinamento, mas integra o cárcere ao espaço de circulação geral (^{Rodríguez 2019}). Nesse novo contexto, as vidas digitais, consequentemente, passam a ser obscuramente semelhantes à existência monitorada dos sujeitos carcerários supervisionados (^{Harcourt 2015}).

Esse novo regime de controle em emergência pode ser chamado de “governamentalidade algorítmica”, ou seja, a racionalidade que se vale da coleta, agregação e análise automatizada de quantidade massiva de dados, de modo a antecipar e afetar os comportamentos possíveis (^{Rouvroy e Berns 2015}). Tais mecanismos funcionam por meio de redes baseadas no processo de vigilância e coleta massiva de dados, sua classificação e análise, com o fim de gerenciar, influenciar e disciplinar o comportamento de indivíduos. Para tanto, a estrutura da rede mundial de computadores e de seus navegadores se utilizam de toda a ação e rastros realizados digitalmente, com a finalidade de constituir “[...] um vasto, dinâmico e polifônico arquivo de ações, escolhas, interesses, hábitos, opiniões, etc.” (^{Bruno 2016, 36}).

Esses dados, segundo ^{Harcourt (2015)}, possuem ampla variedade de informações, incluindo comunicações telefônicas, mídias sociais, e-mails, vídeos, chats, estatísticas vitais, informações do censo do governo. Todos esses dados são produzidos por computadores, celulares ou dispositivos digitais, por meio de e-mails, mensagens, tuítes e vídeos. Ou seja, com a digitalização da vida cotidiana, vemos também a acentuação da lógica de acumulação de dados dos sujeitos, o que leva a uma datificação da vida. Logo, esse conjunto massivo de dados - derivados de diferentes meios - pode ser minerado, armazenado e analisado para diversas finalidades e em diferentes contextos. Assim, o uso dos dados e dos metadados que alimentam bancos de análise e softwares de vigilância urbana não é visto apenas como “histórico” ou “informativo”. A sua lógica, na verdade, baseia-se em um intenso cruzamento de dados com inúmeras possibilidades a partir da obtenção de conteúdo pessoal (^{Amaral e Dias 2024c}).

O valor desse conjunto de dados reside na sua capacidade de produzir perfis preditivos, ou seja, a sua utilidade quanto à capacidade de mensurar a probabilidade de acontecimentos, como, por exemplo, o cometimento de um crime por um sujeito - ou até de este ser preso antecipadamente (^{Mayer-Schönberger e Cukier 2013}). Com o acúmulo de dados, procura-se, então, prever e modificar o comportamento humano (^{Zuboff 2018}). Para tanto, a gestão dessa quantidade massiva de informações produzidas diariamente consiste em atribuir-lhes sentido mediante a aplicação desses dados em “algoritmos poderosos”, definidos como “uma sequência finita de instruções precisas que são implementáveis em sistemas computacionais” (^{Osoba 2017, 4-6}).

Tecnologias de reconhecimento facial e sua aplicação na segurança pública: a experiência brasileira

No início de 2020, foi inaugurado, pelo governo de São Paulo, o Laboratório de Identificação Biométrica para estabelecer uma nova frente de avanços nessa nova empreitada de gestão de dados biométricos digitais, visando à promoção e ao uso das tecnologias de reconhecimento facial. Foi o momento em que o então governador João Dória festejou que esse laboratório “localize o bandido antes que ele execute o crime”, bem como parabenizou o delegado-geral da Polícia Civil, destacando que “nunca prendeu tanto quanto nestes 13 meses” (Governo do Estado de São Paulo 2020). O laboratório integra o Instituto de Identificação Ricardo Gumbleton Daunt - nomeado como inovador criminólogo e datiloscopista, que herdou o nome do avô médico escravista (^{Silva 2022}).

A adoção dessa técnica em solo brasileiro ganhou grande destaque devido à Portaria 793, de 24 de outubro de 2019, que estabeleceu a utilização de recursos do Fundo Nacional de Segurança Pública para estimular a instauração de sistemas de videomonitoramento que se valem de tecnologias de reconhecimento facial, inteligência artificial e outras (Ministério da Justiça e Segurança Pública 2019). A portaria baseia a sua implementação em um discurso de segurança, sendo esses sistemas considerados parte integrante das estratégias de redução e controle da violência e criminalidade (^{Lima et al. 2024}). Desde então, essas técnicas se alastraram no cenário nacional. Atualmente, 421 projetos utilizam técnicas de reconhecimento facial no Brasil, com 87.199.831 pessoas possivelmente vigiadas. Na Região Sul, temos 82 projetos ativos e 11.150.413 pessoas vigiadas⁵.

No entanto, o uso das tecnologias de reconhecimento facial, mediante essa portaria e outras medidas subsequentes, não foi acompanhado pela implementação de um padrão adequado que assegure a transparência e a possibilidade de análise desses dados inseridos nos sistemas. Ressalta-se que o direito à proteção de dados foi reconhecido como direito fundamental autônomo mediante emenda à Constituição (Brasil 1988). Nesse sentido, a Lei 13.709/2018, conhecida como Lei Geral de Proteção de Dados (LGPD), sancionada em agosto de 2018, estabelece princípios e regras para o tratamento de dados pessoais no Brasil, impondo limites e deveres aos agentes de tratamento e garantindo direitos aos titulares. Sua origem decorreu da necessidade de harmonizar práticas de coleta e uso de dados com padrões internacionais, assegurando transparência, segurança e responsabilização, especialmente diante do avanço de tecnologias capazes de realizar vigilância em larga escala, como o reconhecimento facial.

Contudo, a implementação dos projetos avança em solo brasileiro sem que exista qualquer regulação que proteja os direitos fundamentais dos indivíduos vigiados. A consequência é um uso descabido dessas tecnologias, tornando os espaços públicos laboratórios de experimentação (^{Lima et al. 2024}). À vista desse laboratório a céu aberto, podemos estar diante de um renovado momento obscuro dos modos de punição: “Poderemos estar, portanto, na direção de algo ainda mais profundo que a gestão da morte de grupos específicos, mais agudo que a emulação da autodestruição, para, assim, experienciar um estado de pacificação mortal, de gestão terrífica de uma condição de sobrevivência” (^{Amaral 2023}, 15).

Um caso que ilustra a maneira como a tecnologia de reconhecimento facial é implementada em geral - apoiando-se somente em autorização genérica - é o da Secretaria de Segurança Pública do Estado da Bahia. Ela se utiliza apenas do caput do artigo 144 da Constituição Federal, que prescreve que qualquer meio pode ser empregado para melhor garantir a segurança pública. O estado da Bahia, nesse sentido, experenciou um uso alardeado das tecnologias de reconhecimento facial no Carnaval de 2019 (^{Nunes et al. 2023b}), a partir da iniciativa da Secretaria de Segurança Pública do Estado da Bahia, obtendo números frustrantes: foram capturados rostos de 1,3 milhões de pessoas, originando 903 alertas. Contudo, 96% dos avisos não resultaram em nada. Assim, assertivamente, Pablo Nunes declara que:

Esses alertas podem ser comparados ao envio de uma ambulância para socorrer um possível paciente. Se em 9 de cada 10 chamadas não houver uma emergência real, teremos o desperdício de dinheiro público e a alocação inútil de tempo e pessoal. É o que tem ocorrido na aplicação da tecnologia de reconhecimento facial. (2019b, 68)

É uma taxa alarmante de erro, porém isso não conteve o estado baiano, que continuou a investir na tecnologia, desembolsando, em 2021, cerca R$ 665 milhões (^{Falcão 2021}). Já em 2020, também no Carnaval de Salvador, foram presos 42 foragidos e foi capturada a identidade biométrica de 11,7 milhões de pessoas (^{Gama 2020}). O que pode parecer, inicialmente, um sucesso, quando colocada em perspectiva, se torna aterrorizante. O registro fotográfico dos rostos foi de 278 mil vezes a quantidade de indivíduos detidos (^{Reis et al. 2021}, 38). E os resultados, similares aos de 2019: 34 pessoas presas (^{Falcão 2021}). Não obstante, o uso das tecnologias de reconhecimento facial se estendeu para o interior do estado, agora estando presente em mais de 70 municípios, a despeito de indicadores claros da efetividade na redução da criminalidade. Na verdade, segundo os dados da Secretaria de Segurança Pública do Estado da Bahia, entre 2018 e 2022, os índices de criminalidade e violência permaneceram inertes ou até aumentaram em algumas regiões do estado (^{Lima et al. 2024}).

Da mesma forma, é interessante o destaque para a experiência do estado de Goiás, em que se percebe um projeto em curso de expansão da lógica da vigilância por meio do uso das tecnologias de reconhecimento facial. Isso porque, diante da falta de regulação específica para a implementação dessas tecnologias, percebe-se uma dinâmica diferente na interiorização desses mecanismos: o fenômeno ocorre acompanhado da municipalização da gestão dos recursos e dados produzidos pelas câmeras (^{Nunes et al. 2023a}).

Nesse contexto, o delegado Waldir (na época, deputado federal, representando o estado pelo partido União) capitaneou a interiorização municipalizada do uso de câmeras nas cidades de Goiás, destinando cerca de 30% dos seus recursos parlamentares para esse fim. Com todo o incentivo, os municípios foram organizando pregões e contratando empresas para instalar câmeras de forma autônoma. O resultado foi que, atualmente, Goiás é o estado brasileiro com mais programas municipais de implementação de videomonitoramento e reconhecimento facial. Destaca-se que foi realizado um investimento de quase 50 milhões de reais em apenas dois anos, sob a justificativa de “modernização do policiamento”, mas sem especificação dos serviços, empresas e responsáveis (^{Nunes et al. 2023a}).

Ainda assim, diante de um movimento de “modernização da segurança” por parte dos municípios, os projetos não foram acompanhados de mecanismos de responsabilização, prestação de contas e transparência (^{Lima et al. 2024}). Ressalta-se que as tecnologias de reconhecimento facial, já disseminadas no município desse estado, contam com um software próprio denominado “Harpia”, criado em 2017 pelo Instituto de Identificação da Polícia Civil, em parceria com a Universidade Federal de Goiás. No momento do seu lançamento, o mecanismo já contava com 50 mil fotos em seu banco de dados, sem que qualquer autoridade houvesse explicitado de onde elas teriam sido retiradas e como os dados seriam tratados. Até hoje, não há informações da Polícia Civil sobre o uso que é feito a partir do software Harpia (^{Nunes et al. 2023a}).

Assim, em ambos os casos, ocorre um verdadeiro processo de desresponsabilização do uso da tecnologia, uma vez que diversos projetos estão sendo aplicados na segurança pública brasileira de modo descentralizado. No Brasil, cada entidade tem a arbitrariedade de decidir qual tecnologia irá utilizar, o tipo de software, as empresas fornecedoras, os bancos de dados a serem utilizados, os requisitos de análise de vídeo e a localidade onde as tecnologias serão empregadas (^{Lima et al. 2024}). Agrava-se o cenário pelas lacunas de informação, uma vez que em nenhum dos projetos implementados no Brasil foi produzido uma avaliação de seus impactos.

Nesse sentido, a LGPD dispõe, no artigo 4º, inciso III, parágrafo 3º, a elaboração de uma avaliação de impacto em todos os casos, e a impõe quando se trata do meio penal: segurança pública, investigação e repressão de infrações penais. A pesquisa, denominada “Relatório de impacto à proteção de dados” (RIPD), tem a função de apontar quais efeitos que determinada política, programa ou serviço têm sobre a privacidade e a proteção de dados pessoais (Universidade Federal do Ceará 2024), para estabelecer quais os riscos e quais ações tomar. Inclusive, na esfera internacional, a União Europeia exige que sejam realizados RIPD para a adoção de equipamentos de reconhecimento facial. Entretanto, a tecnologia está sendo ostensivamente utilizada no Brasil sem o devido acompanhamento e exame de riscos. Outrossim, as autoridades que a utilizam não são qualificadas para tanto: desconhecem o funcionamento do sistema e suas possíveis consequências, além de não receberem treinamentos para adequar seus conhecimentos sobre o assunto e guiar suas ações.

Se essa tecnologia é, de fato, tão eficaz quanto os seus discursos afirmam, é necessário apresentar informações que comprovem essa eficácia. Dessa forma, confere-se mais legitimidade à sua utilização. Inclusive, a LGPD dispõe o direito ao acesso público a esses dados de maneira gratuita, fácil, clara e precisa. No entanto, atualmente, poucas instituições compartilham essas informações de forma adequada. Algumas nem mesmo liberam os dados com pedidos de entes interessados, tampouco os disponibilizam de maneira ampla para o público. A principal fonte de estatísticas sobre o tema vem de instituições independentes que realizam pesquisas próprias. Diante dessas circunstâncias, o escrutínio popular sobre a proporcionalidade e a eficiência dos sistemas de reconhecimento facial fica comprometido (^{Reis et al. 2021}). Portanto, o acesso às informações de modo simples por parte dos cidadãos deve ser proporcionado pelas autoridades que implementam tais práticas, a partir de canais específicos.

Conclusões

Quanto à reestruturação das barreiras das sociedades disciplinares, estando a vigilância volvida também agora aos meios abertos, alerta-se para o uso indiscriminado dos dispositivos de reconhecimento facial, tendo em vista que, por trás da roupagem democrática que os dispositivos securitários podem assumir (^{Negri e Hardt 2001}), existem, na verdade, sistemas algorítmicos que se retroalimentam em um ciclo discriminatório (^{Amaral et al. 2021}). Amparadas em legislações frágeis, essas tecnologias inflamam a vigilância e o gerenciamento de dados sob uma racionalidade pretensamente objetiva que, por fim, servem para criar perfis preditivos e proferir vereditos silenciosos sobre os sujeitos (^{Amaral et al. 2021}), de modo a antecipar e afetar os comportamentos possíveis, configurando uma “gestão de possíveis” (^{Bruno 2016, 37}). O cenário brasileiro, diante da falta de transparência - respaldada pela falta de regulação centralizada do assunto, permite uma grande margem para discricionariedade de como serão utilizadas essas ferramentas, conferindo ao Brasil um status de “laboratório” a céu aberto. O cenário é deveras delicado, visto que esses mecanismos podem “condenar o presente ao futuro antecipado” (^{Bruno 2016, 37}). Não se trata mais de isolar o sujeito no cárcere, mas a nova lógica penal precipita-se sob a interceptação do sujeito em seu trajeto (^{Amaral 2017}).

Pode-se afirmar, portanto, que o elemento central a ser revelado na lógica opaca das tecnologias algorítmicas é que as decisões que estruturam os modelos dessas máquinas são tomadas por seres humanos, carregando consigo interesses econômicos, políticos, sociais e variações culturais (^{Amaral et al. 2021}). Assim, apesar da pretensa objetividade e neutralidade dessas tecnologias, é inevitável que elas reproduzam efeitos discriminatórios em decorrência de seu funcionamento.