(por Pietra Milani, para o Tecnosfera)
Na última semana do mês de maio de 2026, o projeto “Dados e ativação comunitária sobre o uso de reconhecimento facial na segurança pública”, apoiado pela CAPES por meio do edital PROEXT-PG, levou as oficinas “Bota a Cara: vendo pelos olhos do algoritmo” e “Pinta a Cara: maquiagem anti-vigilância confundindo o reconhecimento facial” para Belém do Pará em razão do 16° Fórum da Internet no Brasil (FIB16).
O FIB é um evento que reúne representantes de todos os setores para discutirem as questões mais relevantes para a consolidação e expansão da Internet no país e é promovido anualmente pelo Comitê Gestor da Internet no Brasil (CGI.br). Esse ano o evento aconteceu entre os dias 25 e 29 de maio no Hangar Convenções e Feiras da Amazônia na cidade de Belém (PA) e discutiu temas como: soberania digital; proteção de crianças e adolescentes; conectividade e inclusão; cibersegurança; direitos humanos e cidadania; Amazônia, povos indígenas e sustentabilidade; Inteligência Artificial e regulação, entre outros.
A participação do projeto nesse ecossistema multissetorial de debates, se deu pelo convite da Rede de Pesquisa em Governança da Internet (REDE) para integrar dois momentos: o primeiro no “II Encontro Soberania Digital e Tecnodiversidade: pensar as tecnologias a partir dos territórios” que aconteceu nas vésperas do FIB (24/05) e o segundo no IX Encontro Anual da organização, “Quanto vale ou é por quilo: os custos socioambientais da IA”, que teve lugar no dia Zero do Fórum (25/05).
Dia -1: Encontro Soberania Digital e Tecnodiversidade
Antecedendo o Fórum da Internet no Brasil, o Encontro promovido pela REDE, em parceria com o Laboratório de Estudos Sociotécnicos da Universidade Federal do Pará (UFPA), teve lugar no Centro de Estudos e Defesa do Negro do Pará (Cedenpa) e teve como objetivo discutir temas emergentes no âmbito da Governança da Internet, de maneira a extrapolar o ambiente institucional do FIB, priorizando o engajamento e fortalecimento de comunidades atingidas por grandes obras de infraestrutura de comunicação, a partir de oficinas com metodologias ativas e com o envolvimento da comunidade local.
Foi sob essa premissa que a oficina “Bota a Cara” propôs a experimentação prática de tecnologias de Reconhecimento Facial (RF) e análise biométrica de maneira a sensibilizar o público para os riscos, vieses, limitações e erros dessas tecnologias, evidenciando como diferentes grupos sociais podem ser impactados de forma desigual por sistemas automatizados de identificação e categorização social.
A atividade convidou o público do evento a se expor voluntariamente a sistemas locais e offline, com algoritmos construídos pelos integrantes do projeto André Pecini e Rubia Sehnem, que analisam características como idade, gênero, emoções e expressões faciais em tempo real, sem que nenhum dado biométrico ou imagem seja armazenado, transmitido ou compartilhado, funcionando apenas como uma experimentação prática desses sistemas.
A oficina teve alto engajamento e dialogou com os debates levantados durante o encontro sobre como a tecnologia não é neutra e reflete desigualdades estruturais historicamente construídas. Diante disso, discutiu-se como a dificuldade sistêmica de acesso à educação formal de determinados grupos afeta tanto o acesso aos espaços de discussão e decisão, quanto a participação efetiva no desenvolvimento de tecnologias, contribuindo para a construção de um mundo digital por grupos homogêneos, em que há pouca ou nenhuma diversidade de gênero, raça, classe, deficiência, etc. fazendo com as tecnologias reflitam esses marcadores sociais da diferença.
Isso fica evidente nos sistemas de RF, que são automatizados com base em dados enviesados, resultando em algoritmos que apresentam maior falha em pessoas negras, trans e não binárias. Essa reflexão permitiu pensar em como os vieses discriminatórios carregados pelos sistemas de Reconhecimento Facial são reflexo da falta de diversidade no seu desenho, desenvolvimento e implementação, e como a inserção de múltiplas perspectivas, principalmente por meio do design participativo, poderia auxiliar na redução desses vieses e no aumento da equidade.
Essas reflexões, contudo, levantaram diversas questões: Será que a capacitação e inclusão de corpos dissidentes e perspectivas diversas na produção de tecnologias é suficiente para construir sistemas não opressivos? Os vieses discriminatórios são o único problema da implementação dessas tecnologias na Segurança Pública? O desenvolvimento de tecnologias mais diversas e inclusivas justificaria a implementação de sistemas de vigilância massiva nos espaços públicos?
Essas foram questões que ecoaram ao longo do dia e permitiram chegar na conclusão coletiva de que mais do que tecnologias discriminatórias, esses sistemas operam como forma de controle social e condução de conduta, interferindo no direito à privacidade, na liberdade de expressão, reunião pacífica, associação e livre circulação, ao aumentar a capacidade de rastreamento e identificação sistemática de indivíduos em espaços públicos.
Essas questões tomaram formas ainda mais preocupantes quando cruzadas com os relatos, apresentados no encontro, de perseguição e silenciamento sofrido por lideranças indígenas que tem se posicionado contra a implementação de grandes centros de processamento de dados (data centers) em seus territórios.
Ver essa foto no Instagram
Dia Zero: Encontro Anual da REDE
O dia Zero antecede a programação multissetorial oficial do FIB e funciona como um espaço para que a comunidade e organizações interessadas se reúnam e realizem atividades autogestionadas de interesse do público participante do Fórum.
A REDE ocupa esse espaço há 9 anos propondo debates acadêmicos entre pessoas interessadas num objeto de pesquisa comum, a Governança da Internet, a fim de proporcionar a interação de abordagens, enfoques, metodologias e métodos de pesquisa que permitam ampliar o debate e a investigação sobre o tema e seus desdobramentos, em vista dos rápidos desenvolvimentos tecnocientíficos da Internet.
Esse ano, sob o tema “Quanto vale ou é por quilo? Os impactos socioambientais da IA”, propôs-se discutir a colonialidade dos valores que sustentam os sistemas de Inteligência Artificial (IA), que configuram novas expressões de racismo ambiental desde sua cadeia de produção até seu próprio modo de funcionamento, que é carregado de vieses extrativistas, raciais e de gênero e automatiza a reprodução das desigualdades socioestruturais em formas dataficadas de quantificação do valor da vida.
Diante dessa temática, as oficinas “Bota a Cara” e “Pinta a Cara” buscaram discutir as tecnologias de Reconhecimento Facial, que são também sistemas de IA, tanto a partir dos vieses que carregam quanto apresentando formas de resistência e subversão criativa desses algoritmos por meio da maquiagem anti-vigilância.
Em diálogo com os diversos trabalhos apresentados, foi possível extrapolar a discussão do dia anterior, entendendo que as tecnologias de IA não apenas refletem desigualdades estruturais, mas são derivadas de um modelo de mundo desigual e construídas para perpetuá-lo. Muito do que se discutiu no encontro girou em torno de como a colonialidade se reflete na tecnologia por meio da imposição violenta de modos de ser, pensar e sentir, concebidas a partir de uma visão tecnocentrada que impede outras formas de existência e para além da hegemônica.
Isso quer dizer que esses dispositivos e tecnologias extrapolam sua condição de meras ferramentas técnicas e integram todo um arranjo sociotécnico que cada vez mais explora recursos naturais, dados, trabalho, corpos e território, bem como subjetividades de populações variadas. Os sistemas de Reconhecimento Facial, por exemplo, além de identificar pessoas, monitoram emoções e comportamentos, o que faz com que sujeitos submetidos a essa tecnologia sejam moldados pela certeza da vigilância constante.
Contudo, apesar do futuro muitas vezes parecer distópico, existem formas de recusa desse modelo tecnológico extrativista hegemônico e dos limites sociais-digitais normativos, que podem ser ativadas por meio de diferentes formas de resistência tecnopolítica. Essa é a proposta da maquiagem anti-vigilância, que propõe por meio de uma abordagem lúdica confundir os algoritmos com técnicas de maquiagem que dificultam o reconhecimento de pontos estratégicos do rosto, essenciais para identificação biométrica.
Longe de ser uma solução, a maquiagem funciona como forma criativa de retomar a agência sobre nossos corpos, dados e subjetividades, contestando sistemas opressivos e expressando formas individuais de resistência e subversão. Além disso, funciona também como uma atividade ativadora do debate e do estranhamento ao uso de arranjos sociotécnicos de vigilância como soluções incontestáveis de problemas sociais complexos e estruturais. Um dos participantes do “Pinta a Cara”, o professor Paulo Rená (IRIS-BH e Aqualtune Lab), ao ir para ópera no Theatro da Paz de Belém preservando a maquiagem realizada na oficina, relatou que a maquiagem é cativante pois, ao passo que dificulta o reconhecimento da máquina, também facilita o reconhecimento humano despertando o fascínio das pessoas.
Repercussões no Fórum da Internet no Brasil
O engajamento e discussões resultantes das oficinas foi tão expressivo ao longo do dia Zero que a organização do FIB convidou o projeto para compor mais um espaço durante o evento. A partir desse convite, realizamos as oficinas mais uma vez no dia 28 de maio em uma instalação no hall de entrada do Fórum, que teve um engajamento ainda mais surpreendente por ampliar a diversidade do público extrapolando os participantes costumeiros e envolvendo muitos dos transeuntes que tiveram a atenção cativada pela movimentação incomum nesse ambiente tão formal de apresentações e debates.
O sucesso das maquiagens anti-vigilância no FIB nos surpreendeu especialmente durante a festa oficial do evento, que sucedeu o dia da instalação, quando encontramos muitas pessoas com suas maquiagens, compostas por padrões visuais não normativos, ainda preservadas. Assim, conclui-se que a grande conquista dessa experiência no maior fórum multissetorial sobre Internet no Brasil foi mostrar que o lúdico e o criativo também pertencem aos espaços formais. Mais do que confundir algoritmos de reconhecimento facial, nossas oficinas subverteram a rigidez institucional, utilizando o desconforto e o encantamento como pontes para engajar e provocar o público.
Leia a publicação original no site do Tecnosfera.
Registros das oficinas, por Pietra Milani:
