(por Rodrigo Firmino e Pietra Milani)
Na última semana de agosto, Jararaca (PPGTU/PUCPR), Tecnosfera (UFPR) e MediaLab.UFRJ, em parceria com LAVITS, realizaram ações de ativação comunitária do projeto de extensão “Dados e ativação comunitária sobre o uso de reconhecimento facial na segurança pública” (PROEXT-PG/CAPES).
Entre 26 e 28 de agosto, durante o VII Simpósio Internacional LAVITS, realizamos a ativação “Bota a Cara: vendo pelos olhos do algoritmo” e a instalação “Gabriela: Corpos sob Suspeita”.
No Bota a Cara, convidamos quem circulava pelo evento a se colocar diante de sistemas de análise facial e experimentar como essas tecnologias transformam um rosto em dados, classificações e inferências. Quem participou pôde observar como algoritmos tentam atribuir características como idade e gênero e interpretar expressões faciais associando-as a determinadas emoções pré-classificadas em bancos de dados. A experiência problematiza uma das características ocultas das infraestruturas de vigilância e classificação social, que entre um rosto e o resultado apresentado por uma máquina há modelos, categorias, bases de dados e decisões humanas.
Sistemas desse tipo costumam ser apresentados como instrumentos objetivos de identificação e classificação. No entanto, seus resultados carregam limitações técnicas e problemas relacionados aos dados utilizados em seu treinamento, além de reproduzirem vieses sociais. O material desenvolvido para a oficina chama atenção, por exemplo, para as limitações da chamada detecção de emoções. Expressões faciais e seus significados variam conforme contextos sociais e culturais, enquanto os sistemas são treinados a partir de categorias previamente definidas.
Ao lado dessa experimentação, Gabriela: Corpos sob Suspeita levou a discussão para a linguagem das tirinhas. A personagem nasceu em 2024, durante uma intervenção de graffiti realizada na Criptofunk, na Maré, no Rio de Janeiro, em uma das primeiras ações de ativação comunitária do projeto. Seu nome faz referência crítica à empresa de vigilância Gabriel e à expansão das infraestruturas privadas e públicas de monitoramento nas cidades. Na instalação apresentada no simpósio da LAVITS, seis tirinhas exibidas em sequência colocam Gabriela em situações atravessadas por câmeras, reconhecimento facial e outras formas de vigilância. Com humor e ironia, as histórias partem de situações inspiradas em casos reais para deslocar a discussão sobre essas tecnologias do terreno aparentemente abstrato dos sistemas técnicos para situações cotidianas.
Nas tirinhas, a vigilância acompanha Gabriela enquanto ela circula pela cidade; aparece incorporada à escola e à chamada por reconhecimento facial; produz uma identificação equivocada na entrada de um jogo de futebol; e alcança manifestações e espaços de mobilização política. Há ainda um diálogo direto entre a personagem e as próprias metodologias do projeto, com histórias dedicadas à potência do Pinta a Cara em situações cotidianas. A presença de Gabriela junto ao Bota a Cara ampliou as possibilidades de interação durante o simpósio. De um lado, experimentar diretamente a classificação algorítmica do próprio rosto; de outro, acompanhar uma personagem submetida a diferentes situações de vigilância. São linguagens que ajudam a tornar perceptíveis as relações sociais e políticas inscritas em tecnologias frequentemente apresentadas como soluções estritamente técnicas.
Essa discussão ganha importância quando reconhecimento facial e análise de expressões deixam o ambiente de demonstração e passam a integrar sistemas de vigilância. O próprio projeto parte da preocupação com os riscos do reconhecimento facial na segurança pública, especialmente sua relação com discriminação e violações de direitos fundamentais.
No dia 26/08, levamos essa discussão também ao Instituto Papo Reto, no Complexo do Alemão, em uma oficina com cerca de 20 jovens, entre 12 e 26 anos, moradores do território. Ali, a oficina “Bota a Cara” foi combinada a outra ativação desenvolvida pelo projeto, “Pinta a Cara: quem vê cara não vê vigilância”.
No Bota a Cara experimentamos como a máquina procura interpretar um rosto, e no Pinta a Cara usamos maquiagem anti-vigilância para questionar, de forma lúdica, as leituras maquínicas. Inspirada em práticas artísticas e de ativismo digital, a atividade explora pinturas que alteram simetrias, contornos e pontos de referência utilizados por sistemas de reconhecimento facial. A maquiagem funciona, assim, como dispositivo pedagógico e linguagem de resistência, ao tentar confundir o algoritmo e tornar possível discutir coletivamente seus critérios e suas limitações. A metodologia já havia sido experimentada pelo projeto em uma primeira ativação comunitária realizada com o Criptofunk, na Redes da Maré, em novembro de 2024.
Realizar essas atividades no Complexo do Alemão reforça o fato de que tecnologias de vigilância não chegam da mesma maneira a todos os lugares, nem produzem os mesmos efeitos sobre todas as pessoas. Falar de reconhecimento facial com jovens de um território marcado pela presença violenta e cotidiana das políticas de segurança pública significa discutir uma infraestrutura tecnológica a partir das experiências concretas de quem pode estar diretamente submetido a ela.
Observar como os algoritmos identificam diferentes características nas experimentações levantou diferentes discussões que extrapolaram seu uso na segurança pública e alcançaram espontâneamente reflexões sobre o uso crescente desses sistemas como principal forma de proteção de crianças online. Durante a ativação alguns participantes com idade entre 12 e 14 anos foram identificados pelos algoritmos como adultos mostrando como essa pode ser uma ferramenta perigosa se usada como única forma de proteger crianças de acessar conteúdos na Internet.
Por isso, nosso interesse não se limita a explicar como um algoritmo funciona, mas avança para criar condições e estabelecer estranhamentos sobre quem constrói essas tecnologias, com quais dados, segundo quais critérios, para quais finalidades e com quais consequências. Experimentar os sistemas, perceber seus erros, interferir em seu funcionamento e discutir coletivamente seus usos são formas de desnaturalizar a aparente objetividade da decisão algorítmica. São também maneiras de ampliar repertórios para disputar decisões sobre onde, como e contra quem tecnologias de vigilância são implementadas.
Essa é uma das apostas centrais do projeto, isto é, aproximar pesquisa acadêmica e engajamento comunitário, promovendo trocas entre estudantes, pesquisadores e comunidades afetadas por tecnologias de vigilância e experimentando metodologias participativas capazes de produzir reflexão crítica sobre seus usos. A ativação comunitária caminha, ao mesmo tempo, junto a uma frente de produção e organização de dados sobre reconhecimento facial, monitoramento de sua regulamentação e análise de investimentos públicos.
Bota a Cara e Pinta a Cara fazem parte desse esforço de colocar o reconhecimento facial em debate público a partir da experimentação, da pesquisa e da construção coletiva de conhecimento, especialmente junto às pessoas e aos territórios diretamente atravessados pela expansão das infraestruturas de vigilância.
O projeto “Dados e ativação comunitária sobre o uso de reconhecimento facial na segurança pública” é desenvolvido no âmbito do PROEXT-PG/CAPES, articulando vários laboratórios universitários e organizações da sociedade civil. Seu horizonte é fortalecer a formação crítica sobre reconhecimento facial e vigilância e produzir dados e análises que possam contribuir para o debate público e para políticas de segurança e tecnologia mais transparentes na gestão urbana. Participaram das oficinas, as pesquisadoras e pesquisadores Rodrigo Firmino (coordenador), Carolina Israel, Débora Pio, Gilberto Vieira, Iara Schiavi, Pietra Milani, Yasmin Marques, Rubia Sehnem, Karoline Conde, Bianca Mensen e Sabrina Leite.
Outros registros das oficinas:
Confira os vídeos de divulgação das oficinas realizados pela rede Rede Lavits e pelo Instituto Papo Reto no instagram:
Ver essa foto no Instagram
Ver essa foto no Instagram