Sobre a censura algorítmica das imagens

A cultura urbana contemporânea é indissociável da produção imagética nas redes. Nunca se fotografou tanto como em nossa época. Até o fim de 2017, 1,2 trilhão de imagens devem ser compartilhadas, indicando um crescimento de 9% em relação ao ano passado. Estima-se que desde a sua invenção, no século 19, foram produzidas cerca de 3,5 trilhões de fotos em filme. Dito de outra forma, nos dois últimos anos escoaram nas redes uma quantidade de imagens que a humanidade demorou quase dois séculos para produzir analogicamente.

A mudança não é apenas quantitativa. É qualitativa também. Coloca em jogo um processo de apropriação da tela e do quadro da imagem por novos sujeitos sociais que não tem precedentes. Desde seus primórdios, as imagens estiveram diretamente relacionadas a instâncias de classe, gênero e poder político, sendo reservadas primeiramente a figuras sagradas, reis, aristocratas e papas e, depois, a políticos e burgueses abastados. Ao longo do século 20, as comunicações de massa expandiram o raio de quem podia se transformar em imagem publicada e passível até de ser arquivada. Mas é apenas no século 21, com a câmera digital e a Internet, que se pode falar em multiplicação e diversificação em grande escala do espectro social e cultural dos registros imagéticos.

O protagonista dessa história é o celular dotado de câmera e com acesso a internet. Foi ele o responsável por converter a câmera de dispositivo de captação em um dispositivo de projeção do sujeito. Projeção pessoal essa que tem destino certo: as redes sociais e os grupos interpessoais (do Facebook e Instagram ao Snapchat e Whatsapp). Nesses circuitos, as imagens aparecem atreladas ao lugar e à hora em que são produzidas, permitem a contextualização de cada um de seus autores em relação a seu grupo e são rastreadas a partir de alguns padrões. É nesse ponto que a cultura do compartilhamento se cruza com a cultura da vigilância.

Essa ambivalência é um dos traços marcantes da cultura das redes e aponta para diferentes concepções e tendências políticas da ecologia midiática atual. Elas abrem possibilidades inéditas de uso crítico e criativo das mídias existentes, mas são, também, novas plataformas de fomento ao consumo e ao controle de pessoas que se tornam facilmente rastreáveis por dispositivos de toda sorte. Esse rastreamento não é feito apenas por equipamentos da infraestrutura urbana, mas é alimentado pelo manancial de dados fornecidos voluntariamente por nós, especialmente a partir do uso da câmera do celular.

Diferentemente do que ocorre com os textos, que podem ser rastreados semanticamente, os conteúdos visuais são mapeados pelo reconhecimento de alguns padrões, como linhas, densidades e formas geométricas. Esses padrões designam, por exemplo, o que supostamente são seios, nádegas e pênis. Podem, por isso, funcionar como primeiro operador da censura das imagens nas redes sociais, fato que vem se tornando cada vez mais corriqueiro. Facebook e sua empresa afiliada Instagram não declaram se fazem uma triagem do material que é bloqueado com base em algoritmos. Mas dada a overdose informacional que circula nesses espaços, é bem plausível pensar que o processo segue, ou seguirá em breve, a mesma lógica do gerenciamento automatizado da timeline no Facebook, que “escolhe” os conteúdos que acessaremos, via instruções algorítmicas.

Os bloqueios de imagens atingem desde conteúdos históricos até a arte contemporânea e impactam as formas como decidimos utilizar as redes. Há casos como a da foto de 1909 dos índios Botocudos feita por Walter Grabe e que levou ao bloqueio de uma página do Ministério da Cultura no Facebook. Ela mostra uma índia com os seios nus e havia sido escolhida para ilustrar o lançamento do portal da Brasiliana fotográfica que ocorreu em 2015. Depois de protestos, inclusive do governo brasileiro, foi liberada. Há outros casos, mais recentes, como o dos “mamilos sem gênero”, que evidenciam nuances mais políticas dos processos de seleção.

Em um mundo cada vez mediado pela cultura visual e suas interdições, projetos pioneiros como Logo Hallucination do artista Christophe Bruno (2006) ganham relevância. Em uma bem-humorada operação de guerrilha pacífica, Bruno escolheu 18 logomarcas de grandes empresas, como McDonald’s, AT&T, Apple e Mercedes-Benz, entre outras, e colocou em operação um software de reconhecimento de padrões para buscar na Internet imagens que pudessem ser consideradas as matrizes das marcas dessas grandes corporações.

O resultado é, no mínimo, alucinante, como o nome de seu projeto indica: a logomarca dos jogos Atari já estaria contida em um quadro de Vermeer, uma máscara africana seria o original da do McDonald’s, entre outros casos bizarros disponíveis e documentados no site do projeto. Bruno mostrava como os novos recursos de reconhecimento de padrões tornavam- se um campo fértil para as tecnologias de controle e gerenciamento de direitos autorais de imagens. Questionava se chegaríamos a um grau de alucinação tal que culminaria na privatização do olhar. Visto 10 anos depois, Logo Hallucination revela-se como aula inaugural sobre os métodos de ação de uma nova forma de censura. Uma censura que não proíbe. Antes, define, algoritmicamente, o direito de visualizar.

Publicado originalmente em Dissenso.org