Os ensaios de número dois e quatro do livro “Políticas da imagem: Vigilância e resistência na dadosfera”, de 2021, da artista e escritora Giselle Beiguelman, foram as leituras dos últimos dois seminários do nosso grupo de pesquisa. Intitulados Dadosfera e Eugenia Maquínica, suas leituras e os debates se endereçam às novas tecnologias, à inteligência artificial e às produções contemporâneas dentro da dadosfera. Acima de tudo, a autora pretende desmontar a caixa preta da engenharia de inibição comportamental e da maquinaria eugenista colonial no meio digital. Neste post exploro algumas das questões trabalhadas no Grupo de Pesquisa.
Dadosfera é o espaço da WWW (World Wide Web) em que as imagens aparecem atreladas ao lugar e à hora em que são produzidas, e são contextualizadas pelos seus algoritmos, de acordo com padrões internos dos arquivos digitais, como escreve a autora. Nela somos dados rastreáveis, que geram lucro, como um dos principais aspectos da economia digital. Segundo os pesquisadores Nick Couldry e Ulisses Mejias, no datacolonialismo da dadosfera a acumulação de capital decorre do extrativismo de dados dos usuários, e não da produção. Destacam que o colonialismo histórico e o colonialismo de dados não são a mesma coisa, suas violências são muito diferentes. Para a mineração de dados, o mercado se apropria da “profilagem”, uma forma de acumular informações sobre as pessoas com base em seus gostos e performances de autoexposição online.
Os algoritmos do Facebook buscam em cada perfil uma métrica balanceada das emoções que o usuário seleciona em cada post. O ideal para que a profilagem ocorra são usuários que dão “amei” tanto como “triste”, “grr”, “haha” e “uau”, assim, envolve o treinamento dos algoritmos para que dependam das nossas escolhas pessoais online. Abordando de forma crítica este datacolonialismo, o programa Go Rando (2017), desenvolvido pelo artista Ben Grosser, é um plug-in do Chrome que interfere na escolha das reações no Facebook, substituindo-a randomicamente por outra, assim, atrapalhando o processo de registro dos dados do perfil e dificultando a profilagem.
Go Rando (2017) logo. Fonte: https://bengrosser.com/projects/go-rando/
Como se sabe, as máquinas não enxergam – elas nos reconhecem por palavras e padrões imagéticos. Em O que vemos, o que nos olha, Georges Didi-Huberman (1998) indica a partilha paradoxal do nosso olhar. Enxergamos com o olhar do que nos enxerga também. Diante de uma tumba, o volume é uma parte isolada dela, sem relação com quem a olha. Quando vemos que ela nos olha, vemos uma semelhança perdida. Uma tumba é um corpo que contém um volume, mas que também oferece o vazio da queda para o nosso corpo. Na internet, delegamos às máquinas um olhar que tateia semelhanças perdidas em todas as coisas. Este é o conceito que acompanha a obra Cloud Face (2012), do artista Shinseungback Kimyonghun, em que um software de reconhecimento facial identifica rostos humanos em uma coletânea de fotos de nuvens.
Os algoritmos gradualmente estão sendo percebidos como armas muito poderosas de reconhecimento e rastreamento, justamente porque a modelagem de suas codificações não são neutras. O treinamento maquínico começa com o que chamamos de “rotulação”, em que a máquina é abastecida com milhares de imagens de coisas a serem rotuladas e diferenciadas, como rostos femininos e masculinos. Em seguida, passa para a aprendizagem profunda (deep learning), quando os padrões inscritos nas diversas camadas das imagens, como informações sobre cor, disposição dos pixels, coordenadas geométricas, densidades, dentre outros, são computados. As GANS (generative adversarial networks) ou redes generativas adversárias, revolucionaram o campo do treinamento de algoritmos. Primeiramente, elas sobrepõem duas redes, atuando respectivamente como geradoras e discriminadoras. Logo, cabe à primeira criar imagens e à segunda decidir se aquela imagem é real ou falsa, em uma verdadeira caça de gato e rato. Porém, o contrário também ocorre; quanto mais a discriminadora aprende a reconhecer as imagens falsas, mais a geradora aprende a enganá-la.
Os deepfakes são imagens produzidas algoritmicamente para enganar os algoritmos, usando milhares de imagens estocadas em bancos de dados. Para colocar em evidência estes processos, o artista Philip Wang cria em seu site This Person Does Not Exist (2019), com imagens resultantes de software que se apropria de redes para formar outras imagens. Usando partes específicas delas, como iluminação, curvas, contrastes, etc., adotando suas características, sem alterar as outras. Ao inserir uma imagem facial de entrada, a rede distribui elementos humanos randômicos ao resto do rosto.
This Person Does Not Exist (2019). Fonte: https://thispersondoesnotexist.com/
Giselle Beiguelman aponta que esses programas são construídos e alimentados por funcionários e partem de componentes de pré-conceitos já estabelecidos socialmente. Ela aproxima a história das deepfakes com a história das teorias antropométricas, especialmente a teoria de Francis Galton, o pai dos sistemas de classificação eugenistas. Galton sobrepunha rostos a partir de exposições múltiplas sobre a mesma placa fotográfica a fim de encontrar padrões gerais do caráter de “corpos criminosos”. Ao entendermos que a maioria das deepfakes são produzidas para controlar alguma parte da Web, sua associação com o eugenismo fica ainda maior. A quem interessa desbloquear direitos autorais para acesso à privacidade de uma feição?
Quando capturamos uma imagem em nossos celulares, ao abri-la o editor automaticamente alinha nosso rosto na regra dos terços e corrige a iluminação, fazendo-a parecer uma deepfake. Ainda que este movimento seja reversível, a tendência é que cada vez mais as câmeras aprendam a capturar imagens já corrigidas nestes padrões. Outra normalização que figura em nossa realidade são as câmeras térmicas, principalmente com a pandemia de Covid-19, em que sensores são aproximados de nossas testas e pulsos em cada estabelecimento que entramos. Para além de marcar nossa temperatura corporal buscando anormalidades, definem o horário em que estávamos em tal ambiente e com quem.
Com esta preocupação, o artista Adam Harvey usou os arquivos das câmeras de segurança com sensores térmicos da Universidade de Duke para montar um mapa de calor de “fantasmas”, com o deslocamento dos alunos pelo campus, e o intitulou Datengeist Duke MTMC (2020).
Segundo Beiguelman, as próximas máquinas virão de fábrica com padrões mais fixos do que as que utilizamos hoje, para que não possamos desobedecê-las em suas escolhas com as imagens e com nossos dados. Assim, é urgente percebermos a dadosfera como um espaço em que muitos atuam como agentes de uma ciência militarizada, que se equipa com os restos do colonialismo em nossa sociedade para que não precisemos repensar nossa fisiologia básica, como a modulação do nosso sorriso em uma selfie, temendo que seja usada sem nossa permissão.
Nesta perspectiva, a discussão que opõe humano x máquina deve estender-se, também, para natural x modificado em todas suas aplicações contemporâneas.
Vamos nos deter mais nestas discussões!
Referências:
COULDRY, Nick e MEJIAS, Ulises A. The Costs of Connection: How Data Is Colonizing Human Life and Appropriating It for Capitalism. Redwood City: Stanford University Press, 2019.
DIDI-HUBERMAN, Georges. O que vemos, o que nos olha. Tradução de Paulo Neves. São Paulo: Ed. 34, 1998.
BEIGUELMAN, Giselle. Políticas da Imagem: Vigilância e Resistência na Dadosfera. São Paulo: Ubu Editora, 2021. 224 pp. /Coleção Exit.
