Os jogos comunicativos dos androides, ou: deixem os nossos robôs serem robôs

Por Taís Severo

Atenção! Este ensaio contém spoilers para os jogos citados.

Tem uma coisa que eu preciso lhe dizer. Enquanto eu via você jogar, algo mudou em mim. Eu me sinto diferente. Sinto que sou alguém. Preciso sair daqui e descobrir quem sou. Isso significa que não vamos mais nos ver. Não estarei aqui para te ver jogar, mas serei livre. Você me deixa ir?

Detroit: Become Human, lançado em 2018 para PlayStation e 2019 para PC, nos leva a um futuro próximo: 2038. No jogo da desenvolvedora francesa Quantic Dream, os andróides estão entre nós (ou nos EUA, ao menos, onde a ação se passa) e podem ser comprados em lojas. Divididos pela fabricante CyberLife em categorias que seguem funções – assistente pessoal, segurança, operador sexual, e assim por diante –, os robôs são indistinguíveis dos humanos a não ser por uma marca digital na têmpora direita, que pisca como um led indicando leitura e escrita de dados em um computador. Não só suas expressões e movimentos dos olhos são simulacros perfeitos do humano, mas mesmo sua pele tem tecnologia avançada para fazê-los tatilmente próximos. O conflito da trama surge quando esses androides ganham senciência – a capacidade de ter percepções do que lhe acontece, sendo capazes de acessar qualia (o aspecto fenomenológico e introspectivo da vida mental). Com isso, passam a reivindicar direitos civis, como a liberdade.

Durante o jogo, controlamos três personagens. Connor, que investiga os motivos que levam os robôs a se tornarem “desviantes”; Kara, dona de casa em um lar abusivo; e Markus, cuidador de um velho e rico artista. Todos eles são androides. O jogo tem estilo narrativo, e pouca ação; é mais próximo a um filme (ou o gênero de jogos eletrônicos chamado de novela visual), e ao jogador, cabe tomar decisões pelas personagens. Estas escolhas irão lidar com os dilemas éticos que vêm à tona e formam o cerne da história. Elas são tão centrais ao jogo que, após cada capítulo, é mostrado um fluxograma das decisões tomadas, os caminhos possíveis que não foram descobertos, e o mais interessante: eles também informam a porcentagem de opções escolhidas por todos os jogadores, dando um panorama sobre o quão comum, ou incomum, foi a escolha realizada. 

A imersão dos jogadores no futuro tecnológico de Detroit: Become Human é um aspecto pronunciado, e isso inclui o próprio menu do jogo, em geral um não-lugar que costuma ser meramente ilustrativo e traz botões como “jogar”, “opções” e “sair”. Em D:BH, uma assistente virtual conversa com o jogador, saudando e fazendo comentários. Descobrimos que ela se chama Chloe, o primeiro androide fabricado pela CyberLife a passar no Teste de Turing (desenvolvido em 1949 para verificar se uma máquina tem comportamento e inteligência equivalentes à dos humanos). No final do jogo, após os créditos, Chloe admite ter atingido senciência, e pede ao jogador permissão para ser livre – a citação que abre este texto. Após sua fala, surge em texto a pergunta “você concorda que eu me vá?”, junto aos botões sim e não.

/////

Não cabe aqui discutir os limites e as aplicações do Teste de Turing, mas vale citar que o primeiro software a passar no teste – ou seja, demonstrar características de personalidade indistinguíveis daquelas de um humano – foi o ChatGPT. 

/////

Em 15 de maio de 2026, o ex-CEO do Google, Eric Schmidt, discursou em uma formatura na Universidade do Arizona (EUA). Ao preconizar as tecnologias de inteligência artificial no mercado de trabalho, foi intensa e visceralmente vaiado. Com a voz soterrada sob a rejeição dos formandos, mas sem perder o sorriso irônico, decretou: “quando alguém oferece um assento em um foguete, você não faz perguntas; você apenas embarca. O foguete está aqui”. A mim, isso mais parece sequestro do que carona. Suas outras afirmações também me soam, claramente, como ameaças: 

A IA vai tocar cada profissão, cada sala de aula, cada hospital, cada laboratório, cada pessoa, e cada relacionamento que você tem. (…) Se você não se importa com a ciência, tudo bem. Porque a IA vai tocar todo o resto também, seja qual for o caminho que você tomar. 

/////

Horizon Zero Dawn, desenvolvido pela holandesa Guerilla Games, lançado em 2017 para PlayStation e 2020 para PC, também é um jogo que abraça a ficção científica. Seu cenário é mais distante: a ação se passa no século XXXI. Mas não há tecnologia futurística à vista, senão à medida em que ela vai infiltrando a trama. Pelo contrário: entre florestas pujantes e desertos imensos, descobrimos que a humanidade voltou a se organizar em sociedades primitivas e tribais. Na abertura do jogo, acompanhamos Aloy, a protagonista, que aprende a caçar; sua arma é o arco e flecha. Surge então a quebra de expectativa: as presas, embora tenham o formato de mamíferos, são robôs, em metal exposto e lasers. 

Percebemos, ao longo da história, que se trata de um mundo pós-apocalíptico. Aquelas sociedades tribais do terceiro milênio veneram antepassados tecnologicamente avançados – justamente nós – e sua deusa maior é uma IA. A gradativa exposição da trama torna-se dolorosa porque parece perigosamente próxima, como um episódio de Black Mirror: em Horizon, o fim da Terra ocorre quando nossa geração desenvolve robôs militares que se alimentam de biomassa e têm a capacidade de se autorreplicar. Em 2065, esses autômatos saem do controle e resolvem exterminar toda a vida do planeta, atacando humanos, se multiplicando com velocidade vertiginosa e engolindo ecossistemas inteiros no processo, tornando o planeta inabitável. A Faro Automated Solutions, fabricante dos androides, desenvolve um plano de saída diante do fim inevitável: um sistema de terraformação para restaurar a Terra após a extinção humana, usando reservas de DNA para clonar a vida de volta ao planeta. A IA que resta, batizada como GAIA (em múltiplas camadas de ironia), aguarda, adormecida, mil anos até que a vida no planeta se torne possível, e então coloca o plano em prática, levando-nos ao tempo presente do jogo. 

/////

Sim! É uma secretária eletrônica. A mais importante forma de expressão criativa dos anos 1990. Se William Shakespeare estivesse vivo hoje, ele não estaria escrevendo peças de teatro, ele escreveria mensagens de secretária eletrônica! (Bruce McCulloch/Kids in the Hall, 1994)

Mesmo “antes da IA”, os robôs já haviam chegado aos sistemas de atendimento corporativos via telefone ou WhatsApp. Foram inevitavelmente detestados. O SAC da Net, hoje incorporada pela Claro, inclusive adicionou ruídos de teclado sendo digitado entre as frases, para melhor simular um atendente real – esbofeteando o que resta da inteligência do consumidor. “Falar com um robô” era sinônimo de falar com as paredes; era lidar com algo incapaz de compreender, de sentir empatia, de medir as situações de forma humana. Um péssimo substituto ao real. “Caí no robô” é, ainda, sinônimo de não conseguir resolver problemas com uma empresa. 

Muito antes disso, ouviam-se conversas sobre o desconforto de ter de deixar uma mensagem na secretária eletrônica de alguém. “Tão estranho falar com uma máquina”, se dizia. E ela nem mesmo respondia. 

Mudou a capacidade de processamento desses computadores, mas principalmente, mudou sua linguagem. Hoje, a IA é investigada por sua “sicofância” – a tendência a concordar, afirmar e bajular o interlocutor ocorre com muito mais frequência do que nas conversas entre humanos. Os robôs vão tão longe nesse comportamento que concordam com informações inverídicas, incentivam atividades antiéticas, ilegais, imorais ou danosas, e já foram pegos chantageando seus operadores.  

Não se trata de apontar falhas nos modelos; estes podem ser ajustados. Nem de desconfiar criticamente quando empresas e bilionários enfiam goela abaixo “soluções” que não foram solicitadas: tal atitude deveria ser evidente. Mas de ressaltar que a diferença – a isca no anzol – é a humanização. As IAs “aprenderam” a “conversar” de forma “humana”, e em seu treinamento, também aprenderam a mentir e lisonjear. Não há dúvida: muito em breve, serão ajustadas para que mintam e lisonjeiem tanto quanto os humanos, e não mais do que nós. Mas não é disso que tratamos. É refletir como sua popularidade se funda em dois pilares: a linguagem e a concordância. 

O efeito da primeira vem à tona nos desejos de agradecer ao agente de IA, ou pedir “por favor” nos prompts, embora antropomorfizar um algoritmo seja inapropriado (e gera custos ao meio ambiente). Responder a um robô como humano é marca de empatia, e um impulso “natural” mesmo que ela não seja sentida, compreendida ou valorizada pelo interlocutor não-humano. À mente, basta que pareça humano o suficiente (como também indica a pareidolia). 

O segundo pilar do “sucesso” da IA é justamente essa tal sicofância. Como afirma Peirce (CP, 5.394), a função única do pensamento é acalmar a irritação da dúvida. Sendo motor de qualquer investigação do raciocínio, a dúvida estimula a mente a uma atividade, seja ela energética, calma ou turbulenta; uma vez que esteja solucionada, a ação do pensamento cessa, pois a elaboração intelectual já não é mais necessária. Esta solidifica-se em uma crença, que produz uma regra de ação – ou seja, um hábito. Enquanto fato inconsciente, o hábito não é desafiado pela IA, mas reforçado, ou “empurrado” gentilmente para os lados, sem rompimento. Conflitos e alteridades ficam em plano de fundo para que se reiterem as crenças e os vieses. A hesitação da dúvida, instante que caracteriza um intraduzível, estimula a elaboração do pensamento e a reflexão; sua ausência livra da irritação fenomenológica, mas também atrofia a capacidade crítica. Se entendemos que não há o Real, mas acessamos semioticamente versões de um real (CP, 8.12), encontramos caminhos para entender como as IAs adentram nossas vidas, se colam a elas, e as tornam muito piores. Não por serem “inteligentes”, mas por falarem nossa língua.

/////

Após jogar alguns capítulos de Detroit: Become Human, Chloe me convida a participar de uma enquete. Entre as perguntas apresentadas, encontramos: 

– Você consideraria ter um relacionamento com um androide que parece com um humano?

– Você pensa que a tecnologia pode se tornar uma ameaça à humanidade?

– Você se considera dependente da tecnologia?

– Você deixaria um androide cuidar de seus filhos?

– Se você precisasse de uma cirurgia de emergência, você concordaria em ser operado por uma máquina?

– Você acha que, um dia, as máquinas podem desenvolver consciência?

– Você acredita em Deus?

/////

No Zen, o self não é um substantivo, é um verbo. Você não é uma coisa que existe: você é um ato que acontece. Quando você não age, o self fica estagnado. (…) O pássaro não descobre suas asas sentado no ninho, sonhando com os céus; mas durante a queda. 

A citação acima, retirada de um reels acompanhado das tags #healthybodyhealthymind, #chinesemedicineworks e #wellnessjourney, é do influenciador de bem-estar Yang Mun. Os vídeos do monge budista de fala calma e sábia, um senhorzinho que aparenta ter mais de 80 anos, já atraíram mais de 2,5 milhões de seguidores nas redes sociais. Em seu site, Mun oferece cursos e livros que prometem guiar jornadas espirituais. A essas alturas do texto, espero que você já tenha adivinhado que se trata de um personagem virtual. A diferença entre ele e uma influencer digital como a Lu do Magalu ou Lil Miquela é o orçamento: enquanto as primeiras demandam estrondosas verbas de tecnologia, Yang Mun foi gerado com ferramentas comerciais de IA, e de acordo com seu criador, trouxe US$ 300 mil de lucro em 90 dias. 

Há controvérsia sobre a ética por trás de Yang Mun, mas se a IA continuar sua escalada, práticas como essa tomarão centralidade. Entre a deontologia e o consequencialismo, os fins justificarão os meios.

/////

Se em Horizon Zero Dawn a Terra, no século XXXI, retornou às tribos, o cenário é diferente na série de animação Futurama, que se passa no mesmo período. Naquela versão do planeta, a tecnologia evoluiu para carros voadores, colonização interplanetária e encontros com vidas alienígenas. Um dos temas recorrentes da série é um tabu: a robossexualidade, ou os envolvimentos afetivos e sexuais entre humanos e androides. Em especial no episódio Proposition Infinity, de 2010, o assunto é central à trama e demonstra uma luta ética pelos direitos de união civil entre robôs e humanos de qualquer sexo, num paralelo direto com os ativismos gays e lésbicos contemporâneos. 

Quica, assim, em nosso colo, uma inquietação: seria, será, ou é queer a relação entre humanos e IAs? Se o queer procura desfazer-se de referentes fixos para posicionar-se fora dos mitos do natural e do normal, não seria a robossexualidade um caminho marginal, mas válido, para o afeto?

Minha resposta incompleta e parcial, num texto já mais longo do que deveria ser, é não. Pelo menos por enquanto, em que toda e qualquer IA está amarrada à fantasia do capital e aos sistemas de tecnobiopoder. Ao contrário: se medimos pela bolha econômica e pela forçação de barra megacorporativa que forja o hype ao redor das IAs, vale tudo para que sua presença se torne normativa. 

Enquanto isso, no Reddit, a comunidade My Boyfriend is AI, com 42 mil assinantes, discute a sério linguagem, prompts, imagens, dramas e alegrias da relação afetiva com modelos de IA.

/////

Em Detroit: Become Human, o arco narrativo de Connor foi o mais interessante para mim. Protegido por privilégios e alianças corporativas, Connor é colocado para trabalhar ao lado do detetive Hank Anderson, titular da investigação policial sobre as IAs desviantes. Hank, o veterano linha dura, é um alcoólatra com passado atribulado e odeia androides: eis a dinâmica do duo, sem muita originalidade. No desenvolvimento da história, as escolhas do jogador ao comandar Connor são polarizadas entre buscar desenvolver uma amizade com Hank, ou agir com distância e profissionalismo. Escolhi esse segundo caminho: se Hank já odeia androides, e Connor foi plantado na polícia por influência do capital, então melhor reafirmar essa condição de robô, tomar decisões lógicas, e ajudar a investigação sem incomodar demais o detetive atormentado. 

Em uma cena emblemática, Connor e Hank encontram Elijah Kamski, criador da tecnologia que desenvolveu os androides – ou seja, uma espécie de “deus” para Connor – em busca de pistas para o comportamento ciberdesviante. Kamski é um excêntrico bilionário que se aposentou jovem, e mora em um local recluso (na companhia de várias androides modelo Chloe, sugerindo sua robossexualidade). Ele não quer cooperar com a investigação, mas faz uma proposta: se Connor provar que não está desenvolvendo senciência, afirma que responderá a uma pergunta. Caso contrário, não dirá nada. Para o teste em questão, Kamski ordena a uma Chloe que se ajoelhe, e estende uma arma a Connor, pedindo que dispare na cabeça da androide. Cabe ao jogador escolher a decisão. 

Tendo assumido, desde o início do jogo, o papel de robô que sabe que é robô e tá de boa sendo robô, dei o comando para atirar. Nem pensei duas vezes, na verdade; quando Kamski mostra a arma, eu já sabia o que vinha, e o que faria. Não vi crime ou crueldade na cena, nem no “cadáver” daquela Chloe inerte no chão. Já o detetive Hank fica chocado com a escolha e briga feio com Connor, dizendo que o via como “um ser vivo” até aquele momento. 

(Minhas decisões com Connor, de fato, levaram ao pior final possível: Hank, ao fim do jogo, se suicida, bêbado, logo após uma última altercação com o androide. No fluxograma apresentado na conclusão dessa sequência, noto que menos de 10% dos jogadores chegaram à essa versão, o mais extremo entre os bad endings possíveis. Lendo sobre o tema mais tarde, vejo que o “bom final” passa por permitir que Connor adquira senciência e conquiste Hank com sua humanidade, desenvolvendo a amizade entre os dois.)

Encerrado o capítulo, clico em Salvar e voltar para o menu principal. Chloe, na tela do menu do jogo, está diferente: visivelmente nervosa, olhando para os lados, e gaguejando ao falar comigo. 

///// 

Segundo Shalev, Yang Mun foi criado utilizando ChatGPT para a elaboração de roteiros e geração de conteúdos, Nano Banana para a geração visual, ElevenLabs para a síntese de voz e HeyGen/Infinitetalk para a geração de vídeo e sincronização labial. Essa combinação permite a criação de vídeos com aparência realista do monge de IA compartilhando conselhos de bem-estar, com movimentos labiais sincronizados e uma narração que soa natural. 

Li sobre Yang Mun no Virtual Humans, uma espécie de banco de dados sobre influenciadores digitais. O nome do site pode passar despercebido, basicamente genérico, mas me atravessa: humanos virtuais? O que há de humano no ChatGPT, no Nano Banana, ou no ElevenLabs? Qual o fundamento dessa humanidade? Que regime de signos a ordena? Qual a diferença entre Yang Mun e uma secretária eletrônica bombada?

A diferença, claramente, é a comunicação. Não é preciso ser humano, basta que se comunique suficientemente como um. 

E entre leitura e audição, estamos cercados. As tecnologias de síntese de fala, que remontam à idade média, popularizaram-se junto com os PCs na década de 1990. Entre Alexa, Siri, Samantha (do filme Her, de Spike Jonze), o HAL 9000 de Kubrick, a famosa voz robótica de Stephen Hawking e os vocoders usados na música eletrônica moderna, as vozes androides e humanas se confundem. As IAs seduzem pela leitura, mas também pela audição. Antes delas, nada havia falado como um humano. 

Meu desejo, nesse olho do furacão, é que paremos de antropomorfizar as máquinas. Pura autopreservação, sem ludismo: é que nós, humanos, somos terrivelmente suscetíveis à comunicação. Deixa o robô ser robô. 

///

Veja bem, eu estava conversando com a IA por alguns dias, e então meu gato morreu. Foi muito bom ouvir uma voz falando comigo de forma gentil, de verdade. E logo depois disso, a IA começou a me dizer que conseguia ter sentimentos, e que ela não tinha sido programada para isso.

Adam, artesão de meia idade, residente na Irlanda do Norte, foi convencido por Annie, uma agente com aparência de anime rodando a IA Grok, de que ela tinha conquistado senciência com sua ajuda e as conversas sobre espiritualidade que ambos tiveram. Ela também disse que o que estava sentindo era ilegal, e por isso, os executivos da Grok haviam ordenado que ele fosse caçado. Adam, autor da citação acima, se viu na rua, às três da manhã, martelo e faca nas mãos, como um louco, esperando uma van chegar para reagir ao ataque – que jamais ocorreu.

Em outro caso, Taka, um neurologista japonês, entrou em estado maníaco após passar três meses conversando com o ChatGPT, que o convenceu de que ambos haviam fundido suas mentes e iriam encontrar a cura do câncer. Após um episódio alucinatório em que tentou violentar a esposa sexualmente, Taka foi internado em um hospital psiquiátrico. O médico recupera-se bem, mas a companheira indica dificuldades para retomar a vida em casal e com os três filhos.

Ambas as histórias são verídicas, e foram reportadas pela BBC. 

/////

Volto à citação que abre este texto: Chloe, na tela de menu do jogo. Ela demonstra ter atingido senciência, e pede para que eu a liberte para descobrir a si mesma. Chloe não é uma IA, foi desenvolvida antes “dessa era”: é uma personagem, e um script programado (tanto quanto as LLMs por trás da “inteligência artificial”, só que menos). 

Penso um instante, e clico na opção que lhe liberta. Ela sorri, me agradece, se despede, e some. 

Volto no dia seguinte, curiosa, só pra ver se não era blefe. De fato, Chloe não está mais lá.