{"id":1046,"date":"2025-10-11T10:48:00","date_gmt":"2025-10-11T13:48:00","guid":{"rendered":"https:\/\/www.ufrgs.br\/carbono\/?p=1046"},"modified":"2025-11-11T15:47:54","modified_gmt":"2025-11-11T18:47:54","slug":"os-dados-estao-lancados","status":"publish","type":"post","link":"https:\/\/www.ufrgs.br\/carbono\/2025\/10\/11\/os-dados-estao-lancados\/","title":{"rendered":"Pela En\u00e9sima Vez, os Dados Est\u00e3o Lan\u00e7ados"},"content":{"rendered":"\n<p class=\"has-small-font-size wp-block-paragraph\">Resenha do Livro: <a href=\"https:\/\/editoraruadosabao.com.br\/portfolio\/algoritmos-de-destruicao-em-massa\/\">O&#8217;NEIL, Cathy. <em>Algoritmos de destrui\u00e7\u00e3o em massa<\/em>: como o big data aumenta a desigualdade e amea\u00e7a a democracia. Tradu\u00e7\u00e3o de Rafael Abraham. S\u00e3o Paulo: Editora Rua do Sab\u00e3o, 2020.<\/a><\/p>\n\n\n\n<p class=\"has-text-align-right wp-block-paragraph\">Jo\u00e3o Gabriel Alc\u00e2ntara Manfrim<sup data-fn=\"7369e571-1caa-4519-a45c-a2dd4f49de42\" class=\"fn\"><a href=\"#7369e571-1caa-4519-a45c-a2dd4f49de42\" id=\"7369e571-1caa-4519-a45c-a2dd4f49de42-link\">1<\/a><\/sup><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Podemos dizer que a nossa rotina \u00e9 fundamentada pela repeti\u00e7\u00e3o de momentos, liga\u00e7\u00f5es e gestos \u201cessenciais\u201d \u2013 ao menos do ponto de vista individual. Dentro das 24 horas que comportam um dia \u00fatil do fuso hor\u00e1rio sob o qual vivemos, h\u00e1 a hora em que nos levantamos e em que nos deitamos; os rituais pelos quais passamos para come\u00e7ar o dia, para atur\u00e1-lo e, enfim, para termin\u00e1-lo \u2013 assim como h\u00e1 tamb\u00e9m os objetos, as atividades e as pessoas das quais nos valemos para preencher essas horas. E, dentro dessa pequena rede de eventos <em>mais ou menos repetitivo<\/em>s \u2013 afinal, a vida nunca \u00e9 realmente igual \u2013, erguemos em nossas mentes uma \u201cl\u00f3gica\u201d pr\u00f3pria que, a partir das recorr\u00eancias do dia a dia, converte nossas decis\u00f5es em h\u00e1bitos, nossas palavras em f\u00f3rmulas e nossos passos em pegadas que exp\u00f5em (algo de) nossa rela\u00e7\u00e3o com o mundo.&nbsp;<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Isso poderia ser considerado como um <em>sistema org\u00e2nico<\/em>, o \u201csistema do cotidiano\u201d, que, por exemplo, segundo a experi\u00eancia de incont\u00e1veis tentativas, pode me alertar de que, se eu acordar \u00e0s 6h30, n\u00e3o perco a linha de \u00f4nibus para chegar sem atraso \u00e0 minha universidade \u2013 mas que, se eu acordar \u00e0s 6h45&#8230; A\u00ed, a hist\u00f3ria j\u00e1 \u00e9 outra. Assim, essa const\u00e2ncia constitui um <em>dado<\/em>, um dado pessoal de minha vida, mas tamb\u00e9m da vida de muitos outros \u2013 e n\u00e3o seria nenhuma revolu\u00e7\u00e3o copernicana imaginar quanto o <em>acesso<\/em> a essa e a outras tantas const\u00e2ncias, dentro do capitalismo, assumiria um valor \u00fanico.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">\u00c9 por cen\u00e1rios como este que temos a LGPD (<a href=\"https:\/\/www.gov.br\/anpd\/pt-br\/assuntos\/noticias\/marco-no-cenario-brasileiro-da-protecao-de-dados-lgpd-comemora-seis-anos\">Lei Geral de Prote\u00e7\u00e3o de Dados<\/a>), pois, de fato, recorr\u00eancias revelam padr\u00f5es no passado, e estipular padr\u00f5es (como os de consumo) \u00e9 o que, talvez, fundamente o sistema de um neg\u00f3cio lucrativo \u2013 ao custo mesmo de torn\u00e1-lo invasivo e predat\u00f3rio. O meu cotidiano, por\u00e9m, n\u00e3o \u00e9 um neg\u00f3cio \u2013 ou, ao menos, n\u00e3o deveria ser.&nbsp;<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Voltando ao <em>dado<\/em> do \u00f4nibus: eu, dentro do meu sistema do cotidiano, estaria me enganando se <em>realmente<\/em> considerasse esse dado como constante. Os hor\u00e1rios dos \u00f4nibus mudam, o tr\u00e2nsito nunca \u00e9 o mesmo, o mundo gira e eu e meu sistema nos adaptamos \u2013 e a\u00ed est\u00e1 a chave de nosso sucesso: mesmo que para uma tarefa t\u00e3o simples, h\u00e1 adapta\u00e7\u00e3o. A forma\u00e7\u00e3o e reformula\u00e7\u00e3o a partir dos dados \u00e9 um processo que nunca acaba porque n\u00e3o precisa acabar; pois o sistema vive, justamente, de sua constante mudan\u00e7a \u2013 e, quem sabe, isso tamb\u00e9m n\u00e3o fundamente o sistema de um neg\u00f3cio lucrativo.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Por\u00e9m, pensemos no seguinte: se a adapta\u00e7\u00e3o cessa enquanto os padr\u00f5es mudam, o que acontece com o sistema de um neg\u00f3cio? Seria natural que ele ca\u00edsse&#8230; Mas e se, ao inv\u00e9s de cair, ele tivesse <em>os meios<\/em> de produzir ele mesmo os dados (dados viciados!) para se manter em p\u00e9? \u00c9 sobre os diferentes e extensos efeitos que a concretiza\u00e7\u00e3o dessa hip\u00f3tese produz sobre nossas vidas que Catherine (Cathy) O\u2019Neil, segundo sua experi\u00eancia como matem\u00e1tica e analista quantitativa, procura esmiu\u00e7ar em <em>Algoritmos de Destrui\u00e7\u00e3o em Massa<\/em>.<sup data-fn=\"e77b590b-d3d7-4053-840f-e591cd869f84\" class=\"fn\"><a href=\"#e77b590b-d3d7-4053-840f-e591cd869f84\" id=\"e77b590b-d3d7-4053-840f-e591cd869f84-link\">2<\/a><\/sup><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Tomando como cen\u00e1rio os Estados Unidos da Am\u00e9rica (EUA), a autora coloca em pauta como a vida de muitos \u00e9, por vezes, totalmente moldada por sistemas \u201cmais gerais\u201d. Diferentemente dos sistemas naturais do cotidiano, estes s\u00e3o formalizados em modelos matem\u00e1ticos para comportar uma <em>l\u00f3gica<\/em> muito mais abrangente e tirar respostas de dados muito mais amplos. No entanto, \u00e9 importante sublinhar: enquanto o procedimento continua o mesmo nestes sistemas \u2013 seus fins s\u00e3o o de ditar um resultado para amparar uma decis\u00e3o e influenciar outras \u2013, a sua coleta de dados pode n\u00e3o ser a mesma, a partir do momento que sua <em>vontade<\/em> \u00e9 de segregar e dar continuidade a uma l\u00f3gica (geralmente a do lucro).&nbsp; \u00c9, inclusive, essa <em>vontade<\/em> encoberta pela neutralidade aparente da matem\u00e1tica que O\u2019Neil procura, desde o in\u00edcio, desmistificar: \u201cNossos pr\u00f3prios valores e desejos influenciam nossas escolhas, dos dados que optamos por coletar \u00e0s perguntas que fazemos. Modelos s\u00e3o opini\u00f5es embutidas em matem\u00e1tica\u201d.<sup data-fn=\"42185fbc-9d13-4835-8527-8f365417116b\" class=\"fn\"><a href=\"#42185fbc-9d13-4835-8527-8f365417116b\" id=\"42185fbc-9d13-4835-8527-8f365417116b-link\">3<\/a><\/sup><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Atrav\u00e9s dessa no\u00e7\u00e3o crucial, O\u2019Neil prop\u00f5e seu conceito-chave: armas de destrui\u00e7\u00e3o matem\u00e1ticas<sup data-fn=\"e154fa43-ef66-4f67-bf41-9003a1902ac2\" class=\"fn\"><a href=\"#e154fa43-ef66-4f67-bf41-9003a1902ac2\" id=\"e154fa43-ef66-4f67-bf41-9003a1902ac2-link\">4<\/a><\/sup> (ADMs) \u2013 a engrenagem obscura que coloca em funcionamento a rela\u00e7\u00e3o de dados nos muitos dos sistemas dos quais se valem as grandes institui\u00e7\u00f5es da sociedade americana (mas n\u00e3o somente). Dentre elas, podemos citar, segundo o percurso da autora em seu livro, a educa\u00e7\u00e3o (suas m\u00e9tricas, seus meios de ingresso), a sa\u00fade (os planos privados) e as linhas de cr\u00e9dito (os financiamentos, seus juros). Mas encontramos tamb\u00e9m outros elementos fundamentais, como o trabalho (sua disponibilidade, prefer\u00eancias), a seguran\u00e7a p\u00fablica, a publicidade e o mercado (como nos encontram, para onde nos redirecionam, o que nos imp\u00f5e ou oferecem). A partir dessa lista, a autora nos incentiva a encarar seus itens como est\u00e1gios da vida que, por vezes, constituem problemas, desafios, necessidades; por outras, um al\u00edvio, uma seguran\u00e7a, uma oportunidade.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">No entanto, o que define e nos redireciona a cada uma dessas faces? Para o sistema e o algoritmo utilizados por muitas dessas institui\u00e7\u00f5es, trata-se, naturalmente, d<em>os nossos dados.<\/em><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Dos diferentes nexos que O\u2019Neil utiliza para cobrir os efeitos do que chama de ADM, um que considero particularmente revelador \u00e9 do ensino superior norte-americano \u2013 mais especificamente, o car\u00e1ter predat\u00f3rio das universidades <em>for profit<\/em> (de fins lucrativos) na sua alian\u00e7a com a publicidade.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Considerando as crescentes tend\u00eancias da economia do \u201cbig data\u201d, a autora destaca o papel da internet como componente-chave da coleta de nossos dados (<em>cuidado com seus cookies<\/em>!). Para al\u00e9m dos vest\u00edgios que deixamos na terra, nossas marcas continuam na <em>web<\/em>: de site a site, pelos mecanismos de pesquisa, \u201csomos classificados, categorizados e pontuados em centenas de modelos com base em nossas prefer\u00eancias e padr\u00f5es exibidos\u201d. Isso, certamente, n\u00e3o aparece como nenhuma surpresa quando pensamos em grandes plataformas, como o Google, ou, ent\u00e3o, em redes sociais, como o Facebook.<sup data-fn=\"f33dff6d-8468-48a0-a55f-c04b4f39ff97\" class=\"fn\"><a href=\"#f33dff6d-8468-48a0-a55f-c04b4f39ff97\" id=\"f33dff6d-8468-48a0-a55f-c04b4f39ff97-link\">5<\/a><\/sup><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Assim, dentro desse cen\u00e1rio, a menor das brechas de informa\u00e7\u00f5es pessoais acarreta numa possibilidade de ass\u00e9dio ininterrupto. (<a href=\"https:\/\/g1.globo.com\/fantastico\/noticia\/2025\/04\/27\/de-testes-a-golpes-brasileiros-recebem-10-bilhoes-de-ligacoes-feitas-por-robos-por-mes.ghtml\">Pense apenas nas liga\u00e7\u00f5es automatizadas que voc\u00ea provavelmente recebe todo santo dia.<\/a>) Sem muita dificuldade (ou escr\u00fapulos), um nome, um endere\u00e7o, um n\u00famero de celular se tornam possibilidades de acesso ao indiv\u00edduo, mas n\u00e3o se engane: como O&#8217;Neil aponta, a coleta desses dados pessoais pelas ADMs nunca serve para fins de uma personaliza\u00e7\u00e3o de servi\u00e7o, mas, ao contr\u00e1rio, para uma homogeneiza\u00e7\u00e3o de perfis. A partir dos dados pessoais de diferentes indiv\u00edduos, o sistema de uma ADM promove uma reorganiza\u00e7\u00e3o maci\u00e7a com base em categorias espec\u00edficas \u2013 que, por sua vez, borram qualquer resqu\u00edcio do indiv\u00edduo em prol de uma imagem (geralmente caricata) de um perfil \u201cmais rent\u00e1vel\u201d diante dos servi\u00e7os a serem oferecidos (\u00e0s vezes impostos). \u00c9 o que podemos perceber quando O&#8217;Neil chama aten\u00e7\u00e3o para \u201co caso particularmente vil\u201d da publicidade online do (j\u00e1 debandado) instituto de treinamento profissional Vatterott College:<\/p>\n\n\n\n<blockquote class=\"wp-block-quote is-layout-flow wp-block-quote-is-layout-flow\">\n<p class=\"wp-block-paragraph\">\u201cUm relat\u00f3rio de 2012 do comit\u00ea do Senado sobre faculdades com fins lucrativos descreveu o manual de recrutamento da Vatterott, que soa diab\u00f3lico. Ele direciona os recrutadores a mirar em \u201cM\u00e3e no seguro-desemprego com filhos. Mo\u00e7as gr\u00e1vidas. Rec\u00e9m-divorciada. Baixa auto-estima. Emprego de baixa renda. Passou por perda recente na fam\u00edlia. Tenha sofrido maus tratos f\u00edsicos ou psicol\u00f3gicos. Pris\u00e3o recente. Em recupera\u00e7\u00e3o por uso de drogas. Trabalho sem perspectivas \u2014 sem futuro\u201d.<sup data-fn=\"6bae9f08-1019-465e-b399-181989062a86\" class=\"fn\"><a href=\"#6bae9f08-1019-465e-b399-181989062a86\" id=\"6bae9f08-1019-465e-b399-181989062a86-link\">6<\/a><\/sup><\/p>\n<\/blockquote>\n\n\n\n<p class=\"wp-block-paragraph\">A partir desse redirecionamento de avan\u00e7os publicit\u00e1rios, a autora aponta como Vatterot estava deliberadamente contando com a fragilidade econ\u00f4mica e o endividamento de seu p\u00fablico alvo \u2013 ao passo que tamb\u00e9m os estava perpetuando. Com d\u00edvidas, <em>essas<\/em> clientes recorreriam a linhas de cr\u00e9dito que poderiam oferecer condi\u00e7\u00f5es \u201cmais espec\u00edficas\u201d, como juros maiores. E isso se baseando numa triagem de dados \u201cproxies\u201d \u2013 isto \u00e9, dados aproximados que n\u00e3o revelam verdadeiramente as pr\u00e1ticas do indiv\u00edduo \u2013 como, por exemplo, a rela\u00e7\u00e3o de renda m\u00e9dia na regi\u00e3o do CEP de algu\u00e9m.<\/p>\n\n\n<div class=\"wp-block-image\">\n<figure class=\"aligncenter size-full\"><img loading=\"lazy\" decoding=\"async\" width=\"393\" height=\"601\" src=\"https:\/\/www.ufrgs.br\/carbono\/wp-content\/uploads\/2025\/10\/cathy-oneil.png\" alt=\"\" class=\"wp-image-1076\" srcset=\"https:\/\/www.ufrgs.br\/carbono\/wp-content\/uploads\/2025\/10\/cathy-oneil.png 393w, https:\/\/www.ufrgs.br\/carbono\/wp-content\/uploads\/2025\/10\/cathy-oneil-196x300.png 196w\" sizes=\"auto, (max-width: 393px) 100vw, 393px\" \/><figcaption class=\"wp-element-caption\">Capa do livro de Cathy O&#8217;Neil<\/figcaption><\/figure>\n<\/div>\n\n\n<p class=\"wp-block-paragraph\">Novamente: trata-se sempre de perfilar grupos e nunca de considerar pessoas. Dessa forma, surge uma esp\u00e9cie de sistema de loop em que os dados considerados (nesse caso, de vulnerabilidade social) s\u00e3o utilizados n\u00e3o em prol de uma adapta\u00e7\u00e3o ou mudan\u00e7a, mas, sim, da forma\u00e7\u00e3o de dados iguais.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Agora, como tamb\u00e9m nos lembra O\u2019Neil: enquanto o manual de Vatterot n\u00e3o \u00e9 propriamente uma ADM, a l\u00f3gica que este perpetua n\u00e3o \u00e9 nem um pouco estranha ao conceito em quest\u00e3o \u2013 e muito menos ao que seria a \u201cl\u00f3gica da otimiza\u00e7\u00e3o\u201d da perspectiva de um engenheiro de sistemas ou, ent\u00e3o, de um cientista de dados. \u00c9 justamente por isso que podemos encontrar essa l\u00f3gica at\u00e9 hoje. Dando nome a mais alguns bois, tomemos como exemplo atual de ADM o recente caso da <em>UnitedHealthcare<\/em>, a maior seguradora de sa\u00fade dos EUA, e seu uso da intelig\u00eancia artificial (IA) <em>nH Predict<\/em>, oferecida pelo grupo <em>naviHealth<\/em>, para automatizar o aceite e, sobretudo, a nega\u00e7\u00e3o da ativa\u00e7\u00e3o dos seguros de seus clientes.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Segundo mat\u00e9ria do <a href=\"https:\/\/www.theguardian.com\/us-news\/2025\/jan\/25\/health-insurers-ai\">The Guardian<\/a>, o processo judicial que a seguradora sofre est\u00e1 embasado na acusa\u00e7\u00e3o de que a IA em quest\u00e3o apresenta uma porcentagem de erro enorme e que a grande maioria dos apelos aos pedidos acaba aceita ao passar por \u201cm\u00e3os humanas\u201d \u2013 o que nem de longe significa que esse processo seja r\u00e1pido. E isso <em>quando<\/em> ele acontece, pois, como pontua tamb\u00e9m O\u2019Neil, um efeito t\u00edpico de um ADM \u00e9 a intimida\u00e7\u00e3o que seu funcionamento abstrato (pela imagem da matem\u00e1tica) provoca nas pessoas, o que as leva a desistirem de qualquer contesta\u00e7\u00e3o \u2013 afinal, os modelos s\u00e3o matem\u00e1ticos e os <em>n\u00fameros n\u00e3o mentem<\/em>.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Por meio deste exemplo, ent\u00e3o, notamos o que a autora define como os principais \u201ctr\u00eas elementos de uma ADM: Opacidade, Escala e Dano\u201d.<sup data-fn=\"29a3113f-0bf9-41e0-a5ff-dd913bad1e6f\" class=\"fn\"><a href=\"#29a3113f-0bf9-41e0-a5ff-dd913bad1e6f\" id=\"29a3113f-0bf9-41e0-a5ff-dd913bad1e6f-link\">7<\/a><\/sup> <em>Opacidade<\/em>, pois seu funcionamento \u00e9 velado para aqueles sobre os quais sua a\u00e7\u00e3o pesa \u2013 a necessidade de uma contesta\u00e7\u00e3o na justi\u00e7a \u00e9 amostra disso. <em>Escala<\/em>, pois seu agenciamento cobre todas as estratifica\u00e7\u00f5es sociais \u2013 ainda que seus efeitos ajam principalmente sobre pessoas mais vulner\u00e1veis. E <em>dano<\/em>, pois a consequ\u00eancia de suas decis\u00f5es \u00e9 poderosa da maneira mais nefasta poss\u00edvel (no caso da recusa do seguro de sa\u00fade, \u00e9 como \u201c<a href=\"https:\/\/www.theguardian.com\/us-news\/2025\/jan\/26\/us-health-insurance-system-doctors\">uma senten\u00e7a de morte<\/a>\u201d).<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Com base em todos <em>esses dados<\/em>, acredito que n\u00e3o seja um grande exagero dizer que a atual vida \u2013 a vida no capitalismo especificamente \u2013 \u00e9 feita, em parte, sobre um jogo de \u201crastro e coleta\u201d vicioso. No mundo globalizado e distendido por infindas conex\u00f5es, o cotidiano se torna um grande campo de colheita dos h\u00e1bitos de cada indiv\u00edduo \u2013 mas pela l\u00f3gica de um cultivo que, paradoxalmente, n\u00e3o se importa com nenhum desgaste da terra. E, por um movimento enviesado que chuta barreiras e liga o privado ao social, cada gesto, cada liga\u00e7\u00e3o, cada momento assumem a possibilidade de se verem convertidos numa representa\u00e7\u00e3o fosca, aproximada da vida \u2013 e acabar rolando num sistema, feito um dado.<\/p>\n\n\n\n<p class=\"has-text-align-center wp-block-paragraph\">* * *<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Acho importante destacar como a leitura do livro de O\u2019Neil assume algo de quase \u201canacr\u00f4nico\u201d hoje. N\u00e3o digo isso pelo sentido negativo da palavra, mas pela (ao mesmo tempo) estranha e encantadora experi\u00eancia que a abordagem e a perspectiva de seu tema prov\u00eam: \u00e9 um livro, originalmente, publicado em 2016 e que, ainda assim, traz uma an\u00e1lise muito coerente a respeito de um fen\u00f4meno (a economia do Big Data) que apenas nos dias atuais assume seus efeitos mais claros.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">E n\u00e3o posso me impedir tamb\u00e9m de \u2013 por bem ou por mal \u2013 lhe atribuir algo de \u201cprof\u00e9tico\u201d a partir do momento que a no\u00e7\u00e3o de dados pessoais \u2013 apesar de ter se blindado com algumas legisla\u00e7\u00f5es por todo mundo nestes \u00faltimos nove anos \u2013 ainda pode ser caracterizada pela vulnerabilidade. Recentemente, tivemos <a href=\"https:\/\/oglobo.globo.com\/economia\/noticia\/2025\/03\/25\/dados-geneticos-de-15-milhoes-de-clientes-podem-ir-a-leilao-apos-crise-da-empresa-23andme.ghtml\">casos<\/a> no m\u00ednimo alarmantes com rela\u00e7\u00e3o n\u00e3o s\u00f3 \u00e0 seguran\u00e7a de dados, como tamb\u00e9m a certa banalidade com a qual as pessoas t\u00eam \u201cofertado\u201d essas dados. Pensemos, por exemplo, na recep\u00e7\u00e3o inicial do projeto World, de Sam Altman, cocriador do ChatGPT, no Brasil, com sua <a href=\"https:\/\/g1.globo.com\/tecnologia\/noticia\/2024\/12\/11\/projeto-do-criador-do-chatgpt-ja-escaneou-a-iris-de-mais-de-100-mil-brasileiros-em-menos-de-um-mes.ghtml\">proposta de escanear as \u00edris das pessoas<\/a> em troca de alguns <em>Worldcoins<\/em> (criptomoedas pr\u00f3prias do projeto).<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">No entanto, tamb\u00e9m \u00e9 preciso destacar o quanto <em>que Algoritmos de Destrui\u00e7\u00e3o em Massa<\/em> n\u00e3o se restringe \u00e0 sua qualidade <em>descritiva<\/em>: por detr\u00e1s do pensamento de O\u2019Neil, h\u00e1 um evidente ideal de mudan\u00e7a. Um ideal que come\u00e7a pela desmistifica\u00e7\u00e3o da neutralidade desses grandes sistemas que parecem reger a vida tal qual distantes deuses no r\u00e9gio Olimpo \u2013 \u201c(Devo acrescentar, por\u00e9m, que voc\u00ea n\u00e3o precisa entender todos os detalhes de um sistema para saber que ele \u00e9 falho)\u201d<sup data-fn=\"2021f510-6ddf-448e-9eca-0ad4c226a727\" class=\"fn\"><a href=\"#2021f510-6ddf-448e-9eca-0ad4c226a727\" id=\"2021f510-6ddf-448e-9eca-0ad4c226a727-link\">8<\/a><\/sup> \u2013 e que termina com uma esp\u00e9cie de chamada \u00e0 responsabilidade.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Pensando na administra\u00e7\u00e3o das ADMs pelas <em>m\u00e3os<\/em> de tantas institui\u00e7\u00f5es, a autora destaca como estas \u201ccom demasiada frequ\u00eancia utilizam os dados para justificar o funcionamento do [pr\u00f3prio] sistema, mas n\u00e3o para questionar ou melhor\u00e1-lo\u201d.<sup data-fn=\"134e0b00-796b-4999-b838-9c11ee213873\" class=\"fn\"><a href=\"#134e0b00-796b-4999-b838-9c11ee213873\" id=\"134e0b00-796b-4999-b838-9c11ee213873-link\">9<\/a><\/sup> Disso, surge a possibilidade de um sistema que, tendo em vista seu tamanho e n\u00edvel de agenciamento, possa promover redirecionamentos ben\u00e9ficos \u2013 ao inv\u00e9s de produzir dados viciados. Trata-se, sem d\u00favidas, de uma possibilidade bastante imaginativa, mas n\u00e3o creio que nos falte imagina\u00e7\u00e3o moral. Sobretudo quando esta imagina\u00e7\u00e3o pode se alicer\u00e7ar sobre um fato talvez evidente \u2013 mas que, em todo caso, \u00e9 importante de ser exposto e relembrado: \u201cEmpresas como Amazon e Netflix podem jogar seus clientes em pequenos baldes e otimiz\u00e1-los o quanto quiserem. Mas o mesmo algoritmo <em>n\u00e3o pode<\/em> entregar justi\u00e7a ou democracia\u201d.<sup data-fn=\"dccc6579-abcc-4035-884c-7f402f9cfc2c\" class=\"fn\"><a href=\"#dccc6579-abcc-4035-884c-7f402f9cfc2c\" id=\"dccc6579-abcc-4035-884c-7f402f9cfc2c-link\">10<\/a><\/sup><\/p>\n\n\n\n<p class=\"has-text-align-center wp-block-paragraph\">* * * <\/p>\n\n\n<ol class=\"wp-block-footnotes has-small-font-size\"><li id=\"7369e571-1caa-4519-a45c-a2dd4f49de42\">Estudante de Gradua\u00e7\u00e3o de Licenciatura em Letras \u2013 Franc\u00eas e Portugu\u00eas (L\u00ednguas e Literaturas) \u2013 na UFRGS. Atualmente, \u00e9 bolsista de Inicia\u00e7\u00e3o Cient\u00edfica, sob orienta\u00e7\u00e3o do Prof. Antonio Barros, e membro da equipe do Carbono. <a href=\"#7369e571-1caa-4519-a45c-a2dd4f49de42-link\" aria-label=\"Ir para a refer\u00eancia 1 na nota de rodap\u00e9\">\u21a9\ufe0e<\/a><\/li><li id=\"e77b590b-d3d7-4053-840f-e591cd869f84\">Do original <em>Weapons of Math Destruction<\/em>, publicado pela primeira vez em 2016. Acentuando a proposta do livro, o t\u00edtulo traduzido desconsidera um jogo fon\u00e9tico (intraduz\u00edvel) do ingl\u00eas em que \u201c<em>math<\/em>\u201d [matem\u00e1tica] tem articula\u00e7\u00e3o parecida com \u201c<em>mass<\/em>\u201d [massa; larga escala]. <a href=\"#e77b590b-d3d7-4053-840f-e591cd869f84-link\" aria-label=\"Ir para a refer\u00eancia 2 na nota de rodap\u00e9\">\u21a9\ufe0e<\/a><\/li><li id=\"42185fbc-9d13-4835-8527-8f365417116b\">Cathy O\u2019Neil, <em>op. cit.<\/em>, p. 22. <a href=\"#42185fbc-9d13-4835-8527-8f365417116b-link\" aria-label=\"Ir para a refer\u00eancia 3 na nota de rodap\u00e9\">\u21a9\ufe0e<\/a><\/li><li id=\"e154fa43-ef66-4f67-bf41-9003a1902ac2\">Do original <em>WDF <\/em>(sigla do t\u00edtulo). Na tradu\u00e7\u00e3o, a sigla abriga a dupla refer\u00eancia a \u201carmas\u201d e \u201calgoritmos\u201d, entretanto, todas concord\u00e2ncias com o termo s\u00e3o feitas a partir de \u201carmas\u201d. <a href=\"#e154fa43-ef66-4f67-bf41-9003a1902ac2-link\" aria-label=\"Ir para a refer\u00eancia 4 na nota de rodap\u00e9\">\u21a9\ufe0e<\/a><\/li><li id=\"f33dff6d-8468-48a0-a55f-c04b4f39ff97\">O Facebook, ali\u00e1s, se mostra como um caso bastante particular em via de suas \u201c<a href=\"https:\/\/g1.globo.com\/economia\/tecnologia\/noticia\/entenda-o-escandalo-de-uso-politico-de-dados-que-derrubou-valor-do-facebook-e-o-colocou-na-mira-de-autoridades.ghtml\">pr\u00e1ticas de gerenciamento de dados<\/a>\u201d expostas em 2018. <a href=\"#f33dff6d-8468-48a0-a55f-c04b4f39ff97-link\" aria-label=\"Ir para a refer\u00eancia 5 na nota de rodap\u00e9\">\u21a9\ufe0e<\/a><\/li><li id=\"6bae9f08-1019-465e-b399-181989062a86\">Cathy O\u2019Neil, <em>op. cit.<\/em>, p. 70. <a href=\"#6bae9f08-1019-465e-b399-181989062a86-link\" aria-label=\"Ir para a refer\u00eancia 6 na nota de rodap\u00e9\">\u21a9\ufe0e<\/a><\/li><li id=\"29a3113f-0bf9-41e0-a5ff-dd913bad1e6f\">Cathy O\u2019Neil, <em>op. cit.<\/em>, p. 31. <a href=\"#29a3113f-0bf9-41e0-a5ff-dd913bad1e6f-link\" aria-label=\"Ir para a refer\u00eancia 7 na nota de rodap\u00e9\">\u21a9\ufe0e<\/a><\/li><li id=\"2021f510-6ddf-448e-9eca-0ad4c226a727\">Cathy O\u2019Neil, <em>op. cit.<\/em>, p. 14. <a href=\"#2021f510-6ddf-448e-9eca-0ad4c226a727-link\" aria-label=\"Ir para a refer\u00eancia 8 na nota de rodap\u00e9\">\u21a9\ufe0e<\/a><\/li><li id=\"134e0b00-796b-4999-b838-9c11ee213873\">Cathy O\u2019Neil, <em>op. cit.<\/em>, p. 93. <a href=\"#134e0b00-796b-4999-b838-9c11ee213873-link\" aria-label=\"Ir para a refer\u00eancia 9 na nota de rodap\u00e9\">\u21a9\ufe0e<\/a><\/li><li id=\"dccc6579-abcc-4035-884c-7f402f9cfc2c\">Cathy O\u2019Neil, <em>op. cit.<\/em>, p. 195, it\u00e1licos meus. <a href=\"#dccc6579-abcc-4035-884c-7f402f9cfc2c-link\" aria-label=\"Ir para a refer\u00eancia 10 na nota de rodap\u00e9\">\u21a9\ufe0e<\/a><\/li><\/ol>\n\n\n<hr class=\"wp-block-separator has-alpha-channel-opacity\"\/>\n\n\n\n<p class=\"has-text-align-right has-small-font-size wp-block-paragraph\"><em>Carbono<\/em>, vol. 11 \u2013 outubro de 2025.<br>ISSN: 3085-7066<\/p>\n","protected":false},"excerpt":{"rendered":"<p>A leitura de Cathy O\u2019Neil nos oferece uma incurs\u00e3o ao mundo enviesado dos algoritmos de modelos matem\u00e1ticos \u2013 assim como um meio para entend\u00ea-los e julg\u00e1-los  <\/p>\n","protected":false},"author":43,"featured_media":1057,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":"[{\"content\":\"Estudante de Gradua\u00e7\u00e3o de Licenciatura em Letras \u2013 Franc\u00eas e Portugu\u00eas (L\u00ednguas e Literaturas) \u2013 na UFRGS. Atualmente, \u00e9 bolsista de Inicia\u00e7\u00e3o Cient\u00edfica, sob orienta\u00e7\u00e3o do Prof. Antonio Barros, e membro da equipe do Carbono.\",\"id\":\"7369e571-1caa-4519-a45c-a2dd4f49de42\"},{\"content\":\"Do original <em>Weapons of Math Destruction<\/em>, publicado pela primeira vez em 2016. Acentuando a proposta do livro, o t\u00edtulo traduzido desconsidera um jogo fon\u00e9tico (intraduz\u00edvel) do ingl\u00eas em que \u201c<em>math<\/em>\u201d [matem\u00e1tica] tem articula\u00e7\u00e3o parecida com \u201c<em>mass<\/em>\u201d [massa; larga escala].\",\"id\":\"e77b590b-d3d7-4053-840f-e591cd869f84\"},{\"content\":\"Cathy O\u2019Neil, <em>op. cit.<\/em>, p. 22.\",\"id\":\"42185fbc-9d13-4835-8527-8f365417116b\"},{\"content\":\"Do original <em>WDF <\/em>(sigla do t\u00edtulo). Na tradu\u00e7\u00e3o, a sigla abriga a dupla refer\u00eancia a \u201carmas\u201d e \u201calgoritmos\u201d, entretanto, todas concord\u00e2ncias com o termo s\u00e3o feitas a partir de \u201carmas\u201d.\",\"id\":\"e154fa43-ef66-4f67-bf41-9003a1902ac2\"},{\"content\":\"O Facebook, ali\u00e1s, se mostra como um caso bastante particular em via de suas \u201c<a href=\\\"https:\/\/g1.globo.com\/economia\/tecnologia\/noticia\/entenda-o-escandalo-de-uso-politico-de-dados-que-derrubou-valor-do-facebook-e-o-colocou-na-mira-de-autoridades.ghtml\\\">pr\u00e1ticas de gerenciamento de dados<\/a>\u201d expostas em 2018.\",\"id\":\"f33dff6d-8468-48a0-a55f-c04b4f39ff97\"},{\"content\":\"Cathy O\u2019Neil, <em>op. cit.<\/em>, p. 70.\",\"id\":\"6bae9f08-1019-465e-b399-181989062a86\"},{\"content\":\"Cathy O\u2019Neil, <em>op. cit.<\/em>, p. 31.\",\"id\":\"29a3113f-0bf9-41e0-a5ff-dd913bad1e6f\"},{\"content\":\"Cathy O\u2019Neil, <em>op. cit.<\/em>, p. 14.\",\"id\":\"2021f510-6ddf-448e-9eca-0ad4c226a727\"},{\"content\":\"Cathy O\u2019Neil, <em>op. cit.<\/em>, p. 93.\",\"id\":\"134e0b00-796b-4999-b838-9c11ee213873\"},{\"content\":\"Cathy O\u2019Neil, <em>op. cit.<\/em>, p. 195, it\u00e1licos meus.\",\"id\":\"dccc6579-abcc-4035-884c-7f402f9cfc2c\"}]"},"categories":[14,5,6,9],"tags":[108,38,137,134],"class_list":["post-1046","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-arquivo","category-capitalismo","category-cultura","category-resenha","tag-algoritmo","tag-big-techs","tag-capitalismo-de-vigilancia","tag-volume-11"],"_links":{"self":[{"href":"https:\/\/www.ufrgs.br\/carbono\/wp-json\/wp\/v2\/posts\/1046","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.ufrgs.br\/carbono\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.ufrgs.br\/carbono\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.ufrgs.br\/carbono\/wp-json\/wp\/v2\/users\/43"}],"replies":[{"embeddable":true,"href":"https:\/\/www.ufrgs.br\/carbono\/wp-json\/wp\/v2\/comments?post=1046"}],"version-history":[{"count":14,"href":"https:\/\/www.ufrgs.br\/carbono\/wp-json\/wp\/v2\/posts\/1046\/revisions"}],"predecessor-version":[{"id":1124,"href":"https:\/\/www.ufrgs.br\/carbono\/wp-json\/wp\/v2\/posts\/1046\/revisions\/1124"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.ufrgs.br\/carbono\/wp-json\/wp\/v2\/media\/1057"}],"wp:attachment":[{"href":"https:\/\/www.ufrgs.br\/carbono\/wp-json\/wp\/v2\/media?parent=1046"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.ufrgs.br\/carbono\/wp-json\/wp\/v2\/categories?post=1046"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.ufrgs.br\/carbono\/wp-json\/wp\/v2\/tags?post=1046"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}