Monitorar e prever, por Sébastien Broca

 

por Sébastien Broca (Universidade Paris 8)

Tradução Diogo Silva Corrêa

Clique aqui para pdf

Clique aqui para o link da versão original em francês

 

Resenha do livro

Zuboff, Shoshana. A era do capitalismo de vigilância: a luta por um futuro humano na nova fronteira do poder. São Paulo, Intrínseca, 2021.

 

***

Uma nova era do capitalismo se abriu, onde as empresas estão buscando por todos os meios conhecer, prever e mudar o comportamento dos indivíduos. Zuboff aponta as ameaças resultantes à autonomia individual e à soberania democrática.

 

****

Desde seu primeiro artigo publicado em 2013 no Frankfurter Allgemeine Zeitung, Shoshana Zuboff, professora emérita da Harvard Business School, popularizou a noção de “capitalismo de vigilância” entre os acadêmicos e os defensores da liberdade digital. Este sintagma refere-se à nova forma de capitalismo criada pelas grandes corporações do Vale do Silício, especialmente Google e Facebook, cujas receitas dependem da coleta e análise de nossos dados. A análise desse fenômeno econômico-social está no centro de um trabalho volumoso e ambicioso, publicado nos Estados Unidos em 15 de janeiro de 2019 e já amplamente comentado[2]. Nele, S. Zuboff entrelaça, em vigorosa e revigorante prosa, uma história, uma teoria e uma crítica da direção tomada pela acumulação capitalista.

Uma história do “Capitalismo de Vigilância”

Segundo Zuboff, o “capitalismo de vigilância” nasceu no Google. Em 2001, a empresa se encontrava em uma situação difícil. Apesar de seu sucesso com os usuários de seu mecanismo de busca, ela ainda não havia encontrado um modelo comercial lucrativo e os investidores começaram a se tornar impacientes. Inspirado nas ideias do economista Hal Varian, o Google decidiu então utilizar os dados e metadados fornecidos por seus usuários para oferecer aos anunciantes um direcionamento publicitário centrado na pessoa. Essa decisão foi contra as reservas que os fundadores da empresa, Sergey Brin e Larry Page, haviam expresso anteriormente sobre a política publicitária. Mas os investidores não iam esperar para sempre pelos lucros e Page não tinha nenhum desejo de se tornar outro Nikola Tesla, o genial engenheiro que morreu sem jamais se beneficiar de suas invenções. Além disso, o Google possuía enormes repositórios de dados e uma enorme experiência científica capaz de converter esses dados em previsões sobre quem iria clicar nos anúncios propostos. O Google inventou, assim, o “capitalismo de vigilância”. Entre 2000 e 2004, suas receitas aumentaram 3590%!

Esse modelo se estendeu então a outros grandes atores da economia digital. Sob o impulso de Sheryl Sandberg, que deixou o Google, o Facebook se tornou um gigante da publicidade em 2008. A firma de Mark Zuckerberg tirou partido do único ativo que constituía seu conhecimento aprofundado dos vínculos de cada indivíduo: o “gráfico social” (“social graph”). Ela também inventou muitas maneiras de aumentar e refinar sua coleta de dados, por exemplo, com a introdução do botão “curtir” (like), em abril de 2010. A partir de 2014, a Microsoft também se converteu ao “capitalismo de vigilância” com o desenvolvimento do assistente de voz Cortana, um verdadeiro aspirador de dados, e com a aquisição da rede social profissional Linkedin, com seus 450 milhões de usuários. A Amazon seguiu de perto esse movimento, com seu assistente de voz Alexa, assim como os gigantes americanos de telecomunicações Verizon, AT&T e Comcast.

Nascido no mundo digital e numérico, o “capitalismo de vigilância” também se estende ao mundo “real”. À medida que os indivíduos são geo-localizados, seus processos fisiológicos são medidos, suas emoções são inferidas, as cidades são adornadas com milhares de sensores e as casas são povoadas com “objetos inteligentes”, o mundo inteiro é transformado em dados. O “capitalismo de vigilância” se espalha então para novos setores, como seguros, finanças, assistência médica ou comércio varejista. O exemplo do seguro de automóvel é um dos mais marcantes. A partir do momento em que o comportamento de cada motorista pode ser medido com precisão, torna-se possível calcular os riscos com a maior precisão possível, individualizar as condições de seguro, ou mesmo modificar essas condições em tempo real de acordo com os dados de direção coletados. Para as companhias de seguros, esses dispositivos se destinam a incentivar certos comportamentos ao volante, reduzir a incerteza e … garantir seus lucros.

Outro exemplo esclarecedor é o Pokémon Go. Incubado no Google, este jogo é, de acordo com Zuboff, o sonho de todo “capitalista de vigilância”. Ele permite coletar dados sobre espaços públicos e privados, interiores e exteriores. O aspecto lúdico se mostra extraordinariamente eficaz para encorajar certos comportamentos dos jogadores: empurrando-os, por exemplo, para uma empresa que tenha feito uma parceria com a empresa dona do jogo. Na verdade, esta última rapidamente fez acordos com o McDonald’s e a Starbucks para trazer-lhes consumidores potenciais. Esse modelo econômico de “lugares patrocinados” funciona ao modo do modelo publicitário do Google. As empresas clientes pagam um “custo por visita” da mesma forma que os anunciantes pagam ao Google um “custo por clique” (p. 316).

Uma teoria crítica do “capitalismo de vigilância”

A partir da história dos últimos vinte anos, Zuboff propõe uma teoria geral de “capitalismo de vigilância”. Tudo começa com a transformação da experiência humana em “dados comportamentais”, graças às tecnologias digitais e numéricas. Para a autora, há aí um ato original de despossessão: os atores do “capitalismo de vigilância” se apropriam de nossa experiência, extraindo-a dos “espaços não mercadológicos da vida cotidiana” (p. 139). Como não servem apenas para melhorar o serviço prestado, estes dados constituem um “excedente comportamental”. Eles são a matéria-prima que permite fabricar, por meio de procedimentos algorítmicos, “produtos preditivos”, cujo valor vem do fato de que eles antecipam comportamentos futuros: a probabilidade de um indivíduo clicar em um anúncio, ter um acidente de carro, etc. (p. 139). O “capitalismo de vigilância” é, portanto, o processo que transforma nossos comportamentos atuais em previsões monetarizadas de nossos comportamentos futuros.

O valor de mercado dos produtos preditivos está intimamente correlacionado com seu grau de certeza. Para o comprador desses produtos, quanto maior for a certeza, maior será o lucro. A garantia de que um usuário clicará em um anúncio é preferível a uma alta probabilidade, a qual, por sua vez, é preferível a uma baixa probabilidade, etc. A lógica de acumulação do “capitalismo de vigilância” tende assim para a busca da certeza. Ora, o meio mais seguro de prever o futuro é fabricá-lo, modelando o comportamento dos indivíduos. A fabricação de “produtos preditivos” se transforma assim, imperceptivelmente, na construção de dispositivos de modificação comportamental, como no Pokémon Go, onde os jogadores são empurrados para locais específicos. O destino do “capitalismo de vigilância” é, portanto, transformar-se em um capitalismo de modificação de comportamentos, muito além das fronteiras da economia digital e numérica.

São esses dispositivos de manipulação de comportamento que estão no centro das críticas de Zuboff, mais do que “vigilância” no sentido estrito. Essa crítica é feita com referência aos valores fundamentais do liberalismo político: autonomia individual e soberania democrática. A autora insiste assim sobre a forma como o “capitalismo de vigilância” compromete as várias conquistas associadas ao surgimento histórico do indivíduo: o respeito pela interioridade, pela vida privada, mas também pelo livre arbítrio, autodeterminação e o direito de decidir nosso futuro. O “capitalismo de vigilância” finalmente aparece como uma nova forma de “tirania” (p. 513), que oblitera a deliberação política e destrói a autonomia individual por meio da manipulação e da instrumentalização de nosso comportamento.

A originalidade do trabalho consiste em articular esta crítica, exposta nos termos clássicos do liberalismo, com a economia política delineada acima, ou seja, com um tipo de análise geralmente bastante associada à crítica da tradição marxista. A perda da autonomia individual e a erosão da democracia são assim abordadas como consequências da lógica de acúmulo inerente ao “capitalismo de vigilância”. Zuboff é, por outro lado, mais evasiva a propósito dos meios de responder a estas ameaças, embora argumente que as leis devem interromper “a transformação ilegítima da experiência humana em dados comportamentais” (p. 344). O caráter um tanto impreciso do que a autora preconisa pode ser explicado, me parece, por aquilo que ela escolhe silenciar.

Um capitalismo como qualquer outro

A análise de Zuboff se concentra quase exclusivamente nas relações entre as empresas do “capitalismo de vigilância” e seus usuários. Estes últimos, ela argumenta, não são nem consumidores (não pagam pelos serviços do Google ou Facebook) nem trabalhadores (“não fazem funcionar os meios de produção”, p. 69). Eles são fontes de dados e os objetos dos dispositivos de modificação comportamental. Em resumo, o “capitalismo de vigilância” se baseia na despossessão da experiência, não na exploração do trabalho.

Essa tese explica por que as questões relativas ao trabalho e ao emprego estão quase ausentes no livro. As empresas do “capitalismo de vigilância”, no entanto, produzem bens e serviços que exigem uma enorme quantidade de trabalho: o de seus assalariados, é claro, mas também todo um trabalho terceirizado ou desempenhado pelos usuários, desde a produção de conteúdo colocado on-line em redes sociais até o treinamento de programas de inteligência artificial[3]. Tudo isso quase não é mencionado no livro, assim como a produção de bens cujos “produtos preditivos” se destinam, em última análise, a garantir sua venda. A existência da publicidade direcionada, para tomar apenas este exemplo, pressupõe a existência prévia dos bens que ela promove!

Essas observações apontam para uma ambiguidade mais fundamental, que diz respeito ao perímetro exato da noção de “capitalismo de vigilância”. Trata-se de um subsetor da economia digital focado na exploração de dados? Da economia digital como um todo? Do capitalismo atual como um todo? O livro contém argumentos que sustentam cada uma dessas propostas. Entretanto, o autor privilegia o terceiro, o que é atestado pelas comparações recorrentes entre o Google e a Ford. Assim, da mesma maneira que o fabricante de automóveis teria inventado o capitalismo do século XX – “capitalismo gerencial baseado no consumo de massa” (p. 63) – o Google teria inventado o capitalismo do século XXI. Ter-se-ia aí uma grande bifurcação histórica, bifurcação capaz de quebrar as antigas formas de reciprocidade entre empresas e consumidores.

Essa tese sobre o surgimento de um “novo capitalismo” é difícil de ser solidamente discutida. Com efeito, uma das falhas do livro é que ele nunca discute seriamente as tentativas teóricas, antigas ou mais recentes, de periodizar a história do capitalismo a fim de distinguir as suas variedades. Esta falta leva o autor a exagerar a novidade dos dispositivos que visam modificar o comportamento para fins mercadológicos. De fato, as empresas há muito compreenderam que, para ganhar participação no mercado e garantir sua rentabilidade, era indispensável para elas manipular as massas por meio da publicidade ou de qualquer outro meio disponível. Basta reler os textos de Edward Bernays, fundador da indústria moderna de relações públicas, para ver que este projeto já existia na década de 1920 e que as suas implicações para a autonomia individual já eram perfeitamente claras! Na época, Bernays descreveu os consumidores submetidos à propaganda das marcas como sendo determinados “por influências externas que controlam [seus] pensamentos sem seu conhecimento”. Eles são, segundo ele, “como um botão apertado…”[4].

Portanto, parece mais coerente abordar o “capitalismo de vigilância” como um aprofundamento do que já existia do que como uma ruptura. E se o problema fundamental reside na tendência das empresas de querer alterar o comportamento individual, a conclusão é que isso não é propriamente uma novidade! O “capitalismo de vigilância” só aperfeiçoa, graças aos big data e ferramentas algorítmicas, uma lógica que lhe preexiste. O conteúdo normativo da crítica de Zuboff deveria, portanto, conduzi-la a uma crítica mais geral do capitalismo. Crítica esta que nunca vem. Obnubilado por seu desejo de demonstrar que o “capitalismo de vigilância” é uma perversão do capitalismo, Zuboff não vê que este tipo de capitalismo é, acima de tudo, uma encarnação do mesmo.

Os limites do “comportamentalismo radical”

Podemos finalmente nos perguntar se a crítica proposta no livro não é parcialmente mal dirigida. Na terceira parte, o “capitalismo de vigilância” é apresentado como a implementação do “comportamentalismo radical”, outrora defendido pelo psicólogo B.F. Skinner, que propôs modelar o comportamento das massas graças às novas tecnologias comportamentais. Segundo Zuboff, esse projeto de engenharia social está agora sendo reativado pelas novas possibilidades de processamento de dados do mundo. Sob o nome “física social”, o pesquisador do MIT Alex Pentland está trabalhando para modelar, prever e mudar os comportamentos humanos. Com efeito, ele acredita que os dados comportamentais “contam uma mais precisa de nossas vidas mais precisa do que qualquer coisa que possamos escolher revelar sobre nós mesmos” (citado p. 422) e afirma fornecer “uma explicação matemática das razões pelas quais a sociedade reage tal como ela faz” (citado p. 434). Uma das empresas que ele criou se gaba até de poder “explicar e prever qualquer tipo de comportamento humano” (citado p. 425).

Não há dúvida de que este tipo de discurso exerce um certo fascínio no Vale do Silício, mas será que ele realmente deve ser visto, como faz Zuboff, como uma descrição precisa do “capitalismo de vigilância”? Não seria isso esquecer que a economia digital e numérica é uma economia de promessa em que, para convencer os investidores, é melhor prometer demais do que não o suficiente. Acima de tudo, significa dar a esses discursos um crédito que eles estão longe de merecer, tanto que sua ingenuidade positivista só pode atingir qualquer pessoa com uma cultura mínima nas ciências sociais e humanas. No entanto, Zuboff valida as proclamações de Pentland no próprio movimento em que ela critica suas implicações sociais e políticas. Ela também está convencida de que os big data oferecem um conhecimento abrangente do mundo social e que as empresas da economia digital e numérica “sabem mais sobre você do que você mesmo” (p. 285)[5]. Ela argumenta, portanto, que Skinner e Pentland dizem a verdade sobre o “capitalismo de vigilância” quando eles nada fazem além do que formular a sua ideologia.

Esse mal-entendido explica o tom frequentemente enfático do livro, bem como a ideia muitas vezes afirmada de que a “natureza humana” estaria em perigo. Avaliar a eficácia real das tecnologias de previsão e manipulação exigiria sem dúvida um pouco mais de atenção e medição. Isso levaria sobretudo a completar a análise de Zuboff e até mesmo a uma avaliação diferente das principais ameaças colocadas pelo “capitalismo de vigilância”. Mais do que o risco do desaparecimento completo do indivíduo autodeterminado, seria então necessário estudar a precarização do trabalho, os novos efeitos da estratificação social[6] e as injustiças econômicas próprias à situação atual. É o que Zuboff não faz e o que impede que a Era do Capitalismo de Vigilância, apesar de suas teses estimulantes, seja totalmente convincente.

 

***

Para citar este texto: BROCA, Sebástien. Monitorar e prever. (Tradução de Diogo Silva Corrêa). Blog do Labemus, 2021. [publicado em 08 de março de 2021]. Disponível em: https://blogdolabemus.com/2021/03/08/monitorar-e-prever-por-sebastien-broca

 

 

[1] Tradução de Broca, Sebástien. Surveiller et prédire. À propos de : Shoshana Zuboff, The Age of Surveillance Capitalism. The Fight for a Human Future at the New Frontier of Power, Public Affairs. In: https://laviedesidees.fr/Surveiller-et-predire.html

[2] Entre as inúmeras recensões já publicadas em inglês, vale a pena citar: Nicholas Carr, « Thieves of Experience : How Google and Facebook Corrupted Capitalism », Los Angeles Review of Books, 15 janvier 2019 ; Evgeny Morozov, « Capitalism’s New Clothes », The Baffler, 4 février 2019.

[3] Sobre este assunto, ver Antonio A. Casilli, En attendant les robots, Paris, Seuil, 2019.

[4] Edward Bernays, Propaganda. Comment manipuler l’opinion en démocratie, La Découverte, Paris, 2007, p. 62 et 68.

[5] Os trabalhos de Antoinette Rouvroy, apresentando semelhanças importantes com os de Zuboff, insistem precisamente na forma como o “comportamento digital” nunca consegue capturar tudo o que constitui a vida dos indivíduos.

[6] Ver Marion Fourcade et Kieran Healy, “Classification Situations : Life-Chances in the Neoliberal Era”, Accounting, Organizations, and Society, vol. 38, p. 559–572.