Por Nick Seaver (Tufts University)
Tradução: Bruno Reinhardt (UFSC)
Resumo: Os sistemas de recomendação algorítmica são uma característica ubíqua da vida cultural contemporânea online, sugerindo músicas, filmes e outros materiais aos seus utilizadores. Este artigo, baseado em trabalho de campo com desenvolvedores de sistemas de recomendação nos EUA, descreve uma tendência entre os fabricantes desses sistemas de descrever seu propósito como “fisgar” [hook] pessoas – aliciando-as para o uso freqüente ou duradouro. Inspirado por referências constantes de captura no campo, o autor considera os sistemas de recomendação como armadilhas, recorrendo a teorias antropológicas sobre armadilhas para animais. O artigo traça o aumento das ‘métricas de captura’ – medidas de retenção do usuário – possibilitadas por um conjunto de transformações nos contextos epistêmico, econômico e técnicos dos recomendadores. As armadilhas revelam-se úteis para pensar sobre como tais sistemas se relacionam com as ecologias infra-estruturais mais amplas do conhecimento e da tecnologia. Como os recomendadores se espalham pelas infraestruturas culturais online e se tornam praticamente inescapáveis, a figura da armadilha oferece uma alternativa aos enquadramentos éticos comuns, que orbitam em torno da liberdade e da coerção.
Palavras-chave: algoritmos, comportamentalismo, infra-estrutura, sistemas de recomendação, armadilhas
Fisgado
É um dia nublado no norte da Califórnia, e estou comendo sushi com o Mike. Nós sentamos na rua do seu escritório na Willow, uma empresa de rádio personalizado onde ele tem trabalhado nos últimos 15 anos. Mike tem olhos azuis brilhantes, um falso moicano, e um afeto excepcionalmente enérgico, mesmo para os padrões gregários da Baía de São Francisco. Entre as empresas e carreiras fugazes comuns nesta indústria, Mike e Willow são notavelmente longevos: quando ele entrou na empresa pela primeira vez, Mike tinha recentemente saído da faculdade e, como estagiário, tornou-se o primeiro engenheiro da Willow. Agora, mais de uma década depois, ele é seu cientista-chefe. Eu pergunto o que faz o cientista-chefe de uma empresa de transmissão de música, e ele responde: “Eu sou responsável por garantir que a música que tocamos seja fantástica”.
O popular serviço de rádio da Willow oferece aos seus usuários listas de reprodução geradas por algoritmos: digite o nome de um artista, e a Willow tocará um fluxo interminável de música que ela considere similar à sua consulta. Se você continuar ouvindo, pulando músicas que você não gosta e dando avaliações positivas às músicas que você gosta, o serviço irá adaptar suas escolhas às suas preferências aparentes. Desde que ele começou na Willow, projetar, construir e manter esse sistema de recomendação tem sido o trabalho de Mike. No início, Mike me disse: “Eu era o cara do algoritmo – o único cara trabalhando no algoritmo – tentando descobrir como tocar música direito”. À medida que a empresa crescia, também crescia o algoritmo e o trabalho de Mike, seguindo trajectórias típicas e paralelas: o algoritmo tornou-se muito mais complicado, e o papel de Mike mudou de programador para gestor. “Agora eu”, diz ele, “dirijo equipes de equipes”, cada uma das quais responsável por uma parte diferente da infra-estrutura de recomendação da Willow. Agora, o “algoritmo” não é mais um algoritmo, mas “dezenas e dezenas” de sub-algoritmos, cada um dos quais
analisa um sinal diferente: Como é que soa uma música? Com que frequência um usuário clica? De que é que um ouvinte gostava no passado? Um algoritmo mestre orquestra os outputs dos sub-algoritmos em um “conjunto” (Goldschmitt e Seaver, nd) que toma uma decisão simples: Que música deve ser tocada a seguir?
Empresas como a Willow têm dedicado quantidades extraordinárias de capital, trabalho de engenharia e pesquisa científica para responder a esta pergunta. A pesquisa sobre sistemas de recomendação tem animado centenas de teses, atraído bilhões de dólares em financiamentos e inspirado a fundação de inúmeras startups. A assimetria escalar é marcante: ações pequenas e, de outra forma, não notáveis, como escolher um filme para assistir ou mudar a estação de rádio, são o alvo de um complexo científico-industrial excepcionalmente grande e intrincado, que só continua a crescer em tamanho e escopo.
Mike me descreveu o modo elaborado com que a Willow pode usar como isca suas recomendações aos usuários, não apenas sugerindo artistas semelhantes, mas identificando estilos de audição que parecem transcender o gênero musical: alguns ouvintes preferem recomendações que se mantenham bastante próximas do seu pedido original, enquanto outros são mais exploratórios; alguns usuários saltam frequentemente as músicas, enquanto outros raramente utilizam a interface.
O recomedador da Willow leva tudo isso em conta, ajustando o significado de tais ações de acordo.
Mas uma recomendação sofisticada requer dados. Novos usuários representam um desafio que os pesquisadores chamam de “problema de arranque frio” [cold start problem]: eles ainda não têm dados e, sem dados, as recomendações orientadas por dados não funcionam. Para novos usuários, a elaborada engenharia da Willow é posta de lado em favor de técnicas mais diretas. Ou, como Mike diz:
Se você está em sua primeira semana ouvido com a gente, nós pensamos: “Foda-se isso! Toque os hits! “Toca a merda que você sabes que eles vão adorar para fazê-los voltar. Deixa-os viciados.
No início, eu só estou tentando te fisgar [hook you] .
Neste artigo, descrevo como é que pessoas como o Mike explicam o propósito do seu trabalho de “fisgar” usuários. Entre 2011 e 2016, realizei trabalho de campo com os desenvolvedores de sistemas algorítmicos de recomendação de música em todos os EUA. Para que eram estes sistemas e como é que os seus criadores decidem se funcionavam bem? Em ambientes que vão desde laboratórios universitários até escritórios corporativos, um conjunto de respostas surgiu acima das outras: sistemas de recomendação retinham usuários em plataformas, chamavam sua atenção e ajudavam as empresas a conquistar fatias de mercado.
Metáforas como estas, que consideravam usuários como presas e sistemas de recomendação como dispositivos para as capturar, eram surpreendentemente comuns. A recomendação algorítmica, parecia, era uma armadilha. Seguindo a prerrogativa do antropólogo de levar nossos interlocutores mais literalmente e mais figurativamente a sério do que eles próprios, eu persigo aqui as conseqüências desta comparação. Baseando-me na antropologia que estuda a caça de animais com armadilhas, coloco sistemas de recomendação em companhia incomum – não entre inteligências artificiais e máquinas que aprendem, mas entre lanças escondidas e cestas com espinhos. Isto não é, certamente, o que as pessoas queriam dizer quando diziam que queriam capturar usuários. Entretanto, as armadilhas oferecem um vocabulário poderoso para articular preocupações sócio-técnicas, e pensar com armadilhas dá vazão a questões importantes sobre as relações entre cultura, tecnologia e ética.
Algoritmos são poderosos símbolos da modernidade informática. Eles sãs essencialmente procedimentos abstratos imateriais, libertos de qualquer materialidade grosseira como aquela envolvida em perfurações, laços ou esmagamentos. A colocação de sistemas algorítmicos ao lado de fios escondidos e armadilhas não somente tira seu brilho exclusivo, lembrando-nos que eles também são produtos da engenharia humana comum; também nos ajuda a pensar como eles funcionam, as formas de pensar das quais eles dependem e como eles podem ser criticados. Na verdade, como veremos, já surgiu uma crítica vernacular aos sistemas algorítmicos como armadilhas, preocupada em policiar a fronteira entre liberdade e coerção. A antropologia da armadilha contorna esse enquadramento, fornecendo um modelo de pensamento que não depende de uma dicotomia estrita entre o voluntário e o coagido, o mental e o material, ou o cultural e o técnico. Pensar com armadilhas pode ajudar-nos a ver como as infra-estruturas epistêmicas e técnicas se unem para produzir mundos culturais abrangentes e difíceis de escapar, num momento em que as empresas mais ricas do mundo dedicam a maior parte dos seus recursos a viciar/fisgar pessoas.
Captologia
Hooked, afinal, é também o título de um livro do blogueiro e empresário Nir Eyal (2014) do Vale do Silício. O livro tem o subtítulo “Como construir produtos de formação de hábito”, e traça um paradigma comportamental para o design de software: as empresas que querem adquirir usuários precisam inculcar hábitos neles. Empresas bem sucedidas como o Facebook tornaram-se bem sucedidas, escreve Eyal, ao se tornarem “first-to-mind” [NT. primeira a vir à mente]: seus usuários sentem uma pontada de solidão e antes que o pensamento racional ocorra, eles estão rolando pelos
seus feeds do Facebook” (p. 3). Atingir este objetivo requer pensar nos usuários não como clientes escolhendo entre vários produtos, mas como mentes instintivas, suscetíveis a influências externas sutis. Eyal escreve, “as empresas devem aprender não apenas o que obriga os usuários a clicar, mas também o que os faz funcionar” (p. 2). A capa do livro retrata um cursor clicando num cérebro humano.
Esta abordagem para o design de software orientada-para-a-mente tornou-se amplamente influente em todo o setor, e o título de um livro popular do economista comportamental Dan Ariely, Predictably Irrational (2008), encapsula de forma útil o porquê. A aparente irracionalidade do comportamento humano ameaça os modelos de atores racionais que têm caracterizado historicamente tanto a economia quanto a engenharia; teorias behavioristas recuperam a previsão das garras da irracionalidade, tornando a ação humana mais uma vez receptiva a tal modelagem. As pessoas podem ser irracionais, mas ainda são previsíveis, e onde há previsão, há o potencial para o lucro.
Eyal não estava sozinho na reembalagem de princípios behavioristas como conselho de negócios. Na época do meu trabalho de campo na baia de San Francisco, no início de 2010, Ariely sediou uma cúpula anual no Vale do Silício chamada “Startuponomics”, que treinava os fundadores de empresas nos princípios básicos da economia comportamental, apresentando como táticas para reter funcionários ou atrair usuários para o “funil do produto” (ou seja, transformá-los em clientes pagantes ou usuários de longo prazo). Um fluxo constante de livros populares (por exemplo Duhigg, 2012; Parr, 2015) redescreveu pessoas em termos que remontam pelo menos às famosas experiências de reforço variável do behaviorista B. F. Skinner que induziram a “superstição nos pombos” (Ferster e Skinner,1957): as aves engaioladas, com uma alavanca que libertava a comida, aprenderiam a pressioná-la; se os cientistas ajustassem a alavanca para liberar a comida apenas intermitentemente, os pombos aprenderiam a pressioná-la incessantemente. Substitua os pombos por pessoas, construa as alavancas certas no seu produto, e você também poderá acumular uma base de puxadores compulsivos de alavancas.
Uma das cabeças desta onda de pensamento behaviorista na indústria de software foi o Laboratório de Tecnologia Persuasiva da B J Fogg em Stanford. Fogg fundou o laboratório em 1998 para desenvolver o campo que ele chamou de ‘captologia’, um nome derivado da sigla para ‘computadores como tecnologias persuasivas’ (Fogg, 2003: 5). A missão do laboratório, de acordo com seu website, é “criar uma visão de como os produtos de computação – desde websites até softwares de telefonia móvel – podem ser projetados para mudar as crenças e comportamentos das pessoas” Zcaptology. stanford. edu). Entre os ex-alunos do laboratório estão um co-fundador do serviço de compartilhamento de fotos Instagram e o próprio Nir Eyal.
Fogg define persuasão como “uma tentativa não coerciva de mudar atitudes ou comportamentos” (Fogg et al., 2009: 134): assim, sua visão da captologia se concentra na “mudança voluntária”, excluindo definitivamente força ou truque e, em última instância, dependendo da agência do persuadido (Fogg, 2003: 15). Onde Skinner renegou a existência do livre arbítrio em Beyond Freedom and Dignity (1971), a captologia contemporânea depende dela como um escudo ético: quaisquer que sejam os poderes que o Facebook possa ter, ele não pode coagir ninguém a fazer algo – ele só pode persuadir. Como Eyal, Fogg responde a críticas éticas de longa data – de que é manipulador ou desrespeita a dignidade humana – focando na natureza voluntária da persuasão e enfatizando como ela pode ser usada para o bem social inquestionável: “inovação pacífica” “saúde móvel” estão entre os projetos catalogados no site do laboratório. Eyal (2014: 11), mais pateticamente, cita um de seus leitores em seu livro: “Se não pode ser usado para o mal, não é uma superpoder”.
Dadas estas críticas gastas, as associações coercivas entre ‘captologia’ e ‘captura’ têm se mostrado problemáticas para Fogg, que mais recentemente tem favorecido o termo “design de comportamento” (Fogg, 2017). Mas onde a aparente ligação entre captologia e captura coloca problemas para os esforços proselitistas de Fogg, para os meus propósitos interesses aqui ela designa de forma útil uma relação entre os entendimentos behavioristas de ação e os esforços para aprisionar as entidades assim entendidas. No trabalho de Skinner, Eyal, Ariely, e outros, encontramos o behaviorismo enredado com técnicas físicas e psicológicas de captura: pombos capturados em gaiolas tornam-se fixados em horários de reforço; usuários são fisgados; funcionários são retidos; clientes potenciais são atraídos para funis.
Podemos usar “captologia’ para designar esta compreensão das pessoas em termos comportamentais – inflexíveis, como mentes habituadas com tendências e compulsões que as tornam susceptíveis à persuasão e alvos de captura. O pensamento captológico é encontrado em textos behavioristas como Hooked ou nos encontros e workshops regulares do Vale no Silício sobre design de comportamento, mas estes artefatos só explicitam e sistematizam o que está em outro lugar como uma forma de pensar tácita e ad hoc. Embora inspirados pelo behaviorismo, o pensamento captológico comum não é necessariamente fiel a ele, nem a sua ancestralidade é sempre reivindicada. Quando Mike declarou que queria fisgar seus usuários, ele não estava intencionalmente citando Eyal, mas sim se baseando na captologia vernacular que é agora uma parte definidora da cultura profissional da indústria de software – um senso comum vago e difundido que informa e é informado pelas tecnologias que a indústria produz.
Armadilhas como tecnologias persuasivas
Noventa e oito anos antes da fundação do Laboratório de Tecnologia Persuasiva de Fogg, no volume de 1900 da revista American Anthropologist, Otis Mason publicou uma pesquisa sobre armadilhas ameríndias para animais. Mason foi curador de Etnologia no Smithsonian, e tinha tido um interesse especial nas “combinações mecânicas engenhosas” (p. 659) que as pessoas ao redor do mundo usavam para capturar animais. Estes dispositivos – cestos com nervuras de espinhos para a captura de peixes, redes elaboradas para enredar aves, gaiolas de queda apoiadas em paus para capturar raposas – emprestaram-se à teorização etnológica vitoriana: mecanismos particulares poderiam ser traçados através de regiões como evidência de difusão, e poderiam ser dispostos em sequências de complexidade crescente, como evidência de evolução. Os diversos e elaborados mecanismos das armadilhas indexaram um mundo de desenvolvimento tecnológico. A armadilha’, escreveu Mason, “nos ensina toda uma lição sobre a invenção” (p. 659).
Essa lição é evidente na definição de Mason de uma armadilha: “uma invenção com o propósito de induzir os animais a cometerem encarceramento, prisão própria ou suicídio”(p. 657). Embora possamos pensar em armadilhas como dispositivos contundentes e materialmente simples orientados para corpos animais vulneráveis “para prender, ou apreender ou enclausurar, ou para agarrar pela cabeça, chifres, membros, guelras; para mutilar, ferir, esmagar, cortar, amassar o crânio, empalar, envenenar, e assim por diante’ (pp. 659-660) – Mason enfatiza como as armadilhas devem, mais importante, orientar-se para a mente de um animal. Uma armadilha deve persuadir a sua presa a desempenhar o papel que lhe foi atribuído no seu design. Como disse Mason:
A armadilha em si é uma invenção na qual são incorporados os estudos mais cuidadosos no pensamento e hábitos animais – o caçador deve saber para cada espécie o seu alimento, os seus gostos e aversões, as suas fraquezas e excentricidades. Uma armadilha neste contexto é uma emboscada, um engano, uma tentação, um fascínio irresistível: é estratégia. (p. 659)
Em termos anacrónicos, podemos dizer que Mason pensa as armadilhas como tecnologias persuasivas, dispositivos concebidos para alterar o comportamento das suas presas, a fim de as apanhar. Incorporada na armadilha está uma interação mental intrincada entre caçador e presa, e não apenas um mecanismo brutal.
Como resultado, as armadilhas tornam-se locais de drama extraordinário para Mason, onde mentes humanas e animais se conhecem e têm momentos repentinos e trágicos de reconhecimento. Ele narra as armadilhas em sua pesquisa como histórias, misturando linguagem técnica e poética: “O urso se agacha entre os troncos, puxa o gatilho e solta a alavanca, que voa e deixa escapar o anel que suporta a queda ; depois vem a tragédia” (p. 673). Figurar armadilhas como dramas, não apenas dispositivos, torna suas qualidades persuasivas evidentes: encontramos animais não como máquinas instintivas, mas como personagens trágicos trazidos a fins inoportunos.
As narrações de Mason traçam a intrincada circulação de conhecimento e agência dentro e ao redor da armadilha: os caçadores estudam suas presas e colocam seu pensamento no desenho do material, os animais inquisitivos investigam a isca, apenas para perceber a natureza de sua situação muito tarde, como se a armadilha funcionasse automaticamente, como se “o pensamento do caçador [estivesse] trancado em suas partes, pronto para saltar em eficiência a um toque” (p. 660). Na contabilidade de Mason, a agência é fluida e móvel, circulando entre o caçador, o animal e a armadilha em um processo em desdobramento, que não é simplesmente a execução da vontade humana, mas sim a interação de uma variedade de partes intencionais e automáticas. Se o animal não desempenha o seu papel, então a armadilha não funciona (Akrich, 1992).
Onde o behaviorismo eventualmente argumenta que os humanos são como animais por causa de seus hábitos impensados, Mason trata os animais como humanos porque eles são agentes presos em arcos dramáticos fora de seu controle, suscetíveis aos desígnios de outros. Isto é evidente pela epígrafe de abertura de Mason, que apresenta Decius Brutus gabando-se, na peça Júlio César de Shakespeare, de como iria atrair o ditador para o cenário da sua eventual morte:
Que os unicórnios com árvores se pegam,
Com espelhos os ursos, os leões com fortes redes,
Os elefantes com profundas covas e os homens com lisonjas…
Deixai-me trabalhar;
saberei dirigir-lhe a fantasia,
Sendo certo levá-lo ao Capitólio.
Júlio César, II, 1.
Como Mason, aqui Brutus lista técnicas mentais e físicas de captura em conjunto – a lisonja é como a árvore que apanha o chifre de um unicórnio, o espelho que atrai um urso, ou a rede que lida com um leão. Com esta abertura, Mason inaugurou um tema duradouro na antropologia da armadilhagem: se olharmos de perto o processo de aprisionamento, à medida em que ele se desdobra no tempo, temos dificuldade em distinguir claramente as técnicas persuasivas das coercivas, ou mentais das físicas.
Um século mais tarde, no primeiro número desta revista, Alfred Gell (1996: 27) analisou a “estrutura temporal” da armadilha – o seu desdobramento duradouro para além do estalido clímax da ratoeira ou do soltar da alavanca. “É difícil não ver”, escreveu ele, “no drama da armadilha um análogo mecânico à trágica seqüência de hubris-nemesis-catástrofe” (p. 29). No seu relato, um chimpanzé curioso, que aciona uma flecha envenenada ao investigar um emaranhado estranho, é Fausto; um hipopótamo, “embalado em uma sensação de falsa segurança por seu puro volume e majestade” antes de ser lançado, é Othello (p. 29). Uma armadilha, argumentou Gell, “encarna um cenário”, materializando e configurando uma relação entre caçador e presa, “que une estes dois protagonistas, e que os alinha no tempo e no espaço” (p. 27). Embora ele não se referira a Mason, o relato de Gell sobre a armadilha como uma espécie de drama mecanicamente auxiliado e ‘nexo de intencionalidades’ (p. 29) captou e estendeu muitos de seus temas.
Onde Mason chamou a atenção para os aspectos psicológicos dos dispositivos materialmente violentos, Gell usou armadilhas para pensar através das complexidades psicológicas das obras de arte, que, sugeriu ele, funcionavam como ‘armadilhas de pensamento’ (Boyer, 1988; Gell, 1996). Como as armadilhas convencionais, as obras de arte encarnam algo da agência dos seus criadores, e quando antecipam com sucesso o seu público, podem enredar as mentes de seus espectadores. “Toda obra de arte que funciona é assim”, escreveu Gell (1996: 37), “uma armadilha que impede a passagem; e o que é qualquer galeria de arte senão um lugar de captura?’. Em outro lugar, Gell defendeu a inclusão de “tecnologias do encantamento ” – publicidade, arte e outras técnicas para produzir efeitos psicológicos – em nossas definições de tecnologia (Gell, 1988, 1992; ver também Cochoy, 2007 sobre ‘captação’). A tecnologia do encantamento”, escreveu ele, “é a mais sofisticada que possuímos” (Gell, 1988: 7). Mais expansivamente do que Mason, Gell não faz distinção essencial entre captura mental e física, sugerindo que a armadilha em si pode sempre ser tanto material como mental. As caixas de Skinner, as interfaces de Eyal, as armadilhas para animais de Mason e as pinturas de Gell são todos simultaneamente dispositivos físicos e psicológicos.
Utilizo a cativação para englobar este amplo sentido de captura, abrangendo audiências de das galerias de arte encantadas, consumidores ponderando e aves enjauladas. A “cativação”, no seu sentido mais antigo, não fazia distinção especial entre a captura da mente e a captura do corpo. A questão não é ignorar as diferenças entre a captura mental e física, que são embasadas por um senso comum cartesiano dominante. A questão é reorientar nossa atenção para o vasto meio termo entre coerção, entendida como material ou tecnológica, e persuasão, entendida como mental ou cultural. As disputas éticas que dependem de uma técnica ser adequadamente persuasiva ou coercitiva esquecem do fato (evidente no desenho de armadilhas) de que a maioria das tecnologias persuasivas funcionam em um meio desfocado.
Culturas de captura
Até agora, encontramos armadilhas isoladas: uma armadilha individual, portadora da agência e das ideias do seu criador, tenta um animal, representando toda a sua espécie, em cativação. As tragédias que Gell e Mason afetam indivíduos, e o relato idealizado por Eyal dos usuários os encontra sozinhos, interagindo apenas com suas telas. Mas nem caçadores, nem presas, nem armadilhas existem isoladamente. A antropologia da armadilhagem coberta até agora tem valorizado o clímax aparentemente abrupto da armadilha, mostrando o emaranhado de agências dentro do que se revela ser uma estrutura temporal mais longa. Trabalhando a partir daí, podemos agora localizar estes emaranhados agênticos nas ecologias mais amplas de conhecimento e tecnologia das quais eles dependem.
No balanço deste artigo, volto à captologia contemporânea e ao mundo da recomendação algorítmica para demonstrar como as armadilhas estão embutidas em culturas particulares de captura, envolvendo valores compartilhados, quadros epistêmicos, recursos técnicos, pressões econômicas, organizações de trabalho e teorias êmicas sobre armadilhas propriamente ditas. Eu esboço uma mudança de paradigma no campo da pesquisa de recomendações, que, ao final, colocou o trabalho de praticantes, como meu interlocutor Mike, em termos explicitamente captológicos.
Em suas origens, em meados dos anos 1990, os sistemas de recomendação não eram comumente pensados como ferramentas para cativar. Ao contrário, eles foram desenvolvidos, coincidindo com a ascensão da World Wide Web, como ferramentas para ajudar os usuários a gerenciar catálogos de informações cada vez maiores, como posts de mensagens, filmes ou músicas (Resnick et al., 1994, Shardanand e Maes, 1995). Conforme o campo crescia e os pesquisadores propunham métricas para avaliar o desempenho de seus sistemas, uma métrica de erro chamada Root Mean Square Error (RMSE) tornou-se sua medida paradigmática. A idéia básica é simples: um sistema de recomendação prevê como os usuários irão avaliar os itens, e é julgado pela precisão de suas previsões. Essa métrica – facilmente computada, simplesmente entendida – logo dominou o campo, e o paradigma chegou ao seu auge em 2009, quando a empresa de aluguel de DVDs Netflix concedeu um prêmio de US$ 1 milhão a uma equipe de pesquisadores que reduziu seu RMSE em 10% (ver Hallinan e Striphas, 2016, para um relato do concurso).
Para os críticos, este enfoque restrito na previsão e erro indicou “quão central é para tais organizações a precisão do sistema de recomendações” (Beer, 2013: 64), em detrimento de outras potenciais preocupações. Mas, na época em que a Netflix atribuiu o seu prémio, o paradigma de previsão, centrado em torno do RMSE, já estava a vacilar, e a empresa nunca implementou o seu algoritmo premiado. O vencedor era, como os engenheiros da Netflix frequentemente notaram nas suas apresentações em conferências, pesado, complexo e computacionalmente intensivo, tendo sido hiper-engenhado para reduzir o RMSE a qualquer custo. Mas, mais significativo ainda, os interesses comerciais da Netflix tinham mudado: quando o concurso começou, era uma empresa de aluguel de DVDs, enviando discos para a casa dos seus clientes; no final, era um serviço de streaming de vídeo, que passava filmes sob demanda nos navegadores da web dos usuários. Onde antes o objetivo da recomendação era representar com precisão o futuro, agora era manter os usuários em streaming, mantendo-os como assinantes pagantes.
Esta virada captológica foi antecipada por um par de publicações em 2000: The Tipping
Point, o livro que lançaria a carreira do jornalista Malcolm Gladwell como um intelectual público, e um artigo nesta revista de Daniel Miller (2000), que usava o trabalho de Gell para teorizar ‘websites como armadilhas’. Em seu livro, Gladwell cunhou um termo que se tornaria popular entre os marqueteiros e as empresas de mídia à medida que eles se colocavam online: “viscosidade” [stickiness], que descrevia como as mensagens eram empacotadas de acordo com as lições psicológicas engenhadas para prender a atenção do público e ficar na sua mente. “Stickiness” tornou-se um objectivo comum dos web designers comerciais, que procuravam atrair os usuários e sua atenção, de modo a que fosse mais provável que clicassem em anúncios, comprassem produtos ou simplesmente aumentassem a contagem de usuários (ver, por exemplo, Heath and Heath, 2007).
Miller, em contraste, concentrou sua atenção em sites pessoais encontrados durante o trabalho de campo na internet em Trinidad e Tobago. Ele narrou a experiência de seguir links entre homepages:
Descobri que, quase diariamente, eu começava com a intenção de seguir um determinado caminho de investigação e depois me sentia seduzido pela estética de um dos sites visitados e movido pela simplicidade de clicar para seguir um link oferecido por aquele site. Mais alguns cliques me enviavam a percorrer alguns canais do ciberespaço pelos links projetados por esses criadores de sites, muitas vezes a tal ponto que era difícil recuperar o lugar original de onde tinha começado esse desvio. (Miller, 2000: 18).
Se a “viscosidade” implicava uma estase adesiva e morta, o relato de Miller evocava as intensidades afetivas de percorrer a web, uma espécie de cativação marcada, como as ‘armadilhas do pensamento’ de Gell, por movimentos locais intrincados e não pela quietude.
Como Gladwell e Miller escreveram, o design de comportamento estava na sua infância e o primeiro boom do .com estava a atingir o seu auge. Comparado com as experiências atuais de perder-se na internet (ver Paasonen, 2016), o relato de Miller de encantamento em rede soa quase estranho, e o catálogo de truques psicológicos de Gladwell para alcançar a viscosidade parece simples. Se a viscosidade refletia uma captologia genérica, análoga ao visco utilizado par caçar aves [birdlime], que poderia ser espalhada em um galho para pegar qualquer coisa que pousasse ali, a captologia vindoura seria, como o sistema de recomendação da Willow, altamente personalizada, incorporando uma teoria mais complexa e precisa do comportamento humano.
A ascensão da métrica de cativação
A transformação da Netflix foi sintomática de uma mudança mais ampla nos modelos de negócios da Internet; ela refletiu um conjunto de mudanças nos cenários técnico, econômico e epistêmico da pesquisa e design de sistemas de recomendações. Os pesquisadores que encontraram falhas nas suposições subjacentes ao RMSE estavam se voltando para medidas ‘centradas no usuário’; o centro de gravidade da comunidade de pesquisa mudou-se para a indústria; a virada da indústria para a media de streaming forneceu um novo conjunto de incentivos e fontes de dados. A forma com que software comerciais eram feitos, atualizados e mantidos também se transformou nesse período, no que Seda Gürses e Joris van Hoboken (2017) chamaram de “virada ágil”, que viu a redução dos ciclos de desenvolvimento e testes contínuos focados no usuário, de tal forma que novos recursos ou ajustes podiam ser feitos e avaliados em intervalos semanais ou mesmo diários. Ao final desta transformação, o campo da pesquisa de recomendações tinha sofrido uma reviravolta captológica: O RMSE foi destronado como a medida paradigmática do sucesso, substituído por um conjunto de medidas que chamo de métricas de cativação, que não se preocupavam com a previsão precisa das classificações, mas com a medição da capacidade de um sistema de captar a atenção do usuário, ou “engajamento”.
O paradigma preditivo tinha mantido uma suposição tácita sobre os usuários: que eles ficariam mais satisfeitos com um sistema que pudesse prever com mais precisão as suas classificações. Mas esta suposição encontrou uma série de crises. Com o tempo, as melhorias no RMSE tornaramse mais difíceis de alcançar, ficando atrás do que alguns pesquisadores chamavam de “barreira mágica” (Herlocker et al., 2004: 6). Uma explicação para isso, como um estudante de graduação me disse, foi que as preferências eram intrinsecamente instáveis, ou ‘barulhentas’. Um recomendador
não podia prever a preferência de um usuário com mais precisão do que ela era mantida, e se as preferências variavam significativamente com o tempo ou o ambiente, isso representava um sério desafio para a precisão preditiva. As experiências indicaram que as pessoas frequentemente davam classificações diferentes ao mesmo item em momentos diferentes, suscetíveis a influências contextuais (Amatriain et al., 2009). Novos estudos “centrados no usuário” que procuraram medir a satisfação através de instrumentos de inquérito encontraram um resultado surpreendente: para além de um certo ponto, as melhorias na RMSE não se correlacionaram com o aumento da satisfação do utilizador (Knijnenburg et al., 2012; ver também Pu et al., 2011). Como diz o título de um influente artigo desta fase, “ser preciso não é suficiente” (McNee et al., 2006).
Na RecSys, a conferência internacional de pesquisa de sistemas de recomendação que participei em Dublin em 2012, um workshop explorou métodos de avaliação “além do RMSE”. No relatório dos organizadores, eles resumiram o estado de espírito: “Pareceu haver um consenso geral sobre a inadequação da RMSE como proxy da satisfação dos utilizadores” (Amatriain et al., 2012: iv). Na próxima RecSys, que assisti, em 2014, num hotel do Vale do Silício, vi o chefe de engenharia da Netflix apresentar uma palestra com um slide marcante: um enorme “RMSE” cruzado.
Os investigadores da recomendação encontraram uma saída para este problema na infra-estrutura em mudança da web. À medida que o centro de gravidade da comunidade de pesquisa mudava para a indústria e as empresas mudavam para o streaming, eles acumulavam dados que podiam substituir as classificações explícitas que tinham definido previamente o campo. Os registros de dados de interação podiam ser lidos como classificações ‘implícitas’: os usuários parando uma parte do vídeo, pulando sobre itens recomendados ou ouvindo músicas várias vezes, tudo se tornou interpretado como dados de classificação. Esses dados eram mais abundantes do que as classificações explícitas, sendo gerados por qualquer interação que um usuário tivesse com um sistema, e, em um movimento interpretativo herdado do behaviorismo, eles também eram considerados mais verdadeiros do que as classificações explícitas dos usuários. Embora os pesquisadores de sistemas de recomendação tivessem investigado as classificações implícitas desde os primeiros dias do campo (por exemplo, Resnick et al., 1994: 182), a virada ágil tinha tornado a coleta e organização de tais dados uma parte central do desenvolvimento de software, prontamente disponível. Os registos de atividade, entre outras coisas através de uma lente behaviorista, tornaram-se uma fonte privilegiada de informação sobre os utilizadores, graças tanto à sua preponderância como à sua geração involuntária.
Procurando por sinais de “satisfação” nos registros, os desenvolvedores encontraram-os na retenção de usuários: assim como a repetição de uma música poderia indicar uma preferência por ela, assim o uso contínuo de um serviço foi tomado para indicar satisfação. Em um post de blog descrevendo seu movimento “além das cinco estrelas” das classificações explícitas, os engenheiros da Netflix escreveram que agora eles estavam focados no “prazer dos nossos membros” – medido por quanto tempo as pessoas passavam assistindo vídeos e por quanto tempo permaneciam como assinantes (Amatriain e Basilico, 2012). Quando Mike me contou sobre seu objetivo de “fisgar” usuários, ele também se orgulhava da sofisticação dos dados analíticos da Willow: “cada mudança que acontece nosso serviço foi medida de modo exato pelo seu impacto auditivo e retentivo”.
Em vez de prever classificações explícitas, os desenvolvedores começaram a antecipar as implícitas, e com isso veio uma abordagem claramente captológica para o design: usando traços de interações gravados nos logs de atividades, os desenvolvedores projetaram seus sistemas para obter mais interações. O sistema de recomendação típico não era mais um suporte para encontrar informações, mas uma armadilha para capturar usuários inconstantes. Um usuário visto através de dados de classificação era um retrato pouco nítido construído através de suas preferências; um usuário visto através de registros de atividades era uma presença fantasmagórica que deixava traços ao longo do tempo. Os usuários retidos se tornaram, em um sentido simples, maiores nos logs – eles deixavam mais traços, o que fornecia mais dados para recomendações. Relembre a alegação de Mike de que os ouvintes a longo prazo podiam desfrutar dos frutos da personalização extensiva, enquanto os novos utilizadores recebiam esforços mais genéricos de cativação; os novos utilizadores eram confrontados com recomendações concebidas para provocar interacção e aumentar a sua presença nos registos o mais rapidamente possível.
Onde métricas de erro canônicas, como o RMSE, comparam fotos instantâneas – um conjunto de classificações previstas e um conjunto de classificações reais – as métricas de cativação medem a retenção ao longo do tempo: de usuários ativos diários ou mensais, que indicam quantas pessoas usam um serviço em um determinado dia ou mês, até o evocativamente chamado “tempo de permanência” [dwell time], que mede a duração das sessões individuais dos usuários. As métricas de cativação retêm assim um par de características-chave encontradas em outras armadilhas: eles estão interessados em interações involuntárias, e são essencialmente estruturadas no tempo. O que importa não é a precisão de uma representação, mas como uma ação interativa se desdobra com o tempo. Na indústria contemporânea de software, as métricas de cativação são indicadores chave da saúde e crescimento de uma empresa (Graham, 2012). Essas métricas são tão importantes para startups e seus investidores capitalistas de risco que muitas vezes são exibidas de forma proeminente em painéis nos escritórios, como um ecocardiograma em uma sala de hospital. Embora outras métricas persistam em uso limitado, elas são tipicamente subservientes ao objetivo maior de engajamento.
A satisfação e retenção conflituosas ajudaram a mediar uma tensão entre os desenvolvedores, que muitas vezes expressaram para mim um forte desejo de ajudar os usuários, e os empresários, que queriam capturá-los. Apelos à “satisfação” do usuário detêm um poder moral dentro da indústria de software, e assim se voltam para justificar uma variedade de decisões técnicas (Van Couvering, 2007). Mas eles também expressam uma ambivalência básica em tecnologias de encantamento: as pessoas desejam e gostam de encantamento, e a tensão entre “satisfazer” os usuários e capturá-los não é facilmente resolvida. Assim, Mike poderia, sem qualquer ironia aparente, dizerme que estava tanto a trabalhar no interesse dos seus ouvintes como a tentar fisgá-los.
A infra-estrutura é uma armadilha
Enquanto a recomendação algorítmica se tornou captológica, ela se espalhou. O recomendador não é mais uma parte isolada da interface em algumas plataformas de media streaming; agora, em serviços como Netflix, “tudo é uma recomendação”, com personalização estendida além da previsão de ratings para influenciar tudo o que é exibido para um usuário, desde os itens numa página de destino até as categorias em que esses itens aparecem, e até a arte usada para representá-los (Amatriain e Basilico, 2012; Mullaney, 2015). E, inversamente, os dados que fluem para o sistema de recomendação se ampliaram para incluir praticamente qualquer forma de interação, mesmo (e agora especialmente) interações que um usuário pode não perceber que ocorreram – como dados compartilhados por uma rede social, salvos no histórico de um navegador, ou capturados dos sensores de um telefone inteligente. A recomendação algorítmica instalou-se profundamente na infra-estrutura da vida cultural online, onde se tornou praticamente inevitável.
Esta situação tem estimulado uma crítica pública cada vez mais vocal, que ataca o design captológico não somente por suas implicações sobre a privacidade da recolha de dados, mas especificamente por sua herança e intenção behaviorista; descrever a filtragem algorítmica como uma “caixa de Skinner” tornou-se um lugar comum (por exemplo, Bosker, 2016; Davidow, 2013; Leslie, 2016). Embora estas críticas discordem do alcance e poder atual da captologia, elas geralmente compartilham o seu senso comum behaviorista. Elas identificam o problema em termos de incentivos corporativos desalinhados, e não através de sua premissas behavioristas. Este senso comum compartilhado torna-se evidente quanto atentamos para como esses críticos geralmente foram formados no campo do design captológico: Tristan Harris, co-fundador do Time Well Spent, uma organização que aspira “resgatar nossas mentes do sequestro da tecnologia”, é um ex-gerente de produtos Google e ex-aluno do Laboratório de Tecnologia Persuasiva de Fogg (Time Well Spent, 2017). Os próprios Eyal e Fogg têm vindo a enfatizar os seus próprios conhecimentos captológicos como um recurso para ajudar a resistir a tal engenharia, e não apenas para a construí-la.
O que há de novo nestas críticas é o foco na amplitude infra-estrutural da captologia, como a recomendação algorítmica se tornou inescapável para os usuários contemporâneos da web. Por exemplo, Black Mirror, a série de TV digital distópica, toma a omnipresença de tais armadilhas como um leitmotiv, alegorizando os fins da cativação mental em forma física extrema: os personagens se encontram presos em salas cobertas de tela ou isolados em mundos onde todos os outros estão presos aos seus smartphones, e qualquer esforço para escapar só faz com que a armadilha fique mais apertada (Bien-Kahn, 2016). Como descreve o diretor da série, “cada personagem em todas essas histórias é preso desde o primeiro quadro e depois nunca sai” (Bien-Kahn, 2016). O que podemos fazer, essas críticas perguntam, quando o próprio cenário para a ação social se torna uma armadilha?
Retornar à estrutura temporal da armadilha torna mais visível a continuidade entre armadilhas e infra-estruturas: uma infra-estrutura é uma armadilha em câmara lenta. Abrandando e espalhando-se, podemos ver como as armadilhas não são apenas dispositivos de violência momentânea, mas agentes de “ambientalização” (Corsín Jiménez, nd: 9), fazendo mundos para as entidades que elas capturam. Em sua introdução a este número especial, Chloe Nahum-Claudel e Alberto Corsín Jiménez descrevem como a captura pode se expandir à escala do próprio ambiente, no que eles
chamam de “armadilhas de paisagem”: Os caçadores do Kalahari plantam arbustos para conduzir mais eficazmente as suas presas a armadilhas; os antigos caçadores do norte da Argentina deixam ferramentas e armadilhas através do deserto para os futuros caçadores, transformando-o numa “paisagem de antecipação” (Haber, 2009: 427; Nahum-Claudel e Corsín Jiménez, Introdução a esta edição). Se a tragédia da armadilha começa quando a presa interage primeiro, involuntariamente, com a armadilha, então as armadilhas da paisagem produzem ambientes onde a presa já é efetivamente capturada.
Ser apanhado a esta velocidade não é estar morto, mas sim ser confinado, conhecido e sujeito a manipulação. Em outros registros teóricos, isto é semelhante ao “controle” de Deleuze (1992; Cheney-Lippold, 2011) ou à “governamentalidade” de Foucault (1991): estilos de cerco que não são menos sinistros por serem menos que absolutos. Mas ser apanhado a esta velocidade é também ser hospedado – ser dotado de condições de existência que facilitam a atividade ao mesmo tempo que a restringem (Derrida, 2000; Swancutt, 2012). Nesta visão, uma armadilha não é simplesmente a aplicação unilateral da força técnica, mas um esforço fundamentalmente incerto para se relacionar com outros que assim produz um mundo. Poderíamos dizer que as infra-estruturas já são armadilhas -arranjos de técnica e quadros epistêmicos concebidos para seduzir e deter tipos particulares de agentes antecipados, de acordo com preconceitos cosmológicos culturalmente específicos. A lição, talvez, é que “as armadilhas são predatórias, mas são também produtivas” (Corsín Jiménez, nd: 3), não redutíveis a um simples conto moral sobre a malevolência da captura.
A alternativa, como a antropologia da armadilhagem pode nos ajudar a ver, não é um estado de não-cativação, livre de qualquer recinto e do design dos outros, mas sim uma situação em que desconhecemos as infra-estruturas que já nos apanharam, que hospedam o nosso pensamento e vida. Podemos ver isso nas visões de liberdade expostas pelos críticos contemporâneos da captologia: Ao imaginar uma fuga da maquinaria do design comportamental, eles já estão presos no quadro behaviorista da captologia, dependentes das mesmas infraestruturas epistêmicas e técnicas produtivas
contra as quais militam.
Tendo identificado a recomendação algorítmica como uma espécie de armadilha, observando como ela reúne ecologias de conhecimento e tecnologia com teorias sobre a presa e o valor, podemos ir além de denunciar a armadilha e reconfigurar nossas cativantes infra-estruturas sociais. Enquanto armadilhas fazem mundos, elas já estão suspensas em infra-estruturas mais amplas de significado e material, juntando, por exemplo, as preocupações do capital de risco e a disponibilidade de grandes registros de dados em uma cosmologia captológica; enquanto as armadilhas capturam suas presas, assim elas também são capturadas por outras. A questão a colocar às armadilhas pode não ser como fugir delas, mas sim como recapturá-las e transformá-las em novos fins ao serviço de novos mundos.
Referências
Agre P (1994) Surveillance and capture: Two models of privacy. Information Society 10(2): 101–127.
Akrich M (1992) The de-scription of technical objects. In: Bijker WE, Law J (eds) Shaping Technology/Building Society: Studies in Sociotechnical Change. Cambridge, MA: MIT Press, 205–224.
Amatriain X and Basilico J (2012) Netflix recommendations: Beyond the 5 Stars (Part 2). The Netflix Tech Blog, 20 June. Available at: https://medium.com/netflix-techblog/netflix-recommendations-beyond-the-5-stars-part-2-d9b96aa399f5 (accessed 6 December 2018).
Amatriain X, Pujol JM and Oliver N (2009) ‘I like it … I like it not: Evaluating user ratings noise in recommender systems. In: User Modeling, Adaptation, and Personalization, 247–58. Berlin: Springer, 247–258. DOI: 10.1007/978-3-642-02247-0_24.
Amatriain X et al. (2012) Workshop on recommendation utility evaluation: beyond RMSE – RUE RecSys ’12 Proceedings of the Sixth ACM conference on Recommender systems, 351–352. Ariely D (2008) Predictably Irrational. New York: HarperCollins.
Beer D (2013) Algorithms: Shaping tastes and manipulating the circulations of popular culture. In: Popular Culture and New Media: The Politics of Circulation. London: Palgrave Macmillan.
Bien-Kahn J (2016) What happens when Black Mirror moves beyond traps? It gets even bet ter. Wired, 21 October. Available at: https://www.wired.com/2016/10/black-mirror-traps/ (accessed 6 December 2018).
Birnbaum D (2015) Netflix picks up ‘Black Mirror’ for 12 new episodes. Variety, 25 September. Available at: http://variety.com/2015/digital/news/netflix-black-mirror-new-episodes-1201602037/ (accessed 6 December 2012).
Bosker B (2016) The binge breaker. The Atlantic, November. Available at: http://www.theatlantic.-com/magazine/archive/2016/11/the-binge-breaker/501122/ (accessed 6 December 2018).
Boyer P (1988) Barricades mystérieuses et Pièges à Penséé: Introduction à l’analyse des épopées Fang. Paris: Société d’Ethnologie.
Cheney-Lippold J (2011) A new algorithmic identity: Soft biopolitics and the modulation of control. Theory, Culture & Society 28(6): 164–181. Available at: https://doi.org/ 10.1177/0263276411424420 (accessed 6 December 2018).
Chow Ry and Rohrhuber J (2012) On captivation: A remainder from the ‘indistinction of art and nonart’. In: Chow Rey (ed.) Entanglements, or Transmedial Thinking about Capture. Durham, NC: Duke University Press, 31–58.
Chun WHK (2016) Updating to Remain the Same: Habitual New Media. Cambridge, MA: MITPress.
Cochoy F (2007) A brief theory of the ‘captation’ of publics: Understanding the market with LittleRed Riding Hood. Theory, Culture & Society 24(7/8): 203–223. Available at: https://doi .org/ 10.1177/0263276407084704 (accessed 6 December 2012).
Corsín Jiménez A (nd) Spider web anthropologies: Ecologies, infrastructures, entanglements. In: Indigenous Cosmopolitics: Dialogues for the Reconstitution of Worlds. Preprint online at http://digital.csic.es/bitstream/10261/134351/1/spiderweb%20anthros_160209.pdf (forthcoming).
Davidow B (2013) Skinner marketing: We’re the rats, and Facebook likes are the reward. The Atlantic, 10 June. Available at: https://www.theatlantic.com/technology/archive/2013/06/skinnermar keting-were-the-rats-and-facebook-likes-are-the-reward/276613/ (accessed 6 December 2018).
Deleuze G (1992) Postscript on the societies of control. October 5: 3–7.
Derrida J (2000) Of Hospitality. Palo Alto, CA: Stanford University Press.
Dieter M (2015) Dark patterns: Interface design, augmentation and crisis. In: Berry D, Dieter M (eds) Postdigital Aesthetics: Art, Computation and Design. New York: Palgrave Macmillan.
Duhigg C (2012) The Power of Habit: Why We Do What We Do in Life and Business. New York: Random House Trade Paperbacks.
Ekstrand MD and Willemsen MC (2016) Behaviorism is not enough: Better recommendations through listening to users. RecSys ’16: 221–224. ACM Press. Available at: https://doi .org/ 10.1145/2959100.2959179 (accessed 6 December 2012).
Eyal N (2014) Hooked: How to Build Habit-Forming Products. Harmondsworth: Portfolio Books. Ferster CB and Skinner BF (1957) Schedules of Reinforcement. New York: Appleton-CenturyCrofts.
Fogg BJ (2003) Persuasive Technology: Using Computers to Change What We Think and Do. Boston, MA: Morgan Kaufmann.
Fogg BJ (2017) B.J. Fogg: Difference between revisions. Wikipedia. Available at: https://en.wikipedia.org/w/index.phpitle=B._J._Fogg&diff=781756129&oldid=777482130 (accessed 6 December 2012).
Fogg BJ, Cuellar G and Danielson D (2009) Motivating, influencing, and persuading users: An introduction to captology. In: Sears A, Jacko J (eds) The Human–Computer Interaction Handbook. New York: Lawrence Erlbaum.
Foucault M (1991) Governmentality. In: The Foucault Effect: Studies in Governmentality. Chicago: University of Chicago Press.
Gell A (1988) Technology and magic. Anthropology Today 4(2): 6–9. Available at: https://doi.org/10.2307/3033230 (accessed 6 December 2012).
Gell A (1992) The technology of enchantment and the enchantment of technology. In: Coote J, Shelton A (eds) Anthropology, Art, and Aesthetics. Oxford: Oxford University Press, 40–63. Gell A (1996) Vogel’s net: Traps as artworks and artworks as traps. Journal of Material Culture 1(1): 15– 38.
Gladwell M (2000) The Tipping Point. New York: Little Brown.
Goldschmitt K and Seaver N (nd) Shaping the stream: The techniques and troubles of algorithmic recommendation. In: Cook N et al. (eds) Cambridge Companion to Music and Digital Culture (forthcoming).
Graham P (2012) Startup = growth. Available at: http://www.paulgraham.com/growth.html (accessed 6 December 2012).
Gürses S and Van Hoboken J (2017) Privacy after the agile turn. In: Polonetsky J et al. (eds) Cambridge Handbook of Consumer Privacy. Cambridge: Cambridge University Press. Available at: https://osf.io/preprints/socarxiv/9gy73/ (accessed 6 December 2012).
Haber AF (2009) Animism, relatedness, life: Post-Western perspectives. Cambridge Archaeological Journal 19(3): 418–430. DOI: 10.1017/S0959774309000602.
Hallinan B and Striphas T (2014) Recommended for you: The Netflix prize and the production of algorithmic culture. New Media & Society, 23 June (available online before print).
Heath C and Heath D (2007) Made to Stick: Why Some Ideas Survive and Others Die. New York: Random House.
Herlocker J et al. (2004) Evaluating collaborative filtering recommender systems. ACM Transactions on Information Systems 22(1): 5–53.
Knijnenburg B et al. (2012) Explaining the user experience of recommender systems. User Modeling and User-Adaptive Interfaces 22: 441–504.
Leslie I (2016) The scientists who make apps addictive. The Economist: 1843, October/November.
Mason OT (1900) Traps of the Amerinds: A study in psychology and invention. American Anthropologist 2(4): 657–675.
McNee S, Riedl J and Konstan JA (2006) Being accurate is not enough: How accuracy metrics have hurt recommender systems. In: CHI’06 Extended Abstracts on Human Factors in Computing Systems, 1097–1101. ACM. Available at: http://dl.acm.org/citation.cfm?id=1125659 (accessed 6 December 2018).
Miller D (2000) The fame of trinis: Websites as traps. Journal of Material Culture 5(1): 5–24.
Mullaney T (2015) Everything is a recommendation. MIT Technology Review, 23 March. Available at: https://www.technologyreview.com/s/535936/everything-is-a-recommenda tion/ (accessed 6 December 2018).
Paasonen S (2016) Fickle focus: Distraction, affect and the production of value in social media. First Monday 21(10). Available at: http://firstmonday.org/ojs/index.php/fm/article/view/6949 (accessed 6 December 2018).
Parr B (2015) Captivology. New York: HarperOne.
Pu P, Chen L and Hu R (2011) A user-centric evaluation framework for recommender systems. In: Proceedings of the Fifth ACM Conference on Recommender Systems, RecSys 2011. New York: ACM, 157–164.
Resnick P et al. (1994) GroupLens: An open architecture for collaborative filtering of netnews. Proceedings of the 1994 ACM Conference on Computer Supported Cooperative Work, 175–86.
Schüll ND (2012) Addiction by Design. Princeton, NJ: Princeton University Press.
Seaver N (2012) Algorithmic recommendations and synaptic functions. Limn 2. In: Kelty et al. (eds) Crowds and Clouds. Available at: http://limn.it/algorithmic-recommendations-and-synapticfunctions (accessed 6 December 2018).
Shardanand U and Maes P (1995) Social information filtering: Algorithms for automating ‘word of mouth’. CHI ’95.
Singleton B (2014) On craft and being crafty. Doctoral dissertation, Northumbria University.
Skiner BF (1971) Beyond Freedom and Dignity. Indianapolis: Hackett Publishing Company.
Swancutt K (2012) The captive guest: Spider webs of hospitality among the Nuosu of Southwest China. Journal of the Royal Anthropological Institute 18: S103–16. DOI: 10.1111/ j.1467-9655.2012.01766.x. Time Well Spent (2017) Available at: http://www.timewellspent.io (accessed 6 December 2018).
Van Couvering E (2007) Is relevance relevant? Market, science, and war: Discourses of search engine quality. Journal of Computer-Mediated Communication 12(3): 866–887.
Para citar este texto: SEAVER, Nick. Algoritmos cativantes: Sistemas de recomendação como armadilhas. (Tradução por Bruno Reinhardt). Blog do Labemus, 2022. [publicado em 12 de abril de 2022]. Disponível em: https://blogdolabemus.com/2022/04/12/algoritmos-cativantes-sistemas-de-recomendacao-como-armadilhas-por-nick-seaver/
0 comentário em “Algoritmos cativantes: sistemas de recomendação como armadilhas, por Nick Seaver”