O Dilema das Redes: você sabia que está sendo manipulado?

O documentário O Dilema das Redes, recém lançado pela Netflix, vem causando alvoroço  entre usuários de redes sociais e profissionais envolvidos com as plataformas. Motivo: ele traz uma reflexão aprofundada sobre o quanto essas redes estão transformando as pessoas e, consequentemente, as sociedades ao redor do mundo.

O tom do documentário é, em grande parte, pessimista. As mudanças causadas e os prováveis efeitos em curto prazo nas vidas das pessoas são vistos com grande preocupação.

Segundo as falas dos entrevistados – uma maioria de ex-funcionários de bigtechs como Google e Facebook, entre outras -, a gravidade do problema reside no fato de que não enxergarmos o jogo em que estamos inseridos, o qual gera fortunas para essas companhias a partir de verdadeiros experimentos comportamentais com os usuários.

O Dilema das Redes traz uma citação emblemática do professor emérito de estatística e economia política da Universidade de Yale, Edward Tufte:

“Existem apenas duas indústrias que chamam seus clientes de usuários: a de drogas e a de softwares.” 

Esta frase dá uma pista sobre o viés do documentário, que mescla depoimentos com encenações sobre os efeitos das redes no cotidiano das pessoas, denunciando a alienação e a suscetibilidade aos estímulos e aos anúncios apresentados com precisão cirúrgica para cada usuário.

Nem sempre existiu um dilema das redes

Para Tim Kendall, CEO do Moment, ex-diretor de monetização do Facebook e ex-presidente do Pinterest, o deslumbramento com os anos dourados das redes sociais foi acompanhado por um total desconhecimento sobre os possíveis desdobramentos:

“Hoje é fácil de esquecer que essas ferramentas trouxeram coisas maravilhosas para o mundo. Reuniram famílias sem contato, encontraram doadores de órgãos, ou seja, houve mudanças significativas e sistêmicas no mundo inteiro graças ao impacto positivo dessas ferramentas. Acho que fomos ingênuos em relação ao outro lado da moeda.”

Agora, você é o produto!

De acordo com o investidor em tecnologia Roger McNamee, em seus primeiros 50 anos, o Vale do Silício – região da Califórnia que abriga algumas das maiores empresas de tecnologia do mundo – vendia hardware e software para seus clientes. Já nos últimos 10 anos, as principais bigtechs do Vale passaram a vender os seus próprios usuários.

Aza Raskin, ex-colaborador do Firefox e Mozilla Labs, co-fundador do Center for Humane Technology e inventor do Infinite Scroll, explica melhor a afirmação:

“É um pouco banal dizer agora, mas como não pagamos pelos produtos que usamos, os anunciantes é que pagam. Os anunciantes são os clientes. Nós somos o que é vendido”.

Tristan Harris, co-fundador do Center for Humane Technology, ex-designer ético do Google e também considerado a “voz da consciência” do Vale do Silício, confirma as palavras de Raskin, trazendo o jargão clássico do mercado da tecnologia: 

Se você não está pagando pelo produto, então você é o produto.

E segue: “Muitas pessoas pensam que o Google é só uma ferramenta de busca, e que o Facebook é só o lugar onde vejo meus amigos, o que estão fazendo e as fotos que tiram, mas o que elas não percebem é que [essas plataformas] estão competindo por sua atenção. “

Mas, para Jaron Lanier, escritor do livro Dez Argumentos Para Você Deletar Agora As Suas Redes Sociais, essa é uma interpretação bastante simplista:

“O produto [a ser vendido] é a gradativa, leve e imperceptível mudança em nosso comportamento e na nossa percepção. […] Mudar o que você faz, como você pensa e quem você é”.

E o escritor explica como isso funciona na prática: se você puder falar para alguém “me dê U$ 10 milhões e eu vou mudar em 1% a percepção do mundo na direção que você deseja”, isso pode gerar um lucro inimaginável.

Entrevistados em O Dilema das Redes afirmam que, caso essa indústria não seja regulada, é possível que enfrentemos um colapso social e econômico. Fonte: Netflix.

O capitalismo de vigilância é o centro do dilema das redes

Justin Rosenstein, ex-engenheiro do Facebook e do Google e co-fundador do Asana, explicou o modelo de negócios do capitalismo de vigilância:

“Há vários serviços na internet que consideramos gratuitos. Mas não são. Eles são pagos pelos anunciantes. E por que eles pagam? Pagam em troca de mostrar seus anúncios para nós. Nós somos o produto. Nossa atenção é vendida aos anunciantes.”

Tim Kendall explica que Facebook, Instagram, Snapchat, Twitter, YouTube e demais redes sociais têm por objetivo principal manter as pessoas conectadas às telas de seus dispositivos. Em outras palavras, o que essas plataformas fazem é extrair, de forma subjetiva, a resposta para a pergunta “o quanto das suas vidas podemos convencer vocês a nos dar?”.

Shoshana Zuboff, professora emérita da Harvard Business School e escritora do livro A Era do Capitalismo De Vigilância, diz que as bigtechs oferecem a certeza que todas as empresas anunciantes procuram: que o anúncio publicado terá o efeito esperado.

“Para ser bem sucedido nesse negócio, é preciso fazer previsões assertivas. Para isso, existe um fator fundamental. Você precisa de muitos dados”, afirma Zuboff.

>>> Ciência de dados e marketing: a era das decisões estratégicas inteligentes.

Na definição de Tristan Harris, por capitalismo de vigilância podemos entender a obtenção de lucro pelo rastreamento infinito do que cada pessoa faz, monitorada por empresas de tecnologia que têm como modelo de negócios a garantia de que os anunciantes terão o máximo de sucesso.

Dessa forma, as empresas que coletam esses dados sabem quando os usuários estão solitários ou deprimidos, quando estão olhando fotos de ex-companheiros, sabem o que cada um faz tarde da noite, se são introvertidos ou extrovertidos, que neuroses têm e como são suas personalidades.

Sandy Parakilas, ex-gerente de operações do Facebook e ex-gerente de produtos do Uber, diz que todos esses dados são usados para alimentar sistemas quase ou sem nenhuma supervisão humana e que fazem previsões cada vez melhores sobre o que vamos fazer e quem somos.

Quando perguntado pelo entrevistador, Parakilas concordou que todos nós somos ratos de laboratório nesse grande esquema. 

“E não é como nos usassem para criar a cura para o câncer. O que eles estão fazendo não nos beneficia. Somos só zumbis. Querem que cliquemos em mais anúncios, para que lucrem mais”.

Aza Raskin ressalta que muita gente tem a concepção errada de que os dados dos usuários são vendidos. Isso não é do interesse do Facebook. Na verdade, eles são usados para criar modelos capazes de prever nossas ações. Assim se torna possível prever que tipo de vídeo vai manter uma pessoa conectada e que tipos de emoções funcionam como gatilhos para ela.

>>> Monetização de vídeos: geração de receita durante a crise da COVID-19.

O documentário explica que são 3 os principais objetivos das redes sociais: 

• Engajamento: aumentar o uso e manter a pessoa conectada.
• Crescimento: fazer com que as pessoas convidem amigos, e que esses convidem outros amigos.
• Publicidade: garantir que, enquanto tudo acontece, essas empresas lucrem o máximo possível com anúncios.

Estes objetivos são colocados em prática por algoritmos, cujo trabalho é descobrir o que mostrar para os usuários, de modo que esses números sigam crescendo.

O estrago causado em uma geração inteira

Estudos recentes revelam a ligação entre saúde mental e o uso de mídias sociais. 

O psicólogo Jonathan Haidt apontou o crescimento assustador de casos de automutilação e suicídio entre adolescentes e pré-adolescentes nos EUA, ocorridos no mesmo período em que as redes sociais explodiram em número de usuários.

“A geração Z, crianças que nasceram por volta de 1996, é a que começou a usar as mídias sociais durante a pré-adolescência. […] Uma geração inteira é mais ansiosa, mais frágil, mais deprimida. Eles se sentem muito menos confortáveis se arriscando. Cada vez menos jovens tiram carteira de habilitação. O número de jovens que já saíram em um encontro ou tiveram algum tipo de interação romântica tem caído rapidamente”, disse Haidt.

O psicólogo ressalta que, para cada caso de internação hospitalar, existe uma família traumatizada, sem entender o que está acontecendo com os seus filhos.

Jaron Lanier diz: “Criamos um mundo em que se tornou fundamental ter conexões virtuais, especialmente para as gerações mais novas. Mesmo assim, sempre que duas pessoas se conectam, o único lucro gerado é por meio de um terceiro, que está pagando para manipular aquelas duas. Então criamos uma geração global de pessoas que crescem dentro de um contexto em que os significados de comunicação e de cultura estão atrelados à manipulação”.

A indústria da desinformação

Sandy Papakilas disse que, não intencionalmente, os arquitetos por detrás desses algoritmos criaram sistemas inclinados para a desinformação. O entrevistado disse que não há uma agenda pró-caos nesse direcionamento: há apenas o fato de que as informações falsas geram mais lucro do que a verdade, pois esta não é tão atraente.

Tristan Harris arremata, afirmando que este é um modelo de negócio que lucra com a desinformação, uma vez que mais dinheiro é gerado ao permitir que informações não verificadas alcancem qualquer pessoa ao melhor preço.

O documentário sugere que a humanidade está entrando em um estágio no qual ninguém acredita em ninguém – especialmente nos governos – e que os grupos com opiniões divergentes são tratados como inimigos. O senso de realidade está turvo, e ele é fundamental para que uma sociedade funcione de forma mais harmoniosa. 

Como esses especialistas veem o futuro sob a ótica do dilema das redes

Tristan Harris diz que costumamos focar nossa preocupação na possível substituição dos empregos tradicionais pela inteligência artificial, mas alerta que o ponto crítico vem antes: é quando a tecnologia supera as fraquezas humanas. Segundo ele, ao cruzar essa linha, nós temos a raiz do vício, da polarização, da radicalização e das revoltas, entre outros problemas. 

“[A tecnologia] está dominando a natureza humana, e isso será o xeque-mate para a humanidade”, sentencia Harris.

Quando o entrevistador perguntou a Tim Kendall o que mais o preocupa em relação aos efeitos causados pelos algoritmos na sociedade, ele disse que, em curto prazo, é a possibilidade de uma guerra civil. 

Para a mesma pergunta, o escritor Jaron Lanier respondeu que, se continuarmos agindo nesse sentido nos próximos 20 anos, provavelmente destruiremos a civilização por meio da ignorância, ao não combatermos o aquecimento global e ao desmantelar as democracias e as economias ao redor do globo. 

Harris questiona: “Esta será a última geração de pessoas que saberá como era antes da ilusão surgir? Como você desperta da matrix se nem sabe que está nela?”

Uma prova da preocupação com o monstro criado é o fato de que vários dos entrevistados admitiram não deixar seus filhos acessarem as redes sociais, mesmo que, no passado recente, eles tenham se empenhado para fazer com que elas chegassem ao atual patamar de popularidade. 

Conclusão

Exagerado? Apocalíptico demais? Independente das interpretações individuais, é inevitável que, ao assistir ao Dilema das Redes, se acenda uma luz vermelha em sua atenção a respeito do uso das redes sociais.

Pare para pensar: se rolar os feeds é a última coisa que você faz antes de dormir e a primeira quando acorda, isso parece ser um problema. Não podemos chamar isso de uma utilização sadia.

Com este artigo, não estamos fazendo campanha para que todo mundo delete os aplicativos de seus dispositivos. Nossa intenção é trazer a reflexão sobre o quanto isso pode estar atrapalhando a sua vida – e, caso isso importe, o quanto você está sendo manipulado.

Vários dos entrevistados sugeriram a desabilitação das notificações como uma forma eficiente de dar uma freada no uso compulsivo das redes sociais. Deletar os apps que você usa pouco também ajuda a diminuir a vigilância e a extração de dados.

Enfim, esperamos que você tenha a partir de agora uma visão mais ampla sobre o que acontece por detrás das telas dos dispositivos. O que vai ser feito a partir daí é inteiramente com você.