‘O Dilema das Redes’ mostra ao menos 29 impactos das redes sociais em nossas vidas
Renan Marra
“Nada grandioso entra na vida dos mortais sem uma maldição”. A frase do dramaturgo grego Sófocles impacta o início do documentário “O Dilema das Redes”, que faz refletir sobre os efeitos das mídias sociais em nossas vidas e costumes.
Com direção do norte-americano Jeff Orlowski, a produção da Netflix traz depoimentos de ex-executivos das redes com detalhes de como foram pensados mecanismos que viciam e nos tornam prisioneiros das mídias sociais, gastando boa parte de nossos dias com vídeos ou discussões desnecessários. Sem contar a entrega rotineira de dados de graça para meia dúzia de empresas de tecnologia.
Durante 1h34 de documentário, o usuário da Netflix é confrontado com uma série de temas que levam a profundas reflexões. O #Hashtag separou temas que passam por geopolítica, tecnologia, comportamento, evolução, dentre outros. Confira.
Usuários
“Existem apenas duas indústrias que chamam seus clientes de usuários: a de drogas e a de softwares”. A sentença do professor da Universidade de Yale Edward Tufte é citada no documentário para reforçar como nosso comportamento nas redes sociais é de um viciado. De fato, se pensarmos nos primórdios da internet, nós éramos chamados de internautas, mas o termo perdeu sentido numa era em que estamos o tempo todo conectado.
Mecanismos das redes
Apesar de não revelar novidades bombásticas, principalmente para quem é mais familiarizado com as redes, o mérito do filme consiste em explicar de forma bem didática alguns dos mecanismos que nos entretém e acabam nos viciando. Os tais dos algoritmos, por exemplo, são representados por três homens em uma espécie de sala de controle. Eles escolhem a dedo as informações que serão exibidas na linha do tempo e as notificações disparadas ao celular das personagens do filme. A decisão é tomada com base em cálculos estatísticos. Para isso, várias informações são levadas em consideração, desde o tempo em que o usuário gasta visualizando uma postagem, a imagem exata que tomou a atenção dele, as reações com curtidas e comentários, novas conexões, os horários livres em que costuma acessar as redes e até informações de GPS.
Vulnerabilidade dos dados
“Cada ação sua é cuidadosamente monitorada e registrada”, diz Jeff Seibert, ex-executivo do Twitter. Com uma enxurrada de dados, o algoritmo consegue mapear a personalidade do usuário. A impressão que o documentário nos passa é que nossos smartphones nos conhecem mais do que nós mesmos. Por vezes, isso nos faz sentir em uma distopia. “Você imagina ‘O Exterminador do Futuro’, vê o Arnold Schwarzenegger. Você vê drones e pensa: ‘mataremos pessoas com inteligência artificial’. O que não percebe é que agora mesmo a inteligência artificial domina o mundo”, diz o ex-designer do Google Tristan Harris. Os mecanismos para nos manter conectado, porém, trazem uma série de preocupações, entre elas roubo de dados, vício em tecnologia, notícias falsas, polarização e influência nas eleições.
Disseminação de notícias falsas
Não é novidade que as redes sociais se tornaram grandes fontes de desinformação. Tristan Harris cita estudo do MIT (Massachusetts Institute of Technology) que aponta que as notícias falsas se espalham seis vezes mais rápido do que as verdadeiras no Twitter. Fato é que, apesar do problema conhecido, as redes têm sido pouco eficazes no combate às fake news. O documentário nos permite traçar paralelo com episódio recente no Judiciário brasileiro. No chamado inquérito das fake news, o ministro do STF (Supremo Tribunal Federal) Alexandre de Moraes ordenou, em decisão polêmica, a suspensão de contas no Twitter de influenciadores, empresários e políticos apoiadores de Jair Bolsonaro (sem partido). Foram alvos a extremista Sara Giromini, o blogueiro Allan dos Santos, entre outros. À época, o Twitter classificou a ordem como desproporcional e afirmou que recorreria.
Nos EUA
Em outro episódio, agora nos Estados Unidos, Mark Zuckerberg e Jack Dorsey entraram em choque sobre como lidar com a desinformação em suas redes sociais. O fundador do Facebook criticou o fundador do Twitter quando ele defendeu ações de sua empresa ao rotular duas mensagens de Donald Trump como potencial desinformação. Os embates demonstram que as políticas das redes ainda precisam ser (muito) melhoradas, uma vez que não há consenso com membros do Judiciário ou mesmo entre os criadores de duas gigantes da tecnologia.
Influência nas eleições
No documentário, jornalistas estrangeiros citam as eleições presidenciais de 2018 no Brasil como exemplo de campanhas “fora do comum” e “impulsionadas pelas redes sociais”. O mesmo exemplo já havia sido dado em outra produção da Netflix: “Privacidade Hackeada” (2019), de Karim Amer e Jehane Noujaim. Situação semelhante aconteceu nas eleições norte-americana de 2016, em que a Rússia foi acusada de interferência. “Os russos não hackearam o Facebook. O que fizeram foi usar as ferramentas que o Facebook criou para anunciantes e usuários legítimos, aplicando a propósitos terríveis”, diz o investidor em tecnologia Roger McNamee em ” O Dilema das Redes”. Hoje, com as redes sociais, países conseguem manipular outros sem de fato invadir fronteiras físicas.
Polarização
A equação vício mais desinformação tem como produto uma sociedade polarizada. Nas redes é fácil de entrarmos em verdadeiras bolhas. O mecanismo de sugestão de vídeos que mais se aproximam dos nossos interesses, por exemplo, pode fazer com que nos fechamos em nosso próprio mundinho, sem ouvir ideias diferentes. É comum sermos bombardeados com conteúdos (verdadeiros ou não) que apresentam uma única visão sobre determinado assunto, o que pode, inclusive, alimentar o radicalismo. Não à toa, esses canais são explorados por grupos extremistas como o Estado Islâmico, que usa as redes sociais para recrutar membros no mundo inteiro.
Ameaça à democracia
A curto prazo a maior preocupação é de uma guerra civil, diz Tim Kendall, ex-presidente do Pinterest e ex-executivo do Facebook. De fato, a polarização das redes impulsiona práticas e discursos que violam os direitos humanos e que já provocaram verdadeiros genocídios. O Facebook, por exemplo, foi usado como principal canal de transmissão do discurso islamofóbico do clero budista contra a minoria étnica muçulmana rohingya, em Myanmar, em episódio apontado como a grande limpeza étnica do século 21. Em 2015, os conflitos se intensificaram com discursos de ódios nas redes sociais e mais de 700 mil pessoas tiveram de fugir do país.
Destruição da civilização pela ignorância
“Saímos da era da informação para entrar na era da desinformação”, diz um apresentador de telejornal no documentário. Infelizmente, em pleno 2020, teorias falsas e absurdas, entre elas da Terra plana, se espalham nas redes e ganham popularidade. Outro exemplo é o aquecimento global, posto em xeque apesar das evidências científicas. No Brasil, cientistas já demonstraram preocupação com a hostilidade de filhos de Bolsonaro em relação ao assunto. O presidente, inclusive, já ameaçou deixar o Acordo de Paris, que busca limitar as emissões de gases-estufa. Há quem diga que a ignorância pode destruir a civilização.
Modelo de negócio
No documentário, ex-engenheiro do YouTube Guillaume Chaslot é um dos executivos que se diz preocupado com o aumento da polarização em decorrência dos algoritmos. “Mas do ponto de vista de tempo de permanência nos vídeos, essa polarização é extremamente eficiente em manter as pessoas conectadas”, afirma. Com base na declaração do executivo, percebemos que o problema, aí, é o modelo de negócio das redes, que vendem nossa atenção aos anunciantes e, para isso, precisam desenvolver mecanismos que nos mantenham conectados o maior tempo possível.
A lei do ex
No documentário são entrevistados mais de uma dezena de ex-profissionais de algumas das principais empresas de tecnologia do Vale do Silício. Assim como no futebol existe a “lei do ex” (segundo a qual um jogador costuma marcar contra sua ex-equipe), no mundo das techs é bastante comum que ex-funcionários que saiam desiludidos ou em conflitos exponham informações sigilosas ou bastidores da engrenagem que configuram um verdadeiro interesse público.
Faltou autocrítica?
Vale refletir, porém, se os comentários desses ex não foram um pouco comedidos ao citar sua parcela de culpa. Sean Parker, ex-presidente do Facebook, que classifica seu antigo trabalho como uma espécie de “hacker da mente humana”, é um dos poucos a afirmar em alto e bom som: “Nós tínhamos consciência dessas questões e fizemos mesmo assim”. Outros falam em “ingenuidade”, “não há vilão” e outros argumentos não intencionais. Será mesmo?
Outro lado
O filme dá pouco espaço para o outro lado do balcão. Até mostra uma ou outra fala de um figurão como o depoimento de Jack Dorsey, CEO e fundador do Twitter, ao Congresso americano em 2018. “Não esperávamos nada disso quando criamos o Twitter há 12 anos”, disse. Mas seria interessante ouvir o que ele e Mark Zuckerberg teriam a dizer sobre como as coisas fugiram do controle. É bastante provável que ninguém das big techs quis dar entrevista, o que poderia estar mais claro.
Economia da atenção
Em defesa das techs, dá para dizer que a economia da atenção não é algo necessariamente novo. Quando Gutemberg inventou a prensa e a leitura passou a ser possível, isso tomava tempo e atenção das pessoas. Jornais, rádios e televisão foram aumentando gradativamente o grau de atenção que era necessário. O que as redes sociais fizeram foi levar isso a um grau extremo e muitas vezes danoso.
Autocratas tecnológicos
O poder que caras como Mark Zuckerberg possuem é tamanho que a comparação não chega a ser descabida. No documentário, Tim Kendall menciona que se o dono do Facebook quisesse ter mais usuários na Coreia do Sul, então teria. Basta sua vontade. São inúmeros os relatos nos últimos anos de como Zuckerberg é centralizador em suas decisões. A partir do momento que isso afeta a democracia e o comportamento de bilhões de pessoas, dá para fazer analogia com déspotas do século 21.
O produto é bom
Você sabe que está viciado no seu celular e se sente um idiota por não conseguir controlar? A culpa definitivamente não é sua. Todo o design dos aparelhos e das redes é criado para você não conseguir desconectar. A prova é essa frase de Tim Kendall no documentário, sobre o período em que trabalhava no Pinterest. “Eu chegava em casa e não conseguia sair do celular. Meu Deus, que ironia! Vou trabalhar e crio algo no qual eu mesmo estou caindo. Mesmo sabendo o que acontecia eu não conseguia controlar.”
O produto é você
Muito bom ter ferramentas incríveis para usar o quanto quiser sem pagar nada. Não é bem assim. “Quando você pensa como algumas dessas empresas funcionam… Começa a fazer sentido. Elas possuem serviços de internet que nós achamos serem grátis, mas não são grátis, são pagos pelos anunciantes. Por que os anunciantes pagam essas empresas? Pagam em troca de mostrar suas propagandas para nós. Nós somos o produto! Nosso foco é o ‘produto’ sendo vendido para os anunciantes”, afirma Justin Rosenstein, ex-engenheiro do Google e do Facebook. Tristan Harris sacramenta. “Se você não está pagando pelo produto, então você é o produto”. Isso mesmo, você, seus dados e suas ações nas redes.
Tecnologia persuasiva
Muitas figuras importantes do Vale do Silício estudaram a tecnologia persuasiva, incluindo Tristan Harris. Aplicada ao extremo, ela muda o comportamento das pessoas. O funcionamento se assemelha a uma máquina de caça-níqueis. Você não sabe se vai encontrar algo novo no feed, então rola de novo, e de novo, e de novo. O hábito é implantado dentro de você. Toda vez que você pega o celular vai ter uma novidade, como uma marcação de foto. O design das conversas também é feito para prendê-lo ali: os três pontinhos indicam que a pessoa do outro lado da tela ainda está digitando.
Rabbit Hole
Os sistemas de recomendação de YouTube, Google, Netflix, Facebook operam nessa lógica de rabbit hole (buraco do coelho), que vai de um para o outro sem conseguir sair. Há um problema nefasto: os algoritmos recomendam vídeos cada vez mais enviesados ou de teorias da conspiração, como os que afirmam que a terra é plana. No famoso caso do Pizzagate (teoria falsa que uma rede de pizza abrigaria pedófilos do partido Democrata) o Facebook recomendou entrar em grupos de Pizzagate mesmo para quem nunca tinha procurado pelo termo. É claro que há um problema de natureza humana. O esperado seria que um vídeo sobre terraplanismo não fosse levado a sério. Mas o ser humano é facilmente influenciável e o ilusionismo das plataformas facilita esse processo.
Mercado futuro
Além disso, somos ratinhos de laboratório o tempo todo das redes. A imagem e a chamada de um mesmo anúncio podem ser diferentes para você e seu colega de trabalho. É o teste A/B, que irá avaliar quais resultam em mais cliques e serão usados mais vezes com outros usuários. E não adianta tentar fugir. Por meio da técnica de deep learning, a inteligência artificial aprende e prevê seu comportamento. “[As empresas de tecnologia] vendem certeza. Você precisa de muitos dados. Negociam o futuro do ser humano. Assim como o mercado futuro de petróleo. Elas têm mais informações sobre nós do que jamais se imaginou. É algo sem precedente”, afirma no filme Shoshana Zuboff, professora emérita de Harvard e autora de “The age of surveillance capitalism” (“A era do capitalismo de vigilância”).
Realidade paralela
Talvez você não se dê conta, mas, além de anúncios personalizados, toda a sua experiência nessas plataformas é meio única. Jaron Lanier, autor do livro “Dez Argumentos Para Você Deletar Agora Suas Redes Sociais ” diz que a “Wikipédia é um dos únicos lugares em que todo mundo vê a mesma coisa.” Os resultados de buscas no Google são citado como exemplo. “Aquecimento global é… uma mentira” ou “Aquecimento global…. está causando destruição do planeta”. Dependendo de onde você busca, a primeira opção é uma ou outra. “É como se tivesse 2,7 bilhões de ‘Show de Truman’, com suas próprias realidades e fatos”, diz.
Questão de evolução
As redes sociais aproveitam vulnerabilidades biológicas e psicológicas para domar seu corpo. Conectar-se com outras pessoas é uma necessidade evolutiva. Como explica no documentário a Dra. Anna Lembke, de Stanford, isso afeta a liberação de dopamina. Por isso ficamos olhando para a tela do celular, ansiosos, esperando uma resposta. A nossa evolução sempre levou em conta a aprovação social, ou seja, o que os outros pensam sobre nós. Mas as redes sociais criaram doses de aprovação social a cada cinco minutos, o que definitivamente não é benéfico. A pergunta que paira no ar é: iremos nos adaptar a essa avalanche de informação e hiperconectividade?
Questão de evolução 2
A resposta talvez seja não, se olharmos um dado exposto. Nos últimos 80 anos, a capacidade de processamento dos computadores (que, afinal, permitem o avanço de deep learning, inteligência artificial, etc) aumentou 1 trilhão de vezes. Nenhuma outra tecnologia foi otimizada dessa forma. Já o cérebro humano mantém a mesma eficiência há milhões de anos. Não dá para imaginar como será o mundo daqui a 80 anos. Já o cérebro humano, sim.
Questão de evolução 3
Sempre houve muita preocupação sobre o momento em que a tecnologia superaria a inteligência humana, mas aparentemente ela superou antes a fraqueza humana, o que tornou possível reforçar as próprias crenças, isolar-se em bolhas, odiar o diferente e todos os outros problemas atuais, que, verdade, sempre existiram na história das civilizações, mas, atualmente, atingiram um extremo.
Geração Z
Os nascidos no ano de 1996 compõem a primeira geração a passar adolescência na era das redes sociais e dos smartphones e o documentário se preocupa com esse público, que gasta a maior parte do tempo fora da escola conectada na internet. Há uma série de hábitos diminuindo nessa faixa etária, como habilitação de motorista e a frequência sexual, enquanto taxas de automutilamento e suicídio crescem. Outras doenças e síndromes associadas são citadas, como “dismorfia do Snapchat“, em que jovens fazem cirurgias para tentar ficar parecidos com os filtros.
Pais e filhos
Em determinado momento da historinha de ficção que permeia o documentário, o adolescente diz que sua mãe usa o celular mais do que ele. A figura do “tiozão do zap” mostra que isso é uma realidade em muitos lares. Até as pessoas mais velhas, de gerações bem anteriores aos millenials e Z, não conseguem desgrudar do aparelho. O vício, somado com a falta de educação digital, colaboram com o problema da desinformação.
Sair das redes é solução?
Um dos personagens que mais aparecem no documentário é Jaron Lanier, autor do clássico “Dez Argumentos Para Você Deletar Agora Suas Redes Sociais. Para ele, vivemos numa era em que “a manipulação está no centro da sociedade. Há pessoas que só conhecem a sociedade assim”. O título do livro é um baita de um clickbait (recurso comum nas redes sociais para aumentar a taxa de cliques em uma chamada). Sair de todas é utópico no momento em que boa parte de nossas conexões pessoais e profissionais estão nelas. Mas reformar as redes e a forma como elas são construídas é uma das urgências para o Vale do Silício.
Como sair desse pesadelo
Se você se interessa pelos males da tecnologia, Tristan Harris é um nome que você precisa conhecer e acompanhar. Ele é ex-designer ético do Google. Quando trabalhava na empresa, fez uma apresentação-manifesto sobre os perigos do que estavam criando. “Nunca antes na história 50 designers de 20 a 35 anos tinham tomado decisões que impactassem a vida de dois bilhões de pessoas. Temos que resolver esse problema”, afirma. O memorando circulou entre milhares de funcionários da empresa até chegar às mãos de Larry Page, CEO do Google. “Senti que estava fazendo uma revolução. Alguma coisa aconteceria. E então… Nada aconteceu”. Frustrado, ele deixou o Google e criou, primeiro, o Time Well Spent (Tempo bem gasto), e, mais recentemente, o Center for Humane Technology (Centro para Tecnologia Humana), projetos que discutem como fazer melhor uso das plataformas e como elas podem existir de uma forma menos invasiva.
Lado positivo
No atual cenário em que estamos, é preciso se esforçar bastante para tentar ver um lado positivo nas redes. Tim Kendall comenta alguns. “Fácil esquecer que as redes trouxeram coisas maravilhosas. Reuniram familiares sem contato, encontraram doadores de órgãos. Mudanças sistemas no mundo graças ao impacto positivo dessas ferramentas.” Até Tristan Harris cita a facilidade de pedir um carro e ele chegar em poucos segundos para levar aonde você quiser. O rompimento da distância e do tempo com a comunicação instantânea é mesmo uma revolução e é preciso levar isso em conta ao reformar o modelo atual em que as redes sociais foram construídas.
Veja também nove dicas do filme ‘O Dilema das Redes’ para escapar dos efeitos nocivos das redes sociais.
