Assisti ao novo documentário da Netflix, “O Dilema das Redes”, que alerta para o perigo do consumo de redes digitais e a ameaça representada pelos avanços tecnológicos.
O filme nos faz sentir vigiados e controlados, parecido com o “Privacidade Hackeada”, também produzido pela Plataforma de Streaming Vermelha. Mas aqui o foco está na exploração das vulnerabilidades humanas exercida por essas redes, podendo ter efeitos colaterais sérios como a alta de suicídio entre adolescentes, problemas como ansiedade, depressão, vício em redes sociais e etc. Embora todos esses problemas mereça a nossa atenção, acredito ser urgente aprofundarmos a discussão sobre o nível de produção de desinformação que essas redes podem alcançar.
O filme gira em torno de entrevistas com ex-alto executivos de grandes corporações do Vale do Silício como Facebook, Twitter, Uber entre outras, que fazem um “mea culpa” por suas contribuições no desenvolvimento de ferramentas utilizadas por essas empresas para coletar dados das pessoas e utilizá-los para persuadi-las, criando estratégias que se valem de recursos emocionais para induzi-las a aceitarem uma ideia, uma atitude, ou realizar uma ação.
Esse tipo de estratégia não é exclusivamente utilizado pelas redes sociais, o ato de persuadir é estudado há anos pela psicologia social, marketing, comunicação. A persuasão vista pelo campo da retórica consiste na capacidade de confrontar ideias e mudar opiniões, utilizando para isso a argumentação. Recurso do qual se valia a sociedade grega no século V a.C, onde os cidadãos com acesso a determinados privilégios aprendiam a arte de defender suas próprias ideias com os filósofos conhecidos como “sofistas”, a fim de se prepararem para o debate político. Naquela época essa prática já levantava um embate ético por filósofos como Sócrates e Aristóteles, que criticavam a falta de apego a verdade desse método.
Posto isso, o dilema ético que acompanha a persuasão não é novo na nossa sociedade. Pode-se dizer que o que há de novidade é como essa estratégia se relaciona com o universo tecnológico, pela chamada “tecnologia persuasiva”. O documentário aponta que as pessoas por trás do desenvolvimento dessa tecnologia “perderam a mão”, transformando o que era para ser uma ferramenta num instrumento de manipulação das pessoas.
A linha entre a persuasão e a manipulação é tênue
A tecnologia persuasiva teve seu salto com o advento da internet, os sites passaram a ser projetados com o intuito de mudar as atitudes e comportamento de seus usuários. Como exemplo temos o site da Amazon, uma das maiores lojas virtuais do mundo criada pelo bilionário Jeff Bezos. O site possui um sistema de persuasão que tenta convencer as pessoas a todo momento, oferecendo sugestões baseadas na preferência dos usuários, colhidas durante visitas prévias e comentários.
Os computadores possuem uma enorme capacidade de guardar e acessar dados, muito superior ao que os seres humanos são capazes, sendo assim, a tecnologia interativa possui potencial persuasivo maior do que as pessoas, e em determinadas situações, dependendo da quantidade de informação apresentada para um indivíduo, elas podem mudar o que essas pessoas pensam e até fazem.
Toda essa capacidade de fazer sugestões se aplica às redes sociais. A lógica dos algoritmos das redes digitais utiliza um sistema semelhante ao da Amazon fazendo recomendações para os seus usuários, com o intuito de descobrir o que prende a atenção das pessoas para que elas passem a mais tempo em suas plataformas e assim possam ser expostas a um maior número de propagandas de seus anunciantes.
A mudança é muito sútil, mas no longo prazo esses ciclos de retroalimentação das redes sociais alteram a forma que as pessoas se comportam consigo mesma e com outras pessoas. Tendo em vista que essas tecnologias são pensadas para isso, pode-se dizer que o que elas estão fazendo é manipular e não apenas persuadir as pessoas através dos conteúdos que lhes são apresentados. Isso permite não só que elas garantam análises assertiva sobre o comportamento das pessoas, mas também que elas possam oferecer certezas de que um dado grupo de pessoas irá agir de determinada forma.
Os algoritmos determinam o que é visto por cada pessoa nas redes digitais, criando as chamadas “bolhas” que vão dizimando nossa capacidade de cooperação, de entender as experiências que os outros estão passando. Mentiras são divulgadas e vendidas como se fossem a verdade. Se eu consigo encontrar informações que possam embasar qualquer tipo de pensamento, por mais absurdo que ele pareça, eu vou continuar buscando informações como essas, apegado às minhas crenças mais do que aos fatos. Isso torna a sociedade cada vez mais polarizada, impossibilitando o discurso político, uma vez que a política pressupõe a disputa de ideias, e se não partirmos dos mesmos fatos, se nem mesmo conseguimos discernir o que é fato do que é mentira, nós não caminhamos para um lugar comum. Por essa razão, já se fala que estamos vivendo na era da pós-verdade.
Esse mecanismo capaz de produzir desinformação foi muito bem aproveitado por líderes autoritários que viram nessas plataformas um novo modo de construírem suas campanhas políticas, baseadas em mentiras, medo e preconceito. O alcance desses conteúdos proporcionou a guinada da extrema direita em países como Estados Unidos, Áustria, Turquia, Índia, Brasil, Itália e outras democracias. A tecnologia se tornou um importante instrumento político e ideológico e vem sendo utilizada para alcançar os interesses de determinados grupos. É um fenômeno social novo, acredito que de interesse de todos qual seja o espectro político, porque disso depende o nosso futuro. Utilizando uma frase dita no documentário: “A Utopia e a ignorância competirão numa corrida até o momento final”.
A Solução?
Mais do que apontar culpados, precisamos buscar por soluções. Aprender a lidar com essas redes de modo que não sejamos meros “ratinhos de laboratório” nas mãos dessas empresas é uma tarefa difícil e não produz grandes efeitos no âmbito individual. Estamos falando de um problema massivo e a solução precisa ser de igual escala. Exigir que essas plataformas tenham uma política de privacidade de dados mais clara, que elas filtrem os discursos de ódio e a disseminação de notícias falsas, entre outras medidas, são necessárias. Porém, a resposta precisa passar por uma intervenção estatal, criando leis que regulamente e fragmente as forças dessas empresas com poderio econômico gigante. É muito perigoso que um grupo tão pequeno de pessoas concentre tanto poder nas mãos e tomem sozinhos decisões que vão impactar a vida de bilhões de pessoas em todo o planeta.
Por Natália Barbosa
para sua coluna Desassossegos.
Imagem: Reprodução.
2 respostas
Muito bom, Natália!
Texto maravilhoso e essencial. No livro 21 lições para o século 21 de Yurval Harari, ela aborda como os algoritmos vem tomando cada vez mais decisões sobre nossas escolhas. E isso vem se tornando cada vez mais perigoso, quando a pessoa encontra seu conforto em grupos que partilham do mesmo pensamento, sem buscar debater sobre outras visões, tonando a verdade nada mais do que uma versão de cada grupo, e não um fato.