O Impacto da Inteligência Artificial nas Redes Sociais

Jaime Nagase
5 min readMar 2, 2024

Já pensou porque sempre aparecem conteúdos na sua timeline que você gosta? Incrível como no meu caso sempre aparecem vídeos de churrascos ou projetos com Python!

Atualmente vivemos num ambiente digital, onde a inteligência artificial (IA) desempenha um papel crucial na curadoria de conteúdo nas redes sociais. A IA foi projetada para melhorar a experiência do usuário, onde ela pode sem querer reforçar as bolhas de filtro, limitando a sua exposição apenas a uma parcela pequena de variedade de conteúdos. O problema central está no fato de que os algoritmos de IA tendem a apresentar conteúdo que é mais provável de ser do agrado do usuário, baseando-se em suas interações anteriores com foco em deixar você mais tempo na frente da telinha.

Apesar de acreditar piamente que a IA vem quebrar paradigmas, e ajudar o ser humano a chegar mais rápido onde sempre sonhou. Levanto uma questão em meu artigo que explora as implicações da dinâmica da IA nas redes sociais e como ela deve ter uma boa curadoria, afim de evitar a polarização política e a disseminação de noticias falsas.

O que são Bolhas de Filtro e os Reflexos na Polarização?

As bolhas de filtro” É um termo utilizado ao fenômeno em que os algoritmos de IA das redes sociais filtram as informações que são apresentadas aos usuários, baseando-se em seus históricos. Isso significa que se você demonstra interesse por certo conteúdo, por exemplo uma determinada orientação política, conteúdos de direita por exemplo, então os algoritmos tendem a mostrar mais conteúdos de direita do que de esquerda, chegando até a restringir a exposição a ideias contrárias.

A pesquisa da Echegaray e Sticca (2021) sobre o impacto dos algoritmos de recomendação nas redes sociais mostra como essa prática pode levar à polarização e até de certa forma alienação, onde você ou um usuário qualquer é exposto a opiniões que reforçam suas crenças preexistentes, potencializando a polarização política.

A forma como os algoritmos são codados focando o engajamento acaba facilitando a propagação de fake news. Mas facilita como? Conteúdos sensacionalistas ou falsos frequentemente geram maior engajamento, promovendo re-tweets e repostagens. Vosoughi, Roy e Aral (2018), em seu estudo publicado na *Science*, demonstraram que as fake news se espalham mais rápido e atingem mais pessoas nas redes sociais do que as verdadeiras. Este fenômeno é piorado pela tendência dos algoritmos de IA de promover conteúdo que maximiza o engajamento, independentemente de ser verídico.

O Caso do Capitólio nos EUA

O caso do ataque ao Capitólio dos Estados Unidos em 6 de janeiro de 2021 demonstra o impacto das redes sociais na sociedade, especialmente na propagação e impacto das fake news. Antes do ataque, os extremistas organizaram e incitaram violência através das principais plataformas de redes sociais, como Facebook e Twitter. Estas plataformas, apesar de terem políticas de moderação de conteúdo, não foram suficientes.

Extremistas e apoiadores haviam propagado falsas alegações de que a eleição havia sido “fraudada” por democratas radicais, levando milhares de seus apoiadores a se reunirem em Washington, D.C., e por consequência, a atacarem o Capitólio. Líderes de grupos militantes como os Proud Boys e os Oath Keepers estavam entre os invasores, conspirando para usar violência e interferir na transferência pacífica de poder.

Este caso destaca como as redes sociais podem ser usadas para amplificar fake news e como pode ter consequências reais e violentas. O papel das redes sociais no ataque ao Capitólio enfatiza a necessidade de uma moderação de conteúdo mais eficaz e de uma maior conscientização sobre a desinformação online.

Como as redes sociais estão combatendo as Fake News!?

Assim como o Twitter (X), o Facebook tem adotado várias medidas para combater as fake news em sua plataforma. Uma das ações inclui informar os usuários quando eles interagem com conteúdos avaliados por verificadores de fatos, além de aplicar penalidades severas a indivíduos que compartilham repetidamente informações falsas. Isso envolve reduzir a distribuição de todos os posts no Feed de Notícias de contas individuais que frequentemente compartilham conteúdo classificado como falso por parceiros verificadores de fatos. Tanto o Twitter (X), como o Facebook também reformularam as notificações para facilitar o entendimento dos usuários sobre o compartilhamento de conteúdo que foi posteriormente avaliado, incluindo a opção de desmentir o post mencionado.

Além disso, o Facebook se comprometeu em tomar ações contra pessoas que realizam essa má prática de forma repetida e deliberada, implementando novas formas de informar as pessoas se elas estiverem interagindo com conteúdo avaliado como falso, e tomando ações mais rígidas contra quem repete esses comportamentos.

O Facebook e o Twitter (X) conseguiram algum progresso na luta contra as fake news, implementando várias medidas desde as eleições dos EUA em 2016. No entanto, um estudo revelou que, embora o engajamento com fake news tenha diminuído na plataforma, ainda existem 70 milhões de interações mensais com notícias falsas até julho de 2018. Isso destaca que, apesar dos esforços do Facebook, ainda há um caminho a percorrer para combater totalmente as notícias falsas na plataforma.

Estratégias de Mitigação

As Redes Sociais já estão tomando ações contra às Fake News, mas uma abordagem nova seria a revisão dos algoritmos de recomendação para que priorizem a diversidade de conteúdo trazendo assim o usuário a ter conteúdos também de outras bolhas. Além disso, a educação digital dos usuários, ensinando-os a identificar fontes confiáveis e a questionar criticamente as informações recebidas, é fundamental para combater a disseminação de desinformação.

Conclusão

A IA tem o potencial de transformar positivamente o mundo, seja em interações com máquinas, com Redes Sociais, ou na medicina. No entanto, sem as devidas precauções, pode reforçar bolhas de filtro e facilitar a disseminação de fake news. É responsabilidade dos desenvolvedores de IA, em conjunto com as plataformas de redes sociais e os usuários, trabalhar juntos para criar um ambiente digital mais inclusivo e confiável. Assim como qualquer tecnologia, quando nova, devemos aprender a utilizar de forma consciente e entender seus riscos e como tirar o melhor proveito dela!

PS: Esse texto foi revisto por uma IA! :D Tenho um bom dia!

--

--