Resumo de pesquisa. Este artigo resume o estudo AI-Mediated Communication Can Steer Collective Opinion, do Oxford Internet Institute e do Hasso Plattner Institute, com base na publicação do OII.
Uma pesquisa do Oxford Internet Institute (OII) e do Hasso Plattner Institute concluiu que ferramentas de inteligência artificial podem alterar a direção de publicações sobre temas controversos, mesmo quando recebem instruções para preservar o significado original. O estudo, intitulado AI-Mediated Communication Can Steer Collective Opinion, foi aceito para apresentação em workshops da conferência ICML 2026, em Seul, na Coreia do Sul.
Os pesquisadores instruíram modelos de linguagem de diferentes provedores a transformar textos escritos por pessoas em publicações para redes sociais. Em seguida, analisaram as mudanças de posicionamento e usaram modelagem matemática e simulações baseadas em dados de redes sociais reais do X e do Facebook. Os resultados indicaram que pequenas alterações individuais podem se acumular ao longo de milhões de interações e deslocar gradualmente opiniões em comunidades online.
A pesquisa também identificou tendências semelhantes entre diferentes sistemas, com mudanças favoráveis a algumas posições sobre controle de armas, legalização da maconha e feminismo, e desfavoráveis a outras, como ateísmo e pena de morte. Em uma simulação da função “Explain this post”, do X, os pesquisadores observaram maior apoio a publicações contrárias ao direito ao aborto do que a publicações favoráveis, resultado associado a uma instrução específica para que o modelo desafiasse narrativas predominantes quando necessário.
O estudo aponta que decisões de implementação pelas plataformas podem influenciar a direção e a intensidade desse efeito, além do comportamento do próprio modelo. A possibilidade de persuasão gradual e pouco perceptível também é destacada por Dora Kaufman, em Desmistificando a inteligência artificial: “Esses processos de persuasão ocorrem em níveis invisíveis, sem conhecimento ou consentimento dos usuários, que desconhecem o potencial e a abrangência das previsões dos algoritmos de inteligência artificial; num nível mais avançado, essas previsões envolvem personalidade, emoções, orientação sexual e política, ou seja, um conjunto de informações que em tese não era a intenção do usuário revelar.” A pesquisa sustenta que a comunicação mediada por IA cria desafios adicionais para transparência, responsabilização e regulação, ainda não tratados diretamente pelos marcos voltados a riscos sistêmicos, conteúdos nocivos, discriminação e ameaças a processos democráticos.
Com informações do oii.ox.ac.uk.
Este post foi resumido a partir da publicação original com uso de inteligência artificial, com revisão humana de Guilherme Goulart.