Resumen de investigación. Este artículo resume el estudio AI-Mediated Communication Can Steer Collective Opinion, del Oxford Internet Institute y del Hasso Plattner Institute, con base en la publicación del OII.
Una investigación del Oxford Internet Institute (OII) y del Hasso Plattner Institute concluyó que las herramientas de inteligencia artificial pueden alterar la orientación de publicaciones sobre temas controvertidos, incluso cuando reciben instrucciones para preservar el significado original. El estudio, titulado AI-Mediated Communication Can Steer Collective Opinion, fue aceptado para su presentación en talleres de la conferencia ICML 2026, en Seúl, Corea del Sur.
Los investigadores instruyeron a modelos lingüísticos de distintos proveedores para transformar textos escritos por personas en publicaciones para redes sociales. Después, analizaron los cambios de posicionamiento y utilizaron modelos matemáticos y simulaciones basadas en datos reales de redes sociales de X y Facebook. Los resultados indicaron que pequeños cambios individuales pueden acumularse a lo largo de millones de interacciones y desplazar gradualmente las opiniones en comunidades en línea.
La investigación también identificó tendencias similares entre distintos sistemas, con cambios favorables a algunas posiciones sobre el control de armas, la legalización de la marihuana y el feminismo, y desfavorables a otras, como el ateísmo y la pena de muerte. En una simulación de la función «Explain this post» de X, los investigadores observaron un mayor apoyo a publicaciones contrarias al derecho al aborto que a publicaciones favorables, un resultado asociado a una instrucción específica para que el modelo cuestionara las narrativas predominantes cuando fuera necesario.
El estudio señala que las decisiones de implementación de las plataformas pueden influir en la dirección y la intensidad de este efecto, además del comportamiento del propio modelo. Dora Kaufman también destaca la posibilidad de una persuasión gradual y poco perceptible en Desmistificando a inteligência artificial: «Estos procesos de persuasión ocurren en niveles invisibles, sin conocimiento ni consentimiento de los usuarios, que desconocen el potencial y el alcance de las predicciones de los algoritmos de inteligencia artificial; en un nivel más avanzado, estas predicciones abarcan la personalidad, las emociones y la orientación sexual y política, es decir, un conjunto de información que, en teoría, no era intención del usuario revelar». La investigación sostiene que la comunicación mediada por IA plantea desafíos adicionales para la transparencia, la rendición de cuentas y la regulación, aún no abordados directamente por los marcos orientados a los riesgos sistémicos, los contenidos nocivos, la discriminación y las amenazas a los procesos democráticos.
Con información de oii.ox.ac.uk.
Este post se resumió a partir de la publicación original con uso de inteligencia artificial, con revisión humana de Guilherme Goulart.