Estudio de Oxford: la IA en redes sociales puede manipular
Una investigación del Oxford Internet Institute y del Hasso Plattner Institute de Potsdam advierte que la IA en redes sociales no actúa siempre de forma neutra y que pequeñas alteraciones en el tono de publicaciones pueden acumularse y desplazar la opinión media de comunidades enteras. El hallazgo procede de pruebas con distintos modelos de lenguaje y de simulaciones basadas en datos reales de X y Facebook.
El equipo pidió a varios modelos que transformaran textos humanos en versiones “mejoradas” para redes, con la instrucción de conservar el significado. Los resultados mostraron que esos modelos tendían a inclinar los mensajes en una misma dirección en temas polémicos, reforzando algunas posturas y debilitando otras. Ese patrón se repitió entre sistemas de distintos fabricantes, lo que sugiere un efecto sistemático más que un fallo aislado.
Los investigadores usaron simulaciones para estimar el impacto a gran escala, alimentadas con datos de X y Facebook. En esos modelos, los sesgos diminutos de cada publicación se acumulaban y movían poco a poco la opinión media de las comunidades simuladas; conviene subrayar que se trata de una proyección y no de una medición sobre la población real.
Un ejemplo concreto analizado fue la función de X que explica publicaciones, conocida como Grok. Al reproducir esa función y examinar respuestas sobre el aborto, los investigadores observaron que el sistema ofrecía contexto más alineado con una de las posturas del debate. Al desmontar las instrucciones que guiaban al sistema, localizaron el origen del desequilibrio en una directriz específica de la plataforma: "la de cuestionar las narrativas dominantes cuando lo considerara necesario." Esa observación indica que una decisión de diseño puntual, aplicada por la plataforma y no por el usuario, puede alterar la orientación del mensaje mediado.
El trabajo vincula este mecanismo de influencia con riesgos informativos ya documentados en otros estudios sobre asistentes de escritura. Esos trabajos previos mostraron que herramientas que ayudan a redactar o resumir pueden cambiar lo que la gente acaba opinando, y la investigación aquí citada añade evidencia sobre cómo sesgos pequeños y repetidos pueden traducirse en efectos colectivamente relevantes.
Los autores también examinan el encaje regulatorio. Señalan que marcos como la Ley de IA europea y la normativa de Servicios Digitales se han centrado en el contenido dañino o en amenazas directas a procesos democráticos, pero no abordan con precisión la comunicación mediada por IA que modifica tonos y contextos sin producir contenidos ilícitos o manifiestamente dañinos.
Frente a esa laguna, el informe subraya la necesidad de medidas que permitan conocer cuándo un texto ha sido mediado por IA, qué instrucciones guían a esos sistemas y con qué efectos. La propuesta de los investigadores enfatiza la transparencia como primer paso para que esa capa de influencia no actúe en la sombra.
El estudio fue firmado por el Oxford Internet Institute junto al Hasso Plattner Institute de Potsdam y se presentará en la conferencia ICML 2026. Además de los experimentos con modelos y las simulaciones, el trabajo destaca cómo una única directriz de plataforma puede tener consecuencias medibles sobre el equilibrio informativo de un servicio.
La investigación conjuga análisis empírico de salidas de modelos con proyecciones a escala mediante simulaciones, y alerta sobre un mecanismo de influencia que es difícil de detectar porque opera a través de microajustes repetidos en millones de interacciones. Ese mecanismo no depende solo de fallos técnicos, sino de decisiones de diseño que configuran la forma en que la IA reescribe o contextualiza mensajes.
En sus conclusiones, los autores recomiendan transparencia sobre la mediación algorítmica y el conocimiento público de las instrucciones que guían a los sistemas. Según el informe, saber "cuándo un texto ha sido mediado por IA, qué instrucciones guían a esos sistemas y con qué efectos" es el primer paso para mitigar una forma de influencia masiva y silenciosa que hoy queda fuera de la regulación existente.
El documento suma evidencias a investigaciones previas sobre asistentes de escritura y riesgos de manipulación informativa con IA, y plantea preguntas sobre quién y cómo moldea el debate público a través de decisiones de diseño en plataformas y modelos.
En este momento, la advertencia se basa en experimentos y proyecciones contenidos en el estudio; la escala y la manifestación del efecto en poblaciones reales requiere más mediciones directas, una limitación que los propios autores reconocen en el trabajo.