Advertencias sobre los enjambres de IA y su impacto en la desinformación
Campañas de influencia con escaso control humano
Investigadores alertan sobre la capacidad de los enjambres de IA para coordinar campañas de influencia, operando con mínima supervisión humana. A diferencia de las tradicionales redes bot, estos enjambres pueden ajustar su mensaje y comportarse de diversas maneras.
Un nuevo estudio, publicado en Science, indica que la era de las redes bot fácilmente identificables está por terminar. Los alentadores de la investigación, que incluyen académicos de Oxford, Cambridge, UC Berkeley, NYU y el Instituto Max Planck, advierten que las campañas de desinformación están evolucionando hacia enjambres de IA autónomos capaces de imitar el comportamiento humano.
Características de los enjambres de IA
Un enjambre se define como un grupo de agentes autónomos de IA que colaboran para resolver problemas de manera más efectiva que un solo sistema. Estos enjambres aprovechan las debilidades de las plataformas de redes sociales, donde los usuarios a menudo están aislados de puntos de vista opuestos.
- La desinformación se difunde más rápido que la información verificada.
- Las plataformas amplifican contenidos divisivos, perjudicando la esfera pública.
Estrategias para mitigar el problema
Sean Ren, profesor de ciencias de la computación en la Universidad del Sur de California y CEO de Sahara AI, señala que las cuentas impulsadas por IA son cada vez más difíciles de diferenciar de los usuarios comunes. Propone una validación más estricta de las identidades de las cuentas para facilitar la detección de comportamientos coordinados.
La dificultad de la moderación de contenido
Según el estudio, las campañas de influencia anteriormente dependían de la escala y no de la sutileza, con miles de cuentas publicando mensajes idénticos. En contraste, los enjambres de IA presentan «una autonomía, coordinación y escala sin precedentes».
Ren advierte que la moderación de contenido por sí sola no detendrá estos sistemas. La clave está en cómo las plataformas gestionan la identidad a gran escala, limitando la creación de cuentas y reforzando las verificaciones de identidad para facilitar la detección de comportamientos sospechosos.
Una solución compleja
Los investigadores concluyen que no existe una solución única para este problema. Aunque se sugieren mejoras en la detección de coordenadas anómalas y mayor transparencia en las actividades automatizadas, advierten que las medidas técnicas por sí solas no son suficientes.
- Los incentivos financieros continúan siendo un motor persistente de ataques de manipulación coordinada.
- Se recomienda a las plataformas implementar mecanismos robustos de detección de spam y verificación de identidad.
Suscríbete a nuestro boletín diario
Comienza cada día con las principales noticias, además de características originales, un podcast, videos y más.
Descargo de responsabilidad: Los puntos de vista y opiniones expresadas en este artículo pertenecen a su autor y no necesariamente reflejan aquellas de CriptoPasion. La opinión del autor es a título informativo y en ninguna circunstancia constituye una recomendación de inversión ni asesoría financiera.














