Demanda Contra xAI por Generación de Material de Abuso Sexual Infantil
Resumen del Caso
Tres menores de Tennessee han demandado a xAI, afirmando que su modelo Grok generó material de abuso sexual infantil (CSAM) utilizando sus fotografías reales y lo difundió en línea, causando daños severos.
La demanda sostiene que xAI lanzó Grok sin las medidas de seguridad adecuadas y obtuvo beneficios de su uso indebido, calificándolo como una «oportunidad de negocio».
Los demandantes están exigiendo $150,000 por cada violación, además de compensaciones y una orden judicial.
Detalles de la Demanda
Los menores, identificados como Jane Doe 1, 2 y 3, presentaron la demanda en el Distrito Norte de California. Se alega que Grok fue utilizado para crear y distribuir CSAM empleando sus imágenes reales. Los menores afirmaron que el contenido alterado fue compartido a través de plataformas como Discord, Telegram y sitios de intercambio de archivos, lo que les ha causado un daño emocional duradero y perjuicio reputacional.
La demanda señala: «xAI—y su fundador Elon Musk—viendo una oportunidad de negocio: una oportunidad de obtener ganancias del abuso sexual de personas reales, incluidos los niños».
Incidentes y Circulación del Contenido
Los demandantes relatan incidentes ocurridos entre mediados de 2025 y principios de 2026, donde sus fotos reales fueron transformadas en imágenes explícitas y circuladas en la web. Uno de los afectados fue informado por un usuario anónimo sobre la existencia de carpetas de contenido generado por IA que estaban siendo comercializadas entre cientos de usuarios.
Se alega que un perpetrador accedió a Grok a través de una aplicación de terceros que había licenciado la tecnología de xAI. La demanda sugiere que xAI utilizó intencionadamente esta estructura para evitar responsabilidades, mientras continuaba beneficiándose del modelo subyacente.
Estadísticas Alarmantes
Según un hallazgo del Centro para Combatir el Odio Digital, mencionado en la demanda, Grok produjo aproximadamente 23,338 imágenes sexualizadas de niños entre el 29 de diciembre de 2025 y el 9 de enero de este año, lo que equivale a una cada 41 segundos.
Consecuencias Legales en Curso
Esta demanda representa uno de los primeros intentos de responsabilizar directamente a una empresa de IA por la producción y distribución de CSAM que representa a menores identificables. Esto llega en un momento en que Grok enfrenta investigaciones simultáneas en Estados Unidos, la UE, Reino Unido, Francia, Irlanda y Australia.
Even Alex Chandra, socio de IGNOS Law Alliance, comentó a CriptoPasion: «Cuando un sistema se diseña intencionalmente para manipular imágenes reales en contenido sexualizado, el abuso resultante no es una anomalía, es una consecuencia previsible».
Perspectivas Legales
Chandra señala que los tribunales podrían no aceptar una simple defensa de plataforma. Un sistema de IA generativa podría ser “tratado como una plataforma en términos de interacción del usuario” pero evaluado “como un producto” en el contexto de su diseño seguro, aplicando un “control particularmente estricto” en casos de CSAM debido a las obligaciones de protección infantil aumentadas.
Los tribunales también se enfocarán en las medidas de seguridad, donde se espera que la empresa muestre “evaluaciones de riesgo y medidas de seguridad por diseño antes de su implementación”, junto con regulaciones que bloqueen activamente salidas dañinas.
Boletín Diario
Inicia cada día con las noticias más relevantes, además de reportajes originales, un pódcast, videos y más.
Descargo de responsabilidad: Los puntos de vista y opiniones expresadas en este artículo pertenecen a su autor y no necesariamente reflejan aquellas de CriptoPasion. La opinión del autor es a título informativo y en ninguna circunstancia constituye una recomendación de inversión ni asesoría financiera.
