La empresa de vigilancia de Internet Internet Watch Foundation (IWF), con sede en el Reino Unido, vuelve a hacer sonar la alarma sobre la rápida difusión de material de abuso sexual infantil (CSAM) generado por IA. En un nuevo informe publicado el miércoles, el grupo informó que se encontraron más de 20.254 imágenes CSAM generadas por IA en un solo foro de la web oscura en solo un mes, y que una avalancha de contenido tan aborrecible podría «abrumar» Internet. A medida que avanzamos, la capacidad de crear réplicas realistas de seres humanos ha crecido a pasos agigantados. Los generadores de imágenes de IA como Midjourney, Runway, Stable Diffusion y Dall-E de OpenAI son solo algunas de las plataformas capaces de evocar imágenes realistas. Estas plataformas basadas en la nube, que son ampliamente accesibles al público, han implementado importantes restricciones, reglas, y controles para evitar que actores nefastos utilicen sus herramientas para crear contenido abusivo. Pero los entusiastas de la IA buscan regularmente formas de eludir estas barreras. «Es importante que comuniquemos las realidades de AI CSAM a una amplia audiencia porque necesitamos debatir sobre el lado oscuro de esta increíble tecnología», dijo la directora ejecutiva de la fundación, Susie Hargreaves, en el informe.
📓Hemos descubierto manuales en línea dedicados a ayudar a los delincuentes a ajustar los generadores de imágenes de IA para producir imágenes de abuso sexual infantil con IA más realistas. Ahora que los delincuentes utilizan niños reales como modelos para la generación de imágenes de IA, nuestros analistas expertos dicen que se pueden crear nuevas imágenes… pic.twitter.com/kESw9nZEtD
— Fundación Internet Watch (IWF) (@IWFhotline) 25 de octubre de 2023
Al afirmar que su “peor pesadilla” se había hecho realidad, la IWF dijo que ahora está rastreando casos de CSAM generados por IA de víctimas reales de abuso sexual. El grupo británico también destacó imágenes de celebridades a las que se les envejece y manipuladas para que parezcan víctimas de abuso, así como fotografías manipuladas de niños famosos. “Como si no fuera suficiente que las víctimas sepan que su abuso puede estar siendo compartido en algún rincón oscuro de Internet, ahora corren el riesgo de verse confrontados con nuevas imágenes de ellos mismos siendo abusados de maneras nuevas y horrendas nunca antes imaginadas”, dijo Hargreaves. Un problema importante con la proliferación de CSAM realistas generados por IA es que podría distraer a las fuerzas del orden. recursos para detectar y eliminar abusos reales, afirma la IWF. Fundada en 1996, la fundación es una organización sin fines de lucro dedicada a monitorear Internet en busca de contenido de abuso sexual, específicamente dirigido a niños. En septiembre, la IWF advirtió que las redes de pedófilos están discutiendo e intercambiar consejos sobre la creación de imágenes ilegales de niños utilizando modelos de inteligencia artificial de código abierto que pueden descargarse y ejecutarse localmente en computadoras personales.“Los perpetradores pueden descargar legalmente todo lo que necesitan para generar estas imágenes y luego pueden producir tantas imágenes como quieran, sin conexión, sin oportunidad de detección”, dijo la IWF. El grupo del Reino Unido pidió colaboración internacional para luchar contra el flagelo del CSAM, proponiendo un enfoque de varios niveles, que incluye cambios en las leyes pertinentes, actualización de la capacitación policial y establecimiento de supervisión regulatoria para los modelos de IA. .Para los desarrolladores de IA, la IWF recomienda prohibir el uso de su IA para crear material de abuso infantil, desindexar modelos relacionados y priorizar la eliminación de material de abuso infantil de sus modelos. “Este es un problema global que requiere que los países trabajen juntos y garantizar que la legislación sea adecuada para su propósito», dijo Hargreaves en una declaración previamente compartida con Decrypt, señalando que la IWF ha sido efectiva en limitar el CSAM en su país de origen. «El hecho de que menos del 1% del contenido criminal esté alojado en el El Reino Unido destaca nuestras excelentes asociaciones de trabajo con las fuerzas y agencias policiales del Reino Unido, y también colaboraremos activamente con las autoridades en esta nueva y alarmante tendencia”, dijo Hargreaves. «Instamos al primer ministro del Reino Unido a incluir esto firmemente en la agenda de la cumbre mundial sobre seguridad de la IA que se celebrará en el Reino Unido en noviembre». Si bien la IWF dice que se están eliminando foros de la web oscura que albergan CSAM ilegal en el Reino Unido, el grupo dijo que se están eliminando podría ser más complicado si el sitio web está alojado en otros países.Existen numerosos esfuerzos concertados para combatir el abuso de la IA. En septiembre, el presidente de Microsoft, Brad Smith, sugirió utilizar políticas KYC inspiradas en las empleadas por las instituciones financieras para ayudar a identificar a los delincuentes utilizando modelos de IA. para difundir información errónea y abusos. El estado de Luisiana aprobó en julio una ley que aumenta la pena por la venta y posesión de pornografía infantil generada por IA, según la cual cualquier persona condenada por crear, distribuir o poseer imágenes ilegales deepfake que representen a menores podría enfrentarse a una pena obligatoria de cinco años. a 20 años de prisión, una multa de hasta 10.000 dólares, o ambas. En agosto, el Departamento de Justicia de EE.UU. actualizó su página Guía del ciudadano sobre la ley federal de EE.UU. sobre pornografía infantil. En caso de que hubiera alguna confusión, el Departamento de Justicia enfatizó que las imágenes de pornografía infantil no están protegidas por la Primera Enmienda y son ilegales según la ley federal.
















