Un grupo de vigilancia de Internet con sede en el Reino Unido está haciendo sonar la alarma sobre un aumento en la cantidad de material de abuso sexual infantil (CSAM, por sus siglas en inglés) generado por IA que circula en línea, según un informe de The Guardian. La Internet Watch Foundation (IWF) dijo que las redes de pedófilos son discutir e intercambiar consejos sobre la creación de imágenes ilegales de niños utilizando modelos de inteligencia artificial de código abierto que se pueden descargar y ejecutar localmente en computadoras personales en lugar de ejecutar la nube, donde pueden interceder controles generalizados y herramientas de detección. Fundada en 1996, Internet Watch Foundation es una organización sin fines de lucro dedicada a monitorear Internet en busca de contenido de abuso sexual, específicamente dirigido a niños. «Hay una comunidad técnica dentro del espacio de delincuentes, particularmente foros de la web oscura, donde están discutiendo esta tecnología», dijo el director de tecnología de la IWF, Dan Sexton. Guardián. “Están compartiendo imágenes, están compartiendo [AI] modelos. Están compartiendo guías y consejos». La proliferación de CSAM falsos complicaría las prácticas de aplicación de la ley actuales. «Nuestra preocupación es que, si las imágenes de IA de abuso sexual infantil se vuelven indistinguibles de las imágenes reales, existe el peligro de que los analistas de la IWF pierdan un tiempo precioso. intentar identificar y ayudar a las fuerzas del orden a proteger a niños que no existen”, dijo Sexton en un informe anterior de la IWF. Los ciberdelincuentes que utilizan plataformas de inteligencia artificial generativa para crear contenido falso o deepfakes de todo tipo es una preocupación creciente para las fuerzas del orden y los formuladores de políticas. Los deepfakes son videos, imágenes o audio generados por inteligencia artificial que fabrican personas, lugares y eventos. Para algunos en los EE. UU., el tema también es una prioridad. En julio, el gobernador de Luisiana, John Bel Edwards, promulgó el proyecto de ley SB175 que condenaría a cualquier persona condenada por crear, distribuir o poseer imágenes ilegales deepfake que representen a menores a una pena obligatoria de cinco a 20 años de prisión, una multa de hasta 10.000 dólares, o ambas. Ante la preocupación de que los deepfakes generados por IA puedan llegar a las elecciones presidenciales de EE. UU. de 2024, los legisladores están redactando proyectos de ley para detener esta práctica antes de que pueda despegar. El martes, los senadores estadounidenses Amy Klobuchar (D-MN), Josh Hawley (R -MO), Chris Coons (D-DE) y Susan Collins (R-ME) presentaron la Ley para proteger las elecciones contra la IA engañosa, cuyo objetivo es detener el uso de la tecnología de la IA para crear material de campaña engañoso. Durante una audiencia en el Senado de los EE. UU. sobre la IA, El presidente de Microsoft, Brad Smith, sugirió utilizar políticas de Conozca a su cliente similares a las utilizadas en el sector bancario para identificar a los delincuentes que utilizan plataformas de inteligencia artificial con fines nefastos. «Hemos sido defensores de ellos», dijo Smith. “De modo que si hay abuso de sistemas, la empresa que está ofreciendo el [AI] El servicio sabe quién lo está haciendo y está en mejor posición para evitar que suceda”. La IWF aún no ha respondido a la solicitud de comentarios de Decrypt.
