El flagelo de la creación maliciosa de deepfake se ha extendido mucho más allá del ámbito de las celebridades y figuras públicas, y un nuevo informe sobre imágenes íntimas no consensuales (NCII) encuentra que la práctica solo crece a medida que los generadores de imágenes evolucionan y proliferan. aumento, dijo el viernes un informe de la firma de análisis de redes sociales Graphika, que describe la práctica como el uso de herramientas de inteligencia artificial generativa ajustadas para eliminar la ropa de las imágenes cargadas por los usuarios. La comunidad de juegos y transmisión de Twitch se enfrentó al problema a principios de este año cuando un destacado locutor Brandon 'Atrioc' Ewing reveló accidentalmente que había estado viendo pornografía deepfake generada por IA de streamers femeninas a las que llamaba sus amigas, según un informe de Kotaku. Ewing regresó a la plataforma en marzo, arrepentido e informando sobre semanas de trabajo que había emprendido para mitigar el daño que había causado. Pero el incidente abrió las compuertas para toda una comunidad en línea. El informe de Graphika muestra que el incidente fue solo una gota en el mar. “Usando datos proporcionados por Meltwater, medimos la cantidad de comentarios y publicaciones en Reddit y X que contienen enlaces de referencia a 34 sitios web y 52 canales de Telegram que brindan servicios NCII sintéticos”, escribió el analista de inteligencia de Graphika, Santiago Lakatos. «Estos totalizaron 1.280 en 2022 en comparación con más de 32.100 en lo que va del año, lo que representa un aumento del 2.408% en el volumen año tras año». Graphika, con sede en Nueva York, dice que la explosión en NCII muestra que las herramientas han pasado de foros de discusión especializados a un industria artesanal. “Estos modelos permiten que un mayor número de proveedores creen NCII fotorrealistas a escala de manera fácil y económica”, dijo Graphika. «Sin estos proveedores, sus clientes necesitarían alojar, mantener y ejecutar sus propios modelos de difusión de imágenes personalizados, un proceso que consume mucho tiempo y, a veces, es costoso». Graphika advierte que el aumento de la popularidad de las herramientas de desvestimiento de IA podría conducir no solo a falsificaciones material pornográfico, pero también acoso dirigido, sextorsión y generación de material de abuso sexual infantil (CSAM). Según el informe Graphika, los desarrolladores de herramientas de inteligencia artificial para desnudarse se anuncian en las redes sociales para llevar a los usuarios potenciales a sus sitios web, chat privado de Telegram o Servidores de Discord donde se pueden encontrar las herramientas. “Algunos proveedores son abiertos en sus actividades, afirmando que brindan servicios de 'desnudar' y publicando fotos de personas que afirman que han sido 'desnudas' como prueba», escribió Graphika. «Otros son menos explícitos y se presentan como servicios de arte de IA o galerías de fotos Web3, al tiempo que incluyen términos clave asociados con NCII sintético en sus perfiles y publicaciones». Si bien las IA que se desnudan normalmente se centran en imágenes, la IA también se ha utilizado para crear videos deepfakes utilizando el Imagen de celebridades, incluida la personalidad de YouTube Mr. Beast y el icónico actor de Hollywood Tom Hanks. Algunos actores como Scarlett Johansson y el actor indio Anil Kapoor están recurriendo al sistema legal para combatir la amenaza actual de los deepfakes de IA. Aún así, si bien los artistas convencionales pueden obtener más atención de los medios, los artistas adultos dicen que sus voces rara vez se escuchan. «Es realmente difícil», dijo anteriormente a Decrypt la legendaria artista adulta y directora de relaciones públicas de Star Factory, Tanya Tate. «Si alguien pertenece a la corriente principal, estoy seguro de que es mucho más fácil». Incluso sin el auge de la inteligencia artificial y la tecnología deepfake, Tate explicó que las redes sociales ya están llenas de cuentas falsas que utilizan su probabilidad y contenido. Lo que no ayuda es el estigma que enfrentan las trabajadoras sexuales, lo que las obliga a ellas y a sus fanáticos a permanecer en las sombras. En octubre, la firma de vigilancia de Internet con sede en el Reino Unido, Internet Watch Foundation (IWF), en un informe separado, señaló que más de 20.254 imágenes de Se descubrieron abusos infantiles en un solo foro de la darkweb en solo un mes. La IWF advirtió que la pornografía infantil generada por IA podría “abrumar” a Internet. Gracias a los avances en las imágenes generativas de IA, la IWF advierte que la pornografía deepfake ha avanzado hasta el punto en que distinguir entre imágenes generadas por IA e imágenes auténticas se ha vuelto cada vez más complejo, lo que deja a las fuerzas del orden persiguiendo fantasmas en línea en lugar de víctimas reales de abuso. «Así que existe esa cosa constante de que no puedes confiar en si las cosas son reales o no», dijo a Decrypt el CTO de Internet Watch Foundation, Dan Sexton. «Las cosas que nos dirán si las cosas son reales o no no son 100% y, por lo tanto, tampoco puedes confiar en ellas». En cuanto a Ewing, Kotaku informó que el transmisor regresó diciendo que estaba trabajando con reporteros, tecnólogos, investigadores, y mujeres afectadas por el incidente desde su transgresión en enero. Ewing también dijo que envió fondos al bufete de abogados de Ryan Morrison con sede en Los Ángeles, Morrison Cooper, para brindar servicios legales a cualquier mujer en Twitch que necesitara su ayuda para emitir avisos de eliminación de sitios que publican imágenes de ellas. Ewing agregó que recibió investigaciones sobre la profundidad del problema de los deepfakes de la misteriosa investigadora de deepfakes Genevieve Oh. «Traté de encontrar los 'puntos brillantes' en la lucha contra este tipo de contenido», dijo Ewing. Editado por Ryan Ozawa.
