A principios de septiembre de 2023, el presidente de la Comisión de Bolsa y Valores de Estados Unidos, Gary Gensler, dijo que los deepfakes representan un “riesgo real” para los mercados. Se pueden hacer deepfakes, vídeos o imágenes falsos generados por inteligencia artificial (IA), pero que a primera vista parecen auténticos, para representar a inversores de alto perfil e incluso a reguladores como Gensler, pareciendo mostrar a estas figuras influyentes diciendo cosas que probablemente influyan. elementos de los mercados financieros. En estos casos, los creadores de los deepfakes se beneficiarán si logran cambiar el mercado con este engaño. Si bien el potencial de agitación del mercado es significativo, la amenaza de los deepfakes se extiende mucho más allá de eso. La firma mundial de contabilidad KPMG ha señalado un fuerte aumento de las estafas dirigidas a empresas de todo tipo con materiales ultrafalsos. Estos y otros riesgos han llevado a los investigadores de ciberseguridad a una búsqueda frenética de formas de detener (o al menos ralentizar) a los actores maliciosos armados con estas poderosas herramientas. Los deepfakers han creado vídeos falsificados de celebridades, políticos y muchos otros, a menudo por diversión, pero también para difundir información errónea y cosas peores. Sin embargo, tal vez el mayor impacto negativo de los deepfakes en las primeras etapas del incipiente desarrollo de esta tecnología haya sido en las personas a las que apuntan. por esta tecnología. Las estafas de extorsión están proliferando en diferentes áreas y con diversas estrategias. Una proporción significativa de estas estafas implica el uso de tecnología deepfake para crear imágenes o vídeos sexualmente explícitos de objetivos no deseados. Luego, los estafadores pueden exigir un pago al objetivo de la vida real, con la amenaza de difundir el contenido falso en caso de que esa persona no cumpla. Pero las amenazas asociadas con los deepfakes y el contenido explícito se extienden mucho más allá. Para muchos en las áreas de ciberseguridad, justicia social, derecho de privacidad y otros campos, la pornografía deepfake es una de las mayores amenazas que emergen de la era de la IA. En 2019, el 96% de todos los deepfakes online eran pornografía. A continuación, echamos un vistazo más de cerca.
Una historia de la manipulación de imágenes
Deepfake no es la primera tecnología que permite manipular imágenes de otras personas sin su consentimiento. Photoshop ha sido durante mucho tiempo una tecnología omnipresente y la práctica de falsificar imágenes se remonta a décadas antes de que se inventara ese software. La tecnología deepfake en sí se remonta a más de 25 años, aunque solo en los últimos años la IA en rápido desarrollo ha reducido significativamente el tiempo que lleva crear un deepfake y, al mismo tiempo, se ha vuelto mucho más cercano a lo indetectable para el observador promedio. ¿Lo sabías? En febrero de 2023, solo tres estados de EE. UU. tenían leyes que abordaban específicamente el contenido pornográfico deepfake. La facilidad para hacer un mal uso de la tecnología deepfake para crear contenido pornográfico (un número cada vez mayor de herramientas utilizadas para crear deepfakes están disponibles gratuitamente en línea) ha ayudado a exacerbar dramáticamente el problema. Una búsqueda en línea revela abundantes historias sobre personas que han sido atacadas de esta manera. Muchas de las personas a las que se dirigen los pornógrafos deepfake son personalidades femeninas del streaming que no crean ni comparten contenido explícito. A principios de este año, el destacado streamer QTCinderella descubrió que su imagen había sido utilizada en contenido explícito generado por IA sin su conocimiento o consentimiento. Otro conocido streamer, Atrioc, admitió haber visto el contenido y compartido información sobre el sitio web donde fue publicado. Desde entonces, QTCinderella ha trabajado con un destacado abogado de deportes electrónicos para eliminar el sitio web, y Atrioc ha emitido múltiples declaraciones indicando su intención de trabajar para eliminar este tipo de contenido de manera más amplia.
Quiero gritar.
Detener.
Todo el mundo para, carajo. Deja de difundirlo. Deja de publicitarlo. Detener.
Ser visto “desnudo” en contra de su voluntad NO DEBE SER PARTE DE ESTE TRABAJO. Gracias a todos los “periodistas” masculinos de Internet que informan sobre este tema. Malditos perdedores @HUN2R
— QTCinderella (@qtcinderella) 30 de enero de 2023
Cuestiones de consentimiento
Muchos han argumentado que la pornografía deepfake es la última versión de la sexualización no consensual, siguiendo una larga tendencia, aunque está mejor posicionada para una difusión generalizada debido tanto al poder de la tecnología deepfake como a su facilidad de uso. De esta manera, alguien que crea imágenes explícitas ultrafalsas de otra persona sin el consentimiento de esa persona está cometiendo un acto de violencia sexual contra esa persona. Las historias de sobrevivientes de estos ataques, casi en su totalidad mujeres, respaldan esta clasificación. Ya está bien documentado que las víctimas de pornografía deepfake experimentan regularmente sentimientos de humillación, deshumanización, miedo, ansiedad y más. Las ramificaciones también pueden ser físicas, con muchas historias sobre visitas al hospital, respuestas a traumas e incluso ideas suicidas impulsadas por deepfakes. Las víctimas han perdido trabajos, medios de vida, amigos, familias y más, todo porque se compartió un deepfake que parecía real. Para muchos, los problemas del porno deepfake representan quizás lo peor de un problema mucho mayor con la IA en general: porque la IA generativa es entrenados utilizando datos que contienen una serie de sesgos, prejuicios y generalizaciones, el contenido que producen estos sistemas de IA también comparte esos rasgos negativos. Por ejemplo, desde hace tiempo se reconoce que las herramientas de inteligencia artificial a menudo están predispuestas a crear contenido racista. De manera similar, la IA generativa, incluso por sí sola, también es susceptible de crear contenido altamente sexualizado. Cuando se combina con actores maliciosos que buscan dañar a otros o simplemente anteponer su propia gratificación a la privacidad y el bienestar de los demás, la situación se vuelve bastante peligrosa. Con algunos contenidos deepfake, existe una doble violación del consentimiento. Una forma de crear contenido explícito deepfake es utilizar material pornográfico preexistente y superponer el rostro u otros elementos parecidos a una víctima involuntaria en ese material. Además de dañar a esta última persona, el deepfake también viola la privacidad del artista adulto original, ya que tampoco busca el consentimiento de esa persona. El trabajo de ese artista también se duplica y distribuye sin compensación, reconocimiento o atribución. A menudo se ha argumentado que los artistas adultos en estos contextos son explotados (literalmente decapitados digitalmente) y objetivados aún más en una industria en la que tales prácticas ya son rampantes. Sin embargo, algunos han expresado su opinión de que el consentimiento es irrelevante cuando se trata de deepfakes de todo tipo, incluido contenido pornográfico. Quienes defienden este argumento sugieren con frecuencia que los individuos, de hecho, no son dueños de sus propias imágenes. «Puedo tomarte una fotografía y hacer lo que quiera con ella, entonces, ¿por qué no puedo usar esta nueva tecnología para hacer lo mismo de manera efectiva?» es un argumento común.
Leyes y regulaciones
Como ocurre con gran parte del espacio de la IA, la tecnología en la industria de los deepfakes se está desarrollando mucho más rápidamente que las leyes que rigen estas herramientas. En febrero de 2023, solo tres estados de EE. UU. tenían leyes que abordaban específicamente el contenido pornográfico deepfake. Las empresas que desarrollan estas tecnologías han hecho poco para limitar el uso de herramientas deepfake para generar contenido explícito. Eso no quiere decir que este sea el caso con todas estas herramientas. Dall-E, el popular sistema de IA generador de imágenes, viene con una serie de protecciones, por ejemplo: OpenAI, la empresa que desarrolló Dall-E, limitó el uso de imágenes de desnudos en el proceso de aprendizaje de la herramienta; los usuarios tienen prohibido ingresar ciertas solicitudes; Los resultados se escanean antes de ser revelados al usuario. Pero quienes se oponen al porno deepfake dicen que estas protecciones no son suficientes y que los malos actores decididos pueden encontrar fácilmente soluciones. El Reino Unido es un ejemplo de un país que ha trabajado rápidamente para criminalizar aspectos de la floreciente industria del porno deepfake. En los últimos meses, el país ha tomado medidas para ilegalizar el intercambio de imágenes íntimas ultrafalsas. Hasta el momento, el gobierno federal de Estados Unidos no ha aprobado ninguna legislación de este tipo. Esto significa que, hasta el momento, la mayoría de las víctimas de pornografía deepfake no tienen recursos para solucionar el problema o recibir una indemnización. Además de las cuestiones obvias de consentimiento y violencia sexual, el ataque perpetrado contra un artista adulto cuya imagen se utiliza en la creación de contenido explícito deepfake podría proporcionar otra vía para abordar este problema desde un punto de vista legal. Después de todo, si un creador de deepfake utiliza la imagen de un artista adulto sin consentimiento, atribución o compensación, se podría argumentar que el creador está robando el trabajo del artista y explotando el trabajo de esa persona. La pornografía deepfake se parece a otro fenómeno reciente que involucra a personas no -Contenido explícito consensuado: pornografía de venganza. Las formas en que los legisladores y las empresas han trabajado para combatir este fenómeno también podrían indicar un camino a seguir en la batalla contra la pornografía deepfake. En 2020, 48 estados y Washington, DC habían criminalizado la pornografía de venganza. Las principales empresas de tecnología, incluidas Meta Platforms y Google, han promulgado políticas para reprimir a quienes distribuyen o albergan contenido de pornografía de venganza. Sin duda, la pornografía de venganza sigue siendo un problema importante en Estados Unidos y en el extranjero. Pero el esfuerzo generalizado para frenar su propagación podría indicar que también se harán esfuerzos similares para reducir el problema de los deepfakes. Una herramienta prometedora en la batalla contra la pornografía generada por IA es la propia IA. Existe tecnología para detectar imágenes que han sido manipuladas digitalmente con un 96% de precisión. Si, según se piensa, esta tecnología pudiera utilizarse para escanear, identificar y, en última instancia, ayudar a eliminar contenido explícito basado en inteligencia artificial, podría ayudar a reducir drásticamente la distribución de este material.
