A medida que los generadores de imágenes de IA se vuelven más avanzados, detectar falsificaciones profundas se vuelve más desafiante que nunca. Las fuerzas del orden y los líderes mundiales continúan haciendo sonar la alarma sobre los peligros de las falsificaciones profundas generadas por IA en las redes sociales y en zonas de conflicto. «Estamos entrando en una era en la que ya no podemos creer lo que vemos», Marko Jak, co- fundador y director ejecutivo de Secta Labs, le dijo a Decrypt en una entrevista. «En este momento, es más fácil porque las falsificaciones profundas aún no son tan buenas y, a veces, puedes ver que es obvio». Según Jak, no estamos tan lejos, tal vez dentro de un año, del punto en que la capacidad de discernir una imagen a primera vista ya no es posible. Y debería saberlo: Jak es el director ejecutivo de una empresa generadora de imágenes de IA. Jak cofundó Secta Labs en 2022; la puesta en marcha de IA generativa con sede en Austin se centra en la creación de imágenes generadas por IA de alta calidad. Los usuarios pueden subir fotos de sí mismos y convertirlas en avatares y fotografías de rostros generados por IA. Como explica Jak, Secta Labs ve a los usuarios como los propietarios de los modelos de IA generados a partir de sus datos, mientras que la empresa es simplemente un custodio que ayuda a crear imágenes a partir de estos modelos. El posible uso indebido de modelos de IA más avanzados ha llevado a los líderes mundiales a pedir una acción inmediata sobre la regulación de la IA y ha provocado que las empresas decidan no lanzar al público sus herramientas avanzadas. La semana pasada, después de anunciar su nueva plataforma de voz generada por IA Voicebox, Meta dijo no lanzaría la IA al público. «Si bien creemos que es importante ser abiertos con la comunidad de IA y compartir nuestra investigación para avanzar en el estado del arte en IA», dijo el portavoz de Meta a Decrypt en un correo electrónico. También es necesario lograr el equilibrio adecuado entre la apertura y la responsabilidad”. A principios de este mes, la Oficina Federal de Investigaciones de EE. UU. advirtió sobre las estafas de extorsión con deepfakes de IA y los delincuentes que usan fotos y videos tomados de las redes sociales para crear contenido falso. La respuesta en la lucha contra los deepfakes , dijo Jak, puede que no se trate de poder detectar una falsificación profunda, sino de poder exponer una falsificación profunda». AI es la primera forma en que podría detectar [a deepfake]», dijo Jak. «Hay personas que construyen inteligencia artificial en la que puedes poner una imagen como un video y la IA puede decirte si fue generada por IA». IA generativa y el uso potencial de imágenes generadas por IA en películas y la televisión es un tema candente en la industria del entretenimiento. Los miembros de SAG-AFTRA votaron antes de iniciar negociaciones contractuales para autorizar una huelga, una preocupación importante, inteligencia artificial. Jak agregó que el desafío es la carrera armamentista de IA que se desarrolla a medida que la tecnología se vuelve más avanzada y Los malhechores crean falsificaciones profundas más avanzadas para contrarrestar la tecnología diseñada para detectarlas. Reconociendo que la cadena de bloques se ha utilizado en exceso (algunos dirían que se ha sobrevalorado) como una solución para los problemas del mundo real, Jak dijo que la tecnología y la criptografía podrían resolver el problema de las falsificaciones profundas. puede resolver muchos problemas con deepfakes, Jak dijo que una solución de baja tecnología, la sabiduría de la multitud, podría ser la clave». Una de las cosas que vi que Twitter hizo, y creo que fue una buena idea, son las notas de la comunidad, que es donde la gente puede agregar algunas notas para dar contexto al tweet de alguien», dijo Jak. “Un tuit puede ser información errónea al igual que un deepfake”, dijo. Jak agregó que beneficiaría a las corporaciones de redes sociales pensar en formas de aprovechar sus comunidades para validar si el contenido que circula es auténtico. «Blockchain puede abordar problemas específicos, pero la criptografía podría ayudar a autenticar el origen de una imagen», dijo. «Esta podría ser una solución práctica, ya que se trata de la verificación de la fuente en lugar del contenido de la imagen, independientemente de cuán sofisticado sea el deepfake».
