OpenAI, pionera en el campo de la IA generativa, está asumiendo el desafío de detectar imágenes ultrafalsas en medio de una creciente prevalencia de contenido engañoso que se difunde en las redes sociales. En la reciente conferencia Tech Live del Wall Street Journal en Laguna Beach, California, la directora de tecnología de la compañía, Mira Murati, presentó un nuevo detector de deepfake. Murati dijo que la nueva herramienta de OpenAI cuenta con un «99% de confiabilidad» para determinar si una imagen se produjo utilizando IA. Las imágenes generadas por IA pueden incluir de todo, desde creaciones alegres como el Papa Francisco luciendo un abrigo hinchado de Balenciaga hasta imágenes engañosas que pueden causar estragos financieros. El potencial y los peligros de la IA son evidentes. A medida que estas herramientas se vuelven más sofisticadas, distinguir entre lo que es real y lo que es generado por IA está resultando un desafío. Si bien la fecha de lanzamiento de la herramienta permanece en secreto, su anuncio ha despertado un interés significativo, especialmente a la luz de los esfuerzos pasados de OpenAI. En enero de 2022 , la compañía presentó un clasificador de texto que supuestamente distinguía la escritura humana del texto generado por máquinas a partir de modelos como ChatGPT. Pero en julio, OpenAI cerró silenciosamente la herramienta y publicó una actualización que decía que tenía una tasa de error inaceptablemente alta. Su clasificador etiquetó incorrectamente la escritura humana genuina como generada por IA el 9% de las veces. Si la afirmación de Murati es cierta, este sería un momento significativo para la industria, ya que los métodos actuales para detectar imágenes generadas por IA no suelen estar automatizados. Por lo general, los entusiastas se basan en sus instintos y se centran en desafíos conocidos que obstaculizan la IA generativa, como representar manos, dientes y patrones. La diferencia entre imágenes generadas por IA e imágenes editadas por IA sigue siendo borrosa, especialmente si uno intenta usar IA para detectar IA. OpenAI no solo está trabajando en la detección de imágenes dañinas de IA, sino que también está estableciendo barreras para censurar su propio modelo incluso más allá de lo que se declara públicamente en sus pautas de contenido. Como descubrió Decrypt, la herramienta Dall-E de OpenAI parece estar configurada para modificar mensajes sin previo aviso y arrojar errores silenciosamente cuando se le solicita que genere resultados específicos, incluso si cumplen con las pautas publicadas y evitan crear información confidencial. contenido que incluya nombres específicos, estilos de artistas y etnias.Parte de lo que podría ser el aviso de Dall-E 3 en ChatGPT. Fuente: DecryptLa detección de deepfakes no es únicamente un esfuerzo de OpenAI. Una empresa que desarrolla esta capacidad es DeepMedia, que trabaja específicamente con clientes gubernamentales. Grandes nombres como Microsoft y Adobe también se están arremangando. Han introducido lo que se ha denominado un sistema de ‘marca de agua AI’. Este mecanismo, impulsado por la Coalición para la Procedencia y Autenticidad del Contenido (C2PA), incorpora un símbolo distintivo «cr» dentro de un bocadillo, que señala el contenido generado por IA. El símbolo pretende actuar como un faro de transparencia, permitiendo a los usuarios discernir el origen del contenido. Sin embargo, como ocurre con cualquier tecnología, no es infalible. Existe una laguna jurídica que permite eliminar los metadatos que contienen este símbolo. Sin embargo, como antídoto, Adobe también ha ideado un servicio en la nube capaz de recuperar los metadatos perdidos, garantizando así la presencia del símbolo. Tampoco es difícil eludirlo. Mientras los reguladores avanzan poco a poco hacia la criminalización de los deepfakes, estas innovaciones no son solo hazañas tecnológicas sino necesidades sociales. Las recientes medidas de OpenAI y empresas como Microsoft y Adobe subrayan un esfuerzo colectivo para garantizar la autenticidad en la era digital. Incluso cuando estas herramientas se actualizan para ofrecer un mayor grado de autenticidad, su implementación efectiva depende de una adopción generalizada. Esto involucra no solo a los gigantes tecnológicos, sino también a los creadores de contenido, las plataformas de redes sociales y los usuarios finales. Con la IA generativa evolucionando rápidamente, los detectores continúan luchando por diferenciar la autenticidad en texto, imágenes y audio. Por ahora, el juicio y la vigilancia humanos son nuestra mejor línea de defensa contra el uso indebido de la IA. Los humanos, sin embargo, no son infalibles. Las soluciones duraderas requerirán que los líderes tecnológicos, los legisladores y el público trabajen juntos para navegar esta nueva y compleja frontera.
