Dado que la amenaza de la inteligencia artificial a la democracia es una de las principales preocupaciones para los formuladores de políticas y los votantes de todo el mundo, OpenAI presentó su plan el lunes para ayudar a garantizar la transparencia en el contenido generado por IA y mejorar la información de votación confiable antes de las elecciones de 2024. Después del lanzamiento de GPT- El 4 de marzo, la IA generativa y su posible uso indebido, incluidos los deepfakes generados por IA, se han convertido en una parte central de la conversación sobre el meteórico ascenso de la IA en 2023. En 2024, podríamos ver graves consecuencias de dicha desinformación impulsada por la IA en medio de elecciones destacadas. incluida la carrera presidencial de EE. UU. «Mientras nos preparamos para las elecciones de 2024 en las democracias más grandes del mundo, nuestro enfoque es continuar nuestro trabajo de seguridad de la plataforma elevando información de votación precisa, aplicando políticas medidas y mejorando la transparencia», dijo OpenAI en una publicación de blog. .OpenAI agregó que está «reuniendo la experiencia de nuestros sistemas de seguridad, inteligencia de amenazas, equipos legales, de ingeniería y de políticas para investigar y abordar rápidamente posibles abusos».
Panorama de cómo nos estamos preparando para las elecciones mundiales de 2024: • Trabajando para prevenir abusos, incluidos los deepfakes engañosos
• Proporcionar transparencia sobre el contenido generado por IA
• Mejorar el acceso a información autorizada sobre votaciónhttps://t.co/qsysYy5l0L — OpenAI (@OpenAI) 15 de enero de 2024
En agosto, la Comisión Federal Electoral de EE. UU. dijo que seguiría adelante con la consideración de una petición para prohibir los anuncios de campaña generados por IA, y el comisionado de la FEC, Allen Dickerson, dijo: «Hay serias preocupaciones sobre la Primera Enmienda acechando en el trasfondo de este esfuerzo». OpenAI, cliente estadounidense de ChatGPT, dijo que dirigirá a los usuarios al sitio web no partidista CanIVote.org cuando se les hagan «ciertas preguntas de procedimiento relacionadas con las elecciones». La compañía dice que la implementación de estos cambios informará su enfoque a nivel mundial. «Esperamos continuar trabajando y aprendiendo de los socios para anticipar y prevenir posibles abusos de nuestras herramientas en el período previo a las elecciones globales de este año», agregó. ChatGPT, OpenAI dijo que impide que los desarrolladores creen chatbots que pretendan ser personas o instituciones reales, como funcionarios y oficinas gubernamentales. OpenAI dijo que tampoco están permitidas las aplicaciones que tienen como objetivo impedir que las personas voten, incluidas desalentar la votación o tergiversar quién es elegible para votar. Los deepfakes, imágenes, videos y audio falsos generados por IA creados con IA generativa se volvieron virales el año pasado, con varios de ellos muestran al presidente estadounidense Joe Biden, al expresidente Donald Trump e incluso al Papa Francisco convirtiéndose en el centro de las imágenes compartidas en las redes sociales. Para evitar que su generador de imágenes Dall-E 3 se utilice en campañas deepfake, OpenAI dijo que implementará la Coalición para las credenciales de contenido de Procedencia y Autenticidad del Contenido que agregan una marca o «icono» a una imagen generada por IA. «También estamos experimentando con un clasificador de procedencia, una nueva herramienta para detectar imágenes generadas por Dall-E», dijo OpenAI. “Nuestras pruebas internas han mostrado resultados iniciales prometedores, incluso cuando las imágenes han estado sujetas a tipos comunes de modificaciones”. El mes pasado, el Papa Francisco pidió a los líderes mundiales que adoptaran un tratado internacional vinculante para regular la IA. “La dignidad inherente de cada ser humano y la fraternidad que nos une como miembros de la única familia humana debe sustentar el desarrollo de nuevas tecnologías y servir como criterio indiscutible para evaluarlas antes de utilizarlas, de modo que el progreso digital pueda ocurrir con el debido respeto a la justicia y contribuir a la causa. de paz”, dijo Francisco. Para frenar la desinformación, OpenAI dijo que ChatGPT comenzará a proporcionar informes de noticias en tiempo real a nivel mundial, incluidas citas y enlaces. “La transparencia en torno al origen de la información y el equilibrio en las fuentes de noticias pueden ayudar a los votantes a evaluar mejor la información y decidir por ellos mismos en qué pueden confiar”, dijo la compañía. El verano pasado, OpenAI donó 5 millones de dólares al Proyecto de Periodismo Estadounidense. La semana anterior, OpenAI firmó un acuerdo con Associated Press para darle al desarrollador de inteligencia artificial acceso al archivo de artículos de noticias del medio de comunicación global. Los comentarios de OpenAI sobre la atribución en los informes de noticias se producen cuando la compañía enfrenta varias demandas de derechos de autor, incluidas las del New York Times. . En diciembre, el Times demandó a OpenAI y Microsoft, el mayor inversor de OpenAI, alegando que millones de sus artículos se utilizaron para entrenar ChatGPT sin permiso. “OpenAI y Microsoft han construido un negocio valorado en decenas de miles de millones de dólares al tomar los trabajos combinados de humanidad sin permiso”, dice la demanda, “Al entrenar sus modelos, los demandados reprodujeron material protegido por derechos de autor para explotar precisamente aquello para lo que la Ley de Derechos de Autor fue diseñada para proteger: los elementos de expresión protegibles dentro de ellos, como el estilo, la elección de palabras y la disposición y presentación. de hechos”. OpenAI calificó la demanda del New York Times como “sin mérito”, alegando que la publicación manipuló sus indicaciones para hacer que el chatbot generara respuestas como los artículos del Times. Editado por Andrew Hayward
