Los peligros de la IA generativa fueron nuevamente el tema de debates de alto nivel entre los líderes mundiales cuando el Secretario General de las Naciones Unidas se unió a un creciente coro de voces que pedían regular la tecnología. AI, son ensordecedores, y son más ruidosos de los desarrolladores que lo diseñaron», dijo António Guterres en una conferencia de prensa el lunes. «Los científicos y expertos han pedido al mundo que actúe, declarando que la IA es una amenaza existencial para la humanidad a la par del riesgo de una guerra nuclear». «Debemos tomarnos en serio esas advertencias», dijo el secretario general de la ONU. Comentarios de Guterres llegó el mismo día en que la ONU publicó un informe, «Integridad de la información en plataformas digitales», que subrayó la necesidad de un uso responsable de la IA y advirtió sobre el uso de deepfakes en zonas de conflicto. También hoy, el Parlamento Europeo aprobó lo que describe como «el la primera legislación de IA del mundo”.
Haciendo historia dando forma a nuestro futuro. Esto es lo que significa la innovadora votación de hoy sobre el primer #AI se trata la legislación. Se trata de que Europa tome la delantera en innovación digital. pic.twitter.com/jICNwcX9hy
— Roberta Metsola (@EP_President) 14 de junio de 2023
Si bien la inteligencia artificial es una preocupación crítica para Guterres, el secretario general dijo que el advenimiento de la IA no debería distraer la atención del daño que la tecnología digital ya está causando en todo el mundo, dado el aumento del discurso de odio y la desinformación en línea. el espacio digital está causando un daño global grave ahora «, dijo. «Está alimentando el conflicto, la muerte y la destrucción ahora. Está amenazando la democracia y los derechos humanos ahora. Está socavando la salud pública y la acción climática, ahora «. Guterres dijo que crearía y nombraría miembros a una junta asesora de IA para manejar iniciativas relacionadas con IA. La junta incluiría expertos en inteligencia artificial y científicos de la ONU de la Unión Internacional de Telecomunicaciones (UIT) y la Organización para la Educación, la Ciencia y la Cultura (UNESCO). El Secretario General también dijo que estaría a favor de una agencia de inteligencia artificial inspirada en la Internacional Organismo de Energía Atómica. Fundado en 1957, el Organismo Internacional de Energía Atómica (OIEA) es un organismo de las Naciones Unidas encargado de supervisar las actividades nucleares mundiales. «La ventaja del OIEA es que es una institución muy sólida basada en el conocimiento y, al mismo tiempo, tiempo, aunque sea limitado, tiene algunas funciones reguladoras», dijo Guterres. «Así que creo que este es un modelo que podría ser muy interesante». “Formaría una nueva agencia que autorice cualquier esfuerzo por encima de una cierta escala de capacidades, y que pueda quitar esa licencia y garantizar el cumplimiento de los estándares de seguridad”, dijo Altman, y agregó que la futura agencia debería exigir auditorías independientes de cualquier IA. tecnología. Pero si bien el Secretario General está a favor de una nueva agencia internacional, reconoció la falta de inversión de la ONU en la administración pública, lo que significa que cualquier acción requeriría la iniciativa de los estados miembros y la buena voluntad de las partes involucradas». sentir lo difícil que es para los estados y para los organismos internacionales competir desde el punto de vista científico y técnico, con las plataformas que, en el medio, han adquirido un enorme potencial y un enorme conocimiento”, dijo Guterres. Tras el lanzamiento de OpenAI GPT -4 de marzo, una petición en línea del Future of Life Institute pidió una pausa de seis meses en el entrenamiento de los sistemas de IA. Luminarias de la industria tecnológica, incluido el CEO de Tesla, Elon Musk, y el cofundador de Apple, Steve Wozniak, firmaron la carta.















