El Instituto Nacional de Estándares y Tecnología (NIST) del Departamento de Comercio de Estados Unidos ha llegado a un acuerdo con los principales desarrolladores de IA OpenAI y Anthropic para establecer una colaboración formal con el Instituto de Seguridad de IA de Estados Unidos (AISI), según informó la agencia el jueves. El instituto «recibiría acceso a los principales modelos nuevos de cada empresa antes y después de su lanzamiento público», según el anuncio. Anthropic está desarrollando Claude, mientras que OpenAI ofrece ChatGPT. El acuerdo permitirá al Instituto evaluar las capacidades y los riesgos de seguridad de los respectivos modelos de IA. «La seguridad es esencial para impulsar la innovación tecnológica revolucionaria. Con estos acuerdos en vigor, esperamos comenzar nuestras colaboraciones técnicas con Anthropic y OpenAI para avanzar en la ciencia de la seguridad de la IA», dijo la directora de la agencia Elizabeth Kelly en un comunicado. «Estos acuerdos son solo el comienzo, pero son un hito importante a medida que trabajamos para ayudar a administrar de manera responsable el futuro de la IA».
Este trabajo con la AISI de EE. UU. se basará en el trabajo anterior que realizamos este año, en el que trabajamos con la AISI del Reino Unido para realizar una prueba previa a la implementación de Sonnet 3.5. Algunas reflexiones más amplias sobre la importancia de las pruebas de terceros aquí: https://t.co/aGcTfYL7z2 — Jack Clark (@jackclarkSF) 29 de agosto de 2024
Anthropic y OpenAI no respondieron de inmediato a las solicitudes de comentarios de Decrypt. «Estamos ansiosos por hacer una prueba previa al lanzamiento de nuestro próximo modelo con el AISI de EE. UU.», escribió el cofundador de Anthropic, Jack Clark, en Twitter. «Las pruebas de terceros son una parte realmente importante del ecosistema de IA y ha sido increíble ver a los gobiernos crear institutos de seguridad para facilitar esto». «Estamos felices de haber llegado a un acuerdo con el Instituto de Seguridad de IA de EE. UU. para las pruebas previas al lanzamiento de nuestros futuros modelos», escribió el cofundador y director ejecutivo de OpenAI, Sam Altman, en Twitter. «Por muchas razones, creemos que es importante que esto suceda a nivel nacional. [The] ¡Estados Unidos debe seguir liderando!” La cuestión de la seguridad de la IA ha permeado todos los niveles de la industria, y muchos expertos y ejecutivos destacados han abandonado OpenAI por preocupaciones sobre sus prácticas; en algunos casos, han formado empresas rivales centradas en un desarrollo cauteloso. Los gobiernos también están preocupados. Lanzada en octubre de 2023 por la Administración Biden, la AISI se formó después de que el Presidente Biden emitiera una amplia Orden Ejecutiva destinada a controlar el desarrollo de la inteligencia artificial. En febrero, la Administración Biden anunció los primeros miembros de lo que llamó el Consorcio AISI (AISIC). El AISIC incluía varias empresas de IA de alto perfil, entre ellas OpenAI, Anthropic, Google, Apple, NVIDIA, Microsoft y Amazon. La AISI estadounidense dijo que compartirá sus hallazgos de OpenAI y Anthropic con sus homólogos europeos en el Instituto de Seguridad de la IA del Reino Unido.
Boletín informativo generalmente inteligente
Un viaje de IA semanal narrado por Gen, un modelo de IA generativa.
