Por segunda vez este mes, el CEO de OpenAI, Sam Altman, fue a Washington para hablar sobre inteligencia artificial con los legisladores estadounidenses. Altman compareció ante el Comité Judicial del Senado de EE. UU. junto con Christina Montgomery, directora de privacidad y confianza de IBM, y Gary Marcus, profesor emérito de la Universidad de Nueva York. y estar a cargo de establecer estándares. «Formaría una nueva agencia que autorice cualquier esfuerzo por encima de una cierta escala de capacidades, y que pueda quitar esa licencia y garantizar el cumplimiento de los estándares de seguridad», dijo Altman, y agregó que el – La agencia debe exigir auditorías independientes de cualquier tecnología de IA. No solo de la empresa o la agencia, sino también de expertos que puedan decir que el modelo cumple o no con los umbrales estatales y de seguridad y estos porcentajes de rendimiento en la pregunta X o Y”, dijo. Si bien Altman dijo que el gobierno debería regular la tecnología, se opuso a la idea de dirigir la agencia él mismo. «Me encanta mi trabajo actual», dijo. Usando la FDA como ejemplo, el profesor Marcus dijo que debería haber una revisión de seguridad para la inteligencia artificial similar a cómo se revisan los medicamentos antes de que se les permita salir al mercado. va a presentar algo a 100 millones de personas, alguien tiene que estar pendiente de ello», agregó el profesor Marcus. La agencia, dijo, debe ser ágil y capaz de seguir lo que sucede en la industria. Revisaría previamente los proyectos y también los revisaría después de que se hayan lanzado al mundo, con la autoridad para retirar la tecnología si es necesario. «Se trata de transparencia y explicabilidad en IA», agregó Montgomery de IBM. «Necesitamos definir el uso de mayor riesgo, [and] exigir cosas como evaluaciones de impacto y transparencia, exigir a las empresas que muestren su trabajo y proteger los datos utilizados para entrenar la IA en primer lugar». Los gobiernos de todo el mundo continúan lidiando con la proliferación de la inteligencia artificial en la corriente principal. En diciembre, la Unión Europea aprobó una ley de IA para promover entornos limitados normativos establecidos por las autoridades públicas para probar la IA antes de su lanzamiento. El Parlamento escribió.En marzo, citando preocupaciones de privacidad, Italia prohibió ChatGPT de OpenAI.La prohibición se levantó en abril después de que OpenAI hizo cambios en su configuración de privacidad para permitir a los usuarios optar por no usar sus datos para entrenar el chatbot y apagar su chat. historia. «A la pregunta de si necesitamos una agencia independiente, creo que no queremos ralentizar la regulación para abordar los riesgos reales en este momento», continuó Montgomery, y agregó que ya existen autoridades reguladoras que pueden regular en sus respectivos dominios. Reconoció que esos organismos reguladores no cuentan con los recursos necesarios y carecen de los poderes necesarios. «La IA debe regularse en el punto de riesgo, esencialmente», dijo Montgomery. «Y ese es el punto en el que la tecnología se encuentra con la sociedad».
