El Departamento de Seguridad Nacional de EE. UU. (DHS) ha reclutado a una amplia lista de líderes de la industria de la IA para establecer la Junta de Seguridad de la Inteligencia Artificial, anunció la agencia el viernes. El DHS dice que el nuevo organismo desempeñará un papel crucial en el aprovechamiento de la inteligencia artificial para la protección de la infraestructura vital de Estados Unidos y mitigar las amenazas impulsadas por la IA. “La inteligencia artificial es una tecnología transformadora que puede promover nuestros intereses nacionales de maneras sin precedentes”, dijo el secretario de Seguridad Nacional, Alejandro Mayorkas, en una declaración preparada. «Al mismo tiempo, presenta riesgos reales que podemos mitigar adoptando mejores prácticas y tomando otras acciones concretas y estudiadas». La junta estará dirigida por Mayorkas e incluye varios ejecutivos de IA de alto perfil, incluido el director ejecutivo de OpenAI, Sam Altman, Microsoft el presidente y director ejecutivo Satya Nadella, el director ejecutivo de Alphabet, Sundar Pichai, el cofundador y director ejecutivo de Anthropic, Dario Amodei, y el presidente y director ejecutivo de NVIDIA, Jensen Huang. “Estoy agradecido de que líderes tan destacados dediquen su tiempo y experiencia a la junta directiva para ayudar a garantizar el La infraestructura crítica (los servicios vitales de los que dependen los estadounidenses todos los días) protege eficazmente contra los riesgos y aprovecha el enorme potencial de esta tecnología transformadora”, dijo Mayorkas.
El DHS recurre a algunos de los ejecutivos, tecnólogos, líderes de derechos civiles y formuladores de políticas de infraestructura crítica más destacados del mundo para unirse a la Junta inaugural de Seguridad de IA para promover el desarrollo y la implementación responsable de la IA. ⤵️ https://t.co/eF6IO8SscO pic.twitter.com/aKtAPpzVLX
— Seguridad Nacional (@DHSgov) 26 de abril de 2024
«La tecnología de IA es capaz de ofrecer inmensos beneficios a la sociedad si se implementa de manera responsable, razón por la cual hemos abogado por esfuerzos para probar la seguridad de los sistemas de IA de vanguardia para mitigar los riesgos potenciales», dijo Amodei de Anthropic en una declaración concurrente. «Estamos orgullosos de contribuir al estudio de las implicaciones de la IA en la protección de la infraestructura crítica con otros líderes de los sectores público y privado. «El despliegue seguro de la IA es fundamental para proteger la infraestructura que impulsa a la sociedad estadounidense, y creemos que la formación de esta junta es fundamental. «Un paso positivo hacia el fortalecimiento de la seguridad nacional de Estados Unidos», continuó. «La inteligencia artificial es la tecnología más transformadora de nuestro tiempo y debemos garantizar que se implemente de manera segura y responsable», añadió Nadella de Microsoft. «Microsoft se siente honrado de participar en este importante esfuerzo y espera compartir nuestros aprendizajes hasta la fecha y nuestros planes futuros». Otros que se unirán a la Junta de Seguridad de IA incluyen al director ejecutivo de Amazon Web Services, Adam Selipsky, y al presidente y director ejecutivo de IBM, Arvind Krishna. , el codirector del Stanford Human-Centered AI Institute, Fei-Fei Li, y Maya Wiley, presidenta y directora ejecutiva de la Conferencia de Liderazgo sobre Derechos Civiles y Humanos.“Es un honor para mí unirme a este grupo de líderes interdisciplinarios para gestionar este cambio mundial. tecnología de manera responsable y centrada en el ser humano”, dijo Li. «En última instancia, la IA es una herramienta, una herramienta potente, y debe desarrollarse y aplicarse comprendiendo cómo afectará al individuo, la comunidad y la sociedad en general». La junta celebrará su primera reunión trimestral a principios de mayo, según al DHS, y tendrá la tarea inmediata de proporcionar al secretario recomendaciones para garantizar la adopción segura de la tecnología de inteligencia artificial en los servicios esenciales. El objetivo es crear un foro para que el DHS, “la comunidad de infraestructura crítica”, y los líderes de la IA intercambien información sobre los riesgos de seguridad relacionados con la IA. La rápida intrusión de la inteligencia artificial en la corriente principal en 2023 dejó a los líderes mundiales luchando por desarrollar regulaciones para abordar con la nueva tecnología. En enero, el Foro Económico Mundial (WEF) incluyó la inteligencia artificial y la computación cuántica entre una lista de los riesgos globales más urgentes. Tras emitir una orden ejecutiva en octubre de 2023, la Administración Biden anunció el lanzamiento del Consorcio del Instituto de Seguridad de la IA de EE. UU. (AISIC ), que incluye muchos de los nombres que se unen a la iniciativa del DHS. Además de las preocupaciones de seguridad nacional, los desarrolladores de IA, incluidos Google, Meta y OpenAI, se unieron el martes a las organizaciones sin fines de lucro Thorn y All Tech is Human, comprometiéndose a hacer cumplir las barreras de seguridad. en torno a sus respectivos modelos de IA para evitar que se utilicen para crear material de abuso sexual infantil (CSAM). CSAM también fue el tema central de una nueva carta enviada por la senadora Elizabeth Warren al DHS y al Departamento de Justicia. Editada por Ryan Ozawa.
