Prepárense: el advenimiento de una IA superinteligente está cerca. Una publicación de blog escrita por el director ejecutivo de OpenAI, Sam Altman, el presidente de OpenAI, Greg Brockman, y el científico jefe de OpenAI, Ilya Sutskever, advierte que el desarrollo de la inteligencia artificial necesita una regulación estricta para evitar eventos potencialmente catastróficos. escenarios. «Ahora es un buen momento para comenzar a pensar en la gobernanza de la superinteligencia», dijo Altman, y reconoció que los futuros sistemas de IA podrían superar significativamente a AGI en términos de capacidad. “Dada la imagen tal como la vemos ahora, es concebible que dentro de los próximos diez años, los sistemas de IA superen los niveles de habilidad de los expertos en la mayoría de los dominios y lleven a cabo tanta actividad productiva como una de las corporaciones más grandes de la actualidad”. Haciéndose eco de las preocupaciones planteadas por Altman en En su reciente testimonio ante el Congreso, el trío describió tres pilares que consideraron cruciales para la planificación estratégica futura.
El punto de partida»
Primero, OpenAI cree que debe haber un equilibrio entre el control y la innovación, e impulsó un acuerdo social «que nos permita mantener la seguridad y ayudar a la integración fluida de estos sistemas con la sociedad». Luego, defendieron la idea de una «autoridad internacional». » encargado de las inspecciones del sistema, la aplicación de auditorías, las pruebas de cumplimiento de estándares de seguridad y las restricciones de implementación y seguridad. Trazando paralelismos con la Agencia Internacional de Energía Atómica, sugirieron cómo sería un organismo regulador mundial de IA. Por último, enfatizaron la necesidad de la «capacidad técnica» para mantener el control sobre la superinteligencia y mantenerla «segura». Lo que esto implica sigue siendo confuso, incluso para OpenAI, pero la publicación advirtió contra medidas regulatorias onerosas como licencias y auditorías de tecnología que caen por debajo de la barra de superinteligencia. En esencia, la idea es mantener la superinteligencia alineada con las intenciones de sus entrenadores, evitando una “escenario foom”: una explosión rápida e incontrolable de capacidades de IA que supera el control humano. OpenAI también advierte sobre el impacto potencialmente catastrófico que el desarrollo descontrolado de modelos de IA podría tener en las sociedades futuras. Otros expertos en el campo ya han planteado preocupaciones similares, desde el padrino de la IA hasta los fundadores de empresas de IA como Stability AI e incluso trabajadores anteriores de OpenAI involucrados en la capacitación del GPT LLM en el pasado. Este llamado urgente a un enfoque proactivo hacia la gobernanza y la regulación de la IA ha llamado la atención de los reguladores de todo el mundo.
El desafío de una superinteligencia “segura”
OpenAI cree que una vez que se aborden estos puntos, el potencial de la IA se puede explotar más libremente para siempre: «Esta tecnología puede mejorar nuestras sociedades, y la capacidad creativa de todos para usar estas nuevas herramientas seguramente nos sorprenderá», dijeron. Los autores también explicaron que el espacio actualmente está creciendo a un ritmo acelerado y eso no va a cambiar. «Detenerlo requeriría algo así como un régimen de vigilancia global, e incluso eso no está garantizado que funcione», se lee en el blog. A pesar de estos desafíos, el liderazgo de OpenAI sigue comprometido a explorar la pregunta: «¿Cómo podemos garantizar que la capacidad técnica para mantener segura una superinteligencia se logra?» El mundo no tiene una respuesta en este momento, pero definitivamente necesita una, una que ChatGPT no puede proporcionar.
