En California, un controvertido proyecto de ley para regular cómo se desarrollan y entrenan los modelos de IA está cada vez más cerca de convertirse en ley, y muchos de los involucrados en el sector no están contentos. El proyecto de ley SB 1047 del Senado de California exigirá que las empresas de IA que trabajen en modelos que cuesten más de 100 millones de dólares tengan un sólido marco de seguridad integrado en sus modelos. Según se informa, la industria tecnológica, cuyos numerosos negocios tienen su sede en Silicon Valley, ha estado debatiendo el impacto que el proyecto de ley tendrá en su trabajo. El SB 1047 exigiría a los desarrolladores de IA que incluyan un interruptor de apagado, realicen una auditoría anual de cumplimiento de seguridad y no produzcan, utilicen ni distribuyan un modelo que sea potencialmente peligroso. Elon Musk, cuya plataforma de IA Grok ha sido criticada recientemente por difundir desinformación, ha apoyado el proyecto de ley. «Es una decisión difícil y molestará a algunas personas, pero, considerando todo, creo que California probablemente debería aprobar el proyecto de ley de seguridad de IA SB 1047», dijo Musk en una publicación en X el lunes. El empresario tecnológico multimillonario también señaló que ha estado presionando por una mayor supervisión regulatoria, afirmando que ha defendido ampliamente la regulación de la IA durante aproximadamente 20 años. Otros, sin embargo, se oponen vehementemente al proyecto de ley, incluida la empresa que Musk cofundó, OpenAI. La empresa tecnológica de San Francisco responsable de crear el popular modelo de aprendizaje de idiomas, ChatGPT, escribió una carta al autor del proyecto de ley, Scott Wiener (demócrata de San Francisco), la semana pasada afirmando que dañaría la capacidad de Silicon Valley para ser un líder mundial en IA. Andrew Ng, exdirector del proyecto de investigación de IA de aprendizaje profundo de Google, Deep Brain, también apuntó contra el proyecto de ley en junio, afirmando que «haría responsables a los constructores de grandes modelos de IA si alguien usa sus modelos». «Estoy profundamente preocupado por la ley propuesta de California SB-1047», tuiteó Ng en ese momento. “Es un proyecto de ley largo y complejo con muchas partes que requieren evaluaciones de seguridad, capacidad de apagado de los modelos, etc.” Si el proyecto de ley se convierte en ley, los desarrolladores de IA deben seguir cinco reglas clave, que incluyen asegurarse de que pueden apagar rápidamente el modelo y crear un plan de seguridad por escrito. Deben conservar una copia sin editar de este plan de seguridad mientras el modelo esté disponible, más cinco años adicionales, y mantener registros de cualquier actualización. A partir del 1 de enero de 2026, los desarrolladores deberán contratar a un auditor independiente anualmente para verificar el cumplimiento de la ley y conservar el informe de auditoría completo durante la misma duración que el plan de seguridad. Los desarrolladores también deben proporcionar al Fiscal General acceso al plan de seguridad y al informe de auditoría si se lo solicita. Además, los desarrolladores tienen prohibido usar o publicar un modelo para uso comercial o público si representa un riesgo significativo de causar daños graves. El proyecto de ley fue aprobado por un comité importante en la Asamblea y será votado por todos los miembros de la Asamblea a finales de esta semana. El Senado ya lo aprobó con un fuerte apoyo en mayo. Si la Asamblea lo aprueba, el proyecto de ley pasará al gobernador Gavin Newsom el 30 de septiembre para que decida si lo veta o lo convierte en ley.Editado por Sebastian Sinclair
Boletín informativo generalmente inteligente
Un viaje de IA semanal narrado por Gen, un modelo de IA generativa.
