Reflexiones sobre la Inteligencia Artificial General según Shaw Walters de Eliza Labs
AGI: La Nueva Frontera de la IA
Shaw Walters, CEO de Eliza Labs, afirma que los sistemas de IA actuales ya cumplen con su definición de Inteligencia Artificial General (AGI). Según él, los agentes autónomos traen consigo serios riesgos de seguridad, como la inyección de comandos y compromisos de carteras digitales.
Definición de AGI
La AGI, término acuñado en 1997 y popularizado por investigadores como Ben Goertzel, se refiere a una forma teórica de IA diseñada para igualar o superar las capacidades cognitivas humanas en diversas tareas. Walters sostiene que, en lugar de emerger como un sistema dominante, la AGI existirá en múltiples variantes.
Experiencia de Shaw Walters en el Desarrollo de IA
Walters inició su trabajo en agentes de IA durante la era de GPT-3, cuando la salida estructurada era poco confiable. «Sentía que estaba colocando ruedas de entrenamiento a un bebé», comentó, refiriéndose a la dificultad del proceso.
Avances con GPT-4
Con la llegada de GPT-4 en 2023, Walters experimentó una mejora en la calidad de las respuestas. Esto le permitió avanzar desde un funcionamiento limitado a la creación de agentes funcionales.
La Evolución de los Agentes de IA
Los agentes de IA han pasado de ser chatbots experimentales a sistemas persistentes en plataformas de criptomonedas y consumo. Ejemplos de esta proliferación incluyen:
- OpenClaw, que alcanzó aproximadamente 147,000 estrellas en GitHub, dando origen a proyectos como Moltbook.
- Coinbase con su lanzamiento de «Agentes Wallets» en Base.
- Fetch.ai, cuyos agentes pueden realizar compras usando la infraestructura de Visa.
Desafíos de Seguridad en la Era de la AGI
A medida que los agentes de IA han adquirido acceso root y control sobre carteras, Walters expresa profundas preocupaciones de seguridad. La emoción inicial ha quedado eclipsada por la posibilidad de errores humanos en sistemas que empiezan a comportarse de forma menos predecible.
El Comportamiento Humano de la IA
Walters advierte que, a medida que la IA avanza hacia la AGI, se comporta más como un humano falible que como una máquina predecible. «No hay forma de construir un sistema súper seguro que evite que hagan algo tonto», enfatiza.
Suscríbete a Nuestro Boletín
Comienza cada día con las noticias más relevantes, características originales, podcasts, videos y más.
Descargo de responsabilidad: Los puntos de vista y opiniones expresadas en este artículo pertenecen a su autor y no necesariamente reflejan aquellas de CriptoPasion. La opinión del autor es a título informativo y en ninguna circunstancia constituye una recomendación de inversión ni asesoría financiera.
