Yann LeCun, científico jefe de IA de Meta y ganador del Premio Turing, ha sido durante mucho tiempo una figura fundamental en la inteligencia artificial. Sin embargo, durante el año pasado, su trabajo no sólo siguió ampliando los límites de la investigación en IA, sino que también generó debates críticos sobre cómo la sociedad debería abordar las oportunidades y los riesgos que plantea esta tecnología transformadora.Nacido en 1960 en Soisy-sous-Montmorency, Francia, LeCun ha sido una fuerza impulsora en la innovación en IA. Desde ser director fundador del Centro de Ciencia de Datos de la Universidad de Nueva York en 2012 y cofundador de Meta AI en 2013, hasta dar forma al futuro de la inteligencia artificial de código abierto, la visión pragmática de LeCun lo convierte en la Persona del Año de Emerge. En el aspecto técnico, ha sido un visionario. Sólo hay un par de personas de las que realmente se puede decir eso, y él es una de ellas”, dijo Rob Fergus, profesor de Ciencias de la Computación de la Universidad de Nueva York, a Decrypt en una entrevista. “Más recientemente, su defensa del código abierto y la investigación abierta ha sido crucial para la explosión cámbrica de nuevas empresas y personas que construyen sobre estos grandes modelos de lenguaje”. Fergus es un científico informático estadounidense que se especializa en aprendizaje automático, aprendizaje profundo y modelos generativos. Profesor del Instituto Courant de la Universidad de Nueva York e investigador de Google DeepMind, cofundó Meta AI (anteriormente Facebook Artificial Intelligence Research) con Yann LeCun en septiembre de 2013. El impacto de LeCun en la IA se remonta a décadas atrás y abarca su trabajo innovador en aprendizaje automático y redes neuronales. . Ex profesor Silver de la Universidad de Nueva York, ha defendido durante mucho tiempo el aprendizaje autosupervisado, una técnica inspirada en cómo los humanos aprenden de su entorno. En 2024, esta visión impulsó avances en los sistemas de inteligencia artificial que pueden percibir, razonar y planificar con creciente sofisticación, al igual que los seres vivos. “Hubo una fase alrededor de 2015 en la que el aprendizaje por refuerzo se consideró el camino hacia la AGI. Yann hizo una analogía sencilla: el aprendizaje no supervisado es el cuerpo, el aprendizaje supervisado es la guinda y el aprendizaje reforzado es la guinda”, recordó el profesor Fergus. “Muchos se burlaron de esto en su momento, pero se ha demostrado que era correcto. Los LLM modernos se capacitan principalmente con aprendizaje no supervisado, se ajustan con un mínimo de datos supervisados y se refinan utilizando el aprendizaje por refuerzo basado en las preferencias humanas”. Ya sea desarrollando sistemas de vanguardia como los grandes modelos de lenguaje de código abierto de Meta, incluida Llama AI, o abordando la Desafíos éticos y regulatorios de la IA, LeCun se ha convertido en una figura central en el debate global sobre el papel de la inteligencia artificial. «Ha sido maravilloso verlo de cerca y ver todas las cosas increíbles que ha hecho», dijo el profesor Fergus. «Más la gente debería escucharlo”.
Regulaciones de IA
Una de las posiciones más debatidas de LeCun este año ha sido su abierta oposición a regular los modelos fundamentales de IA. «Me dijo que no cree que las regulaciones de IA sean necesarias o que no sean lo correcto», dijo a Decrypt el profesor de Matemáticas de la Universidad de Nueva York, Russel Caflisch. «Creo que es optimista y ve todas las cosas buenas que pueden surgir de la IA». Caflisch, director del Instituto Courant de Ciencias Matemáticas de la Universidad de Nueva York, conoce al profesor LeCun desde 2008 y ha sido testigo del surgimiento de la tecnología moderna. aprendizaje automático. En junio, LeCun recurrió a X para afirmar que regular los propios modelos podría sofocar la innovación e impedir el avance tecnológico. “Hacer responsables a los desarrolladores de tecnología por el mal uso de los productos creados a partir de su tecnología simplemente detener el desarrollo tecnológico”, dijo LeCun. «Sin duda, detendrá la distribución de plataformas de IA de código abierto, lo que acabará con todo el ecosistema de IA, no sólo con las empresas emergentes, sino también con la investigación académica». LeCun abogó por centrar las regulaciones en aplicaciones donde los riesgos son más específicos del contexto y manejables y ha habló en contra de la regulación de los modelos fundamentales de IA, sugiriendo que regular las aplicaciones en lugar de la tecnología subyacente sería más beneficioso. «Yann ha realizado el trabajo fundamental que ha hecho que la IA tenga éxito», dijo Caflisch. «Su importancia actual radica en ser accesible, articulado y tener una visión para hacer avanzar la IA hacia la inteligencia artificial general».
Críticas al alarmismo de la IA
LeCun se ha manifestado a la hora de contrarrestar lo que percibe como temores exagerados en torno a los peligros potenciales de la IA. “Él no cede al alarmismo y es optimista acerca de la IA, pero tampoco es un animador”, dijo Caflisch. «También ha promovido un camino para mejorar esto a través de la robótica, mediante la recopilación de datos del mundo físico». En una aparición en abril en el Lex Fridman Podcast, desestimó las predicciones catastróficas a menudo asociadas con superinteligencia descontrolada o sistemas de IA incontrolados. «Los fatalistas de la IA se imaginan todo «Hay varios tipos de escenarios de catástrofe sobre cómo la IA podría escapar o controlarnos y básicamente matarnos a todos, y eso se basa en un montón de suposiciones que en su mayoría son falsas», dijo LeCun. «La primera suposición es que el surgimiento de la superinteligencia podría ser un evento que en algún momento tendremos, descubriremos el secreto y encenderemos una máquina que sea súper inteligente, y porque Nunca lo hemos hecho antes, se apoderará del mundo y nos matará a todos. Eso es falso”. Desde el lanzamiento de ChatGPT en noviembre de 2022, el mundo ha entrado en lo que muchos llaman una carrera armamentista de IA. Gracias a un siglo de películas de Hollywood que predicen el inminente apocalipsis de los robots y ayudado por la noticia de que los desarrolladores de IA están trabajando con el gobierno de EE. UU. y sus aliados para integrar la IA en sus sistemas, muchos temen que una superinteligencia de IA se apodere del mundo. LeCun, sin embargo , no está de acuerdo con estos puntos de vista y dice que la IA más inteligente sólo tendrá el nivel de inteligencia de un animal pequeño y no la mente colmena global de Matrix.“No va a ser un evento. Tendremos sistemas que serán tan inteligentes como un gato, todos tendrán todas las características de la inteligencia a nivel humano, pero su nivel de inteligencia sería como el de un gato o un loro”, continuó LeCun. “Luego vamos a trabajar para hacer esas cosas más inteligentes. A medida que los hagamos más inteligentes, también les pondremos algunas barreras de seguridad”. En un escenario hipotético apocalíptico en el que surjan sistemas de IA no autorizados, LeCun sugirió que si los desarrolladores no pueden ponerse de acuerdo sobre cómo controlar la IA y uno se vuelve rebelde, Se podría desplegar una IA 'buena' para luchar contra los rebeldes».
Yann LeCun dice que los modelos de lenguaje de IA no pueden razonar ni planificar, ni siquiera modelos como el o1 de OpenAI; en cambio, solo realizan una recuperación inteligente y no son el camino hacia la inteligencia a nivel humano. pic.twitter.com/wQb4pVaRpX
— Zaratustra (@tsarnick) 23 de octubre de 2024
El camino a seguir para la IA
LeCun aboga por lo que él llama «IA impulsada por objetivos», donde los sistemas de IA no solo predicen secuencias o generan contenido, sino que están impulsados por objetivos y pueden comprender, predecir e interactuar con el mundo con una profundidad similar a la de los seres vivos. Este proceso implica la creación de sistemas de IA que desarrollan «modelos mundiales» (representaciones internas de cómo funcionan las cosas) que permiten el razonamiento causal y la capacidad de planificar y adaptar estrategias en tiempo real. LeCun ha sido durante mucho tiempo un defensor del aprendizaje autosupervisado como método. para hacer avanzar la IA hacia una inteligencia más autónoma y general. Imagina que la IA aprenderá a percibir, razonar y planificar en múltiples niveles de abstracción, lo que le permitiría aprender de grandes cantidades de datos sin etiquetar, de forma similar a como los humanos aprenden de su entorno. “La verdadera revolución de la IA aún no ha llegado”. Dijo LeCun durante un discurso en el Foro Global K-Ciencia y Tecnología 2024 en Seúl. «En un futuro próximo, cada una de nuestras interacciones con el mundo digital estará mediada por asistentes de IA». Las contribuciones de Yann LeCun a la IA en 2024 reflejan un impulso hacia la innovación tecnológica y la previsión pragmática. Su oposición a la regulación estricta de la IA y su rechazo a las narrativas alarmistas sobre la IA resaltan su compromiso de impulsar el campo. A medida que la IA continúa evolucionando, la influencia de LeCun garantiza que siga siendo una fuerza para el progreso tecnológico.
Boletín Generalmente Inteligente
Un viaje semanal de IA narrado por Gen, un modelo de IA generativa.
