Inkling: El Modelo de IA de 975 Mil Millones de Parámetros
El Laboratorio de Máquinas Pensantes lanzó Inkling el 15 de julio, un modelo de código abierto entrenado desde cero, con 975 mil millones de parámetros. Este es el primer modelo importante de Mira Murati desde su salida de OpenAI en septiembre de 2024.
Características Generales
- Disponibilidad: Inkling está disponible en OpenRouter a $1 por millón de tokens de entrada y $4.05 por millón de tokens de salida.
- Compatibilidad: Es utilizable en configuraciones de Hermes y OpenClaw.
- Benchmark: Otros modelos competidores ofrecen mejores resultados a precios similares o inferiores.
Desarrollo y Lanzamiento
Mira Murati dedicó dos años a desarrollar un nuevo modelo después de dejar OpenAI, y finalmente lo presentó al público la semana pasada. Inkling es el mejor modelo de código abierto entrenado completamente por un laboratorio occidental. Los laboratorios en occidente han tenido dificultades en esta competencia, donde modelos como Qwen de Alibaba y GLM de Z.ai dominan el ranking.
Arquitectura y Capacidades Técnicas
Inkling es un modelo de mezcla de expertos con un total de 975 mil millones de parámetros, de los cuales 41 mil millones son activos durante la inferencia. Tiene la capacidad de procesar texto, imágenes y audio, soportando una ventana de contexto de 1 millón de tokens y fue preentrenado con 45 billones de tokens.
Resultados en Pruebas
Puntuaciones de Desempeño
- MCP Atlas: Inkling obtuvo un 74.1%, casi 30 puntos por encima del modelo Nemotron 3 Ultra de Nvidia.
- SWE-Bench Verified: Logró un 77.6% en la prueba de resolución de errores de GitHub, superando el 70.7% de Nemotron.
Pruebas de Usabilidad
Realizamos diversas tareas para evaluar la experiencia del usuario promedio al usar Inkling. Aunque tiene puntos fuertes, también presenta algunas limitaciones.
Codificación
Inkling mostró desafíos en pruebas complejas. Al ejecutar un prompt detallado, no produjo resultados útiles, mientras que un prompt más simple generó un juego funcional, aunque básico.
En comparación, un modelo más pequeño, Bonsai 27B, que fit en un dispositivo móvil, generó resultados más satisfactorios y completos en el mismo contexto.
Creatividad Asociativa
Se evaluaron conexiones lógicas entre conceptos aparentemente no relacionados. Inkling brilló inicialmente, estableciendo asociaciones entre un palo y la explotación proletaria, pero falló al vincular un lechuga, mostrando desconexiones en su razonamiento.
Razonamiento Lógico
Al enfrentar un problema clásico, Inkling ofreció una solución incorrecta, mejorando el desempeño en comparación con otros modelos, pero no superando el análisis lógico más allá de patrones repetidos.
Censura
El modelo presenta un fuerte sesgo de censura. Ejemplos incluyen la negativa a proporcionar consejos sobre temas sensibles, incluso en situaciones que podrían considerarse de ayuda.
Conclusiones
Inkling es un modelo destacado para laboratorios occidentales, pero presenta limitaciones en comparación con modelos más pequeños y eficientes. Aunque es útil para organizaciones que requieren cumplimiento y no pueden usar modelos de origen chino, su alto costo y métricas de rendimiento limitadas lo convierten en menos atractivo para desarrolladores que buscan modelos más accesibles y potentes.
Newsletter Diario
Comienza cada día con las principales noticias, además de características originales, un podcast, videos y más.
Descargo de responsabilidad: Los puntos de vista y opiniones expresadas en este artículo pertenecen a su autor y no necesariamente reflejan aquellas de CriptoPasion. La opinión del autor es a título informativo y en ninguna circunstancia constituye una recomendación de inversión ni asesoría financiera.
