Al ver la fuerza en los números, Apple ha dado un paso estratégico en el competitivo mercado de la inteligencia artificial al poner a disposición ocho pequeños modelos de IA. Llamadas colectivamente OpenELM, las herramientas compactas están diseñadas para ejecutarse en dispositivos y sin conexión, perfectas para teléfonos inteligentes. Publicados en la comunidad de inteligencia artificial de código abierto Hugging Face, los modelos se ofrecen en versiones de 270 millones, 450 millones, 1,1 mil millones y 3 mil millones de parámetros. . Los usuarios también pueden descargar OpenELM de Apple en versiones previamente capacitadas o ajustadas con instrucciones. Los modelos previamente entrenados proporcionan una base sobre la cual los usuarios pueden ajustar y desarrollar. Los modelos ajustados a instrucciones ya están programados para responder a instrucciones, lo que los hace más adecuados para conversaciones e interacciones con usuarios finales. Si bien Apple no ha sugerido casos de uso específicos para estos modelos, podrían aplicarse para ejecutar asistentes que puedan analizar correos electrónicos y textos, o proporcionar sugerencias inteligentes basadas en los datos. Este es un enfoque similar al adoptado por Google, que implementó su modelo Gemini AI en su línea de teléfonos inteligentes Pixel. Los modelos fueron entrenados en conjuntos de datos disponibles públicamente, y Apple comparte tanto el código de CoreNet (la biblioteca utilizada para entrenar OpenELM) como las “recetas” de sus modelos. En otras palabras, los usuarios pueden inspeccionar cómo los construyó Apple. El lanzamiento de Apple se produce poco después de que Microsoft anunciara Phi-3, una familia de modelos de lenguajes pequeños capaces de ejecutarse localmente. Phi-3 Mini, un modelo de 3.800 millones de parámetros entrenado en 3,3 billones de tokens, todavía es capaz de manejar 128.000 tokens de contexto, lo que lo hace comparable a GPT-4 y supera a Llama-3 y Mistral Large en términos de capacidad de tokens. Ser de código abierto y liviano, Phi-3 Mini podría potencialmente reemplazar a los asistentes tradicionales como Siri de Apple o Gemini de Google para algunas tareas, y Microsoft ya probó Phi-3 en un iPhone y reportó resultados satisfactorios y generaciones rápidas de tokens. Si bien Apple aún no ha integrado estos nuevos Capacidades de modelo de lenguaje de IA en sus dispositivos de consumo, se rumorea que la próxima actualización de iOS 18 incluirá nuevas funciones de IA que utilizan el procesamiento en el dispositivo para garantizar la privacidad del usuario. El hardware de Apple tiene una ventaja en el uso de la IA local, ya que combina la RAM del dispositivo con la RAM de vídeo de la GPU (o VRAM). Esto significa que una Mac con 32 GB de RAM (una configuración común en una PC) puede utilizar esa RAM como lo haría con GPU VRAM para ejecutar modelos de IA. En comparación, los dispositivos Windows están paralizados por la RAM del dispositivo y la VRAM de la GPU separadas. Los usuarios a menudo necesitan comprar una potente GPU de 32 GB para aumentar la RAM para ejecutar modelos de IA. Sin embargo, Apple va por detrás de Windows/Linux en el área de desarrollo de IA. La mayoría de las aplicaciones de IA giran en torno a hardware diseñado y construido por Nvidia, que Apple eliminó gradualmente para admitir sus propios chips. Esto significa que hay relativamente poco desarrollo de IA nativa de Apple y, como resultado, el uso de IA en productos Apple requiere capas de traducción u otros procedimientos complejos.
