IBM Granite

Modelos Granite 4.0 (Micro, Tiny, Small) lanzados en beta pública, con arquitectura híbrida Mamba/Transformer para eficiencia y bajo uso de memoria. Código abierto bajo Apache 2.0, con total personalización y flexibilidad de despliegue. Integración con LangChain disponible para Replicate, permitiendo una fácil orquestación de flujos de trabajo. IBM anuncia un programa de recompensas por errores (hasta $100,000) y asociaciones con EY, Lockheed Martin para pruebas empresariales. Hoja de ruta incluye modelos más grandes y pequeños, así como variantes enfocadas en razonamiento para finales de 2025.

Lanzamiento de Granite 4.0 con arquitectura híbrida Mamba/Transformer, reduciendo el consumo de memoria GPU en más del 70% y permitiendo el despliegue en GPUs de consumo (por ejemplo, NVIDIA RTX 3060). Modelos entrenados en 22T tokens de conjuntos de datos empresariales (DataComp-LM, Wikipedia, subconjuntos curados). La familia incluye Granite 4.0 Tiny (7B híbrido, 1B parámetros activos), Granite 4.0 Micro (3B híbrido denso) y Granite 4.0 Small (30B modelo de contexto largo). El post-entrenamiento incluye variantes ajustadas por instrucciones y enfocadas en razonamiento ('Thinking'). Expansiones planeadas: Granite 4.0 Medium (cargas de trabajo empresariales) y Granite 4.0 Nano (implementaciones en el borde) para finales de 2025.

Granite 3.2 introduce capacidades de razonamiento experimental y comprensión visual (enfoque en la comprensión de documentos). Nuevos modelos Granite Guardian 3.2 disponibles en Hugging Face y watsonx.ai, con soporte planeado para Ollama. Los modelos de embeddings (Granite-Embedding-30M-English, Granite-Embedding-107M-Multilingual) superan a los rivales en velocidad de inferencia. Se lanzó un programa de recompensas por errores con HackerOne (hasta $100,000 por vulnerabilidades) y licenciamiento de código abierto.

Lanzamiento de Granite 3.1 con modelos de series temporales de pronóstico a largo plazo (<10M parámetros), capacidades de RAG y recuperación multimodal optimizadas, y nuevos modelos Granite Guardian con confianza verbalizada para evaluación de riesgos matizada. El modelo de 8B logra mejoras de dos dígitos en benchmarks de seguimiento de instrucciones (ArenaHard, Alpaca Eval) y compite con modelos más grandes (Claude 3.5 Sonnet, GPT-4o) en razonamiento matemático. Los modelos Granite Guardian reducidos mantienen el rendimiento con una reducción del 30% en tamaño.

Lanzamiento de los modelos Granite-Instruct, específicamente ajustados para aplicaciones de IA conversacional. Introducción de un nuevo modelo de 40B parámetros para la implementación en el borde.

Los modelos Granite ahora admiten la generación aumentada por recuperación (RAG) de forma nativa dentro de watsonx.ai. Manejo mejorado de entradas de contexto largo (hasta 128k tokens).

Ampliación del soporte de idiomas para incluir japonés, coreano y chino simplificado. Se redujo la latencia del modelo en un 15% mediante una inferencia optimizada.

Introducción del modelo Granite 70B. Se agregó soporte para la extracción de información y la respuesta a preguntas. Capacidades de ajuste fino mejoradas en watsonx.ai.

Rendimiento mejorado en tareas de resumen. Soporte mejorado para entradas multilingües (inglés, español, francés, alemán).

Lanzamiento inicial de la familia de modelos Granite (7B, 13B, 34B parámetros). Enfoque en la generación de texto y el seguimiento de instrucciones. Disponible a través de watsonx.ai.