IBM Granite

Модели Granite 4.0 (Micro, Tiny, Small) выпущены в публичной бета-версии с гибридной архитектурой Mamba/Transformer для эффективности и низкого потребления памяти. Открытый исходный код под лицензией Apache 2.0, с полной настраиваемостью и гибкостью развёртывания. Доступна интеграция с LangChain для Replicate, упрощающая оркестровку рабочих процессов. IBM анонсирует программу поиска уязвимостей (до $100,000) и партнёрства с EY, Lockheed Martin для корпоративного тестирования. В планах — выпуск более крупных и компактных моделей, а также вариантов с фокусом на рассуждения к концу 2025 года.

Запуск Granite 4.0 с гибридной архитектурой Mamba/Transformer, снижающей потребление GPU-памяти более чем на 70% и позволяющей развёртывание на потребительских GPU (например, NVIDIA RTX 3060). Модели обучены на 22T токенах из корпоративных данных (DataComp-LM, Wikipedia, курируемые подмножества). Семейство включает Granite 4.0 Tiny (7B гибрид, 1B активных параметров), Granite 4.0 Micro (3B плотный гибрид) и Granite 4.0 Small (30B модель с длинным контекстом). Послеобучение включает варианты с настройкой на инструкции и рассуждения ('Thinking'). Планируемые расширения: Granite 4.0 Medium (корпоративные нагрузки) и Granite 4.0 Nano (периферийные развёртывания) к концу 2025 года.

Granite 3.2 представляет экспериментальные возможности рассуждения и визуального понимания (фокус на понимании документов). Новые модели Granite Guardian 3.2 доступны на Hugging Face и watsonx.ai, с запланированной поддержкой Ollama. Модели эмбеддингов (Granite-Embedding-30M-English, Granite-Embedding-107M-Multilingual) превосходят конкурентов по скорости вывода. Запущена программа поиска уязвимостей с HackerOne (до $100,000 за найденные бреши) и открытое лицензирование.

Запуск Granite 3.1 с моделями временных рядов для долгосрочного прогнозирования (<10M параметров), оптимизированными возможностями RAG и мультимодального поиска, а также новыми моделями Granite Guardian с вербализованной уверенностью для нюансированной оценки рисков. 8B-модель показывает двузначные улучшения в бенчмарках следования инструкциям (ArenaHard, Alpaca Eval) и соперничает с более крупными моделями (Claude 3.5 Sonnet, GPT-4o) в математическом рассуждении. Уменьшенные модели Granite Guardian сохраняют производительность при сокращении размера на 30%.

Выпуск моделей Granite-Instruct, специально настроенных для приложений разговорного ИИ. Представлена новая модель с 40B параметрами для развертывания на периферии.

Модели Granite теперь поддерживают генерацию с расширением извлечения (RAG) непосредственно в watsonx.ai. Улучшена обработка входных данных с длинным контекстом (до 128 тысяч токенов).

Расширена языковая поддержка, включены японский, корейский и упрощенный китайский языки. Снижена задержка модели на 15% за счет оптимизированного вывода.

Представлена модель Granite 70B. Добавлена поддержка извлечения информации и ответов на вопросы. Улучшены возможности тонкой настройки на watsonx.ai.

Улучшена производительность в задачах суммирования. Расширенная поддержка многоязыковых входных данных (английский, испанский, французский, немецкий).

Первый релиз семейства моделей Granite (7B, 13B, 34B параметров). Ориентация на генерацию текста и следование инструкциям. Доступно через watsonx.ai.