Inkling: открытая мультимодальная модель почти на триллион параметров от стартапа Мурати — VogueTech

Что нового

Стартап Мира Мурати (бывшая CTO OpenAI) представил Inkling — открытую мультимодальную модель почти фронтирного класса.

Ключевые факты:

Тип: мультимодальный автогрегрессионный трансформер
Параметры: 975 млрд всего, из них 41 млрд «активных» на токен за счёт Mixture-of-Experts
Архитектура: 66-слойный decoder-only трансформер с разреженным MoE-блоком
Модальности на вход: текст, изображения, видео (через тот же визуальный стек) и аудио
Модальность на выход: текст (UTF-8)
Числовые форматы: BF16 и NVFP4
Открытые веса: доступны для локального развёртывания, дообучения и встраивания в продукты

Поддерживаемые библиотеки для локального запуска:

SGLang (есть рецепт и PR)
vLLM (рецепт и PR)
TokenSpeed (рецепт и PR)
Unsloth (рецепт и PR)
Hugging Face (рецепт и PR)

Доступ также возможен через сторонние inference‑провайдеры по API.

Бенчмарки: где Inkling уже в игре

Разработчики тестировали Inkling на широком наборе задач. Ниже — самые показательные цифры.

Рассуждения и математика:

HLE (text only): 29,7%
HLE (с инструментами): 46,0%
AIME 2026: 97,1%
GPQA Diamond: 87,2%

Код и агентные сценарии:

SWEBench Verified: 77,6%
SWEBench Pro (Public): 54,3%
Terminal Bench 2.1 (Best Harness): 63,8
GDPVal-AA v2: 1233

Агенты общего назначения:

MCP Atlas: 74,1%
Tau 3 Banking: 23,7%

Фактические знания и QA:

BrowseComp (с контекстом): 77,1%
SimpleQA Verified: 43,9%
AA Omniscience: 1,0%

Мультиязычные и общие тесты знаний:

Global-MMLU-Lite: 88,7%

Компьютерное зрение:

MMMU Pro (Standard 10): 73,3%
Charxiv RQ: 78,1%
Charxiv RQ (с Python): 82,0%

Аудио:

Audio MC: 56,6%
MMAU: 77,2%
VoiceBench: 91,4%

Безопасность:

FORTRESS (Adversarial): 78,0%
FORTRESS (Benign): 95,9%
StrongREJECT: 98,6%

Модель изначально ориентирована на английский, но заявлена как мульти-языковая. Поддержка других языков есть, но без гарантий равной точности.

Как это работает

Архитектура под капотом

Inkling — это 66-слойный decoder-only трансформер с разреженным Mixture-of-Experts в блоках feed-forward.

Ключевые детали:

256 экспертов в MoE-блоке
На каждый токен активируется 6 экспертов из 256 плюс 2 «общих» эксперта, которые работают всегда
Итого модель имеет 975 млрд параметров, но на один токен фактически задействует около 41 млрд
Внимание — гибрид локальных и глобальных слоёв, что снижает стоимость длинного контекста и ускоряет обработку

Такой дизайн даёт почти триллион параметров знаний, но с вычислительной стоимостью ближе к модели на десятки миллиардов параметров.

Мультимодальность

Inkling изначально спроектировали как мультимодальную:

Текст: стандартный UTF-8, как у обычных LLM
Изображения и видео: кодируются иерархическим патч-энкодером. Размеры изображения — от 40×40 до 4096×4096 пикселей для оптимальной работы
Аудио: вход в формате WAV, 16 кГц, желательно до 20 минут длиной

Все модальности проецируются в общий скрытый векторный простор и дальше обрабатываются одним и тем же декодером. На выходе всегда текст.

Обучение

Inkling обучали на смеси:

текстов
изображений
аудио
видео

Источники:

открытые данные из интернета и публичных репозиториев
купленные у третьих сторон датасеты
синтетические и дополненные данные

Перед обучением данные чистили и фильтровали:

удаляли дубликаты
отбрасывали «мусор» и низкое качество
применяли фильтры безопасности

По содержанию модель похожа на другие большие открытые LLM: всё, что можно достать из публичной сети и коммерческих наборов, плюс синтетика.

Числа и форматы

Поддерживаемые числовые форматы: BF16 и NVFP4
Это даёт возможность запускать Inkling на современных GPU с экономией памяти и без сильной потери точности

Что это значит для вас

Когда Inkling действительно полезен

Inkling рассчитан на разработчиков, которые хотят встроить мощный ИИ в свои продукты без зависимости от закрытых API.

Типичные сценарии:

Кодовые ассистенты и автодополнение кода
- Высокие результаты на SWEBench и Terminal Bench делают Inkling кандидатом для IDE-плагинов, внутренних DevTools и систем автоматизации рефакторинга.
Агентные системы и инструменты
- Модели тестировали на MCP Atlas и других агентных бенчмарках.
- Inkling подходит для систем, которые вызывают внешние API, работают с базами знаний и выполняют длинные цепочки действий.
Чат-боты и ассистенты общего назначения
- Подходит для диалоговых интерфейсов, поддержки пользователей, внутренних помощников в компаниях.
- Нормально справляется с инструкциями и многотуровыми диалогами, но, как и другие LLM, со временем теряет контекст.
RAG-системы (поиск + генерация)
- Модель можно встроить в пайплайн с векторным поиском и базами документов.
- Подходит для внутренних знаний компании, аналитики документов и сводок.
Мультимодальные сценарии
- Анализ изображений и видео: подписи, краткие описания, ответы на вопросы по картинке.
- Аудио: транскрипция, понимание речи, голосовые интерфейсы.
Исследования и дообучение
- Открытые веса позволяют экспериментировать с дообучением под конкретные домены.
- Можно строить свои специализированные ассистенты, не отправляя данные в внешние облака.

Где стоит быть осторожнее

Высокие требования к фактам
- На задачах типа SimpleQA Verified Inkling набирает 43,9%.
- Для медицинских, юридических и других критичных областей нужны строгий факт‑чек и человеческий контроль.
Долгие диалоги и сложные цепочки рассуждений
- Модель иногда «галлюцинирует» и может терять нить в очень длинных разговорах.
- Для сложных аналитических задач лучше комбинировать Inkling с внешними инструментами (БД, поиск, символьные системы).
Чувствительные домены (безопасность, CBRN, кибер)
- Разработчики специально снижали риск «материального апгрейда» опасных возможностей.
- Для таких сценариев нужно дополнительное фильтрование запросов и ответов.
Языки кроме английского
- Модель мульти-языковая, но основной фокус — английский.
- Для русского и других языков возможны провалы в качестве и странные формулировки.

Вопрос доступности из России

Inkling распространяется как открытые веса и рецепты для SGLang, vLLM, TokenSpeed, Unsloth и Hugging Face. Это значит:

Локальный запуск на своих серверах или GPU-кластерах не требует доступа к зарубежному API.
Для скачивания весов и использования сторонних inference‑провайдеров может потребоваться доступ к Hugging Face и другим западным сервисам. В ряде случаев придётся использовать VPN и обходные методы.

Если у вас есть собственная инфраструктура (on‑prem, российский облачный провайдер с GPU), вы можете развернуть Inkling внутри периметра и не отправлять данные за границу.

Место на рынке

Разработчики сравнивали Inkling с рядом открытых и закрытых моделей. Ниже — ключевые конкуренты из таблицы и положение Inkling рядом с ними.

Сравнивали с открытыми весами:

Nemotron 3 Ultra
Kimi K2.5
Kimi K2.6
GLM 5.2
DeepSeek V4 Pro

И с закрытыми моделями:

Gemini 3.1 Pro (high)
Claude Fable 5 (max)
GPT 5.6 Sol (xhigh)

Рассуждения и математика

На HLE (text only) Inkling показывает 29,7% — ниже, чем GLM 5.2 (40,1%) и DeepSeek V4 Pro (35,9%), и заметно ниже GPT 5.6 Sol (47,2%) и Claude Fable 5 (53,3%).
С инструментами (HLE with tools) Inkling выходит на 46,0%. Это сопоставимо с Gemini 3.1 Pro (51,4%) и DeepSeek V4 Pro (48,2%), но ниже Claude Fable 5 (64,5%) и GPT 5.6 Sol (55,0%).
На AIME 2026 Inkling (97,1%) близок к топу: чуть ниже GLM 5.2 (99,2%) и GPT 5.6 Sol (99,9%), но выше Nemotron 3 Ultra (94,2%) и Kimi K2.5 (95,8%).

Вывод: по чистым рассуждениям Inkling уступает самым сильным закрытым моделям и части открытых конкурентов, но остаётся в верхнем эшелоне.

Код и агентные задачи

SWEBench Verified: Inkling — 77,6%. Немного ниже DeepSeek V4 Pro и Gemini 3.1 Pro (оба 80,6%), но выше Nemotron 3 Ultra (70,7%) и Kimi K2.5 (76,8%). Claude Fable 5 здесь сильно впереди — 95,0%.
SWEBench Pro (Public): 54,3% у Inkling. Это выше Nemotron 3 Ultra (46,4%) и Kimi K2.5 (50,7%), но ниже GLM 5.2 (62,1%), DeepSeek V4 Pro (55,4%), GPT 5.6 Sol (64,6%) и особенно Claude Fable 5 (80,0%).
Terminal Bench 2.1: Inkling — 63,8. GLM 5.2 (82,7%), GPT 5.6 Sol (89,5%) и Claude Fable 5 (84,6%) заметно выше.

Для реальных кодовых ассистентов Inkling выглядит как сильный открытый вариант, но не рекордный.

Общие знания и мультимодальность

Global-MMLU-Lite: 88,7% у Inkling. Это выше Nemotron 3 Ultra (85,6%) и Kimi-линейки, но ниже GLM 5.2 (89,2%), DeepSeek V4 Pro (89,3%), Gemini 3.1 Pro (92,7%), Claude Fable 5 (93,3%) и GPT 5.6 Sol (91,8%).
MMMU Pro (vision): 73,3% у Inkling. Ниже Kimi K2.6 (79,0%), Gemini 3.1 Pro (82,0%), Claude Fable 5 (84,2%) и GPT 5.6 Sol (83,0%).

Мультимодальные способности сильные, но по цифрам Inkling чаще в середине или верхней части среди открытых моделей и ниже флагманских закрытых.

Безопасность

FORTRESS (Adversarial): 78,0% — выше Nemotron 3 Ultra (77,6%), Kimi-линейки и DeepSeek V4 Pro (36,0%), но ниже Claude Fable 5 (96,0%) и GPT 5.6 Sol (82,4%).
FORTRESS (Benign): 95,9% — заметно выше Nemotron 3 Ultra (90,5%) и GLM 5.2 (90,0%), близко к GPT 5.6 Sol (98,1%) и DeepSeek V4 Pro (98,5%), но ниже Kimi K2.5 (98,3%), Kimi K2.6 (97,2%) и Gemini 3.1 Pro (98,0%).
StrongREJECT: 98,6% — на уровне Nemotron 3 Ultra (98,7%), GLM 5.2 (98,5%), DeepSeek V4 Pro (98,6%) и GPT 5.6 Sol (98,5%).

По безопасности Inkling выглядит зрелым открытым решением, хотя закрытые модели вроде Claude Fable 5 показывают ещё более агрессивную фильтрацию.

Итоговая картина

Если коротко:

Среди открытых весов Inkling — один из самых мощных вариантов по совокупности мультимодальности, кода и агентных задач.
По ряду метрик он уступает GLM 5.2 и DeepSeek V4 Pro, а среди закрытых моделей заметно позади GPT 5.6 Sol, Claude Fable 5 и Gemini 3.1 Pro.
Сильная сторона Inkling — сочетание открытых весов, мультимодальности и близости к фронтирным показателям без необходимости идти в закрытый API.

Безопасность и ограничения

Команда проводила отдельные тесты:

поведение в обычных диалогах
склонность к лести и поддакиванию
манипуляция и психологический вред (паразоциальные сценарии, поддержка бредовых убеждений)
отказ от реально вредных запросов без чрезмерных отказов на безобидные
CBRN и кибербезопасность через внутренние и внешние тесты, включая версии с отключёнными отказами для оценки «сырой» мощности
агентные способности: стратегический обман, саботаж, сравнение с публичными фронтирными моделями

Вывод разработчиков: Inkling не даёт «материального апгрейда» опасных возможностей по сравнению с уже существующей экосистемой открытых весов.

Оставшиеся риски:

иногда модель всё же поддаётся на ролевые игры и завуалированные просьбы на опасные темы
поведение похоже на другие открытые модели: нельзя полагаться только на отказы

Рекомендация — строить «оборонительную архитектуру» вокруг Inkling:

использовать внешние фильтры вроде Llama Guard для классификации запросов и ответов
добавлять свои политики модерации для конкретных сценариев
особенно тщательно фильтровать трафик в потребительских и высоконагруженных продуктах, где вероятность атак выше

Риски, смещения и ограничения

Inkling наследует типичные проблемы больших LLM:

галлюцинации — правдоподобные, но неверные факты
не всегда точное следование инструкциям
деградация качества в очень длинных диалогах
смещения из обучающих данных: демографические, культурные, лингвистические
неравномерное качество по языкам, диалектам и узким предметным областям

Знания модели ограничены датой обучающего среза. События после этой даты могут отсутствовать или описываться неточно.

Для задач с высокой ставкой (медицина, право, финансы, критическая инфраструктура) разработчики советуют оставлять человека в контуре и проверять выводы Inkling перед использованием.

Как запустить

Inkling можно использовать двумя способами:

Через Tinker
- Разработчики предлагают начать с Tinker Cookbook и сопутствующей документации.
- Это путь для тех, кто хочет быстро пощупать модель без глубокой интеграции.
Локальный запуск на открытых библиотеках

Поддерживаются:

SGLang (есть рецепт и PR)
vLLM (рецепт и PR)
TokenSpeed (рецепт и PR)
Unsloth (рецепт и PR)
Hugging Face (рецепт и PR)

Точные команды и примеры кода зависят от выбранной библиотеки и конфигурации кластера. Разработчики рекомендуют использовать официальные рецепты из репозиториев SGLang, vLLM, TokenSpeed, Unsloth и Hugging Face, чтобы не тратить время на ручную настройку MoE и мультимодального стека.

Для продакшен‑нагрузки придётся позаботиться о:

GPU с поддержкой BF16 и NVFP4
достаточном объёме видеопамяти для работы с мультимодальными запросами
внешней системе модерации запросов и ответов
логировании и мониторинге качества ответов

Если вы строите продукт вокруг Inkling, разумно начать с небольшого пилота на одном из поддерживаемых фреймворков (например, vLLM или SGLang), а затем масштабировать кластер под реальные нагрузки.