15 июля Thinking Machines выложила полные веса Inkling. Новость быстро собрала 1 223 балла и 293 комментария на Hacker News, а обсуждение в r/LocalLLaMA получило 1 298 голосов. Формула звучит почти идеально: нейросеть бесплатно, с доступными весами и возможностью доработки под свою задачу.
Но в этой формуле есть цена, которую не видно на кнопке скачивания. Inkling содержит 975 млрд параметров всего, хотя при обработке запроса активирует 41 млрд. Это не делает её автоматически кандидатом на запуск на домашнем ПК. Бесплатными могут быть веса, а GPU, электричество, хостинг, время инженера и эксплуатация остаются отдельной сметой.
Главный вывод практический: выбирать нужно не между «платной» и «бесплатной» нейросетью, а между тремя способами получить нужный результат.
Платите в рублях за AI-модели без наценки на токены через provod.ai
Что именно выпустили
Inkling построена как Mixture of Experts, или MoE. В такой архитектуре на конкретном запросе работают не все параметры. Поэтому цифра 41 млрд active parameters важна для вычислений на запрос, а 975 млрд total parameters важны для хранения, загрузки и общей сложности работы с весами.
Модель принимает текст, изображения и аудио нативно, поддерживает контекст до 1 млн токенов. При этом сама Thinking Machines не называет Inkling сильнейшей моделью вообще: релиз позиционирует её как основу для кастомизации. Это существенная оговорка. Перед нами не универсальный ответ на любой запрос, а крупная база для тех, кто готов строить вокруг неё свой процесс.
Именно поэтому интерес сообщества понятен. Полные веса дают возможность исследовать поведение модели, выбирать способ запуска, адаптировать её и не зависеть только от закрытого интерфейса. Но они не отменяют инженерную часть задачи.
«Бесплатно» означает три разные вещи
Когда в поиске встречаются запросы вроде «бесплатная нейросеть» или «нейросеть онлайн бесплатно», в них могут смешиваться разные ожидания.
| Что доступно | Что это даёт | Чего это не обещает |
|---|---|---|
| Полные веса | Возможность самостоятельно запускать и адаптировать модель | Бесплатные вычисления и готовый веб-интерфейс |
| Открытый код | Возможность изучать и менять программную часть | Доступ к весам и данным обучения |
| Бесплатный API или бот | Быстрый доступ к результату | Контроль над весами, стабильные лимиты и локальный запуск |
Inkling относится к первому случаю: опубликованы полные веса. Называть это «open source» без отдельной проверки доступности кода и данных было бы неточно. А обещать нейросеть фото бесплатно в браузере тем более нельзя: нативный приём изображений не равен готовому бесплатному сервису для генерации или обработки фото.
Почему 41 млрд активных параметров не решают вопрос
Легко увидеть 41B active и сделать вывод, что запуск будет близок к обычной модели такого размера. Это и есть место, где первоначальная картина меняется.
Активные параметры описывают вычислительную нагрузку маршрутизируемой части модели во время запроса. Но прежде чем начать отвечать, система должна получить доступ к полным весам. Дальше появляются выбор точности и квантизации, память для контекста, способ обслуживания запросов, наблюдение за ошибками и обновления окружения.
Для Inkling доступны варианты запуска через Transformers, SGLang, vLLM, llama.cpp и Unsloth. Быстро появились и производные квантованные сборки в форматах GGUF и MLX. Это расширяет поле эксперимента, но не даёт одной честной цифры «сколько памяти нужно». Конфигурация зависит от точности, квантизации и конкретного сценария, а заявления о памяти и качестве надо проверять по model card автора каждой сборки.
То есть квантизация способна сделать эксперимент реалистичнее, но меняет сам объект сравнения. Нельзя заранее считать, что порт сохранит качество, безопасность и поведение исходной модели на вашем рабочем потоке.
Когда локальный запуск оправдан
Самый сильный аргумент сторонника open weights справедлив: если задача повторяется, требует глубокой адаптации и команда способна поддерживать инфраструктуру, контроль над запуском может быть ценнее простоты. Inkling прямо рассчитана на кастомизацию, а Thinking Machines показывает self-fine-tuning через Tinker.
Но это демонстрация производителя, а не гарантия удачного обучения для любой компании, датасета или метрики. Перед началом fine-tuning стоит отделить две гипотезы:
- Базовая модель уже решает задачу, и нужен только способ доступа к inference.
- Качество упирается именно в адаптацию, которую нельзя получить промптом, маршрутизацией или более подходящей моделью.
Во втором случае расходы на подготовку данных, оценку результата и повторные прогоны становятся частью решения. В первом покупка или аренда инфраструктуры ради одного эксперимента часто маскирует простую потребность: быстро и честно сравнить ответы на реальных запросах.
Таблица выбора без магии
| Вариант | Выбирать, если | Не выбирать, если |
|---|---|---|
| Локальный open-weight запуск | Нужна управляемая среда для повторяемой работы и есть компетенция её обслуживать | Целью остаётся разовая проверка гипотезы или команда не готова измерять качество портов |
| Inference по API | Нужен быстрый старт и понятная оплата за фактическое использование | Критичный сценарий требует именно самостоятельного управления весами |
| Fine-tuning на платформе | Есть проверенная задача адаптации и данные для оценки результата | Сначала нужно выяснить, решает ли базовая модель задачу без обучения |
Это не шкала «лучше-хуже». Локальный вариант покупает контроль ценой инфраструктурной ответственности. API покупает скорость ценой зависимости от внешнего доступа. Fine-tuning покупает возможность адаптации ценой экспериментов, данных и дисциплины оценки.
Сначала посчитайте один реальный поток
Вместо вопроса «можно ли запустить Inkling?» возьмите один типовой рабочий запрос: его вход, ожидаемый ответ, необходимый контекст и число повторов. Затем для каждого варианта выпишите:
- стоимость токенов или часов инфраструктуры;
- время на подготовку и поддержку;
- требования к качеству и способ проверки;
- последствия ошибки или недоступности;
- необходимость кастомизации именно на этом этапе.
Так становится видно, что «нейросеть бесплатно» может быть отличной отправной точкой для исследования, но плохой сметой для сервиса. Для первой проверки полезно сопоставить оплату inference по фактическому использованию с локальным сценарием в provod.ai, не предполагая, что Inkling уже есть в каталоге. Сравнивать стоит один и тот же workload, а не абстрактные параметры.
Парадокс Inkling в том, что открытые веса не отменяют инфраструктурных требований для практического запуска. Возможность скачать и менять модель ещё не означает, что нужный результат будет доступен в выбранной конфигурации.
Практическое правило
Не покупайте железо до ответа на три вопроса:
- Какой конкретный запрос модель должна обрабатывать лучше текущего варианта?
- Какая сборка и точность будут проверяться, а не предполагаться?
- Во сколько обойдётся полный цикл: запуск, тестирование, наблюдение и поддержка?
Если на любой вопрос пока нет ответа, начните с измерения результата на малом объёме. Если ответы есть и кастомизация действительно влияет на бизнес-задачу, open weights становятся не маркетинговым словом, а рабочим инструментом.
Что вы выберете для повторяемой задачи: платить за каждый проверенный ответ через API или инвестировать в собственный open-weight контур ради контроля и кастомизации?
provod.ai — единый AI-контур для бизнеса и команды
Рабочие пространства, отдельные аккаунты и разграничение доступа — компания централизованно управляет балансом, правами и расходами, а сотрудники не используют разрозненные личные ключи.
В одном каталоге — актуальные модели для текста и медиа: GPT от OpenAI, Claude от Anthropic, Gemini от Google, Grok от xAI, DeepSeek, Qwen, GLM, Kimi и MiniMax; для изображений — Nano Banana 2 Pro и GPT Image; для видео — последние версии Seedance, Kling, Veo и Google Omni. Также доступны модели для reasoning, поиска, документов, эмбеддингов, музыки и аудио.
Компания оплачивает запросы по ценам самих провайдеров: 1:1 и без надбавки provod.ai. Расчёты идут в рублях, для юридических лиц доступны договор, счёт и закрывающие документы.
Соберите корпоративное пространство в provod.ai: форма регистрации · цены на модели · защита данных по 152-ФЗ · реквизиты для договора