Recursive Flint: локальный запуск в Claude Code, OpenCode и Cline

Чтобы запустить Recursive Flint локально в Claude Code, OpenCode или Cline, начните с Ollama на совместимом Mac. Если памяти не хватает, воспользуйтесь временным бесплатным доступом к Flint в OpenCode и проверьте модель на неконфиденциальном проекте. Дайте агенту небольшую задачу с проверяемым результатом и сохраните возможность вернуться к привычной облачной модели, если Flint не справится после нескольких попыток.

Версии, настройки и условия доступа приведены по состоянию на 2026-10-23.

Что даёт Recursive Flint для локальной разработки?

Flint сочетает большой набор весов с относительно небольшим объёмом вычислений на каждый сгенерированный токен. В официальной карточке модели указаны 39.8B параметров всего и примерно 2.5B активных на токен, текстовый ввод и вывод, а также лицензия Apache 2.0 на веса. В архитектуре MoE, или «смеси экспертов», для каждого токена выбирается лишь часть экспертов; неактивные веса всё равно занимают место на диске и в памяти.

Модель формирует рассуждения и запросы на вызов инструментов. Чтение файлов, правки и команды терминала выполняет клиент, который затем передаёт результаты модели. Поэтому оценивать нужно всю связку: Flint, движок, исполняющий модель, и клиент для работы с кодом.

Recursive заявляет скорость выше 125 tokens/s на M4 Pro MacBook Pro и выше 150 tokens/s на RTX Spark с 64GB памяти при коротком контексте и использовании собственного оптимизированного движка. Это данные разработчика о скорости генерации, а не замеры времени до корректной правки в Ollama или Cline.

Ориентируйтесь на контекст, который действительно выделяет ваш движок. Карточка модели указывает 262,144 токена на вход и выход вместе; в анонсе упоминается окно до 512K с рекомендацией оставаться в пределах 256K. Ни одна из этих цифр не гарантирует, что ноутбуку хватит памяти на полное окно.

Сколько памяти нужно для Flint?

Учитывайте веса, кэш контекста, вычислительные буферы и другие приложения. Загрузка размером около 23GB не означает, что Flint будет комфортно работать на компьютере с 24GB памяти.

Вариант запуска	Опубликованные требования к оборудованию и диску	Как выбирать
Оптимизированный движок Recursive `rec`	M4 Pro, M5 Pro или M5 Max; не менее 48GB объединённой памяти; около 30GB свободного места	Это требования к `rec` на Mac, а не универсальный минимум для Ollama.
Пакет Ollama `flint`	Текущая загрузка по умолчанию — 23GB; в v0.40.8 Flint поддерживается только на macOS	Нужен запас памяти сверх размера пакета; проверяйте выделенный контекст.
NVIDIA NVFP4 GGUF с совместимой сборкой llama.cpp/CUDA	Файл модели — 22.9GB; Recursive рекомендует не менее 48GB видеопамяти либо объединённой памяти на Spark	RTX Spark и DGX Spark входят в число проверенных устройств. Демонстрация на 64GB не задаёт минимальные требования.
Серверный комплект BF16 для SGLang	Проверен на B300 или H200; не менее 141GB VRAM на экземпляр; около 80GB весов и 50GB образа контейнера	Это отдельный серверный вариант, для которого обычного ноутбука недостаточно.

Требования опубликованы в репозитории rec, каталоге моделей Ollama, официальной карточке квантованной модели для NVIDIA и руководстве по SGLang.

Ограничение macOS относится именно к реализации Flint в Ollama v0.40.8: поддержку других GPU авторы отложили до одного из последующих выпусков. Веса для NVIDIA уже доступны для других движков, но это не означает, что та же команда Ollama работает с Flint на Windows или Linux.

Как запустить Flint через Ollama

Установите или обновите Ollama, запустите его службу и сначала получите обычный ответ модели. Только после этого подключайте клиент для работы с кодом. По инструкции Ollama для Mac требуется macOS Sonoma 14 или новее.

Выполните в Bash:

ollama --version
ollama run flint

Вторая команда при необходимости скачает модель и откроет чат. Попросите объяснить короткую функцию, затем выйдите из чата.

Для работы с кодом выделите не менее 64K токенов контекста в настройках приложения Ollama. Такой размер рекомендуют руководства по подключению Claude Code и OpenCode. Чем больше контекст, тем выше расход памяти; если её не хватает, используйте облачный вариант или другое оборудование.

Пока модель обрабатывает запрос, откройте другой терминал и проверьте сервер:

ollama ps

Убедитесь, что Flint присутствует в списке. Поле CONTEXT показывает выделенный контекст, а PROCESSOR — распределение вычислений, в том числе использование GPU. Эти поля описаны в документации Ollama о контексте. Максимальное окно из карточки модели и фактически выделенное окно могут различаться.

Если ни один клиент не подключается, сначала откройте приложение Ollama и повторите ollama run flint. Если Flint отсутствует в списке моделей клиента, выполните ollama pull flint и обновите список.

Как подключить клиент и проверить правку

Выберите привычный клиент и откройте пустую папку для проверки либо отдельную временную ветку репозитория. Варианты ниже подключают одну и ту же локальную модель; проходить их все не требуется.

Claude Code

Если Claude Code уже установлен, запустите его через Ollama:

ollama launch claude --model flint

Эта команда опубликована на странице Flint в Ollama. Она направляет Claude Code на локальный адрес Ollama с API, совместимым с Anthropic. Для локальной обработки запросов в Ollama API-ключ облачного провайдера не нужен.

Внутри Claude Code выполните /status, чтобы проверить модель и подключение. Убедитесь, что запросы идут на локальный адрес, обычно http://localhost:11434, и сопоставьте обращение клиента с выводом ollama ps. Ответ модели на вопрос «как ты называешься?» не подтверждает, куда отправлен запрос.

Если Claude Code продолжает использовать прежний адрес, проверьте ANTHROPIC_BASE_URL и связанные настройки аутентификации и модели в ~/.claude/settings.json, настройках проекта и конфигурации оболочки. Настройки Claude могут перекрывать значения, унаследованные из оболочки. Ограничения, заданные администратором организации, также сохраняют силу.

OpenCode

Из каталога проекта запустите OpenCode с локальной моделью:

ollama launch opencode --model flint

Ollama публикует именно эту команду. Откройте список /models и убедитесь, что активный провайдер — Ollama, а модель — Flint. Пункт Flint 40B Free подключает облачный сервис.

Если OpenCode ещё не установлен, воспользуйтесь актуальной инструкцией по установке. Запуск через Ollama позволяет обойтись без ручного примера JSON-конфигурации провайдера, формат которой меняется между версиями OpenCode.

Cline

В Cline выберите встроенный провайдер Ollama:

Откройте Cline Settings и выберите Ollama.
Укажите Base URL: http://localhost:11434.
Выберите flint либо скачанный тег, отображающийся как flint:latest.
Включите Use Compact Prompt в разделе Settings → Features.

Это порядок из инструкции Cline по локальным моделям. Для встроенного провайдера Ollama адрес указывается без /v1. Чтобы Cline мог править файлы и запускать тест ниже, переключитесь в режим Act.

Проверка правки и запуска тестов

Дайте клиенту небольшую задачу, которая проверяет весь цикл: создание файлов, запуск команды и получение результата. В примере нужно написать функцию для преобразования строки в идентификатор с дефисами и проверить её стандартным модулем unittest:

Create slugify.py with a slugify(text) function. Lowercase ASCII letters, replace each run of non-alphanumeric characters with one hyphen, and remove leading and trailing hyphens.

Create test_slugify.py using unittest. Check that "Hello, World!" becomes "hello-world", "  A__B  " becomes "a-b", and an empty string stays empty.

Run python3 -m unittest -v. Show the changed files and the actual test result. Use only the Python standard library.

На компьютере должен быть Python 3; разрешите клиенту необходимые операции с файлами и терминалом. Проверка успешна, если файлы действительно созданы, а журнал инструментов показывает завершённую команду тестирования с кодом выхода 0. Просмотрите реализацию и тесты: текстового заявления модели «тесты прошли» недостаточно.

Это пример проверки подключения, а не результат бенчмарка Flint. Если обычный чат работает, но правки или команды не выполняются, сначала проверьте разрешения клиента, размер выделенного контекста и выбранного провайдера.

Как попробовать облачный Flint без скачивания модели

Для первой проверки на неконфиденциальной задаче используйте бесплатную облачную модель OpenCode. Это позволит оценить её до загрузки весов или покупки оборудования. В установленном OpenCode выполните opencode в Bash, введите /models и выберите Flint 40B Free.

Точный идентификатор для выбора — opencode/flint-40b-free. В каталоге OpenCode модель указана как бесплатная на ограниченное время; главная страница разрешает пользоваться включёнными бесплатными моделями без регистрации. Recursive отдельно указывает, что облачный доступ зависит от свободных ресурсов и ограничений частоты запросов.

При облачном запуске данные уходят на внешний сервис. По условиям OpenCode, данные, собранные при использовании Flint, могут применяться для улучшения модели и хранятся 30 дней. Выбирайте проект, который разрешено передавать этому сервису.

Отсутствие регистрации не гарантирует доступность облачного сервиса из любой сети в России. Для локального запуска отдельно проверьте возможность скачивания весов и приложений: возможность работы без ключа провайдера не отменяет условий доступа к сайтам, обновлениям и учётным записям в клиентских приложениях.

Если бесплатного пункта нет в списке, проверьте актуальный каталог: предложение не обещает бессрочного доступа. Для конфиденциального кода выберите подходящий локальный вариант или провайдера, которому разрешено передавать такой код.

Как поднять OpenAI-совместимый API на GPU

Используйте комплект SGLang от Recursive, если нужен собственный серверный API и есть поддерживаемый GPU для дата-центра. Для варианта BF16 нужны Linux, Docker, NVIDIA Container Toolkit и совместимый драйвер. Одного GPU с 80GB памяти для этого варианта недостаточно.

README серверного комплекта содержит плагин Flint и изменённые вычислительные ядра для SGLang 0.5.16. Обычной установки SGLang недостаточно. Команды Bash ниже фиксируют текущую ревизию репозитория и скачивают веса вместе с файлами запуска из этой же ревизии:

python3 -m venv .venv-flint
source .venv-flint/bin/activate
python3 -m pip install -U huggingface_hub openai

FLINT_REV=$(python3 -c 'from huggingface_hub import HfApi; print(HfApi().model_info("RecursiveSI/flint").sha)')
hf download RecursiveSI/flint --revision "$FLINT_REV" --local-dir "flint-$FLINT_REV"
cd "flint-$FLINT_REV"
hf cache verify RecursiveSI/flint --revision "$FLINT_REV" --local-dir .
docker build -t "flint-sglang:${FLINT_REV:0:12}" sglang

После успешного скачивания, проверки и сборки запустите контейнер на H200:

docker run -d --name flint --gpus '"device=0"' --ipc=host \
  -p 127.0.0.1:30000:30000 \
  -v "$PWD:/model" -e MODEL=/model \
  "flint-sglang:${FLINT_REV:0:12}" \
  bash /model/sglang/serve_h200.sh

Для B300 замените скрипт на serve_b300.sh. Соблюдайте требования руководства к драйверу: обычно для CUDA 13 нужен R580 или новее. Для H200 также описана работа с драйвером 570.133.20 через библиотеки совместимости внутри образа.

Сервер запускается асинхронно. Посмотрите docker logs -f flint и дождитесь готовности, затем в другом терминале проверьте:

curl --fail --silent --show-error http://127.0.0.1:30000/health_generate

После успешного ответа проверки готовности отправьте запрос:

curl --fail --silent --show-error \
  http://127.0.0.1:30000/v1/chat/completions \
  -H 'Content-Type: application/json' \
  -d '{
    "model": "flint",
    "messages": [
      {"role": "user", "content": "Write a Python function that merges overlapping intervals."}
    ],
    "max_tokens": 32768
  }'

Текст ответа находится в choices[0].message.content. Сервер использует идентификатор модели flint, базовый URL для клиента — http://127.0.0.1:30000/v1. В этом примере API работает без аутентификации и доступен только через локальный интерфейс loopback. Прежде чем открывать его другим компьютерам, добавьте аутентификацию.

Сохраните шаблон чата и парсеры ответов из комплекта. Рекомендованные параметры генерации: temperature 1.0, top_p 0.95 и top_k 20. При передаче истории диалога включайте возвращённое поле reasoning_content в соответствующие сообщения ассистента. Если finish_reason равен length, модель могла исчерпать лимит вывода на рассуждения ещё до ответа или вызова инструмента.

Чтобы проверить цикл вызова инструмента и передачи его результата модели, выполните из каталога комплекта python3 sglang/example_client.py --base-url http://127.0.0.1:30000/v1. Если сервер так и не проходит проверку готовности, сначала ищите в логах контейнера ошибки драйвера, нехватку памяти или сбой загрузки компонентов комплекта; затем переходите к диагностике клиента.

Что на самом деле показывают бенчмарки

Опубликованные баллы дают повод проверить Flint на своих задачах, если учитывать условия оценки. По ним нельзя заключить, что модель заменит любой Qwen или более крупную облачную модель.

Бенчмарк	Результат Flint, опубликованный Recursive при выпуске	Опубликованный ориентир для сравнения
Terminal-Bench 2.1	54.9%	Плотная модель Qwen3.8-27B: 73.0% по оценке Qwen
SWE-bench Verified	74.2%	Qwen3.6-35B-A3B: 73.4% по оценке Qwen
SWE-bench Pro v2	89.7%	Нельзя подставлять сюда старые результаты Pro без указания версии.

Цифры опубликованы в карточках Flint, Qwen3.8-27B и Qwen3.6-35B-A3B.

Recursive использует Terminus 2 для Terminal-Bench и mini-swe-agent для бенчмарков SWE. В её прогоне Terminal-Bench разрешён интернет, но найденные через поиск готовые решения засчитываются как неуспех. Опубликованные данные Qwen не подтверждают, что там применялось такое же правило; для SWE Qwen3.6 также использует собственную программную обвязку агента.

Для сравнения результатов Pro v2 нужно сверять условия запуска с фиксированным протоколом. Фиксированный протокол Scale предусматривает 50 минут на задачу и повторную проверку правок в чистых окружениях. Общее примечание Recursive допускает до пяти часов на агентную задачу, но из него неясно, соответствовали ли условия оценки Pro v2 этому протоколу. Поэтому 89.7% следует называть результатом, заявленным Recursive при выпуске модели, а не независимо подтверждённым результатом по фиксированному протоколу.

Если Qwen3.6 уже надёжно решает ваши задачи, опубликованная разница в 0.8 процентного пункта на Verified сама по себе не оправдывает переход. Попробуйте Flint, если текущая локальная модель отвечает слишком медленно. Оставляйте его для повседневной работы, если на той же задаче вы получаете корректный, проверенный результат за приемлемое время и без чрезмерного числа повторных попыток.

Какие задачи оставить локально и как вернуться к облаку

Начните с небольшой изолированной ошибки, утилиты, тестов для конкретного поведения или объяснения кода. Если правка затрагивает много подсистем, причина сбоя неясна или модель снова и снова безуспешно чинит одно и то же, подключите привычную более крупную модель. Передайте ей нужные файлы, падающую команду и краткое описание того, что уже сделано.

Такой порядок следует рекомендации Recursive разбивать сложную работу на части и давать явные инструкции. Считайте время до проходящих тестов и затраты на проверку кода. При локальной обработке запросов нет платы провайдеру за токены, но оборудование, электричество и повторные попытки тоже стоят ресурсов.

Чтобы вернуть Claude Code в облако, завершите сеанс, запущенный через Ollama, и заново откройте клиент с прежней облачной конфигурацией. Если у вас уже настроен доступ к Anthropic Sonnet, выполните в Bash:

claude --model sonnet

Перед отправкой кода проверьте /status. Выбор модели сам по себе не сбрасывает адрес сервера: команда предполагает, что вы не сохранили локальный адрес, аутентификацию или переопределения модели в постоянных настройках. Если сохранили, верните пробные изменения к прежним значениям и перезапустите клиент, сохранив действующие облачные учётные данные.

В OpenCode откройте /models и выберите модель уже подключённого облачного провайдера; при необходимости сначала выполните /connect. В Cline верните прежнего провайдера и модель в Settings. Если для Plan и Act настроены разные подключения, проверьте оба.

При локальном запуске запросы к самой модели обрабатываются на вашем компьютере. Веб-инструменты, серверы MCP и другие интеграции клиента могут обращаться к внешним сервисам. Если код должен оставаться на вашей машине, проверьте настройки этих инструментов и интеграций отдельно.