Recursive Flint in Claude Code, OpenCode und Cline nutzen

Nutze Recursive Flint über Ollama auf einem kompatiblen Mac, um lokales Programmieren in Claude Code, OpenCode oder Cline auszuprobieren. Wenn das Modell nicht in den Speicher deines Rechners passt, teste zunächst OpenCodes zeitlich begrenztes Hosting-Angebot mit Code ohne sensible Inhalte. Beginne mit einer klar begrenzten Aufgabe und einem eindeutigen Test. Halte dein bisheriges Cloud-Modell für Arbeiten bereit, bei denen du wiederholt nicht weiterkommst.

Die folgenden Angaben zu Verfügbarkeit und Konfiguration entsprechen dem Stand vom 2026-10-23.

Was ändert sich mit Recursive Flint?

Kalkuliere bei Flint mit vielen Modellgewichten, aber relativ wenig Rechenaufwand pro generiertem Token. Die offizielle Modellkarte nennt 39.8B Parameter insgesamt, davon etwa 2.5B pro Token aktiv, Texteingabe und Textausgabe sowie Modellgewichte unter Apache 2.0. Ein Mixture-of-Experts-Modell aktiviert für jedes Token ausgewählte Experten; die inaktiven Gewichte tragen weiterhin zum Bedarf an Festplatten- und Arbeitsspeicher bei.

Flint übernimmt das Reasoning und fordert Tool-Aufrufe an. Dein Coding-Client führt Dateizugriffe, Änderungen und Terminalbefehle aus und gibt deren Ergebnisse zurück. Bewerte Modell, Inferenzlaufzeit und Coding-Client gemeinsam.

Recursive berichtet von mehr als 125 tokens/s auf einem M4 Pro MacBook Pro und mehr als 150 tokens/s auf einem RTX Spark mit 64GB, jeweils mit der optimierten Engine bei kurzen Kontexten. Das sind vom Anbieter gemeldete Generierungsraten, keine gemessenen Zeiten bis zu einem korrekten Patch in Ollama oder Cline.

Orientiere dich am Kontextlimit, das deine Laufzeitumgebung tatsächlich konfiguriert. Die Modellkarte dokumentiert 262,144 tokens für Ein- und Ausgabe zusammen; die Ankündigung nennt bis zu 512K, empfiehlt aber, innerhalb von 256K zu bleiben. Keine dieser Angaben garantiert, dass dein Laptop das vollständige Kontextfenster bereitstellen kann.

Wie viel Speicher benötigt Flint?

Plane Speicher für Modellgewichte, Kontext-Cache, Rechenpuffer und deine anderen Anwendungen ein. Ein Download von ungefähr 23GB belegt nicht, dass Flint auf einem Rechner mit 24GB problemlos läuft.

Bereitstellung	Veröffentlichte Hardware- und Speicheranforderungen	Bedeutung für die Praxis
Recursives optimierte `rec`-Engine	M4 Pro, M5 Pro oder M5 Max; mindestens 48GB gemeinsamer Speicher; etwa 30GB freier Festplattenspeicher	Das ist die dokumentierte Mac-Anforderung für `rec`, keine allgemeingültige Mindestanforderung für Ollama.
Ollama-Paket `flint`	Aktueller Standarddownload: 23GB; Flint-Unterstützung in v0.40.8 nur unter macOS	Halte über die Paketgröße hinaus Speicher frei und prüfe den zugewiesenen Kontext.
NVIDIA NVFP4 GGUF mit kompatiblem llama.cpp/CUDA	22.9GB große Modelldatei; Recursive empfiehlt mindestens 48GB GPU-Speicher oder gemeinsamen Speicher auf Spark	RTX Spark und DGX Spark sind getestete Zielsysteme. Die Vorführung zur Veröffentlichung mit 64GB ist keine veröffentlichte Mindestanforderung.
BF16-Bundle für SGLang-Serving	Auf B300 oder H200 mit mindestens 141GB VRAM pro Replikat validiert; etwa 80GB Modellgewichte plus 50GB Container-Image	Das ist eine separate Serverbereitstellung, die über gewöhnliche Laptop-Hardware hinausgeht.

Diese Angaben stammen aus den Anforderungen für rec, dem Ollama-Modelleintrag, der offiziellen NVIDIA-Quantisierungskarte und der SGLang-Bereitstellungsanleitung.

Die Beschränkung auf macOS betrifft die Flint-Implementierung in Ollama v0.40.8, die die Unterstützung weiterer GPUs auf eine spätere Version verschiebt. NVIDIA-kompatible Modellgewichte gibt es bereits für andere Laufzeitumgebungen; ihre Verfügbarkeit belegt keine Windows-/Linux-Unterstützung für denselben Ollama-Befehl.

Flint lokal mit Ollama ausführen

Installiere oder aktualisiere Ollama, lasse den Dienst laufen und prüfe zunächst eine einfache Modellantwort, bevor du einen Coding-Client verbindest. Ollamas Mac-Installationsanleitung setzt macOS Sonoma 14 oder neuer voraus.

Führe in Bash Folgendes aus:

ollama --version
ollama run flint

Der zweite Befehl lädt das Modell bei Bedarf herunter und öffnet einen Chat. Bitte das Modell, eine kurze Funktion zu erklären, und beende anschließend diesen Chat.

Weise für Coding-Clients über die Einstellungen der Ollama-App mindestens 64K Kontext zu. Sowohl die Integrationsanleitung für Claude Code als auch die für OpenCode verlangen diese Größe. Mehr Kontext benötigt mehr Speicher. Reicht der Speicher dafür nicht aus, nutze das gehostete Angebot oder andere Hardware.

Prüfe den Server während einer laufenden Anfrage in einem anderen Terminal:

ollama ps

Kontrolliere, ob Flint erscheint, prüfe CONTEXT und sieh unter PROCESSOR nach, ob die Berechnung auf die GPU ausgelagert wird. Die Kontextdokumentation erklärt diese Felder. Ein beworbenes Maximum kann vom aktuell zugewiesenen Kontext abweichen.

Wenn kein Client eine Verbindung herstellen kann, öffne zuerst die Ollama-App und führe ollama run flint erneut aus. Fehlt Flint in der Modellliste eines Clients, führe ollama pull flint aus und aktualisiere die Liste.

Ein Coding-Tool verbinden und eine Änderung prüfen

Wähle den Client, den du bereits verwendest, und öffne ein leeres Testverzeichnis oder einen entbehrlichen Repository-Branch. Die folgenden Varianten verbinden unterschiedliche Clients mit demselben lokalen Modell.

Claude Code

Nutze Ollamas Launcher mit einem installierten Claude-Code-Client:

ollama launch claude --model flint

Der Befehl ist auf Flints Ollama-Seite veröffentlicht. Der Launcher verbindet Claude Code mit Ollamas Anthropic-kompatiblem Endpunkt. Für lokale Ollama-Inferenz gibst du keinen API-Schlüssel eines Anbieters ein.

Führe innerhalb von Claude Code /status aus, um das ausgewählte Modell und die Verbindung zu prüfen. Vergewissere dich, dass der Endpunkt lokal ist, normalerweise http://localhost:11434, und gleiche eine Anfrage mit ollama ps ab. Das Modell nach seiner eigenen Identität zu fragen, prüft nicht den tatsächlichen Verbindungsweg.

Wenn Claude Code weiterhin einen alten Endpunkt verwendet, kontrolliere ANTHROPIC_BASE_URL und zugehörige Überschreibungen für Authentifizierung und Modell in ~/.claude/settings.json, den Projekteinstellungen und deiner Shell-Konfiguration. Claude-Einstellungen können geerbte Shell-Werte überschreiben. Von deiner Organisation verwaltete Einschränkungen gelten weiterhin.

OpenCode

Starte das lokale Modell aus deinem Projektverzeichnis:

ollama launch opencode --model flint

Ollama veröffentlicht genau diesen Befehl. Prüfe in OpenCodes Modellauswahl /models, ob Ollama als aktiver Anbieter und Flint als Modell ausgewählt sind. Der gehostete Eintrag Flint 40B Free verwendet eine andere Verbindung.

Wenn OpenCode noch nicht installiert ist, nutze die aktuelle Installationsanleitung. Mit dem Launcher musst du kein JSON-Beispiel für die Anbieterkonfiguration über verschiedene OpenCode-Konfigurationsversionen hinweg aktuell halten.

Cline

Wähle Clines nativen Ollama-Anbieter:

Öffne Cline Settings und wähle Ollama.
Setze Base URL auf http://localhost:11434.
Wähle flint oder den heruntergeladenen Tag, der als flint:latest angezeigt wird.
Aktiviere Use Compact Prompt unter Settings → Features.

Das entspricht Clines Anleitung für lokale Modelle. Der native Ollama-Anbieter verwendet die oben genannte Adresse ohne /v1. Wähle den Act-Modus, wenn Cline Dateien bearbeiten und den folgenden Test ausführen soll.

Eine tatsächliche Änderung und einen Testlauf prüfen

Prüfe mit dieser kleinen Aufgabe den vollständigen Ablauf der Tool-Nutzung:

Create slugify.py with a slugify(text) function. Lowercase ASCII letters, replace each run of non-alphanumeric characters with one hyphen, and remove leading and trailing hyphens.

Create test_slugify.py using unittest. Check that "Hello, World!" becomes "hello-world", "  A__B  " becomes "a-b", and an empty string stays empty.

Run python3 -m unittest -v. Show the changed files and the actual test result. Use only the Python standard library.

Stelle sicher, dass Python 3 verfügbar ist, und genehmige die entsprechenden Datei- und Terminalaktionen. Erfolgreich ist der Durchlauf, wenn die Dateien vorhanden sind und das Tool-Protokoll einen abgeschlossenen Testbefehl mit Exit-Status 0 zeigt. Prüfe Implementierung und Tests; eine bloße Aussage, sie seien erfolgreich gewesen, reicht nicht aus.

Das ist eine vorgeschlagene Integrationsprüfung, kein Benchmark-Ergebnis. Wenn einfacher Chat funktioniert, aber Dateibearbeitung oder Befehlsausführung scheitern, prüfe zuerst Client-Berechtigungen, Kontextzuweisung und Anbieterauswahl, bevor du die Modellqualität beurteilst.

Gehostetes Flint ohne Modelldownload ausprobieren

Nutze OpenCodes kostenlosen gehosteten Eintrag, um eine Aufgabe ohne sensible Inhalte zu prüfen, bevor du lokalen Speicher oder Hardware einplanst. Wenn OpenCode installiert ist, starte opencode in Bash, gib /models ein und wähle Flint 40B Free.

Die genaue Modellkennung lautet opencode/flint-40b-free. OpenCodes Modellkatalog führt das Modell als zeitlich begrenzt kostenlos auf. Laut Startseite lassen sich die enthaltenen kostenlosen Modelle ohne Konto nutzen. Recursive beschreibt den gehosteten Zugriff als abhängig von Kapazitäts- und Ratenlimits.

Beim gehosteten Angebot bleiben die Daten nicht wie bei lokaler Inferenz auf deinem Rechner. OpenCode erklärt, dass die für Flint erhobenen Daten zur Verbesserung des Modells verwendet werden können und 30 Tage aufbewahrt werden. Nutze ein Projekt, das du an diesen Dienst senden darfst.

Wenn der kostenlose Eintrag nicht verfügbar ist, prüfe den aktuellen Katalog, statt von dauerhaft kostenlosem Zugriff auszugehen. Wähle für vertraulichen Code eine geeignete lokale Bereitstellung oder einen separat freigegebenen Anbieter.

Flint über einen OpenAI-kompatiblen GPU-Endpunkt bereitstellen

Verwende Recursives bereitgestelltes SGLang-Bundle, wenn du eine Server-API benötigst und eine unterstützte Rechenzentrums-GPU hast. Die BF16-Anleitung setzt Linux, Docker, NVIDIA Container Toolkit und einen kompatiblen Treiber voraus; eine GPU mit 80GB erfüllt die Anforderungen für ein einzelnes Replikat nicht.

Die Serving-README stellt ein Flint-Plugin und angepasste Kernel für SGLang 0.5.16 bereit. Eine Standardinstallation allein reicht nicht aus. Diese Bash-Befehle ermitteln eine Repository-Revision und halten deren Modellgewichte und Serving-Dateien zusammen:

python3 -m venv .venv-flint
source .venv-flint/bin/activate
python3 -m pip install -U huggingface_hub openai

FLINT_REV=$(python3 -c 'from huggingface_hub import HfApi; print(HfApi().model_info("RecursiveSI/flint").sha)')
hf download RecursiveSI/flint --revision "$FLINT_REV" --local-dir "flint-$FLINT_REV"
cd "flint-$FLINT_REV"
hf cache verify RecursiveSI/flint --revision "$FLINT_REV" --local-dir .
docker build -t "flint-sglang:${FLINT_REV:0:12}" sglang

Starte nach erfolgreichem Download, erfolgreicher Verifikation und erfolgreichem Build auf H200:

docker run -d --name flint --gpus '"device=0"' --ipc=host \
  -p 127.0.0.1:30000:30000 \
  -v "$PWD:/model" -e MODEL=/model \
  "flint-sglang:${FLINT_REV:0:12}" \
  bash /model/sglang/serve_h200.sh

Verwende für B300 stattdessen serve_b300.sh. Beachte die Treiberanforderungen der Bereitstellungsanleitung: normalerweise R580 oder neuer für CUDA 13. Für H200 dokumentiert sie außerdem Kompatibilität mit Treiber 570.133.20 über die Kompatibilitätsbibliotheken des Images.

Der Start läuft asynchron. Verfolge docker logs -f flint und warte, bis der Dienst bereit ist. Prüfe anschließend in einem anderen Terminal:

curl --fail --silent --show-error http://127.0.0.1:30000/health_generate

Nach einer erfolgreichen Antwort auf die Zustandsprüfung kannst du eine Anfrage senden:

curl --fail --silent --show-error \
  http://127.0.0.1:30000/v1/chat/completions \
  -H 'Content-Type: application/json' \
  -d '{
    "model": "flint",
    "messages": [
      {"role": "user", "content": "Write a Python function that merges overlapping intervals."}
    ],
    "max_tokens": 32768
  }'

Lies die Antwort aus choices[0].message.content. Die serverseitige Modell-ID lautet flint, die Basis-URL für Clients ist http://127.0.0.1:30000/v1. Diese Konfiguration hat keine API-Authentifizierung und macht den Dienst nur über Loopback erreichbar. Richte einen authentifizierten Zugriff ein, bevor du ihn anderen Rechnern zugänglich machst.

Behalte die mitgelieferte Chatvorlage und die Parser bei. Die empfohlenen Sampling-Einstellungen sind temperature 1.0, top_p 0.95 und top_k 20. Übernimm zurückgegebenes reasoning_content in nachfolgende Assistant-Nachrichten. Hat finish_reason den Wert length, kann das Reasoning das Ausgabelimit bereits vor der endgültigen Antwort oder einem Tool-Aufruf ausgeschöpft haben.

Führe für einen vollständigen Tool-Durchlauf den mitgelieferten Befehl python3 sglang/example_client.py --base-url http://127.0.0.1:30000/v1 aus dem Verzeichnis des Bundles aus. Wenn der Server beim Start keinen betriebsbereiten Zustand erreicht, prüfe die Container-Protokolle auf Treiberfehler, Speicherprobleme oder Fehler beim Laden des Bundles, bevor du die Fehlersuche beim Client beginnst.

Was sagen die Coding-Benchmarks tatsächlich aus?

Nutze die veröffentlichten Ergebnisse als Anlass, Flint an deinen eigenen Aufgaben auszuprobieren, und berücksichtige dabei die jeweiligen Evaluierungsbedingungen. Die Ergebnisse belegen keinen universellen Ersatz für Qwen oder ein größeres Cloud-Modell.

Benchmark	Recursives Ergebnis zur Flint-Veröffentlichung	Relevanter veröffentlichter Vergleich
Terminal-Bench 2.1	54.9%	Qwen3.8-27B mit dichter Architektur: 73.0% in Qwens Evaluierung
SWE-bench Verified	74.2%	Qwen3.6-35B-A3B: 73.4% in Qwens Evaluierung
SWE-bench Pro v2	89.7%	Verwende für diesen Vergleich keine älteren Pro-Werte ohne Versionsangabe.

Die Werte sind in den Modellkarten von Flint, Qwen3.8-27B und Qwen3.6-35B-A3B veröffentlicht.

Recursive verwendet Terminus 2 für Terminal-Bench und mini-swe-agent für die SWE-Benchmarks. Der Terminal-Bench-Durchlauf erlaubt Internetzugriff, wertet aber Lösungen, die durch das Abrufen vorhandener Lösungen zustande kommen, als nicht erfolgreich. Qwens veröffentlichter Vergleich belegt nicht, dass dieselbe Anpassung vorgenommen wurde; Qwen3.6 verwendet außerdem ein eigenes SWE-Agentengerüst.

Für die Einordnung von Pro v2 gibt es eine weitere Einschränkung. Das festgeschriebene Protokoll von Scale legt ein Zeitbudget von 50 Minuten pro Aufgabe und eine erneute Bewertung der Patches in unveränderten Ausgangsumgebungen fest. Recursives allgemeiner Evaluierungshinweis erlaubt Zeitlimits für Agenten von bis zu fünf Stunden, ohne die benchmarkspezifische Übereinstimmung mit diesem Protokoll zu belegen. Gib 89.7% als Recursives Ergebnis zur Veröffentlichung an, nicht als unabhängig zertifiziertes Ergebnis nach dem festgeschriebenen Protokoll.

Wenn Qwen3.6 deine Aufgaben bereits zuverlässig erledigt, ist eine veröffentlichte Differenz von 0.8 Punkten bei Verified kein ausreichender Grund für einen Wechsel. Teste Flint, wenn lokale Reaktionsgeschwindigkeit dein Engpass ist. Behalte es nur, wenn dieselbe Aufgabe mit vertretbarer Latenz und einer vertretbaren Zahl von Wiederholungsversuchen zu einem korrekten, geprüften Ergebnis führt.

Welche Aufgaben sollten lokal bleiben, und wie wechselst du zurück?

Beginne mit Flint bei einer klar begrenzten Fehlerkorrektur, einem kleinen Hilfsprogramm, gezielten Tests oder einer Code-Erklärung. Bei Änderungen über viele Teilsysteme hinweg, unklaren Fehlern oder wiederholt erfolglosen Reparaturversuchen nutze dein bewährtes größeres Modell mit den relevanten Dateien, dem fehlschlagenden Befehl und einer kurzen Zusammenfassung des bisherigen Fortschritts.

Diese Empfehlung zum Arbeitsablauf folgt Recursives Rat, komplexe Aufgaben aufzuteilen und ausdrückliche Anweisungen zu geben. Miss die Zeit bis zu erfolgreichen Tests und den Prüfaufwand. Lokale Inferenz vermeidet Tokengebühren beim Anbieter, doch Hardware, Strom und wiederholte Versuche verursachen weiterhin Kosten.

Um aus der über Ollama gestarteten Claude Code-Sitzung zurückzuwechseln, beende sie und öffne Claude Code erneut mit deiner ursprünglichen Cloud-Konfiguration. Wenn Anthropic Sonnet bereits eingerichtet ist, führe in Bash Folgendes aus:

claude --model sonnet

Prüfe /status, bevor du Code sendest. Die Modellauswahl setzt den Endpunkt nicht automatisch zurück: Dieser Befehl setzt voraus, dass du keine lokalen Überschreibungen für Endpunkt, Authentifizierung oder Modell dauerhaft gespeichert hast. Falls doch, setze die Änderungen aus dem Test auf ihre vorherigen Werte zurück und starte neu. Behalte dabei deine bestehenden Cloud-Zugangsdaten bei.

Wähle in OpenCode über /models einen bereits verbundenen Cloud-Anbieter und dessen Modell; nutze bei Bedarf zuerst /connect. Stelle in Cline unter Settings den ursprünglichen Anbieter und das ursprüngliche Modell wieder her. Prüfe dabei sowohl die Plan- als auch die Act-Konfiguration, wenn sie sich unterscheiden.

Ein lokales Modell hält nur die Inferenz lokal. Web-Tools, MCP-Server und andere Client-Integrationen können weiterhin externe Dienste kontaktieren. Prüfe diese separat, wenn Code auf deinem Rechner bleiben muss.