GPT-6.2 Responses API: Präfix unverändert lassen, sonst geht Reasoning verloren

Ab GPT-6.2 Astra und Sol verwirft die Responses API nachfolgende Reasoning-Elemente, sobald früherer Gesprächsverlauf geändert wird. Halten Sie das Präfix mit Append-only-Verlauf, configuration_update, additional_tools und vorangestellten developer-Nachrichten unverändert und prüfen Sie das Ergebnis mit input_transformations und Prompt Cache Diagnostics.

Inhalt
GPT-6.2 Responses API: Präfix unverändert lassen, sonst geht Reasoning verloren

Ab gpt-6.2-astra und gpt-6.2-sol verwirft die OpenAI Responses API nachfolgende Reasoning-Elemente, sobald Sie das Präfix mitten im Gespräch ändern, auf ein weniger leistungsfähiges Modell herabstufen oder Organisation beziehungsweise Endnutzer wechseln. Das betrifft alle Entwickler und Agent-Teams, deren Code frühere developer-Nachrichten umschreibt, alte Tool-Ergebnisse kürzt oder zwischen zwei Runden Top-Level-Parameter wie reasoning.effort oder tools anpasst. Stellen Sie Ihre Integration auf einen reinen Append-only-input-Verlauf um, nutzen Sie configuration_update und additional_tools für laufende Änderungen und prüfen Sie bei jeder Antwort input_transformations, um sicherzustellen, dass kein Reasoning entfernt wurde.

Den passenden Weg für GPT-6.2-Aufrufe über die Responses API wählen

GPT-6.2 Astra und Sol unterstützen Chat Completions für reine Textausgaben. Für Tool-Aufrufe brauchen Sie jedoch die Responses API, und die Steuerungen für unveränderte Präfixe (configuration_update, additional_tools und input_transformations) gibt es nur dort. Wählen Sie eine API-Route, die POST /v1/responses anbietet und zu Ihrem Zugang sowie Ihrer Abrechnung passt.

RouteVoraussetzungenAbrechnungseinheitHinweise zur Responses APIWann sinnvoll
BetterToken API-GatewayBetterToken-Konto, API Key aus der Konsole, Pay-as-you-go-Guthaben (gekauftes Guthaben wird nicht monatlich zurückgesetzt)Nach der aktuellen Abrechnungseinheit des jeweiligen Modells (für Input-, Output- und Cache-Tokens können unterschiedliche Preise und Regeln gelten); siehe aktuelle Preisehttps://www.bettertoken.ai/v1 (POST /v1/responses) führt gpt-6.2-astra und gpt-6.2-sol; prüfen Sie mit Ihrem Schlüssel zuerst den zustandslosen store: false-Replay sowie die Durchleitung von configuration_update und input_transformationsSie möchten einen einzigen Pay-as-you-go-API Key für verfügbare Modelle nutzen oder können nicht direkt über OpenAI abrechnen
Direkte OpenAI APIOpenAI-Konto in einem unterstützten Land oder Gebiet und aktive API-AbrechnungPro 1M Input-, Cached-Input-, Cache-Write- und Output-TokensDokumentiert native Unterstützung für configuration_update, input_transformations, prompt_cache_diagnostics, previous_response_id, Hintergrund-Abschlussfenster und Zero Data Retention (ZDR) auf OrganisationsebeneSie haben direkten Zugang zu OpenAI und setzen auf von OpenAI gespeicherten Zustand, ZDR oder dokumentierte Beta-Funktionen

Append-only-Replay und Präfix-Erkennung über BetterToken prüfen

BetterToken stellt eine OpenAI-kompatible API-Route unter https://www.bettertoken.ai/v1 (POST /v1/responses) bereit, die Sie mit Ihrem API Key aus der BetterToken-Konsole authentifizieren. Stand 2026-11-21 sind sowohl gpt-6.2-sol als auch gpt-6.2-astra für den Responses-Endpunkt gelistet. BetterToken ist eine Multi-Modell-Plattform und API-Zugangsschicht, kein offizielles Produkt von OpenAI. Die Responses-API-Referenz von BetterToken bestätigt nicht, ob zustandsloser Replay mit store: false und verschlüsseltem Reasoning sowie configuration_update, input_transformations oder prompt_cache_diagnostics unverändert durchgereicht werden. Führen Sie daher vor dem Produktivstart diesen kontrollierten zustandslosen Zwei-Runden-Test mit Ihrem Schlüssel aus.

Exportieren Sie Ihren BetterToken-Schlüssel in Bash ohne Ausgabe im Terminal:

read -rs BETTERTOKEN_API_KEY && export BETTERTOKEN_API_KEY

Senden Sie Runde 1 mit store: false und prüfen Sie, ob mindestens ein reasoning-Element mit encrypted_content zurückkommt. Vergleichen Sie anschließend einen zustandslosen Append-only-Replay mit einem Kontrollaufruf, bei dem ausschließlich die frühere developer-Nachricht geändert wird:

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["BETTERTOKEN_API_KEY"],
    base_url="https://www.bettertoken.ai/v1",
    timeout=120.0,
    max_retries=0,
)

model = "gpt-6.2-sol"  # Or "gpt-6.2-astra"
history = [
    {"role": "developer", "content": "You are a backend reviewer. Give concise engineering answers."},
    {"role": "user", "content": "Draft a two-step plan to add a non-blocking index on PostgreSQL."},
]

first = client.responses.create(
    model=model,
    store=False,
    reasoning={"effort": "low"},
    input=history,
)
reasoning_items = [item for item in first.output if item.type == "reasoning"]
if not reasoning_items:
    raise RuntimeError("Turn 1 returned no reasoning items; use a harder prompt or higher effort.")
if not all(getattr(item, "encrypted_content", None) for item in reasoning_items):
    raise RuntimeError("Stateless replay unverified: Turn 1 reasoning items lack encrypted_content.")

reasoning_ids = [item.id for item in reasoning_items]
first_output = [item.to_dict() for item in first.output]
follow_up = {"role": "user", "content": "List the failure modes and rollback steps for step 2."}

append_only = client.responses.create(
    model=model,
    store=False,
    reasoning={"effort": "low"},
    input=[*history, *first_output, follow_up],
)

edited_history = [{**history[0], "content": history[0]["content"] + " Be brief."}, history[1]]
edited_control = client.responses.create(
    model=model,
    store=False,
    reasoning={"effort": "low"},
    input=[*edited_history, *first_output, follow_up],
)

print("reasoning_ids:", reasoning_ids)
print("append_only:", append_only.status, getattr(append_only, "input_transformations", None))
print("edited_control:", edited_control.status, getattr(edited_control, "input_transformations", None))
print("append_only_cached_tokens:", append_only.usage.input_tokens_details.cached_tokens)

Werten Sie vor dem Einsatz vier Signale aus:

  • status == "completed" bestätigt nur, dass die Anfrage angenommen und abgeschlossen wurde. Es beweist nicht, dass das Gateway Reasoning über Runden hinweg erhalten hat.
  • Stellen Sie sicher, dass Runde 1 mit store: false eine nicht leere Liste reasoning_ids liefert und jedes Reasoning-Element encrypted_content enthält. Lässt das Gateway encrypted_content weg, gilt der zustandslose Replay als nicht verifiziert, weil Runde 2 keine verschlüsselten Reasoning-Tokens über Upstreams hinweg mitführen kann.
  • Vergleichen Sie input_transformations beider Aufrufe in Runde 2. Bei sauberer Durchleitung meldet edited_control einen prefix_mismatch-Eintrag zu einer ID aus reasoning_ids, während append_only keinen Eintrag zeigt. Ist input_transformations in beiden Läufen None oder leer, bleibt der Test ohne klares Ergebnis, da das Gateway dieses Feld möglicherweise nicht weiterreicht.
  • Testen Sie die Durchleitung von configuration_update getrennt von der Präfix-Prüfung. Eine Änderung an text.format lässt sich mit einem eigenen Aufruf in Runde 2 prüfen, der text.format auf ein striktes JSON-Schema umstellt und dessen Ausgabe Sie gegen das Schema validieren. Für eine Änderung an reasoning.effort mitten im Gespräch dokumentiert OpenAI hingegen kein Antwortfeld als Nachweis (das Feld reasoning.effort in der Antwort meldet weiterhin den Top-Level-Wert der Anfrage). Behandeln Sie configuration_update für reasoning.effort über BetterToken daher als nicht verifiziert.

Beim Prompt Caching verlangt OpenAI für GPT-5.6 und neuere Modelle ein cachefähiges Mindestpräfix von 1,024 (eintausendvierundzwanzig) sichtbaren Input-Tokens als Voraussetzung. Beobachten Sie append_only.usage.input_tokens_details.cached_tokens, sobald Ihr wiederverwendbares Präfix diese Schwelle erreicht. Prüfen Sie vor dem Hochskalieren die aktuellen Preise für gültige Modelltarife und Cache-Regeln.

Wenn Sie OpenAI stattdessen direkt aufrufen, lassen Sie base_url weg, setzen OPENAI_API_KEY und folgen dem OpenAI-Leitfaden Keep the prefix unchanged.

BetterToken-Konto erstellen

Was bei GPT-6.2 als Präfix-Änderung zählt

Das Präfix eines Reasoning-Elements ist der gesamte Gesprächsverlauf, der davor steht. Ändern Sie diesen früheren Verlauf bei GPT-6.2, verwirft die API alle Reasoning-Elemente, die nach der geänderten Stelle folgen.

OpenAI unterscheidet zwei Arten von Präfix-Änderungen:

  • Frühere input-Elemente bearbeiten: ein Tool-Ergebnis kürzen, eine developer-Nachricht umschreiben, frühere Bilder oder Dateien verkleinern oder ältere Runden durch eine Zusammenfassung ersetzen.
  • Top-Level-Parameter zwischen zwei Runden verändern: tools anpassen (hinzufügen, entfernen, neu sortieren oder Schemata und Beschreibungen ändern), text.format umstellen, reasoning.effort auf oberster Ebene ändern oder instructions bei Modellen vor GPT-6.2 verändern.

Laut dem Reasoning-Leitfaden von OpenAI greift prefix_mismatch ab GPT-6.2 immer dann, wenn Sie Inhalte vor einem Reasoning-Element einfügen oder bearbeiten. Ganze Elemente zu löschen, ohne die übrigen zu ändern, oder neue Elemente hinter einem Reasoning-Element anzuhängen, löst für sich allein kein prefix_mismatch aus. Dennoch kann das Entfernen älterer Runden die Wiederverwendung des Prompt-Caches verringern, und Prompt Cache Diagnostics meldet in diesem Fall möglicherweise input_changed.

Präfix-Änderungen sind einer von fünf Entfernungsgründen in input_transformations:

Grund (reason)Wann die API das Reasoning-Element entfernt
prefix_mismatchAb GPT-6.2 wurden Inhalte vor dem Reasoning-Element eingefügt oder bearbeitet
end_user_mismatchAb GPT-6.2 weicht safety_identifier zwischen erstellender und wiederverwendender Anfrage ab, auch wenn das Feld nur bei einer Anfrage fehlt
model_mismatchSie haben die Modellfamilie gewechselt oder innerhalb derselben Familie auf ein weniger leistungsfähiges Modell herabgestuft (ein Wechsel auf ein leistungsfähigeres Modell innerhalb derselben Familie behält kompatibles Reasoning bei, wenn die übrigen Prüfungen bestehen)
organization_mismatchSie haben ein Element aus einer anderen Organisation oder einem anderen Workspace unter einem anderen Benutzer wiederverwendet
turn_boundaryDas Element stammt aus einer früheren Runde, während das Modell nur Reasoning aus der aktuellen Runde nutzt (reasoning.context steuert diese Zulässigkeit bei unterstützten Modellen)

Was passiert, wenn Reasoning-Elemente verworfen werden

Eine Anfrage an die Responses API kann erfolgreich durchlaufen, selbst wenn Reasoning-Elemente zurückgehalten wurden. Ohne Blick in input_transformations bleibt der Verlust unbemerkt. Präfix-Änderungen mitten im Gespräch verursachen im Betrieb zwei getrennte Nachteile:

  1. Folgen von verworfenem Reasoning: Fehlen Reasoning-Elemente, muss das Modell frühere Denkschritte womöglich neu berechnen. Das kann Token-Verbrauch, Kosten und Latenz erhöhen. Kann das Modell das verlorene Reasoning nicht wiederherstellen, sinkt unter Umständen auch die Antwortqualität.
  2. Folgen eines veränderten cachefähigen Präfixes: Da Prompt Caching Anfragen vom Anfang her abgleicht, kann eine Präfix-Änderung die Cache-Wiederverwendung ab dieser Stelle einschränken und dadurch die Input-Kosten erhöhen sowie Antworten verlangsamen.

Die von OpenAI zum Stand 2026-11-21 veröffentlichten Standard-Preise (bis einschließlich 272,000 (zweihundertzweiundsiebzigtausend) Input-Tokens) zeigen, wie stark Cache-Misses ins Gewicht fallen:

  • GPT-6.2 Astra (gpt-6.2-astra): $0.40/1M für Cached Input gegenüber $8/1M für uncached Input ($10/1M für 30-Minuten-Cache-Writes, $20/1M für 12-Stunden-Cache-Writes) und $40/1M für Output.
  • GPT-6.2 Sol (gpt-6.2-sol): $0.10/1M für Cached Input gegenüber $2/1M für uncached Input ($2.50/1M für 30-Minuten-Cache-Writes, $5/1M für 12-Stunden-Cache-Writes) und $10/1M für Output.

Über 272,000 (zweihundertzweiundsiebzigtausend) Input-Tokens verdoppelt OpenAI die Input- und Cache-Preise und berechnet für Output das 1.5x des Kurz-Kontext-Tarifs auf die gesamte Anfrage. Wann sich 12-Stunden-Writes bei stabilen Präfixen lohnen, erklärt unser Leitfaden zu OpenAI 12-Stunden-Prompt-Caching.

Parameter und Kontext aktualisieren, ohne das Präfix zu brechen

Ersetzen Sie Änderungen an Ort und Stelle durch angehängte Elemente. So bleiben sowohl das Reasoning als auch das gecachte Präfix über mehrere Runden erhalten.

reasoning.effort und text.format per configuration_update umstellen

Wenn Sie reasoning.effort auf oberster Ebene ändern, kann das versteckte Systemanweisungen umschreiben. Lassen Sie auf unterstützten GPT-6- und neueren Modellen im standardmäßigen Single-Agent-Modus die Top-Level-Felder reasoning.effort und text.format unverändert. Hängen Sie stattdessen vor der nächsten Nutzernachricht ein configuration_update-Element an input an:

{
  "type": "configuration_update",
  "reasoning": {
    "effort": "high"
  },
  "text": {
    "format": {
      "type": "json_schema",
      "name": "migration_checks",
      "strict": true,
      "schema": {
        "type": "object",
        "properties": {
          "safe": { "type": "boolean" },
          "rollback_sql": { "type": "string" }
        },
        "required": ["safe", "rollback_sql"],
        "additionalProperties": false
      }
    }
  }
}

Beachten Sie beim Einsatz von configuration_update fünf Regeln:

  • Ein configuration_update bleibt über weitere Runden wirksam, bis ein weiteres Update es überschreibt. Ändern Sie nur reasoning.effort, bleibt ein früheres text.format-Update aktiv und umgekehrt.
  • Das Feld reasoning.effort im Antwortobjekt meldet weiterhin den Top-Level-Wert der Anfrage, nicht den aktualisierten Wert.
  • Übernehmen Sie Updates über previous_response_id, oder spielen Sie jedes configuration_update an seiner ursprünglichen Stelle wieder ein, wenn Sie input selbst verwalten.
  • Automatische Kürzung und der eigenständige Endpunkt /responses/compact lehnen Verläufe mit configuration_update-Elementen ab. Nutzen Sie stattdessen context_management oder compaction_trigger (siehe Abschnitt zur Komprimierung unten).
  • Sowohl gpt-6.2-astra als auch gpt-6.2-sol lehnen reasoning.effort: "none" ab. Der OpenAI-Leitfaden Using GPT-6.2 empfiehlt medium als Startwert oder low statt none beziehungsweise minimal.

Tools hinzufügen oder einschränken, ohne tools zu verändern

Lassen Sie das Top-Level-Array tools, seine Schemata und die Reihenfolge über alle Runden hinweg identisch. Passen Sie aufrufbare Tools über drei präfixsichere Muster an:

  • Setzen Sie tool_choice auf "none", um Tools für eine Runde zu deaktivieren, ohne tools zu entfernen.
  • Nutzen Sie tool_choice mit allowed_tools, um die aufrufbaren Tools für eine Runde einzugrenzen:
{
  "tool_choice": {
    "type": "allowed_tools",
    "mode": "auto",
    "tools": [
      { "type": "function", "name": "get_weather" },
      { "type": "function", "name": "search_docs" }
    ]
  }
}
  • Hängen Sie ein additional_tools-Element mit der Rolle developer an, um Tools mitten im Gespräch hinzuzufügen, oder nutzen Sie tool search mit defer_loading: true, damit gefundene Tools am Ende des Kontexts angehängt werden. Tools aus additional_tools sind erst nach diesem Element aufrufbar; spielen Sie es daher immer an seiner ursprünglichen Stelle wieder ein:
{
  "type": "additional_tools",
  "role": "developer",
  "tools": [
    {
      "type": "function",
      "name": "get_customer",
      "description": "Look up a customer by ID.",
      "parameters": {
        "type": "object",
        "properties": {
          "customer_id": { "type": "string" }
        },
        "required": ["customer_id"],
        "additionalProperties": false
      }
    }
  ]
}

Wiederverwendbare developer-Nachrichten von Top-Level-instructions trennen

Ab GPT-6.2 hängt OpenAI das Top-Level-Feld instructions hinter input an, also außerhalb der cachefähigen Grenzen. OpenAI berechnet diese Tokens bei jeder Anfrage zum uncached Input-Tarif, selbst wenn der Text unverändert bleibt. Außerdem übernimmt previous_response_id das Feld instructions nicht.

Trennen Sie Anweisungen klar nach ihrem Geltungsbereich:

  • Legen Sie wiederverwendbare System-Prompts und gemeinsame Vorgaben als developer-Nachricht an die erste Stelle von input, damit Prompt Caching sie treffen kann.
  • Hängen Sie bei Änderungen mitten im Verlauf eine neue developer-Nachricht ans Ende von input, statt die erste Nachricht zu überschreiben.
  • Nutzen Sie Top-Level-instructions ausschließlich für Hinweise, die nur für die aktuelle Anfrage gelten.

Komprimierung und lange Tool-Ausgaben richtig behandeln

Kürzen Sie lange Tool-Ausgaben und verkleinern Sie Bilder oder Dateien, bevor Sie sie zum ersten Mal ans Modell senden. Schneiden Sie ältere Elemente nicht nachträglich ab.

Jede Komprimierung ändert das Präfix, sodass Cache-Misses kaum zu vermeiden sind. Für lange Sitzungen beschreibt der Compaction-Leitfaden von OpenAI zwei Wege:

  • Automatische Komprimierung (context_management mit compact_threshold): OpenAI behält nachfolgende Reasoning-Elemente trotz des geänderten Präfixes bei. Enthalten frühere Runden configuration_update-Elemente, gibt die API direkt nach dem compaction-Element ein frisches configuration_update aus und speichert additional_tools-Deklarationen im verschlüsselten Komprimierungselement. Spielen Sie die zurückgegebenen Ausgabeelemente in der gelieferten Reihenfolge wieder ein.
  • Explizite oder eigene Komprimierung: Der eigenständige Endpunkt /responses/compact lehnt Verläufe mit configuration_update-Elementen ab. Wenn Sie /responses/compact aufrufen, lassen Sie instructions weg und geben das gelieferte Fenster in unveränderter Reihenfolge weiter. Nutzt Ihr Verlauf configuration_update, senden Sie stattdessen ein compaction_trigger-Element in /responses und hängen danach vor der nächsten Nutzernachricht ein neues configuration_update an, das jedes geänderte Feld erneut nennt. Bei einer eigenen Komprimierung setzen Sie die komprimierte Zusammenfassung ans Ende des Kontexts, statt ältere Runden direkt zu ersetzen, oder Sie nehmen verworfene Reasoning-Elemente in Kauf.

Präfix-Erhalt mit input_transformations und Prompt Cache Diagnostics prüfen

Kombinieren Sie zwei sich ergänzende Antwort-Prüfungen: Kontrollieren Sie input_transformations bei jeder Antwort auf zurückgehaltene Reasoning-Elemente. Fällt die Cache-Wiederverwendung niedriger aus als erwartet, vergleichen Sie die Anfrage über Prompt Cache Diagnostics mit einer kürzlich abgeschlossenen Antwort, um die Ursache des Cache-Misses zu finden.

1. input_transformations bei jeder Antwort prüfen

In der Create-Referenz der Responses API ist input_transformations ein optionales Array aus {id, action, reason, type}-Objekten, das zurückgehaltene Reasoning-Elemente in Eingabereihenfolge aufführt (action ist "removed" und type ist "reasoning"). Steht reason auf "prefix_mismatch", ordnen Sie die id einem Reasoning-Element aus dem output einer früheren Antwort zu, um die Änderung davor aufzuspüren.

2. Prompt Cache Diagnostics mit comparison_response_id ausführen

Wenn usage.input_tokens_details.cached_tokens niedriger ausfällt als erwartet, wählen Sie eine kürzlich abgeschlossene Antwort aus derselben Organisation, übergeben deren id in prompt_cache_options.comparison_response_id und lesen prompt_cache_diagnostics aus:

{
  "prompt_cache_diagnostics": {
    "type": "cache_miss",
    "reason": "tools_changed",
    "comparison_reusable_tokens": 5629,
    "cache_missed_tokens": 5629
  }
}

Laut dem Prompt-Cache-Diagnostics-Leitfaden von OpenAI liefert prompt_cache_diagnostics.type die Werte cache_hit, cache_miss, comparison_response_not_found oder unavailable. Bei cache_miss enthält das Objekt reason und cache_missed_tokens (geschätzte nicht wiederverwendete Tokens) sowie optional comparison_reusable_tokens (rohe Token-Zahl des wiederverwendbaren Vergleichspräfixes). Cache-Misses werden über reason eingeteilt:

  • input_changed: Ein früherer Eintrag hat sich geändert, etwa durch einen Zeitstempel oder eine Request-ID in einer developer-Nachricht oder durch bearbeitete, umsortierte oder gelöschte ältere Runden.
  • tools_changed: Tools wurden hinzugefügt, entfernt, umsortiert oder geändert.
  • reasoning_effort_changed oder text_format_changed: Top-Level-reasoning.effort oder text.format wurde geändert, statt configuration_update zu nutzen.
  • model_changed, service_tier_changed, verbosity_changed, prompt_cache_key_changed oder context_compacted: Modellwahl, Service Tier, Ausführlichkeit, Cache-Schlüssel oder Komprimierung haben sich geändert.

Behalten Sie fünf Grenzen der Diagnose im Blick: Sie setzt GPT-5.6 oder neuer sowie ein wiederverwendbares Präfix von mindestens 1,024 (eintausendvierundzwanzig) Tokens voraus; sie meldet nach bestem Bemühen nur den zuerst erkannten Grund; sie kostet keinen Aufpreis und funktioniert mit Zero Data Retention; bei stream=True lesen Sie prompt_cache_diagnostics aus event.response im Ereignis response.completed; und sie kann nicht nachweisen, ob das Modell das Reasoning tatsächlich wiederverwendet hat.

Worauf Sie bei eigenen API-Routen und Gateways achten sollten

Teams, die GPT-6.2 über eine eigene API-Basis-URL oder ein Multi-Upstream-Gateway ansprechen, sollten vier Punkte prüfen:

  1. POST /v1/responses statt Chat Completions aufrufen: GPT-6.2 Astra und Sol unterstützen Chat Completions für Text, doch Tool-Aufrufe, configuration_update, additional_tools und input_transformations verlangen die Responses API. Eine grundlegende Checkliste finden Sie in unserem Migrationsleitfaden für die GPT-6 Astra Responses API.
  2. Vollständige Append-only-input-Arrays wiedergeben, statt sich allein auf previous_response_id zu verlassen: Das Smart Routing von BetterToken leitet Anfragen an aktuell verfügbare Upstream-Kanäle weiter, und ein Modell mit mehreren konfigurierten Upstreams kann bei einem passenden Fehler oder Timeout umschalten (nicht jedes Modell hat mehrere Upstreams, nicht jeder Fehler löst ein Failover aus, und ein Erfolg ist nicht garantiert). Zustandsloser Replay vermeidet serverseitigen Zustand, der an einen einzelnen Upstream gebunden ist. In der OpenAI API ist Zero Data Retention (ZDR) eine Einstellung auf Organisationsebene für freigeschaltete Organisationen auf berechtigten Endpunkten und Funktionen und unterscheidet sich vom Parameter store: false pro Anfrage. In beiden zustandslosen Modi (store: false oder Organisation mit aktivem ZDR, bei der OpenAI store wie false behandelt) enthalten Reasoning-Elemente in output standardmäßig encrypted_content. OpenAI akzeptiert aus Kompatibilitätsgründen weiterhin das ältere include: ["reasoning.encrypted_content"], verlangt es aber nicht mehr. Spielen Sie alle gelieferten output-Elemente in ihrer Reihenfolge wieder ein, halten Sie safety_identifier über alle Runden identisch (oder lassen Sie das Feld durchgängig weg), um end_user_mismatch zu vermeiden, und überwachen Sie input_transformations auf organization_mismatch.
  3. Nicht unterstützte Sampling-Parameter weglassen: Entfernen Sie bei Responses-Aufrufen für gpt-6.2-astra und gpt-6.2-sol die Top-Level-Parameter temperature, top_p und top_logprobs, und streichen Sie aus include ausschließlich message.output_text.logprobs.
  4. Hintergrund-Abschlussfenster auf direkte OpenAI-Aufrufe beschränken: In der OpenAI Responses API unterstützen GPT-6.2 Astra und Sol kein service_tier: "flex". Für lang laufende Aufgaben direkt über die OpenAI API nutzen Sie die 2-Stunden- oder 8-Stunden-Abschlussfenster im Hintergrundmodus (Public Beta), wie in unserem Leitfaden zu completion_window in der Responses API beschrieben. Hintergrund-Abschlussfenster sind in der öffentlichen Responses-API-Dokumentation von BetterToken nicht verifiziert; prüfen Sie diese Funktion daher selbst oder routen Sie entsprechende Workloads direkt zu OpenAI.

Bereit, Ihren LLM-Workflow zu optimieren?

Verbinden Sie Modelle über eine API, verwalten Sie Schlüssel und behalten Sie KI-Kosten im Blick.

Kostenlos starten