GPT-6.2 Responses API: no edites el prefijo o pierdes razonamiento

A partir de GPT-6.2 Astra y Sol, editar el historial previo en la Responses API descarta los elementos de razonamiento posteriores. Mantén el prefijo sin cambios con turnos append-only, configuration_update, additional_tools e instrucciones en el primer mensaje developer, y verifícalo con input_transformations y Prompt Cache Diagnostics.

Índice
GPT-6.2 Responses API: no edites el prefijo o pierdes razonamiento

A partir de gpt-6.2-astra y gpt-6.2-sol, la OpenAI Responses API descarta los elementos de razonamiento después de editar el prefijo a mitad de conversación, degradar el modelo o cambiar de organización o usuario final. Esto afecta a todo desarrollador y equipo de agentes cuyo código reescribe mensajes developer anteriores, recorta resultados de herramientas pasados o modifica parámetros de nivel superior como reasoning.effort o tools entre turnos. Migra tu integración a un historial input solo de anexión (append-only), usa configuration_update y additional_tools para cambios en medio del hilo, y revisa input_transformations en cada respuesta para confirmar que no se eliminó razonamiento.

Elige una ruta para las llamadas GPT-6.2 en Responses API

GPT-6.2 Astra y Sol admiten Chat Completions para texto, pero las llamadas a herramientas exigen la Responses API, y los controles de preservación del prefijo (configuration_update, additional_tools e input_transformations) son funciones de la Responses API. Elige una ruta de API que exponga POST /v1/responses y encaje con tu acceso y tu facturación.

RutaRequisitosUnidad de facturaciónNotas de Responses APICuándo elegirla
Pasarela API BetterTokenCuenta de BetterToken, API Key de la consola y saldo de pago por uso (el saldo pagado no se reinicia cada mes)Según la unidad de facturación vigente del modelo (los tokens de entrada, salida y caché pueden tener precios y reglas distintos); consulta precios actualeshttps://www.bettertoken.ai/v1 (POST /v1/responses) incluye gpt-6.2-astra y gpt-6.2-sol; verifica primero en tu clave la reproducción sin estado con store: false y el reenvío de configuration_update e input_transformationsCuando quieres una sola API Key de pago por uso para los modelos disponibles o no puedes usar la facturación directa de OpenAI
OpenAI API directaCuenta de OpenAI en un país o territorio compatible y facturación de APIPor cada 1M de tokens de entrada, entrada en caché, escritura en caché y salidaDocumenta soporte nativo para configuration_update, input_transformations, prompt_cache_diagnostics, previous_response_id, ventanas de finalización en segundo plano y Zero Data Retention (ZDR) a nivel de organizaciónCuando tienes acceso directo a OpenAI y dependes del estado alojado en OpenAI, ZDR o funciones beta documentadas

Verifica la reproducción append-only y la detección de prefijo en BetterToken

BetterToken ofrece una ruta de API compatible con OpenAI en https://www.bettertoken.ai/v1 (POST /v1/responses), autenticada con tu API Key de la consola de BetterToken. A fecha de 2026-11-21, tanto gpt-6.2-sol como gpt-6.2-astra figuran en el endpoint de Responses. BetterToken es una plataforma multimodelo y capa de acceso API, no un producto oficial de OpenAI. Su referencia de la Responses API no verifica el reenvío transparente de la reproducción cifrada sin estado con store: false, configuration_update, input_transformations ni prompt_cache_diagnostics. Ejecuta esta comprobación controlada de dos turnos sin estado con tu clave antes de pasar a producción.

Exporta tu clave de BetterToken en Bash sin imprimirla en pantalla:

read -rs BETTERTOKEN_API_KEY && export BETTERTOKEN_API_KEY

Envía el turno 1 con store: false, confirma que devuelve al menos un elemento reasoning con encrypted_content y compara una reproducción sin estado append-only frente a un control con prefijo editado donde el único cambio es el mensaje developer anterior:

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["BETTERTOKEN_API_KEY"],
    base_url="https://www.bettertoken.ai/v1",
    timeout=120.0,
    max_retries=0,
)

model = "gpt-6.2-sol"  # Or "gpt-6.2-astra"
history = [
    {"role": "developer", "content": "You are a backend reviewer. Give concise engineering answers."},
    {"role": "user", "content": "Draft a two-step plan to add a non-blocking index on PostgreSQL."},
]

first = client.responses.create(
    model=model,
    store=False,
    reasoning={"effort": "low"},
    input=history,
)
reasoning_items = [item for item in first.output if item.type == "reasoning"]
if not reasoning_items:
    raise RuntimeError("Turn 1 returned no reasoning items; use a harder prompt or higher effort.")
if not all(getattr(item, "encrypted_content", None) for item in reasoning_items):
    raise RuntimeError("Stateless replay unverified: Turn 1 reasoning items lack encrypted_content.")

reasoning_ids = [item.id for item in reasoning_items]
first_output = [item.to_dict() for item in first.output]
follow_up = {"role": "user", "content": "List the failure modes and rollback steps for step 2."}

append_only = client.responses.create(
    model=model,
    store=False,
    reasoning={"effort": "low"},
    input=[*history, *first_output, follow_up],
)

edited_history = [{**history[0], "content": history[0]["content"] + " Be brief."}, history[1]]
edited_control = client.responses.create(
    model=model,
    store=False,
    reasoning={"effort": "low"},
    input=[*edited_history, *first_output, follow_up],
)

print("reasoning_ids:", reasoning_ids)
print("append_only:", append_only.status, getattr(append_only, "input_transformations", None))
print("edited_control:", edited_control.status, getattr(edited_control, "input_transformations", None))
print("append_only_cached_tokens:", append_only.usage.input_tokens_details.cached_tokens)

Revisa cuatro señales antes de desplegar:

  • status == "completed" solo confirma que la solicitud se aceptó y finalizó. No demuestra que la pasarela haya conservado el razonamiento entre turnos.
  • Confirma que el turno 1 con store: false devuelve reasoning_ids no vacío y que cada elemento de razonamiento incluye encrypted_content. Si la pasarela omite encrypted_content, considera la reproducción sin estado como no verificada, porque el turno 2 no puede trasladar tokens de razonamiento cifrados entre distintos orígenes (upstreams).
  • Compara input_transformations en ambas llamadas del turno 2. Un reenvío verificado muestra una entrada prefix_mismatch que coincide con un ID de reasoning_ids en edited_control y ninguna en append_only. Si input_transformations es None o está vacío en las dos ejecuciones, toma la prueba como no concluyente porque la pasarela podría no reenviar ese campo.
  • Prueba el reenvío de configuration_update por separado de la prueba de prefijo. Puedes validar un cambio de text.format enviando otra solicitud de turno 2 que cambie text.format a un esquema JSON estricto y comprobando si la salida respeta ese esquema. OpenAI no documenta ningún campo en la respuesta que confirme una actualización de reasoning.effort a mitad del hilo (el campo reasoning.effort de la respuesta sigue informando el valor de nivel de solicitud), así que considera no verificado el uso de configuration_update para reasoning.effort mediante BetterToken.

Para el almacenamiento en caché de prompts, OpenAI fija un prefijo mínimo almacenable de 1,024 tokens de entrada visibles en GPT-5.6 y modelos posteriores como condición de elegibilidad. Observa append_only.usage.input_tokens_details.cached_tokens para medir la reutilización real una vez que tu prefijo reutilizable alcance ese umbral. Consulta los precios actuales y las reglas de caché antes de escalar.

Si llamas directamente a OpenAI, omite base_url, usa OPENAI_API_KEY y sigue la guía Keep the prefix unchanged de OpenAI.

Crear una cuenta en BetterToken

Qué cuenta como un cambio de prefijo en GPT-6.2

El prefijo de un elemento de razonamiento es el historial de conversación renderizado antes de ese elemento. En GPT-6.2, modificar ese historial anterior provoca que la API descarte los elementos de razonamiento que aparecen después de la edición.

OpenAI documenta dos categorías de cambios de prefijo:

  • Editar elementos anteriores de input: acortar el resultado de una herramienta, reescribir un mensaje developer, reducir el tamaño de imágenes o archivos previos, o sustituir turnos antiguos por un resumen.
  • Modificar parámetros de nivel de solicitud entre turnos: actualizar tools (añadir, quitar, reordenar o editar esquemas y descripciones), cambiar text.format, cambiar el reasoning.effort de nivel superior o alterar instructions en modelos anteriores a GPT-6.2.

En la guía de Reasoning de OpenAI, prefix_mismatch se dispara en GPT-6.2 y versiones posteriores cuando insertas o editas contenido antes de un elemento de razonamiento. Eliminar elementos completos sin editar los restantes, o añadir elementos nuevos después del elemento de razonamiento, no dispara por sí solo prefix_mismatch. Sin embargo, quitar turnos antiguos puede reducir la reutilización de la caché de prompts, y Prompt Cache Diagnostics puede informar input_changed cuando ese cambio impide la reutilización.

Las ediciones de prefijo son una de las cinco causas de eliminación registradas en input_transformations:

reason de eliminaciónCuándo elimina la API el elemento de razonamiento
prefix_mismatchEn GPT-6.2 y posteriores, se insertó o editó contenido antes del elemento de razonamiento
end_user_mismatchEn GPT-6.2 y posteriores, safety_identifier difiere entre la solicitud que creó el elemento y la que lo reutiliza, incluso si se omite en solo una de ellas
model_mismatchCambiaste de familia de modelos o bajaste a un modelo menos capaz dentro de la misma familia (subir dentro de la misma familia conserva el razonamiento compatible si pasan las demás comprobaciones)
organization_mismatchReutilizaste un elemento de otra organización o de un espacio de trabajo distinto bajo otro usuario
turn_boundaryEl elemento proviene de un turno anterior cuando el modelo solo usa razonamiento del turno actual (reasoning.context controla la elegibilidad en los modelos compatibles)

Qué ocurre cuando se descartan elementos de razonamiento

Una solicitud a la Responses API puede completarse aunque se retengan elementos de razonamiento, por lo que esta pérdida pasa desapercibida salvo que inspecciones input_transformations en la respuesta. Editar el prefijo en mitad de la conversación produce dos penalizaciones independientes en producción:

  1. Impacto del razonamiento descartado: cuando se eliminan elementos de razonamiento, el modelo puede tener que rehacer razonamientos previos, lo que puede aumentar el consumo de tokens, el coste y la latencia. Si el modelo no logra recuperar ese razonamiento, la calidad de la salida también puede bajar.
  2. Impacto al romper el prefijo almacenable en caché: como la caché de prompts compara las solicitudes desde el principio, editar el prefijo puede interrumpir la reutilización desde ese punto en adelante, lo que puede elevar los costes de entrada y ralentizar las respuestas.

Las tarifas Standard publicadas por OpenAI a fecha de 2026-11-21 (para 272,000 tokens de entrada o menos) muestran el coste que pueden acumular los fallos de caché:

  • GPT-6.2 Astra (gpt-6.2-astra): $0.40/1M de entrada en caché frente a $8/1M sin caché ($10/1M por escritura en caché de 30 minutos, $20/1M por escritura de 12 horas) y $40/1M de salida.
  • GPT-6.2 Sol (gpt-6.2-sol): $0.10/1M de entrada en caché frente a $2/1M sin caché ($2.50/1M por escritura en caché de 30 minutos, $5/1M por escritura de 12 horas) y $10/1M de salida.

Por encima de 272,000 tokens de entrada, OpenAI duplica las tarifas de entrada y caché y cobra 1.5x la tarifa de salida de contexto corto por toda la solicitud. Para decidir cuándo compensan las escrituras de 12 horas en prefijos estables, consulta nuestra guía sobre caché de prompts de 12 horas en OpenAI.

Actualiza parámetros y contexto sin romper el prefijo

Sustituye las ediciones sobre el historial existente por elementos anexados al final para que el razonamiento y los prefijos en caché sobrevivan entre turnos.

Cambia reasoning.effort y text.format con configuration_update

Modificar el reasoning.effort de nivel superior puede reescribir instrucciones ocultas del sistema. En modelos GPT-6 y posteriores compatibles en modo estándar de un solo agente, mantén sin cambios reasoning.effort y text.format en la solicitud y añade un elemento configuration_update a input antes del siguiente mensaje del usuario:

{
  "type": "configuration_update",
  "reasoning": {
    "effort": "high"
  },
  "text": {
    "format": {
      "type": "json_schema",
      "name": "migration_checks",
      "strict": true,
      "schema": {
        "type": "object",
        "properties": {
          "safe": { "type": "boolean" },
          "rollback_sql": { "type": "string" }
        },
        "required": ["safe", "rollback_sql"],
        "additionalProperties": false
      }
    }
  }
}

Sigue cinco reglas al usar configuration_update:

  • Un configuration_update sigue vigente en los turnos sucesivos hasta que otra actualización lo sustituye. Cambiar solo reasoning.effort conserva un cambio previo de text.format, y viceversa.
  • El campo reasoning.effort del objeto de respuesta sigue mostrando el valor superior de la solicitud, no el esfuerzo actualizado.
  • Propaga las actualizaciones con previous_response_id o vuelve a enviar cada configuration_update en su posición original si gestionas input manualmente.
  • El truncado automático y el endpoint independiente /responses/compact rechazan historiales con elementos configuration_update. Usa context_management o compaction_trigger en su lugar (consulta la sección de compactación abajo).
  • Tanto gpt-6.2-astra como gpt-6.2-sol rechazan reasoning.effort: "none". La guía Using GPT-6.2 de OpenAI recomienda empezar con medium, o usar low en lugar de none o minimal.

Añade o restringe herramientas sin mutar tools

Mantén intactos entre turnos el arreglo tools, los esquemas y su orden en la solicitud. Ajusta las herramientas invocables mediante tres patrones seguros para el prefijo:

  • Establece tool_choice en "none" para desactivar herramientas durante un turno sin quitar tools.
  • Usa tool_choice con allowed_tools para limitar qué herramientas pueden invocarse en un turno:
{
  "tool_choice": {
    "type": "allowed_tools",
    "mode": "auto",
    "tools": [
      { "type": "function", "name": "get_weather" },
      { "type": "function", "name": "search_docs" }
    ]
  }
}
  • Anexa un elemento additional_tools con rol developer para añadir herramientas a mitad de conversación, o usa búsqueda de herramientas con defer_loading: true para que las herramientas descubiertas se añadan al final del contexto. Las herramientas en additional_tools solo quedan disponibles después de ese elemento, así que reprodúcelo en su posición original:
{
  "type": "additional_tools",
  "role": "developer",
  "tools": [
    {
      "type": "function",
      "name": "get_customer",
      "description": "Look up a customer by ID.",
      "parameters": {
        "type": "object",
        "properties": {
          "customer_id": { "type": "string" }
        },
        "required": ["customer_id"],
        "additionalProperties": false
      }
    }
  ]
}

Separa los mensajes developer reutilizables de instructions de nivel superior

A partir de GPT-6.2, OpenAI anexa el campo superior instructions después de input, fuera de los puntos de corte elegibles para caché. OpenAI cobra esos tokens a la tarifa de entrada sin caché en cada solicitud aunque no cambien, y el campo superior instructions no se arrastra con previous_response_id.

Ubica las instrucciones según su alcance:

  • Coloca los prompts de sistema reutilizables y las políticas compartidas en un mensaje developer como primer elemento de input para que la caché de prompts pueda reutilizarlos.
  • Anexa un nuevo mensaje developer al final de input si necesitas actualizar instrucciones reutilizables a mitad del hilo, en vez de editar el primero.
  • Reserva el campo superior instructions solo para indicaciones específicas de la solicitud actual.

Gestiona la compactación y las salidas largas de herramientas

Acorta las salidas extensas de herramientas y reduce imágenes o archivos antes de enviarlos al modelo por primera vez. No recortes elementos anteriores de forma retroactiva.

La compactación cambia el prefijo, así que resulta difícil evitar fallos de caché en esos turnos. Para sesiones largas, la guía de Compaction de OpenAI documenta dos vías:

  • Compactación automática (context_management con compact_threshold): OpenAI conserva los elementos de razonamiento posteriores pese al cambio de prefijo. Si los turnos previos contienen elementos configuration_update, la API emite un configuration_update nuevo justo después del elemento compaction y guarda las declaraciones de additional_tools dentro del elemento cifrado de compactación. Vuelve a enviar los elementos de salida en su mismo orden.
  • Compactación explícita o personalizada: el endpoint independiente /responses/compact rechaza historiales con elementos configuration_update; al llamar a /responses/compact, omite instructions y pasa la ventana devuelta en su orden original. Si tu historial usa configuration_update, incluye en su lugar un elemento compaction_trigger en /responses y luego añade un configuration_update nuevo que repita cada campo modificado antes del siguiente mensaje del usuario. Para compactación personalizada, coloca el resumen compactado al final del contexto en lugar de reemplazar turnos antiguos en su sitio, o asume que se descartarán los elementos de razonamiento.

Verifica la preservación del prefijo con input_transformations y Prompt Cache Diagnostics

Combina dos revisiones en la respuesta: una informa qué elementos de razonamiento se retiraron y la otra señala qué rompió la reutilización de la caché de prompts.

1. Inspecciona input_transformations en cada respuesta

En la referencia de creación de la Responses API, input_transformations es un arreglo opcional de objetos {id, action, reason, type} que enumera los elementos de razonamiento retirados en orden de entrada (action es "removed" y type es "reasoning"). Cuando reason es "prefix_mismatch", busca ese id entre los elementos de razonamiento del output de una respuesta anterior para ubicar qué edición ocurrió antes.

2. Ejecuta Prompt Cache Diagnostics con comparison_response_id

Para explicar un valor de usage.input_tokens_details.cached_tokens inferior al esperado, toma una respuesta reciente completada de la misma organización, pasa su id en prompt_cache_options.comparison_response_id e inspecciona prompt_cache_diagnostics:

{
  "prompt_cache_diagnostics": {
    "type": "cache_miss",
    "reason": "tools_changed",
    "comparison_reusable_tokens": 5629,
    "cache_missed_tokens": 5629
  }
}

La guía de Prompt cache diagnostics de OpenAI devuelve prompt_cache_diagnostics.type como cache_hit, cache_miss, comparison_response_not_found o unavailable. Con cache_miss, devuelve reason y cache_missed_tokens (tokens estimados no reutilizados) y puede incluir comparison_reusable_tokens (conteo bruto de tokens del prefijo reutilizable de referencia). Los fallos se clasifican según reason:

  • input_changed: cambió la entrada anterior, por ejemplo al añadir una marca de tiempo o un ID de solicitud a un mensaje developer, o al editar, reordenar o eliminar turnos pasados.
  • tools_changed: se añadieron, eliminaron, reordenaron o editaron herramientas.
  • reasoning_effort_changed o text_format_changed: cambió el campo superior reasoning.effort o text.format en lugar de usar configuration_update.
  • model_changed, service_tier_changed, verbosity_changed, prompt_cache_key_changed o context_compacted: cambió la selección de modelo, el nivel de servicio, la verbosidad, la clave de caché o hubo compactación.

Ten presentes cinco límites del diagnóstico: requiere GPT-5.6 o posterior y un prefijo reutilizable de al menos 1,024 tokens; solo informa de la primera causa clasificada que consigue identificar y puede no encontrar ninguna; no añade coste extra y funciona con Zero Data Retention; con stream=True, lee prompt_cache_diagnostics en event.response dentro del evento response.completed; y el diagnóstico no puede confirmar si el modelo reutilizó el razonamiento.

Vigila estos detalles en configuraciones de API personalizada y pasarelas

Los equipos que enrutan GPT-6.2 mediante una URL base de API personalizada o una pasarela con varios orígenes deben comprobar cuatro puntos:

  1. Llama a POST /v1/responses, no a Chat Completions: GPT-6.2 Astra y Sol admiten Chat Completions para texto, pero las llamadas a herramientas, configuration_update, additional_tools e input_transformations requieren Responses. Para una lista base de migración, consulta nuestra guía de migración a GPT-6 Astra en Responses API.
  2. Reproduce el arreglo input append-only completo en lugar de depender solo de previous_response_id: el enrutamiento inteligente de BetterToken dirige las solicitudes a los canales upstream disponibles en ese momento, y un modelo con varios orígenes configurados puede conmutar ante un error aplicable o un tiempo de espera agotado (no todos los modelos tienen varios orígenes, no todos los errores activan la conmutación y el éxito no está garantizado). La reproducción sin estado evita depender de estado almacenado en un único servidor upstream. En la API de OpenAI, Zero Data Retention (ZDR) es un ajuste a nivel de organización para organizaciones aprobadas en endpoints y funciones elegibles, distinto de fijar store en false en una solicitud. En cualquiera de los modos sin estado (store: false o una organización con ZDR activo, donde OpenAI trata store como false), los elementos de razonamiento en output incluyen encrypted_content por defecto. OpenAI sigue aceptando el valor heredado include: ["reasoning.encrypted_content"] por compatibilidad, pero no lo exige. Reenvía todos los elementos de output en orden, mantén safety_identifier idéntico entre turnos (u omítelo en todos) para evitar end_user_mismatch, y vigila organization_mismatch en input_transformations.
  3. Omite parámetros de muestreo no admitidos: en llamadas Responses a gpt-6.2-astra y gpt-6.2-sol, omite los parámetros de nivel superior temperature, top_p y top_logprobs, y quita únicamente message.output_text.logprobs de include.
  4. Limita las ventanas de finalización en segundo plano a llamadas directas a OpenAI: en la Responses API de OpenAI, GPT-6.2 Astra y Sol no admiten service_tier: "flex". Para tareas largas enviadas directamente a la API de OpenAI, usa las ventanas de finalización de 2 horas u 8 horas del modo en segundo plano (beta pública), explicadas en nuestra guía de completion_window en Responses API. Las ventanas en segundo plano no están verificadas en la documentación pública de Responses API de BetterToken, así que verifícalas o enruta directamente a OpenAI si tu carga de trabajo depende de ellas.

¿Quieres optimizar tu flujo de trabajo con LLM?

Conecta modelos mediante una API, gestiona claves y controla el gasto en IA.

Empezar gratis