GPT-6.2 Responses API: no edites el prefijo o pierdes razonamiento
A partir de GPT-6.2 Astra y Sol, editar el historial previo en la Responses API descarta los elementos de razonamiento posteriores. Mantén el prefijo sin cambios con turnos append-only, configuration_update, additional_tools e instrucciones en el primer mensaje developer, y verifícalo con input_transformations y Prompt Cache Diagnostics.
Índice

A partir de gpt-6.2-astra y gpt-6.2-sol, la OpenAI Responses API descarta los elementos de razonamiento después de editar el prefijo a mitad de conversación, degradar el modelo o cambiar de organización o usuario final. Esto afecta a todo desarrollador y equipo de agentes cuyo código reescribe mensajes developer anteriores, recorta resultados de herramientas pasados o modifica parámetros de nivel superior como reasoning.effort o tools entre turnos. Migra tu integración a un historial input solo de anexión (append-only), usa configuration_update y additional_tools para cambios en medio del hilo, y revisa input_transformations en cada respuesta para confirmar que no se eliminó razonamiento.
Elige una ruta para las llamadas GPT-6.2 en Responses API
GPT-6.2 Astra y Sol admiten Chat Completions para texto, pero las llamadas a herramientas exigen la Responses API, y los controles de preservación del prefijo (configuration_update, additional_tools e input_transformations) son funciones de la Responses API. Elige una ruta de API que exponga POST /v1/responses y encaje con tu acceso y tu facturación.
| Ruta | Requisitos | Unidad de facturación | Notas de Responses API | Cuándo elegirla |
|---|---|---|---|---|
| Pasarela API BetterToken | Cuenta de BetterToken, API Key de la consola y saldo de pago por uso (el saldo pagado no se reinicia cada mes) | Según la unidad de facturación vigente del modelo (los tokens de entrada, salida y caché pueden tener precios y reglas distintos); consulta precios actuales | https://www.bettertoken.ai/v1 (POST /v1/responses) incluye gpt-6.2-astra y gpt-6.2-sol; verifica primero en tu clave la reproducción sin estado con store: false y el reenvío de configuration_update e input_transformations | Cuando quieres una sola API Key de pago por uso para los modelos disponibles o no puedes usar la facturación directa de OpenAI |
| OpenAI API directa | Cuenta de OpenAI en un país o territorio compatible y facturación de API | Por cada 1M de tokens de entrada, entrada en caché, escritura en caché y salida | Documenta soporte nativo para configuration_update, input_transformations, prompt_cache_diagnostics, previous_response_id, ventanas de finalización en segundo plano y Zero Data Retention (ZDR) a nivel de organización | Cuando tienes acceso directo a OpenAI y dependes del estado alojado en OpenAI, ZDR o funciones beta documentadas |
Verifica la reproducción append-only y la detección de prefijo en BetterToken
BetterToken ofrece una ruta de API compatible con OpenAI en https://www.bettertoken.ai/v1 (POST /v1/responses), autenticada con tu API Key de la consola de BetterToken. A fecha de 2026-11-21, tanto gpt-6.2-sol como gpt-6.2-astra figuran en el endpoint de Responses. BetterToken es una plataforma multimodelo y capa de acceso API, no un producto oficial de OpenAI. Su referencia de la Responses API no verifica el reenvío transparente de la reproducción cifrada sin estado con store: false, configuration_update, input_transformations ni prompt_cache_diagnostics. Ejecuta esta comprobación controlada de dos turnos sin estado con tu clave antes de pasar a producción.
Exporta tu clave de BetterToken en Bash sin imprimirla en pantalla:
read -rs BETTERTOKEN_API_KEY && export BETTERTOKEN_API_KEY
Envía el turno 1 con store: false, confirma que devuelve al menos un elemento reasoning con encrypted_content y compara una reproducción sin estado append-only frente a un control con prefijo editado donde el único cambio es el mensaje developer anterior:
import os
from openai import OpenAI
client = OpenAI(
api_key=os.environ["BETTERTOKEN_API_KEY"],
base_url="https://www.bettertoken.ai/v1",
timeout=120.0,
max_retries=0,
)
model = "gpt-6.2-sol" # Or "gpt-6.2-astra"
history = [
{"role": "developer", "content": "You are a backend reviewer. Give concise engineering answers."},
{"role": "user", "content": "Draft a two-step plan to add a non-blocking index on PostgreSQL."},
]
first = client.responses.create(
model=model,
store=False,
reasoning={"effort": "low"},
input=history,
)
reasoning_items = [item for item in first.output if item.type == "reasoning"]
if not reasoning_items:
raise RuntimeError("Turn 1 returned no reasoning items; use a harder prompt or higher effort.")
if not all(getattr(item, "encrypted_content", None) for item in reasoning_items):
raise RuntimeError("Stateless replay unverified: Turn 1 reasoning items lack encrypted_content.")
reasoning_ids = [item.id for item in reasoning_items]
first_output = [item.to_dict() for item in first.output]
follow_up = {"role": "user", "content": "List the failure modes and rollback steps for step 2."}
append_only = client.responses.create(
model=model,
store=False,
reasoning={"effort": "low"},
input=[*history, *first_output, follow_up],
)
edited_history = [{**history[0], "content": history[0]["content"] + " Be brief."}, history[1]]
edited_control = client.responses.create(
model=model,
store=False,
reasoning={"effort": "low"},
input=[*edited_history, *first_output, follow_up],
)
print("reasoning_ids:", reasoning_ids)
print("append_only:", append_only.status, getattr(append_only, "input_transformations", None))
print("edited_control:", edited_control.status, getattr(edited_control, "input_transformations", None))
print("append_only_cached_tokens:", append_only.usage.input_tokens_details.cached_tokens)
Revisa cuatro señales antes de desplegar:
status == "completed"solo confirma que la solicitud se aceptó y finalizó. No demuestra que la pasarela haya conservado el razonamiento entre turnos.- Confirma que el turno 1 con
store: falsedevuelvereasoning_idsno vacío y que cada elemento de razonamiento incluyeencrypted_content. Si la pasarela omiteencrypted_content, considera la reproducción sin estado como no verificada, porque el turno 2 no puede trasladar tokens de razonamiento cifrados entre distintos orígenes (upstreams). - Compara
input_transformationsen ambas llamadas del turno 2. Un reenvío verificado muestra una entradaprefix_mismatchque coincide con un ID dereasoning_idsenedited_controly ninguna enappend_only. Siinput_transformationsesNoneo está vacío en las dos ejecuciones, toma la prueba como no concluyente porque la pasarela podría no reenviar ese campo. - Prueba el reenvío de
configuration_updatepor separado de la prueba de prefijo. Puedes validar un cambio detext.formatenviando otra solicitud de turno 2 que cambietext.formata un esquema JSON estricto y comprobando si la salida respeta ese esquema. OpenAI no documenta ningún campo en la respuesta que confirme una actualización dereasoning.efforta mitad del hilo (el camporeasoning.effortde la respuesta sigue informando el valor de nivel de solicitud), así que considera no verificado el uso deconfiguration_updateparareasoning.effortmediante BetterToken.
Para el almacenamiento en caché de prompts, OpenAI fija un prefijo mínimo almacenable de 1,024 tokens de entrada visibles en GPT-5.6 y modelos posteriores como condición de elegibilidad. Observa append_only.usage.input_tokens_details.cached_tokens para medir la reutilización real una vez que tu prefijo reutilizable alcance ese umbral. Consulta los precios actuales y las reglas de caché antes de escalar.
Si llamas directamente a OpenAI, omite base_url, usa OPENAI_API_KEY y sigue la guía Keep the prefix unchanged de OpenAI.
Crear una cuenta en BetterToken
Qué cuenta como un cambio de prefijo en GPT-6.2
El prefijo de un elemento de razonamiento es el historial de conversación renderizado antes de ese elemento. En GPT-6.2, modificar ese historial anterior provoca que la API descarte los elementos de razonamiento que aparecen después de la edición.
OpenAI documenta dos categorías de cambios de prefijo:
- Editar elementos anteriores de
input: acortar el resultado de una herramienta, reescribir un mensajedeveloper, reducir el tamaño de imágenes o archivos previos, o sustituir turnos antiguos por un resumen. - Modificar parámetros de nivel de solicitud entre turnos: actualizar
tools(añadir, quitar, reordenar o editar esquemas y descripciones), cambiartext.format, cambiar elreasoning.effortde nivel superior o alterarinstructionsen modelos anteriores a GPT-6.2.
En la guía de Reasoning de OpenAI, prefix_mismatch se dispara en GPT-6.2 y versiones posteriores cuando insertas o editas contenido antes de un elemento de razonamiento. Eliminar elementos completos sin editar los restantes, o añadir elementos nuevos después del elemento de razonamiento, no dispara por sí solo prefix_mismatch. Sin embargo, quitar turnos antiguos puede reducir la reutilización de la caché de prompts, y Prompt Cache Diagnostics puede informar input_changed cuando ese cambio impide la reutilización.
Las ediciones de prefijo son una de las cinco causas de eliminación registradas en input_transformations:
reason de eliminación | Cuándo elimina la API el elemento de razonamiento |
|---|---|
prefix_mismatch | En GPT-6.2 y posteriores, se insertó o editó contenido antes del elemento de razonamiento |
end_user_mismatch | En GPT-6.2 y posteriores, safety_identifier difiere entre la solicitud que creó el elemento y la que lo reutiliza, incluso si se omite en solo una de ellas |
model_mismatch | Cambiaste de familia de modelos o bajaste a un modelo menos capaz dentro de la misma familia (subir dentro de la misma familia conserva el razonamiento compatible si pasan las demás comprobaciones) |
organization_mismatch | Reutilizaste un elemento de otra organización o de un espacio de trabajo distinto bajo otro usuario |
turn_boundary | El elemento proviene de un turno anterior cuando el modelo solo usa razonamiento del turno actual (reasoning.context controla la elegibilidad en los modelos compatibles) |
Qué ocurre cuando se descartan elementos de razonamiento
Una solicitud a la Responses API puede completarse aunque se retengan elementos de razonamiento, por lo que esta pérdida pasa desapercibida salvo que inspecciones input_transformations en la respuesta. Editar el prefijo en mitad de la conversación produce dos penalizaciones independientes en producción:
- Impacto del razonamiento descartado: cuando se eliminan elementos de razonamiento, el modelo puede tener que rehacer razonamientos previos, lo que puede aumentar el consumo de tokens, el coste y la latencia. Si el modelo no logra recuperar ese razonamiento, la calidad de la salida también puede bajar.
- Impacto al romper el prefijo almacenable en caché: como la caché de prompts compara las solicitudes desde el principio, editar el prefijo puede interrumpir la reutilización desde ese punto en adelante, lo que puede elevar los costes de entrada y ralentizar las respuestas.
Las tarifas Standard publicadas por OpenAI a fecha de 2026-11-21 (para 272,000 tokens de entrada o menos) muestran el coste que pueden acumular los fallos de caché:
- GPT-6.2 Astra (
gpt-6.2-astra): $0.40/1M de entrada en caché frente a $8/1M sin caché ($10/1M por escritura en caché de 30 minutos, $20/1M por escritura de 12 horas) y $40/1M de salida. - GPT-6.2 Sol (
gpt-6.2-sol): $0.10/1M de entrada en caché frente a $2/1M sin caché ($2.50/1M por escritura en caché de 30 minutos, $5/1M por escritura de 12 horas) y $10/1M de salida.
Por encima de 272,000 tokens de entrada, OpenAI duplica las tarifas de entrada y caché y cobra 1.5x la tarifa de salida de contexto corto por toda la solicitud. Para decidir cuándo compensan las escrituras de 12 horas en prefijos estables, consulta nuestra guía sobre caché de prompts de 12 horas en OpenAI.
Actualiza parámetros y contexto sin romper el prefijo
Sustituye las ediciones sobre el historial existente por elementos anexados al final para que el razonamiento y los prefijos en caché sobrevivan entre turnos.
Cambia reasoning.effort y text.format con configuration_update
Modificar el reasoning.effort de nivel superior puede reescribir instrucciones ocultas del sistema. En modelos GPT-6 y posteriores compatibles en modo estándar de un solo agente, mantén sin cambios reasoning.effort y text.format en la solicitud y añade un elemento configuration_update a input antes del siguiente mensaje del usuario:
{
"type": "configuration_update",
"reasoning": {
"effort": "high"
},
"text": {
"format": {
"type": "json_schema",
"name": "migration_checks",
"strict": true,
"schema": {
"type": "object",
"properties": {
"safe": { "type": "boolean" },
"rollback_sql": { "type": "string" }
},
"required": ["safe", "rollback_sql"],
"additionalProperties": false
}
}
}
}
Sigue cinco reglas al usar configuration_update:
- Un
configuration_updatesigue vigente en los turnos sucesivos hasta que otra actualización lo sustituye. Cambiar soloreasoning.effortconserva un cambio previo detext.format, y viceversa. - El campo
reasoning.effortdel objeto de respuesta sigue mostrando el valor superior de la solicitud, no el esfuerzo actualizado. - Propaga las actualizaciones con
previous_response_ido vuelve a enviar cadaconfiguration_updateen su posición original si gestionasinputmanualmente. - El truncado automático y el endpoint independiente
/responses/compactrechazan historiales con elementosconfiguration_update. Usacontext_managementocompaction_triggeren su lugar (consulta la sección de compactación abajo). - Tanto
gpt-6.2-astracomogpt-6.2-solrechazanreasoning.effort: "none". La guía Using GPT-6.2 de OpenAI recomienda empezar conmedium, o usarlowen lugar denoneominimal.
Añade o restringe herramientas sin mutar tools
Mantén intactos entre turnos el arreglo tools, los esquemas y su orden en la solicitud. Ajusta las herramientas invocables mediante tres patrones seguros para el prefijo:
- Establece
tool_choiceen"none"para desactivar herramientas durante un turno sin quitartools. - Usa
tool_choiceconallowed_toolspara limitar qué herramientas pueden invocarse en un turno:
{
"tool_choice": {
"type": "allowed_tools",
"mode": "auto",
"tools": [
{ "type": "function", "name": "get_weather" },
{ "type": "function", "name": "search_docs" }
]
}
}
- Anexa un elemento
additional_toolscon roldeveloperpara añadir herramientas a mitad de conversación, o usa búsqueda de herramientas condefer_loading: truepara que las herramientas descubiertas se añadan al final del contexto. Las herramientas enadditional_toolssolo quedan disponibles después de ese elemento, así que reprodúcelo en su posición original:
{
"type": "additional_tools",
"role": "developer",
"tools": [
{
"type": "function",
"name": "get_customer",
"description": "Look up a customer by ID.",
"parameters": {
"type": "object",
"properties": {
"customer_id": { "type": "string" }
},
"required": ["customer_id"],
"additionalProperties": false
}
}
]
}
Separa los mensajes developer reutilizables de instructions de nivel superior
A partir de GPT-6.2, OpenAI anexa el campo superior instructions después de input, fuera de los puntos de corte elegibles para caché. OpenAI cobra esos tokens a la tarifa de entrada sin caché en cada solicitud aunque no cambien, y el campo superior instructions no se arrastra con previous_response_id.
Ubica las instrucciones según su alcance:
- Coloca los prompts de sistema reutilizables y las políticas compartidas en un mensaje
developercomo primer elemento deinputpara que la caché de prompts pueda reutilizarlos. - Anexa un nuevo mensaje
developeral final deinputsi necesitas actualizar instrucciones reutilizables a mitad del hilo, en vez de editar el primero. - Reserva el campo superior
instructionssolo para indicaciones específicas de la solicitud actual.
Gestiona la compactación y las salidas largas de herramientas
Acorta las salidas extensas de herramientas y reduce imágenes o archivos antes de enviarlos al modelo por primera vez. No recortes elementos anteriores de forma retroactiva.
La compactación cambia el prefijo, así que resulta difícil evitar fallos de caché en esos turnos. Para sesiones largas, la guía de Compaction de OpenAI documenta dos vías:
- Compactación automática (
context_managementconcompact_threshold): OpenAI conserva los elementos de razonamiento posteriores pese al cambio de prefijo. Si los turnos previos contienen elementosconfiguration_update, la API emite unconfiguration_updatenuevo justo después del elementocompactiony guarda las declaraciones deadditional_toolsdentro del elemento cifrado de compactación. Vuelve a enviar los elementos de salida en su mismo orden. - Compactación explícita o personalizada: el endpoint independiente
/responses/compactrechaza historiales con elementosconfiguration_update; al llamar a/responses/compact, omiteinstructionsy pasa la ventana devuelta en su orden original. Si tu historial usaconfiguration_update, incluye en su lugar un elementocompaction_triggeren/responsesy luego añade unconfiguration_updatenuevo que repita cada campo modificado antes del siguiente mensaje del usuario. Para compactación personalizada, coloca el resumen compactado al final del contexto en lugar de reemplazar turnos antiguos en su sitio, o asume que se descartarán los elementos de razonamiento.
Verifica la preservación del prefijo con input_transformations y Prompt Cache Diagnostics
Combina dos revisiones en la respuesta: una informa qué elementos de razonamiento se retiraron y la otra señala qué rompió la reutilización de la caché de prompts.
1. Inspecciona input_transformations en cada respuesta
En la referencia de creación de la Responses API, input_transformations es un arreglo opcional de objetos {id, action, reason, type} que enumera los elementos de razonamiento retirados en orden de entrada (action es "removed" y type es "reasoning"). Cuando reason es "prefix_mismatch", busca ese id entre los elementos de razonamiento del output de una respuesta anterior para ubicar qué edición ocurrió antes.
2. Ejecuta Prompt Cache Diagnostics con comparison_response_id
Para explicar un valor de usage.input_tokens_details.cached_tokens inferior al esperado, toma una respuesta reciente completada de la misma organización, pasa su id en prompt_cache_options.comparison_response_id e inspecciona prompt_cache_diagnostics:
{
"prompt_cache_diagnostics": {
"type": "cache_miss",
"reason": "tools_changed",
"comparison_reusable_tokens": 5629,
"cache_missed_tokens": 5629
}
}
La guía de Prompt cache diagnostics de OpenAI devuelve prompt_cache_diagnostics.type como cache_hit, cache_miss, comparison_response_not_found o unavailable. Con cache_miss, devuelve reason y cache_missed_tokens (tokens estimados no reutilizados) y puede incluir comparison_reusable_tokens (conteo bruto de tokens del prefijo reutilizable de referencia). Los fallos se clasifican según reason:
input_changed: cambió la entrada anterior, por ejemplo al añadir una marca de tiempo o un ID de solicitud a un mensajedeveloper, o al editar, reordenar o eliminar turnos pasados.tools_changed: se añadieron, eliminaron, reordenaron o editaron herramientas.reasoning_effort_changedotext_format_changed: cambió el campo superiorreasoning.effortotext.formaten lugar de usarconfiguration_update.model_changed,service_tier_changed,verbosity_changed,prompt_cache_key_changedocontext_compacted: cambió la selección de modelo, el nivel de servicio, la verbosidad, la clave de caché o hubo compactación.
Ten presentes cinco límites del diagnóstico: requiere GPT-5.6 o posterior y un prefijo reutilizable de al menos 1,024 tokens; solo informa de la primera causa clasificada que consigue identificar y puede no encontrar ninguna; no añade coste extra y funciona con Zero Data Retention; con stream=True, lee prompt_cache_diagnostics en event.response dentro del evento response.completed; y el diagnóstico no puede confirmar si el modelo reutilizó el razonamiento.
Vigila estos detalles en configuraciones de API personalizada y pasarelas
Los equipos que enrutan GPT-6.2 mediante una URL base de API personalizada o una pasarela con varios orígenes deben comprobar cuatro puntos:
- Llama a
POST /v1/responses, no a Chat Completions: GPT-6.2 Astra y Sol admiten Chat Completions para texto, pero las llamadas a herramientas,configuration_update,additional_toolseinput_transformationsrequieren Responses. Para una lista base de migración, consulta nuestra guía de migración a GPT-6 Astra en Responses API. - Reproduce el arreglo
inputappend-only completo en lugar de depender solo deprevious_response_id: el enrutamiento inteligente de BetterToken dirige las solicitudes a los canales upstream disponibles en ese momento, y un modelo con varios orígenes configurados puede conmutar ante un error aplicable o un tiempo de espera agotado (no todos los modelos tienen varios orígenes, no todos los errores activan la conmutación y el éxito no está garantizado). La reproducción sin estado evita depender de estado almacenado en un único servidor upstream. En la API de OpenAI, Zero Data Retention (ZDR) es un ajuste a nivel de organización para organizaciones aprobadas en endpoints y funciones elegibles, distinto de fijarstoreenfalseen una solicitud. En cualquiera de los modos sin estado (store: falseo una organización con ZDR activo, donde OpenAI tratastorecomofalse), los elementos de razonamiento enoutputincluyenencrypted_contentpor defecto. OpenAI sigue aceptando el valor heredadoinclude: ["reasoning.encrypted_content"]por compatibilidad, pero no lo exige. Reenvía todos los elementos deoutputen orden, manténsafety_identifieridéntico entre turnos (u omítelo en todos) para evitarend_user_mismatch, y vigilaorganization_mismatcheninput_transformations. - Omite parámetros de muestreo no admitidos: en llamadas Responses a
gpt-6.2-astraygpt-6.2-sol, omite los parámetros de nivel superiortemperature,top_pytop_logprobs, y quita únicamentemessage.output_text.logprobsdeinclude. - Limita las ventanas de finalización en segundo plano a llamadas directas a OpenAI: en la Responses API de OpenAI, GPT-6.2 Astra y Sol no admiten
service_tier: "flex". Para tareas largas enviadas directamente a la API de OpenAI, usa las ventanas de finalización de 2 horas u 8 horas del modo en segundo plano (beta pública), explicadas en nuestra guía de completion_window en Responses API. Las ventanas en segundo plano no están verificadas en la documentación pública de Responses API de BetterToken, así que verifícalas o enruta directamente a OpenAI si tu carga de trabajo depende de ellas.