Responses API completion_window: 2h और 8h की छूट

Responses API के रियायती पृष्ठभूमि अनुरोधों में फ़ील्ड सही जगह रखें। soonest, 2h और 8h की लागत की तुलना करें, उत्तर प्राप्त करें और अगले अनुरोधों में प्राथमिकता की पात्रता तथा बातचीत का इतिहास बनाए रखें।

विषय-सूची
Responses API completion_window: 2h और 8h की छूट

अगर आपकी टीम API से जाँचें चलाती है और कुछ घंटे इंतज़ार कर सकती है, तो Responses API की समापन अवधि से पात्र टोकन शुल्क घटाएँ। background_options.completion_window को 2h या 8h पर सेट करें, साथ में background: true और service_tier: "default" रखें। दस्तावेज़ों में बताई गई सेटिंग अपनाएँ: completion_window को शीर्ष स्तर पर न भेजें और इन रियायती अवधियों के लिए स्ट्रीमिंग चालू न करें।

soonest, 2h या 8h कब चुनें

अवधि इस आधार पर चुनें कि पहला उत्तर कब चाहिए, न कि मॉडल को सोचने में कितना समय लग सकता है। 2026-11-19 तक OpenAI की पृष्ठभूमि मोड गाइड में ये विकल्प और छूट दी गई हैं।

अवधिStandard के मुकाबले मॉडल टोकन पर छूटकब चुनें
soonestकोई छूट नहीं; यही डिफ़ॉल्ट हैकिसी को अभी परिणाम चाहिए।
2h30%जाँच बाद की बैठक या प्रक्रिया के अगले चरण से पहले पूरी हो सकती है।
8h40%समीक्षा या दस्तावेज़ों का विश्लेषण रात में हो सकता है और परिणाम सुबह चाहिए।

सिर्फ background: true से छूट नहीं मिलती। समापन अवधि न चुनने पर अनुरोध soonest इस्तेमाल करता है। 2h और 8h का लक्षित समय तब शुरू होता है जब API शुरुआती अनुरोध स्वीकार करता है, और केवल उसी उत्तर पर लागू होता है। यह बाद के सभी टूल कॉल और अनुरोधों सहित पूरे काम की समय-सीमा नहीं है।

सिर्फ टोकन लागत का अनुमान लगाने के लिए मान लें कि Astra अनुरोध में 100,000 बिना कैश वाले इनपुट टोकन हैं। साथ में 10,000 आउटपुट टोकन हैं, जिनका शुल्क लगेगा। मान लें कि कैश में लिखने, सशुल्क टूल, डेटा रखने या किसी खास क्षेत्र में प्रोसेसिंग का अतिरिक्त शुल्क नहीं है।

2026-11-19 तक OpenAI की Standard मूल्य तालिका में Astra के छोटे कॉन्टेक्स्ट की दरें $8 प्रति 1M इनपुट टोकन और $40 प्रति 1M आउटपुट टोकन हैं। Astra की मॉडल जानकारी के अनुसार, 272K से अधिक इनपुट टोकन पर लंबे कॉन्टेक्स्ट की बढ़ी हुई दरें लागू होती हैं। इस उदाहरण के 100,000 इनपुट टोकन उस सीमा से नीचे हैं।

Standard पर मॉडल टोकन की अनुमानित लागत:

(100,000 / 1,000,000 × $8) + (10,000 / 1,000,000 × $40) = $1.20

उतने ही टोकन के लिए 2h पर $1.20 × 0.70 = $0.84 और 8h पर $1.20 × 0.60 = $0.72 बनते हैं। ये गणना के उदाहरण हैं, चलाए गए अनुरोधों के वास्तविक शुल्क नहीं।

छूट अगले अनुरोधों सहित हर पात्र अनुरोध की मॉडल टोकन दरों पर लागू होती है। बिल के दूसरे शुल्कों पर यह प्रतिशत लागू न करें। कैश इस्तेमाल करने पर लिखने और पढ़ने की लागत अलग निकालें; इसके लिए प्रॉम्प्ट कैश की लागत वाली गाइड देखें।

मॉडल की पात्रता और पहुँच का तरीका चुनें

दस्तावेज़ों में बताए गए समापन अवधि के विकल्प चाहिए तो OpenAI का Responses API सीधे इस्तेमाल करें। 2026-11-19 तक पात्र मॉडल की सूची में सार्वजनिक बीटा के लिए GPT-6.2 Astra, GPT-6.2 Sol, GPT-6.1 Terra और GPT-6 Luna शामिल हैं। GPT-6.2 के मॉडल ID हैं gpt-6.2-astra और gpt-6.2-sol।

मॉडल चुनने और उस पर जाने के लिए GPT-6.2 Astra और Sol की API गाइड देखें। पहुँच का तरीका मॉडल से अलग चुनें:

तरीकाक्या चाहिएकब चुनें
OpenAI Responses APIAPI प्रोजेक्ट और कुंजी, समर्थित देश या क्षेत्र से पहुँच, और API भुगतान व्यवस्था या उपलब्ध API क्रेडिट। उपयोग का शुल्क ChatGPT सदस्यता से अलग लगता है।2h या 8h के विकल्प चाहिए, खासकर जब अगले अनुरोध पिछले परिणामों पर निर्भर हों।
OpenAI Batch APIAPI पहुँच और भुगतान की वही शर्तें, साथ में स्वतंत्र अनुरोधों को फ़ाइल के ज़रिए भेजने की व्यवस्था।सभी इनपुट पहले से तय हैं। परस्पर निर्भर अनुरोधों की श्रृंखला के बजाय Batch API की प्रक्रिया अपनाएँ।
BetterTokenअपना खाता और API कुंजी, संगत क्लाइंट और कंसोल में उपलब्ध भुगतान विकल्प। शुल्क हर मॉडल की बिलिंग इकाई के हिसाब से लगता है।उपयोग के हिसाब से भुगतान वाली मॉडल पहुँच के विकल्पों की तुलना करनी है। BetterToken की कीमतें देखें। इस काम को गेटवे से भेजने से पहले समापन अवधि का समर्थन अलग से जाँचें।

यह न मानें कि ChatGPT या Codex की सदस्यता से अनुरोध के ये विकल्प उपलब्ध हो जाते हैं। यहाँ दस्तावेज़ों में बताया गया तरीका Responses API अनुरोध है, जिसकी बिलिंग ChatGPT से अलग है। Codex में API कुंजी से प्रमाणीकरण करने पर योजना में मिले क्रेडिट के बजाय API बिलिंग लागू होती है। सिर्फ इससे Codex में समापन अवधि का विकल्प होने की पुष्टि नहीं होती।

background_options के अंदर फ़ील्ड सही रखें

completion_window और continuation_id को background_options के अंदर रखें। Responses अनुरोध की संरचना के अनुसार background, service_tier और stream को शीर्ष स्तर पर रखें। Standard प्रोसेसिंग ज़रूरी है; इसे service_tier: "default" चुनता है।

नीचे दिए Bash उदाहरण के लिए curl, jq और uuidgen चाहिए। सभी ब्लॉक एक ही शेल और कार्यशील डायरेक्टरी में चलाएँ। जब read इनपुट का इंतज़ार करे, अपनी OpenAI API कुंजी पेस्ट करके Enter दबाएँ। कुंजी स्क्रीन पर नहीं दिखेगी और शेल के कमांड इतिहास में नहीं जाएगी।

यह उदाहरण continuation ID बनाता है, क्योंकि आगे दूसरा अनुरोध भी भेजा जाएगा। यह API से उत्तर सहेजने को कहता है और स्थानीय JSON फ़ाइलें लिखता है। संवेदनशील दस्तावेज़ डालने से पहले अपनी डेटा प्रबंधन संबंधी ज़रूरतें जाँचें।

set +x
set -euo pipefail

read -rs OPENAI_API_KEY && export OPENAI_API_KEY
CONTINUATION_ID=$(uuidgen)

jq -n --arg continuation_id "$CONTINUATION_ID" '{
  model: "gpt-6.2-astra",
  input: "Review this migration plan for risks: add a nullable column, backfill it in batches, switch reads, then enforce NOT NULL.",
  background: true,
  service_tier: "default",
  stream: false,
  store: true,
  background_options: {
    completion_window: "8h",
    continuation_id: $continuation_id
  }
}' > background-request.json

curl --fail-with-body --silent --show-error \
  https://api.openai.com/v1/responses \
  -H "Authorization: Bearer $OPENAI_API_KEY" \
  -H "Content-Type: application/json" \
  --data-binary @background-request.json \
  --output background-response.json

jq -er '.id' background-response.json > background-response-id.txt
jq '{id, status, service_tier}' background-response.json

भेजने की सफलता की पहली जाँच है लौटा हुआ उत्तर id, जो background-response-id.txt में सहेजा जाता है। queued या in_progress का मतलब है कि परिणाम अभी तैयार नहीं है। वही काम फिर से भेजने के बजाय यह ID सुरक्षित रखें।

सहेजे गए ID से स्थिति जाँचें या वेबहुक इस्तेमाल करें

मौजूदा उत्तर पाने के लिए GET /v1/responses/{response_id} इस्तेमाल करें। नीचे का चक्र केवल queued और in_progress पर चलता रहता है। completed पर यह सफलतापूर्वक रुकता है और दूसरी अंतिम स्थितियों में समस्या की जानकारी दिखाता है। हर 30 सेकंड में जाँच करना इस उदाहरण का चुनाव है, API की शर्त नहीं।

RESPONSE_ID=$(cat background-response-id.txt)

while :; do
  curl --fail-with-body --silent --show-error \
    "https://api.openai.com/v1/responses/$RESPONSE_ID" \
    -H "Authorization: Bearer $OPENAI_API_KEY" \
    --output background-response.json

  STATUS=$(jq -r '.status' background-response.json)
  case "$STATUS" in
    queued|in_progress) sleep 30 ;;
    completed) break ;;
    *)
      jq '{id, status, error, incomplete_details}' background-response.json
      exit 1
      ;;
  esac
done

cp background-response.json "$RESPONSE_ID.json"
jq '{id, status, service_tier, usage}' background-response.json
jq -r '.output[]? | select(.type == "message") |
  .content[]? | select(.type == "output_text") | .text' \
  background-response.json

इस सिर्फ पाठ वाले उदाहरण में सफलता का मतलब है completed स्थिति और उत्तर के संदेश से निकला समीक्षा का पाठ दिखाई देना। पाठ निकालने वाला फ़िल्टर तत्वों के प्रकार जाँचता है; वह यह नहीं मानता कि पहला आउटपुट तत्व ही पाठ है। HTTP से उत्तर लेने में त्रुटि आए तो ID की फ़ाइल रखें और भेजने वाला ब्लॉक नहीं, स्थिति जाँचने वाला ब्लॉक दोबारा चलाएँ।

वास्तविक सेवा में शेल खुला रखने के बजाय वेबहुक प्राप्त करने के निर्देश अपनाएँ। वेबहुक से ऐप को अनुरोध पूरा होने की सूचना मिलती है। response.completed की सूचनाएँ लें, आने वाली सूचना के हस्ताक्षर की पुष्टि करें और event.data.id से उत्तर प्राप्त करें। अगला काम शुरू करने से पहले webhook-id से दोबारा आई सूचनाओं की पहचान करें, ताकि उनका काम दो बार न चले। असफल परिणामों को संभालने की व्यवस्था भी रखें।

इतिहास और प्राथमिकता बनाए रखते हुए अगला अनुरोध भेजें

संबंधित अनुरोधों को कतार में अधिक प्राथमिकता मिलने की पात्रता बनाए रखने के लिए वही समापन अवधि, continuation ID, मॉडल और API प्रोजेक्ट इस्तेमाल करें। अगले अनुरोध में Standard प्रोसेसिंग और पृष्ठभूमि में चलना चालू रखें। OpenAI की अगले अनुरोधों वाली प्रक्रिया में प्राथमिकता कतार के शेड्यूल पर निर्भर है; तुरंत शुरुआत का वादा नहीं है।

इन पहचानकर्ताओं के काम अलग हैं। background_options.continuation_id ऐप का चुना हुआ शेड्यूलिंग पहचानकर्ता है; यह बातचीत का इतिहास नहीं देता। previous_response_id पिछले उत्तर की ओर संकेत करता है और उसके उपलब्ध रहने तक बातचीत आगे बढ़ाता है।

पहला अनुरोध पूरा होने के बाद यह ब्लॉक उसका मॉडल, अवधि, continuation ID और प्रोसेसिंग सेटिंग जस की तस रखता है। इसमें पिछले उत्तर का ID और नया निर्देश जोड़ा जाता है। पूरे क्रम में उसी API प्रोजेक्ट की कुंजी इस्तेमाल करें।

RESPONSE_ID=$(cat background-response-id.txt)

jq --arg previous_response_id "$RESPONSE_ID" \
  '.previous_response_id = $previous_response_id |
   .input = "Turn the two highest-risk findings into acceptance tests."' \
  background-request.json > background-followup.json

curl --fail-with-body --silent --show-error \
  https://api.openai.com/v1/responses \
  -H "Authorization: Bearer $OPENAI_API_KEY" \
  -H "Content-Type: application/json" \
  --data-binary @background-followup.json \
  --output background-response.json

jq -er '.id' background-response.json > background-response-id.txt

नया उत्तर पाने के लिए स्थिति जाँचने वाला ब्लॉक फिर चलाएँ। अगले अनुरोध का शुल्क अलग लगता है; पात्र मॉडल टोकन दरों पर चुनी हुई छूट लागू होती है। अगला अनुरोध उन्हीं सेटिंग से भेजने पर अधिक प्राथमिकता की पात्रता मिलती है, अतिरिक्त छूट नहीं। श्रृंखला में बातचीत का इतिहास अभी भी बिल किए जाने वाले इनपुट टोकन में गिना जाता है।

फ़ंक्शन के ज़रिए टूल चलाते समय function_call_output इनपुट तत्व भेजें, जिसमें मूल call_id और output में टूल का परिणाम हो। फ़ंक्शन कॉलिंग गाइड इस आदान-प्रदान को समझाती है। बातचीत का इतिहास बनाए रखने के तरीके की जगह continuation ID न रखें; यह उस उत्तर को वापस नहीं ला सकता जिसकी उपलब्धता की अवधि समाप्त हो चुकी हो।

बड़े पैमाने पर चलाने से पहले कतार और बिलिंग जाँचें

रियायती पृष्ठभूमि अनुरोधों की योजना Batch कामों के साथ बनाएँ। 2h या 8h वाले अनुरोध साझा Batch/Background Rate Limit का उपयोग करते हैं और इनपुट टोकन भेजते समय गिने जाते हैं। तय समय पर चलने वाले काम बढ़ाने से पहले यह साझा क्षमता जाँचें। खाते में उपलब्ध पैसा इस सीमा से अलग बात है।

भेजना असफल हो तो बताई गई फ़ील्ड का अनुरोध की संरचना से मिलान करें, फिर छोटा काम दोबारा आज़माएँ। त्रुटि के अनुसार फ़ील्ड की जगह, मॉडल की पात्रता, Standard प्रोसेसिंग और स्ट्रीमिंग बंद होने की शर्त जाँचें। लौटे हुए ID से अनुरोध स्वीकार होने की पुष्टि होती है; उत्तर बनना पूरा हुआ या नहीं, यह उत्तर प्राप्त करके जाँचें।

शुल्क में छूट न दिखे तो सहेजे अनुरोध में सिर्फ background: true नहीं, स्पष्ट रूप से 2h या 8h ढूँढें। उत्तर का service_tier जाँचें; यह वास्तव में इस्तेमाल हुआ प्रोसेसिंग मोड बताता है। भेजा गया JSON और लौटा हुआ usage सहेजें, फिर पहले काम का खर्च मौजूदा API कीमतों से मिलाएँ। इसके बाद ही पूरी कतार पर सेटिंग लागू करें।

अपना LLM वर्कफ़्लो बेहतर बनाना चाहते हैं?

एक API से मॉडल जोड़ें, कुंजियाँ प्रबंधित करें और AI खर्च नियंत्रित करें।

मुफ़्त शुरू करें