Kimi K3.1 Pro के खुले वेट्स: डाउनलोड, लाइसेंस या API?

Kimi K3.1 Pro के वेट्स Hugging Face पर Moonshot AI के आधिकारिक रिपॉज़िटरी से मिलते हैं। कोडिंग के शुरुआती परीक्षण होस्टेड API से करें। खुद मॉडल तब चलाएँ, जब नियंत्रण की ज़रूरत हार्डवेयर जुटाने और लाइसेंस की समीक्षा करने को उचित ठहराती हो। सक्रिय पैरामीटरों की संख्या 104B उस पूरे मॉडल का आकार नहीं है जिसे आपको संग्रहित करना होगा।

2026-11-11 तक रिपॉज़िटरी में मॉडल का चेकपॉइंट, कॉन्फ़िगरेशन और विशेष शर्तों वाला लाइसेंस उपलब्ध है। आपको इन वेट्स को अपनी व्यवस्था पर चलाने या API से इन्फ़रेंस खरीदने के बीच निर्णय लेना है। इन्फ़रेंस का अर्थ है मॉडल चलाकर अनुरोध का उत्तर तैयार करना।

खुले वेट्स में क्या मिलता है?

इस रिलीज़ में Kimi K3.1 Pro का चेकपॉइंट मिलता है, यानी सहेजे गए मॉडल वेट्स; केवल API में इस्तेमाल होने वाला नाम नहीं। Moonshot की तकनीकी घोषणा इसे मल्टीमॉडल मॉडल बताती है। इसे Kimi K3 से संयुक्त रीइन्फ़ोर्समेंट लर्निंग के ज़रिए पोस्ट-ट्रेन किया गया है।

आधिकारिक मॉडल कार्ड में ये विशेषताएँ दी गई हैं। संदर्भ की सटीक सीमा Kimi के API मूल्य दस्तावेज़ों में भी दर्ज है।

विशेषता	प्रकाशित मान
Hugging Face रिपॉज़िटरी	moonshotai/Kimi-K3.1-Pro
आर्किटेक्चर	Mixture-of-Experts, या MoE
कुल पैरामीटर	2.8T
सक्रिय पैरामीटर	104B
संदर्भ सीमा	1,048,576 tokens
लाइसेंस	विशेष शर्तों वाला Kimi K3.1-Pro License

MoE मॉडल हर टोकन के लिए अपने कुछ पैरामीटर ही सक्रिय करता है। इससे बाकी विशेषज्ञ नेटवर्क चेकपॉइंट से हट नहीं जाते। संग्रहण की योजना वास्तविक फ़ाइलों के आकार से बनाएँ, केवल 104B से नहीं।

रिपॉज़िटरी की फ़ाइल सूची लगभग 1.56 TB आकार दिखाती है। वेट फ़ाइलों के नाम of-000096.safetensors पर समाप्त होते हैं। इसके कॉन्फ़िगरेशन में mxfp4-pack-quantized दिया गया है। vLLM के निर्देश स्पष्ट करते हैं कि रूट किए जाने वाले विशेषज्ञों के वेट्स MXFP4 में हैं। बाकी वेट्स BF16 में हैं।

कोडिंग टीमों को इससे मॉडल चलाने का विकल्प मिलता है, तैयार कोडिंग एजेंट नहीं। मॉडल के अनुरोध चलाने वाला सर्विंग इंजन और एजेंट क्लाइंट अलग-अलग चुनें। मौजूदा काम स्थानांतरित करने से पहले रिपॉज़िटरी पढ़ना, टूल चलाना और वास्तविक स्वीकृति परीक्षण जाँचें।

Moonshot की API आरंभिक मार्गदर्शिका में kimi-k3.1-pro-highspeed भी होस्टेड विकल्प के रूप में दिया गया है। विज्ञापित गति को उस सेवा का दावा मानें। इन वेट्स को डाउनलोड करने से वैसी ही गति मिलने की गारंटी नहीं होती।

Kimi K3.1 Pro लाइसेंस की क्या शर्तें हैं?

Kimi K3.1-Pro License की शर्तें पूरी करने पर व्यावसायिक उपयोग की अनुमति है। तैनाती से पहले MaaS और मॉडल का नाम दिखाने की शर्तें अलग-अलग जाँचें। यह शर्तों का व्यावहारिक विवरण है, आपके व्यवसाय पर कानूनी राय नहीं।

MaaS में लगातार 12 महीनों का राजस्व गिना जाता है

खंड 2 तब लागू होता है जब लाइसेंसधारक या उसकी कोई संबद्ध संस्था Model as a Service, यानी MaaS व्यवसाय चलाती है। किसी भी लगातार 12 महीनों में उनका कुल राजस्व $20 million से अधिक होने पर अलग समझौता ज़रूरी है।

यह शर्त लाइसेंसधारक और उसकी संबद्ध संस्थाओं के संयुक्त राजस्व पर है। इसमें केवल इस मॉडल से कमाया गया राजस्व नहीं गिना जाता। सॉफ़्टवेयर या उससे बने व्युत्पन्न कार्यों के व्यावसायिक उपयोग से पहले समझौता होना चाहिए।

MaaS में तीसरे पक्ष को इन्फ़रेंस या फ़ाइन-ट्यूनिंग की पहुँच दी जाती है। उस पक्ष को इनपुट, पैरामीटर या प्रशिक्षण डेटा पर सार्थक नियंत्रण मिलना भी परिभाषा का हिस्सा है। ऐसे अंतिम-उपयोगकर्ता उत्पाद बाहर हैं जिनमें मॉडल की क्षमताएँ केवल खास सुविधाओं या संचालन ढाँचों, यानी harnesses, में जुड़ी हों। कहीं और होस्ट किए गए मॉडल तक केवल अनुरोध पहुँचाने वाली सेवाएँ भी बाहर हैं। आपका वास्तविक व्यवसाय किसी अपवाद में आता है या नहीं, यह कानूनी सलाहकार से जाँचें।

नाम दिखाने की शर्त में मासिक सीमाएँ लागू होती हैं

खंड 3 उन व्यावसायिक उत्पादों या सेवाओं पर लागू होता है जो सॉफ़्टवेयर या उसके व्युत्पन्न कार्यों का उपयोग करते हैं। कोई भी सीमा पार होने पर संबंधित उत्पाद या सेवा के उपयोगकर्ता इंटरफ़ेस में Kimi K3.1-Pro प्रमुखता से दिखाना होगा। सीमाएँ हैं: महीने में 100 million सक्रिय उपयोगकर्ता या $20 million मासिक राजस्व।

उपयोगकर्ताओं की गिनती मासिक सक्रिय उपयोगकर्ताओं की है, दैनिक सक्रिय उपयोगकर्ताओं की नहीं। राजस्व की अवधि यहाँ एक महीना है। इसे MaaS की लगातार 12 महीनों वाली अवधि से अलग रखें।

छूट का दायरा अलग है

खंड 4 आंतरिक उपयोग को खंड 2 और 3 की शर्तों से छूट देता है। Moonshot के आधिकारिक उत्पादों या प्रमाणित इन्फ़रेंस साझेदारों के ज़रिए मिलने वाली पहुँच भी इस छूट में आती है। आंतरिक उपयोग की परिभाषा में सॉफ़्टवेयर, उसके परिणाम या उसकी मूल क्षमताएँ तीसरे पक्ष को उपलब्ध कराना शामिल नहीं है।

API अनुकूलता से प्रमाणित साझेदार होने का निष्कर्ष न निकालें। गेटवे से जुड़ना और लाइसेंस की छूट मिलना अलग प्रश्न हैं। आवश्यक कॉपीराइट और उपयोग की अनुमति वाले नोटिस बनाए रखें। चुने गए प्रदाता की लागू शर्तें भी अलग से पढ़ें।

वेट्स कैसे डाउनलोड करें और जाँचें?

चेकपॉइंट डाउनलोड करने से पहले लाइसेंस और डाउनलोड का आकार देखें। Hugging Face CLI निर्देशों से वर्तमान hf CLI स्थापित करें। पर्याप्त खाली स्थान वाला फ़ाइल सिस्टम चुनें।

नीचे के आदेश Bash के लिए हैं। इनमें 2026-11-11 को जाँचा गया रिपॉज़िटरी संस्करण तय किया गया है।

KIMI_REPO="moonshotai/Kimi-K3.1-Pro"
KIMI_REV="d9e99b0792a5e93b78ea9bea62a68167e36ddd9e"
KIMI_DIR="$PWD/kimi-k3.1-pro"

hf download "$KIMI_REPO" README.md LICENSE config.json \
  --revision "$KIMI_REV" --local-dir "$KIMI_DIR"

hf download "$KIMI_REPO" --revision "$KIMI_REV" \
  --local-dir "$KIMI_DIR" --dry-run

डाउनलोड किए गए LICENSE और README.md पढ़ें। डाउनलोड का पूर्वावलोकन वेट्स डाउनलोड किए बिना बाकी फ़ाइलों और बाइट्स की जानकारी देता है। डाउनलोड कैश और इंजन की कामकाजी फ़ाइलों के लिए अतिरिक्त जगह छोड़ें। रिपॉज़िटरी का आकार पूरे संग्रहण बजट के बराबर नहीं है।

लाइसेंस और उपलब्ध क्षमता की जाँच पूरी होने पर उसी Bash सत्र में यह चलाएँ:

hf download "$KIMI_REPO" --revision "$KIMI_REV" \
  --local-dir "$KIMI_DIR" &&
hf cache verify "$KIMI_REPO" --revision "$KIMI_REV" \
  --local-dir "$KIMI_DIR" --fail-on-missing-files

Hugging Face का सत्यापन आदेश स्थानीय फ़ाइलों के चेकसम का Hub के चेकसम से मिलान करता है। --fail-on-missing-files अधूरे डाउनलोड को भी पहचानता है।

तभी आगे बढ़ें जब जाँच सफल हो और कोई फ़ाइल गायब या चेकसम अलग न मिले। पूरा डाउनलोड फ़ाइलों की पूर्णता की पुष्टि करता है। इससे यह साबित नहीं होता कि आपका इन्फ़रेंस इंजन मॉडल लोड कर सकेगा। चेकसम अलग मिलने पर बताई गई फ़ाइल के लिए उसी संस्करण पर hf download के साथ --force-download इस्तेमाल करें। मॉडल से अनुरोध चलाने से पहले जाँच दोहराएँ।

किस हार्डवेयर की योजना बनाएँ?

विशिष्ट हार्डवेयर के लिए दिए गए तैनाती निर्देश चुनें। इसे सामान्य वर्कस्टेशन पर चलने वाला 104B मॉडल न मानें। 2026-11-11 तक vLLM के निर्देशों में आठ NVIDIA GPU वाला आधार कॉन्फ़िगरेशन दिया गया है: दो GB300 ट्रे या एक B300 नोड।

यह दस्तावेज़ों में दिया गया कॉन्फ़िगरेशन है, हर स्थिति की न्यूनतम आवश्यकता नहीं। इससे किसी निश्चित अनुरोध-प्रसंस्करण गति का वादा भी नहीं होता। निर्देश बताते हैं कि इस आधार कॉन्फ़िगरेशन की थ्रूपुट को अनुकूलित नहीं किया गया था। सामान्य लॉन्च आदेश के बजाय इस मॉडल के लिए दिए गए निर्देश अपनाएँ।

SGLang की मार्गदर्शिका दूसरा रास्ता देती है। इसमें kimi-k3.1-day-0 शाखा का नाम है। जाँचे गए कॉन्फ़िगरेशन और अभी जाँच के अधीन विकल्प अलग बताए गए हैं।

खरीद से पहले परीक्षण के लिए दस्तावेज़ों में दिया गया एक हार्डवेयर कॉन्फ़िगरेशन चुनें। इंजन संस्करण, इमेज डाइजेस्ट और चेकपॉइंट संस्करण दर्ज करें। छोटे अनुरोध से शुरू करें। फिर संदर्भ की लंबाई और एक साथ चलने वाले अनुरोध अलग-अलग बढ़ाएँ। मेमोरी, पहला टोकन मिलने का समय और पूरी हुई कार्य-इकाई की लागत मापें।

विज्ञापित संदर्भ सीमा हर समवर्ती अनुरोध सेटिंग में पर्याप्त रनटाइम मेमोरी की गारंटी नहीं देती। स्थानीय इन्फ़रेंस की API से तुलना करते समय एजेंट क्लाइंट, टूल, तर्क की सेटिंग और स्वीकृति परीक्षण समान रखें।

वेट्स पर नियंत्रण, अनुकूलन या नियंत्रित इन्फ़रेंस वातावरण चाहिए तो खुद मॉडल चलाना अधिक उपयोगी हो सकता है। टीम के पास क्लस्टर संचालन की क्षमता न हो या हार्डवेयर का पर्याप्त उपयोग न हो पाए तो यह विकल्प कम आकर्षक है। API बिल को हार्डवेयर बजट में बदलने से पहले खुद मॉडल होस्ट करने की लागत सूची पढ़ें।

मॉडल को API से कैसे आज़माएँ?

बुनियादी ढाँचे पर खर्च तय करने से पहले kimi-k3.1-pro से छोटा कोडिंग अनुरोध पूरा कराएँ। API मॉडल ID को Hugging Face रिपॉज़िटरी ID से अलग रखें।

इन API विकल्पों की जाँच 2026-11-11 को हुई थी:

पहुँच का रास्ता	मॉडल ID	OpenAI-संगत Base URL	प्रमाणीकरण
Moonshot API	kimi-k3.1-pro	https://api.moonshot.ai/v1	आपकी Moonshot API कुंजी
BetterToken API	kimi-k3.1-pro	https://www.bettertoken.ai/v1	आपकी BetterToken API कुंजी

जाँच की तारीख पर BetterToken इसी मॉडल ID को सूचीबद्ध करता है। गेटवे की वर्तमान कीमतें अलग से देखें। नीचे दिए गए Moonshot के शुल्क BetterToken की कीमतें नहीं हैं।

सीधे Moonshot का परीक्षण करने के लिए उसकी आरंभिक मार्गदर्शिका में दिए गए प्लेटफ़ॉर्म लिंक से API कुंजी बनाएँ। Bash में कुंजी दर्ज करें; नीचे का आदेश उसके अक्षर स्क्रीन पर नहीं दिखाता:

read -rs MOONSHOT_API_KEY && export MOONSHOT_API_KEY

curl --fail-with-body --silent --show-error \
  "https://api.moonshot.ai/v1/chat/completions" \
  -H "Authorization: Bearer ${MOONSHOT_API_KEY}" \
  -H "Content-Type: application/json" \
  --data '{
    "model": "kimi-k3.1-pro",
    "reasoning_effort": "low",
    "max_completion_tokens": 4096,
    "messages": [
      {
        "role": "user",
        "content": "Return a Python function add(a, b) and one assert checking add(2, 3) == 5."
      }
    ]
  }'

choices[0].message.content में फ़ंक्शन और assert जाँचें। परीक्षण का दायरा बढ़ाने से पहले उत्तर में टोकन उपयोग की जानकारी देखें। यह अनुरोध प्रमाणीकरण और पाठ तैयार करने की क्षमता जाँचता है। इससे यह सिद्ध नहीं होता कि कोडिंग एजेंट फ़ाइलें पढ़ या बदल सकता है।

Kimi के तर्क संबंधी दस्तावेज़ low, high और max का समर्थन बताते हैं। डिफ़ॉल्ट मान max है। तर्क प्रक्रिया चालू रहती है। उदाहरण में छोटे कनेक्टिविटी परीक्षण के लिए low चुना गया है।

उत्तर में API त्रुटि मिले तो पहले एंडपॉइंट, कुंजी के प्रदाता और सटीक मॉडल ID की जाँच करें। उत्तर अधूरा कट जाए तो उसे मॉडल की गुणवत्ता की समस्या मानने से पहले आउटपुट सीमा देखें।

कई चरणों वाली API बातचीत और टूल कॉल में सहायक का पूरा संदेश बिना बदले messages में वापस भेजें। इसमें reasoning_content और tool_calls भी बने रहने चाहिए। फिर Claude Code और Codex सेटअप मार्गदर्शिका अपनाकर वास्तविक फ़ाइल पढ़ने का परीक्षण करें।

API टोकन बिलिंग, Kimi सदस्यता और Kimi Code की उपयोग सीमाओं से अलग है। रुकावट वास्तव में सदस्यता सीमा की हो तो कोटा और API बिलिंग मार्गदर्शिका देखें।

खुद मॉडल चलाने और API की लागत की तुलना कैसे करें?

समान गुणवत्ता लक्ष्य पर पूरी हुई कार्य-इकाइयों की लागत तुलना करें। केवल वेट्स उपलब्ध होने की तुलना API के टोकन शुल्क से न करें। डाउनलोड करने योग्य वेट्स हार्डवेयर, संग्रहण, नेटवर्क, संचालन या संभावित लाइसेंस समझौते की लागत समाप्त नहीं करते।

2026-11-11 को जाँच के अनुसार, Moonshot का API प्लेटफ़ॉर्म प्रति 1,000,000 टोकन ये USD दरें सूचीबद्ध करता है। Kimi की मूल्य शर्तों के अनुसार इनमें लागू कर शामिल नहीं हैं।

API मॉडल	सामान्य इनपुट	आउटपुट	कैश हिट	डिफ़ॉल्ट 5 मिनट की कैश राइट
kimi-k3.1-pro	$2.00	$10.00	$0.20	$2.00
kimi-k3.1-pro-highspeed	$4.00	$20.00	$0.20	$4.00

कैश दस्तावेज़ कैश हिट, कैश में लिखे गए टोकन और बिना कैश वाले इनपुट को अलग रखते हैं। Chat Completions और Responses में prompt_cache_options छोड़ने पर कैश राइट की अवधि 5m होती है। ऊपर के अनुरोध में यह फ़ील्ड नहीं है, इसलिए वही डिफ़ॉल्ट लागू होता है।

कैश में लिखे गए टोकन को सामान्य इनपुट में दोबारा न गिनें। दूसरी कैश अवधि के लिए उसकी संबंधित लेखन दर इस्तेमाल करें।

एक अनुमान के लिए मानें कि मानक मॉडल पर एक कार्य में 100,000 इनपुट टोकन और 10,000 बिल किए जाने वाले आउटपुट टोकन लगते हैं। मानें कि कैश हिट नहीं हैं। पूरा इनपुट या तो बिना कैश का है या डिफ़ॉल्ट पाँच मिनट की अवधि के लिए कैश में लिखा जाता है।

इस स्थिति में इनपुट की दोनों श्रेणियों का शुल्क प्रति मिलियन टोकन $2.00 है:

Estimated token charge
= (100,000 × $2.00 + 10,000 × $10.00) / 1,000,000
= $0.30 before taxes

यह गणना है, किसी वास्तविक कार्य का मापा हुआ परिणाम नहीं। स्क्रीन पर दिखने वाले उत्तर की लंबाई के बजाय रिपोर्ट किए गए आउटपुट उपयोग को लें। वैकल्पिक टूल और दूसरी सेवाओं को अनुमान से तभी बाहर रखें, जब आपका कार्यभार उनका उपयोग न करता हो।

खुद मॉडल चलाने की स्थिति में पूरी परिचालन लागत को सफलतापूर्वक पूरे हुए समान कार्यों की संख्या से भाग दें। खाली पड़ी क्षमता, होस्ट मेमोरी, संग्रहण, बिजली या किराया, नेटवर्क, रखरखाव और आवश्यक व्यावसायिक समझौते शामिल करें। दोनों रास्तों में दोबारा किए गए अनुरोध और स्वीकृति परीक्षण में विफल कार्यों की लागत भी दर्ज रखें।

प्रायोगिक ऐप या अनिश्चित माँग के लिए पहले API चुनें। नियंत्रण की ज़रूरत उचित हो और मापा गया कार्यभार परिचालन लागत को सही ठहराए, तब खुद मॉडल चलाने पर फिर विचार करें। MaaS व्यवसाय में तैनाती का वादा या खरीद की प्रतिबद्धता करने से पहले लाइसेंस के तहत अपना वर्गीकरण तय करें।