Llama 4 Maverick

विचार करण्याचा मुख्य आधारस्तंभ. हे एकाच वेळी खूप मोठ्या प्रमाणात संदर्भ धरू शकतो, त्यामुळे जिथे संपूर्ण चित्र डोळ्यांसमोर ठेवणे सर्वात महत्त्वाचे असते अशा खोल विचार-टप्प्यांसाठी हा default आहे.

पुरवठादार: OpenRouter, Groq, Together, DeepInfra

Llama 4 Scout

Llama 4 कुटुंबातील वेगवान साथीदार. Maverick पेक्षा लहान आणि जलद, tool calling मध्ये सक्षम. जेव्हा latency महत्त्वाची असते आणि Maverick चा पूर्ण context budget आवश्यक नसतो अशा interactive टप्प्यांसाठी वापरला जातो.

पुरवठादार: OpenRouter, Groq

Qwen 3.6

बहुभाषिक खोली आणि मजबूत, सुसंरचित उत्तरे. बहुभाषिक स्तराला आवश्यक असलेल्या इंग्रजीव्यतिरिक्त भाषांतील विचार-प्रक्रियेत याचा मोठा वाटा; Llama कुटुंबाबाहेरचा स्वतंत्र पुरवठादार आधार पर्यायी साखळीत जादा भक्कमपणा देतो.

पुरवठादार: OpenRouter, DashScope, DeepInfra

Gemma 4

सामान्य hardware वर चालण्याइतपत लहान. जिथे क्षमतेपेक्षा पोहोच महत्त्वाची असते अशा (on-device, कमी bandwidth आणि कमकुवत network deployments) ठिकाणी, आणि Llama व Qwen बरोबरच तिसरा-कुटुंब fallback म्हणून वापरला जातो.

पुरवठादार: OpenRouter, Google

आमचे मॉडेल निकष

CIRIS Agent साठी पाच अनिवार्य आवश्यकता

1. Structured Outputs आणि Tool Use

प्रति interaction 12-70 tool calls मध्ये function calling चे native support आणि valid JSON परत करणे आवश्यक. CIRIS एक orchestrator आहे. आम्हाला बोलकी conversation नाही, तर stable tool semantics हवे आहेत.

2. Context Window: किमान 128K

CIRIS आपल्या प्रत्येक विनंतीत संपूर्ण शासन मजकूर आणि मार्गदर्शक अंतर्भूत करतो. 128K ही अगदी किमान गरज आहे; लांब संभाषणे, साधनांची उत्तरे आणि लेखापरीक्षण नोंदींसाठी 256K+ जास्त पसंतीचे आहे.

3. किफायतशीर खर्च

लक्ष्य: एकत्रित 1M tokens साठी $1.00 पेक्षा कमी. आम्ही सर्वात स्वस्त कार्यरत पर्याय निवडतो, सर्वात स्वस्त benchmark विजेता नाही. 10 पैकी 1 वेळा JSON तुटणाऱ्या स्वस्त model पेक्षा कधीही न तुटणारा reliable model बरा.

4. Multi-Provider उपलब्धता

मजबूत fallback chains साठी किमान दोन स्वतंत्र providers कडून उपलब्ध असणे आवश्यक. CIRIS बंद पडण्याच्या वेळी पूर्णपणे अयशस्वी होण्याऐवजी हळूहळू क्षमतामान कमी करतो.

5. Latency आणि User Experience

जलद प्रतिसाद ethical review workflows साठी माणसांना loop मध्ये ठेवतात. आम्ही background tasks साठी हळू backends स्वीकारत interactive टप्प्यांसाठी low-latency providers ला प्राधान्य देतो.

उत्पादन तैनाती

डीफॉल्ट स्तर

पूर्ण context budget ची गरज असलेल्या खोल-विचार टप्प्यांसाठी cost-optimized provider द्वारे Llama 4 Maverick.

वेगवान स्तर

Interactive वापरासाठी Llama 4 Scout speed-optimized provider (Groq) द्वारे, जड context साठी Groq वर Maverick पर्याय म्हणून.

बहुभाषिक स्तर

Qwen 3.6 बहुभाषिक स्तराला आवश्यक असलेल्या इंग्रजीव्यतिरिक्त भाषांतील विचार-प्रक्रियेचा भार वाहतो, आणि साखळीत Llama नसलेला पर्याय देतो.

Edge स्तर

On-device, कमी bandwidth, आणि कमकुवत-network deployments साठी Gemma 4, जिथे model च्या आकारापेक्षा user पर्यंत पोहोचणे महत्त्वाचे असते.

फॉलबॅक साखळी

Maverick → Scout → Qwen 3.6 → Gemma 4 अनेक providers मध्ये, जेणेकरून agent model families आणि infrastructure सीमांमध्ये hard failure ऐवजी graceful degradation करतो.

ही Lineup का

वेगळ्या भूमिका, बदलण्याजोगे भाग नाहीत

Maverick संपूर्ण संदर्भ-मर्यादा महत्त्वाची असलेल्या खोल विचारांचे काम करतो. Scout जिथे प्रतिसादाचा वेग सर्वात महत्त्वाचा असतो त्या संवादी टप्प्यावर काम करतो. Qwen 3.6 राज्यघटनेला 29 भाषांमध्ये आवश्यक असलेल्या बहुभाषिक विचार-मार्गांपर्यंत पोहोचतो. Gemma 4 हा छोट्या आकाराचा पर्याय आहे जो एजंट सामान्य संगणकांच्या आवाक्यात आणतो. निवड अशी केली आहे की वेगवेगळ्या टप्प्यांचे काम एकाच मॉडेलला सगळे करायला न लावता, प्रत्यक्षात योग्य असलेल्या मॉडेलकडे जाते.

तीन स्वतंत्र model families

Llama (Maverick + Scout), Qwen, आणि Gemma तीन स्वतंत्र training pipelines आणि तीन स्वतंत्र provider ecosystems मधून येतात. हे fallback chains साठी महत्त्वाचे आहे: एका family वर CVE, परवाना बदल किंवा provider बंद पडणे agent खाली आणत नाही. model layer वरील स्वातंत्र्य म्हणजेच reasoning layer वर IDMA component मजबूत करणारी गुणधर्म.

Lineup मधून काय वगळले जाते

पाच निकष पूर्ण न करणारे models — बहुतेकदा, token किमतीवर आकर्षक वाटणारे पण structured output आणि tool calling मध्ये अयशस्वी होणारे models.

प्रातिनिधिक अपयश (GPT-OSS-20B): "tool choice आवश्यक आहे, पण modelने tool call केली नाही"

प्रति interaction 12-70 tool calls वर अवलंबून असलेल्या framework साठी हा error अस्वीकार्य आहे. 3-10x स्वस्त token किंमत operational failures च्या मोबदल्यात परवडत नाही.

128K+ Context का अनिवार्य आहे

नेहमी चालू असलेला शासन मजकूर आणि मार्गदर्शक

CIRIS प्रत्येक विनंतीत संपूर्ण शासन मजकूर आणि संपूर्ण सविस्तर मार्गदर्शक अंतर्भूत करतो. सारांश नाही. संक्षिप्त आवृत्ती नाही. संपूर्ण शासन मजकूर.

यामुळे शासन मजकुरातील किंवा मार्गदर्शकातील बदल नव्या प्रशिक्षणाची किंवा मजकूर आकुंचनाच्या युक्त्यांची वाट न पाहता सर्व एजंटच्या वर्तनावर लगेच परिणाम करतात.

संपूर्ण Ethical आणि Procedural State

CIRIS एजंट एकाच वेळी अनेक साधने समन्वयित करतात आणि त्यांना खालील गोष्टींचा मागोवा ठेवावा लागतो:

• बहु-चरण कार्यप्रवाह
• System state आणि tool outputs
• User messages आणि conversation history
• संपूर्ण शासन मजकूर आणि मार्गदर्शक

हा एकत्रित context सहजपणे 32K-64K पेक्षा जास्त होतो, विशेषतः दीर्घकालीन sessions किंवा जटिल तपासांसाठी. म्हणूनच 128K हे किमान आहे आणि 256K+ पसंतीचे.

मुख्य मुद्दा:

CIRIS modelमध्ये बसवण्यासाठी आपले मूल्ये किंवा प्रक्रिया कापत नाही. उलट, CIRIS असे models निवडतो जे प्रत्येक call मध्ये संपूर्ण ethical आणि operational framework वाहण्याइतके मोठे आहेत. लहान context windows असलेले models (जरी ते स्वस्त किंवा जास्त लोकप्रिय असले तरी) production वापरातून वगळले जातात.

हे CIRIS राज्यघटनेला कसे सहाय्य करते

Model निवड ethical infrastructure म्हणून

पारदर्शकता आणि तपासणीयोग्यता

• Long context reasoning traces, decisions आणि tool calls मानवी review साठी दृश्यमान ठेवतो
• Stable JSON आणि structured outputs प्रत्येक tool invocation auditable बनवतात
• प्रत्येक call मध्ये संपूर्ण governance artifacts निर्णय तत्त्वांपर्यंत traceable करतात

लवचिकता आणि शासनव्यवस्था

• Multi-provider deployment critical ethical infrastructure मध्ये single points of failure टाळतो
• "चमकदार पण नाजूक" ऐवजी "पुरेसे चांगले आणि विश्वासार्ह" निवडणे safety आणि सातत्याला प्राधान्य देते
• Outages दरम्यान graceful degradation सेवेची उपलब्धता राखते

मानवी देखरेख

• Fast response tiers real-time ethical review साठी माणसांना प्रक्रियेत सहभागी ठेवतात
• Cheaper tiers जास्त background analysis अवाजवी खर्चाशिवाय शक्य करतात
• Balanced approach रोजच्या वापरासाठी आणि नियतकालीन governance audits दोन्हींसाठी उपयुक्त

मुख्य निष्कर्ष

CIRIS प्रत्यक्ष वापरात Llama 4 Maverick, Llama 4 Scout, Qwen 3.6 आणि Gemma 4 चालवतो, कारण एकत्रितपणे ते राज्यघटनेने घातलेल्या कार्यात्मक आणि आर्थिक अटी पूर्ण करतात: दीर्घ संदर्भ, विश्वासार्ह साधन-वापर, बहुभाषिक व्याप्ती, आणि सामान्य संगणकांपर्यंत पोहोच, तीन स्वतंत्र मॉडेल कुटुंबांमध्ये. नवी मॉडेल सतत तपासली आणि पडताळली जातात; जेव्हा एखादे चांगले मॉडेल प्रत्यक्षात पाचही निकष पूर्ण करते तेव्हा निवड बदलते.

हे मानांकन गुणांच्या मागे धावण्याबद्दल किंवा प्रसिद्धीच्या लाटांबद्दल नाही. हे प्रत्यक्ष वापरात जबाबदार, साधन-केंद्रित एजंटसाठी खरोखर काम करणारी मॉडेल निवडण्याबद्दल आहे, आणि राज्यघटनेला प्रत्येक विनंतीत सोबत नेण्याइतके गांभीर्याने घेण्याबद्दल आहे.