अपने रूटिंग फ़ाइलों को एडिट करने के लिए AI मॉडल चुनें

Segment Route किसी एक निश्चित मॉडल पर नहीं चलता। आप एक स्टैंडर्ड API endpoint के माध्यम से क्लाउड AI प्रोवाइडर, अपने पीसी पर चलने वाले मॉडल, या इनबिल्ट मॉडल को कनेक्ट करते हैं, और यह चुनाव तय करता है कि आपके prompts कहाँ जाएं और किसी गलती का खर्चा क्या होगा।

मॉडल कनेक्ट करने के तीन तरीके

एक क्लाउड AI प्रोवाइडर

क्लाउड प्रोवाइडर को एक स्टैंडर्ड API endpoint के माध्यम से एक्सेस किया जाता है, और आप एंडपॉइंट पता और अपनी API key ऐप में पेस्ट करते हैं। key आपके पीसी पर ही रहती है। बड़े क्लाउड मॉडल अक्सर लंबी रूट फ़ाइल या उलझी हुई रीडायरेक्ट चेन को बेहतर ढंग से संभाल लेते हैं। गोपनीयता का नतीजा स्पष्ट है: आपका prompt, जिसमें एजेंट द्वारा पढ़ी गई किसी भी फ़ाइल का टेक्स्ट भी शामिल है, उस प्रोवाइडर को जाता है। प्रोवाइडर अपनी उपयोग शक्ति के लिए भी शुल्क ले सकता है, जो आप और प्रोवाइडर के बीच का मामला है। उस फ़ाइल को एजेंट द्वारा पढ़ने से पहले सोचें जिसमें आंतरिक होस्ट नाम हों।

अपने पीसी पर एक मॉडल

अपने पीसी पर चलने वाला मॉडल उस समय चुनें जब रूट फ़ाइलों को मशीन से बाहर नहीं जाना चाहिए। लोकल मॉडल के साथ कुछ भी पीसी से बाहर नहीं जाता, क्योंकि आपके prompts केवल उस मॉडल एंडपॉइंट को जाते हैं जिसे आप चुनते हैं और वह एंडपॉइंट आपके अपने कंप्यूटर पर होता है। लोकल मॉडल आमतौर पर क्लाउड मॉडल से छोटे होते हैं, इसलिए diff को ध्यान से पढ़ने और बड़े काम को छोटे चरणों में बांटने की उम्मीद रखें। शुरू करने से पहले Test बटन का उपयोग करके response time और context window देखें।

इनबिल्ट मॉडल

इनबिल्ट मॉडल बिना आपके अपने endpoint के उपयोग के लिए तैयार है, इसलिए यह इंस्टॉलेशन के बाद Segment Route आज़माने का सबसे तेज़ तरीका है। आपको कोई पता या key दर्ज करने की जरूरत नहीं है। यह एक छोटे पहले काम के लिए उपयुक्त है, जैसे रूट लिस्ट पढ़ना और एक रीडायरेक्ट सुझाना, और यह आपको दिखाता है कि cards, diffs और approval modes कैसे व्यवहार करते हैं। जब कोई काम उससे बेहतर ढंग से संभाले जाने से बड़ा हो जाए, तो एक बड़े मॉडल को कनेक्ट करें और उसी काम को फिर से चलाएं।

Test बटन से कनेक्शन की जांच करें

Test बटन किसी एंडपॉइंट की जांच करता है जिस पर आप भरोसा करने से पहले। यह response time और context window दिखाता है, जो वह टेक्स्ट की मात्रा है जिसे मॉडल एक साथ रख सकता है। एक छोटा response time कई cards वाले लंबे सेशन को अधिक सुखद बनाता है, और एक छोटा context window आपको बताता है कि एक बार में एक रूट फ़ाइल पर काम करें और पूरी कॉन्फ़िगरेशन पेस्ट न करें। यदि टेस्ट विफल हो जाता है, तो पहले एंडपॉइंट पता और key की जांच करें, और फिर फिर से टेस्ट करें। किसी अलग मॉडल या endpoint को कनेक्ट करते समय टेस्ट चलाएं, ताकि पहले काम से पहले आपको उसका response time और context window पता हो।

मॉडल को काम से मिलाएं

बहुत सारे चलते-फिरते हिस्से वाले काम के लिए बड़ा मॉडल उपयोग करें: एक लंबी रूट फ़ाइल का पुनर्गठन, यह तर्क देना कि रीडायरेक्ट चेन क्यों लूप हो रही है, या दो परतों के नियमों की तुलना करना। छोटे एडिट के लिए छोटा मॉडल उपयोग करें, जैसे 302 से 301 तक एक कोड बदलना या एक path जोड़ना। run_on_model टूल एक अकेले कठिन कदम को बड़े मॉडल को भेजता है, इसलिए चैट का बाकी हिस्सा छोटे मॉडल पर रह सकता है। यह बड़े मॉडल को उस पल के लिए सुरक्षित रखता है जब इसकी आवश्यकता होती है, और आप हर card और हर diff को स्वयं पढ़ते हैं।

गुणवत्ता मॉडल से मॉडल तक भिन्न होती है, और कोई भी मॉडल हमेशा सही नहीं होता। हर प्रस्ताव को एक ड्राफ्ट मानें। diff पढ़ें, अपनी कॉन्फ़िगरेशन टेस्ट कमांड चलाएं, और पता मांगें ताकि असली status code देख सकें। Ask first live फ़ाइलों के लिए एक समझदारी भरा डिफ़ॉल्ट है, क्योंकि एजेंट कुछ बदलने वाले एक्शन से पहले रुक जाता है, और Plan only आपको कुछ भी चलने से पहले एक योजना पढ़ने देता है।