اختر نموذج الذكاء الاصطناعي الذي يعدّل ملفات التوجيه

لا يعمل Segment Route على نموذج ثابت واحد. يمكنك ربط مزود ذكاء اصطناعي سحابي عبر نقطة نهاية API قياسية، أو نموذج يعمل محلياً على جهازك، أو النموذج المدمج، ويحدد هذا الاختيار وجهه توجيه المطالبات وتكلفة الأخطاء.

ثلاث طرق لربط نموذج

مزود ذكاء اصطناعي سحابي

يتم الوصول إلى المزود السحابي عبر نقطة نهاية API قياسية، حيث تلصق عنوان نقطة النهاية ومفتاح API الخاص بك في التطبيق. يبقى المفتاح على جهازك. غالباً ما تتعامل النماذج السحابية الأكبر حجماً بشكل أفضل مع ملفات المسارات الطويلة أو سلاسل إعادة التوجيه المتشابكة. النتيجة المتعلقة بالخصوصية واضحة: تذهب مطالبتك، بما في ذلك نص أي ملف يقرأه الوكيل، إلى هذا المزود. قد يفرض المزود أيضاً رسوم استخدام خاصة به، وهي مسألة بينك وبين المزود. فكّر جيداً قبل السماح للوكيل بقراءة ملف يحتوي على أسماء مضيفين داخلية.

نموذج على جهازك الخاص

يكون اختيار نموذج يعمل محلياً على جهازك هو الخيار المناسب عندما لا يجب أن تغادر ملفات المسارات الجهاز. مع النموذج المحلي، لا يغادر شيء جهاز الكمبيوتر الخاص بك، لأن مطالبك تذهب فقط إلى نقطة نهاية النموذج التي تختارها، وهذه النقطة موجودة على جهازك الخاص. عادةً ما تكون النماذج المحلية أصغر حجماً من النماذج السحابية، لذا توقع قراءة التغييرات (diff) بعناية أكبر وتقسيم المهمة الكبيرة إلى خطوات صغيرة. استخدم زر الاختبار لمعرفة وقت الاستجابة وسعة نافذة السياق قبل البدء.

النموذج المدمج

النموذج المدمج جاهز للاستخدام دون الحاجة إلى نقطة نهاية خاصة بك، لذا فهو أسرع طريقة لتجربة Segment Route بعد التثبيت. لا تحتاج إلى إدخال عنوان أو مفتاح. يناسب مهمة صغيرة أولى، مثل قراءة قائمة المسارات واقتراح إعادة توجيه واحدة، ويسمح لك برؤية سلوك البطاقات والتغييرات وأوضاع الموافقة. عندما تتجاوز المهمة ما يتعامل معه النموذج المدمج بكفاءة، قم بربط نموذج أكبر وشغل المهمة نفسها مرة أخرى.

فحص الاتصال باستخدام زر الاختبار

يتحقق زر الاختبار من نقطة النهاية قبل الاعتماد عليها. يعرض وقت الاستجابة وسعة نافذة السياق، وهي كمية النص التي يمكن للنموذج الاحتفاظ بها في وقت واحد. يجعل وقت الاستجابة القصير الجلسة الطويلة مع العديد من البطاقات أكثر راحة، وتخبرك نافذة السياق الصغيرة بالعمل على ملف مسار واحد في كل مرة بدلاً من لصق تكوين كامل. إذا فشل الاختبار، تحقق من عنوان نقطة النهاية والمفتاح أولاً، ثم أعد الاختبار. شغّل الاختبار كلما ربطت نموذجاً أو نقطة نهاية مختلفة، بحيث تعرف وقت الاستجابة وسعة نافذة السياق قبل المهمة الأولى.

طابق النموذج مع المهمة

استخدم نموذجاً أكبر للأعمال ذات الأجزاء المتحركة العديدة: إعادة هيكلة ملف مسار طويل، أو التفكير في سبب تكرار سلسلة إعادة التوجيه، أو مقارنة قواعد طبقتين. استخدم نموذجاً أصغر للتعديلات الصغيرة، مثل تغيير رمز واحد من 302 إلى 301 أو إضافة مسار واحد. ترسل أداة run_on_model خطوة صلبة واحدة إلى نموذج أكبر، بحيث يمكن أن يبقى بقية الدردشة على نموذج أصغر. هذا يحافظ على النموذج الكبير للحظة التي يهم فيها الأمر، ولا تزال تقرأ كل بطاقة وكل تغيير بنفسك.

تختلف الجودة من نموذج لآخر، ولا يوجد نموذج دائماً صحيح. تعامل مع كل اقتراح كمسودة. اقرأ التغييرات، شغّل أمر اختبار التكوين الخاص بك، واطلب العنوان لرؤية رمز الحالة الفعلي. خيار Ask first هو الإعداد الافتراضي المعقول للملفات الحية، لأن الوكيل يتوقف قبل الإجراءات التي تغير شيئاً، وخيار Plan only يسمح لك بقراءة الخطة قبل تشغيل أي شيء.