Yönlendirme dosyalarınızı düzenleyen AI modelini seçin
Segment Route tek bir sabit model üzerinde çalışmaz. Standart bir API uç noktası aracılığıyla bir bulut AI sağlayıcısı, PC'nizde çalışan bir yerel model veya dahili modeli bağlarsınız; seçim, istemlerinizin nereye gideceğini ve bir hatanın maliyetini belirler.
Bir modeli bağlamanın üç yolu
Bir bulut AI sağlayıcısı
Bir bulut sağlayıcısı, standart bir API uç noktası aracılığıyla erişilir; uç nokta adresini ve API anahtarınızı uygulamaya yapıştırırsınız. Anahtar PC'nizde kalır. Daha büyük bulut modelleri genellikle uzun bir yönlendirme dosyasını veya karmaşık bir yönlendirme zincirini daha iyi yönetir. Gizlilik sonucu açıktır: istemci metni, agent'ın okuduğu dosya içeriği dahil olmak üzere, o sağlayıcıya gider. Sağlayıcı ayrıca kendi kullanımınız için ücret talep edebilir; bu sizinle sağlayıcı arasındaki bir meseledir. Agent'ın iç sunucu adlarını içeren bir dosyayı okumasına izin vermeden önce düşünün.
Kendi PC'nizdeki bir model
Yönlendirme dosyalarının makineden çıkmaması gerektiği durumlarda, PC'nizde yerel olarak çalışan bir model seçilir. Yerel bir modelle hiçbir şey PC'den çıkmaz, çünkü istemleriniz yalnızca seçtiğiniz ve kendi bilgisayarınızda bulunan model uç noktasına gider. Yerel modeller genellikle bulut modellerinden daha küçüktür; bu nedenle farkları daha dikkatli okumanız ve büyük bir işi küçük adımlara bölmeniz gerekir. Başlamadan önce Test düğmesini kullanarak yanıt süresini ve bağlam penceresini görün.
Dahili model
Dahili model, kendi uç noktanıza gerek duymadan kullanıma hazırdır; bu da kurulumdan sonra Segment Route'u denemenin en hızlı yoludur. Bir adres veya anahtar girmenize gerek yoktur. İlk küçük bir görev için, örneğin bir yönlendirme listesini okumak ve bir yönlendirme önermek için uygundur; kartların, farkların ve onay modlarının nasıl davrandığını görmenizi sağlar. Bir iş, modelin iyi yönetebildiğinden daha büyük hale geldiğinde, daha büyük bir model bağlayın ve aynı görevi tekrar çalıştırın.
Test düğmesiyle bağlantıyı kontrol edin
Test düğmesi, ona güvenmeden önce bir uç nokta kontrol eder. Yanıt süresini ve bağlam penceresini gösterir; bağlam penceresi, modelin aynı anda tutabileceği metin miktarını ifade eder. Kısa bir yanıt süresi, çok sayıda kartla uzun bir oturumu daha keyifli hale getirir ve küçük bir bağlam penceresi, tüm yapılandırmayı yapıştırmak yerine bir seferde bir yönlendirme dosyası üzerinde çalışmanızı söyler. Test başarısız olursa, önce uç nokta adresini ve anahtarı kontrol edin, ardından tekrar test edin. Farklı bir model veya uç nokta bağladığınızda test çalıştırın, böylece ilk görevden önce yanıt süresi ve bağlam penceresini bilirsiniz.
Modeli işle eşleştirin
Hareketli parçaları çok olan işler için daha büyük bir model kullanın: uzun bir yönlendirme dosyasını yeniden yapılandırma, bir yönlendirme zincirinin neden döngüye girdiğini düşünme veya iki katmanın kurallarını karşılaştırma. Küçük düzenlemeler için daha küçük bir model kullanın, örneğin bir kodu 302'den 301'e değiştirmek veya bir yol eklemek. run_on_model aracı, tek bir zor adımı daha büyük modele gönderir, böylece sohbetin geri kalanı daha küçük bir modelde kalabilir. Bu, büyük modeli önemli olduğu anda saklar ve her kartı ve her farkı kendiniz okursunuz.
Kalite modelden modele değişir ve hiçbir model her zaman doğru değildir. Her öneriyi bir taslak olarak değerlendirin. Difi okuyun, kendi yapılandırma test komutunuzu çalıştırın ve gerçek durum kodunu görmek için adresi isteyin. Ask first, canlı dosyalar için makul bir varsayılandır, çünkü agent değişiklik yapan işlemlerden önce durur ve Plan only, hiçbir şey çalışmadan önce bir plan okumanıza olanak tanır.
