Alege modelul AI care editează fișierele de rutare
Segment Route nu funcționează cu un singur model fix. Conectezi un furnizor cloud AI printr-un endpoint API standard, un model care rulează local pe PC-ul tău sau modelul integrat, iar alegerea decide unde ajung prompturile tale și cât te costă o greșeală.
Trei moduri de a conecta un model
Un furnizor cloud AI
Un furnizor cloud se accesează printr-un endpoint API standard, iar tu introduci adresa endpoint-ului și cheia API în aplicație. Cheia rămâne pe PC-ul tău. Modelele cloud mai mari gestionează de obicei mai bine fișierele de rută lungi sau lanțurile complexe de redirecționare. Consecința pentru confidențialitate este clară: promptul tău, inclusiv textul oricărui fișier pe care agentul îl citește, ajunge la acel furnizor. Furnizorul poate percepe și el taxe pentru utilizarea sa, ceea ce este o treabă între tine și furnizor. Gândește-te înainte de a lăsa agentul să citească un fișier care conține nume de gazde interne.
Un model pe propriul PC
Un model care rulează local pe PC-ul tău este alegerea potrivită atunci când fișierele de rută nu trebuie să părăsească mașina. Cu un model local, nimic nu părăsește PC-ul, deoarece prompturile tale ajung doar la endpoint-ul modelului pe care îl alegi, iar acel endpoint este pe calculatorul tău. Modelele locale sunt de obicei mai mici decât cele cloud, așa că așteaptă-te să citești mai atent diferențele și să împarți sarcinile mari în pași mici. Folosește butonul Test pentru a vedea timpul de răspuns și fereastra de context înainte de a începe.
Modelul integrat
Modelul integrat este gata de utilizare fără un endpoint personal, fiind astfel cea mai rapidă modalitate de a încerca Segment Route după instalare. Nu introduci o adresă sau o cheie. Se potrivește pentru o primă sarcină mică, cum ar fi citirea unei liste de rute și propunerea unei singure redirecționări, și îți permite să vezi cum se comportă cardurile, diferențele și modurile de aprobare. Când o sarcină depășește ceea ce poate gestiona bine, conectează un model mai mare și execută aceeași sarcină din nou.
Verifică conexiunea cu butonul Test
Butonul Test verifică un endpoint înainte de a te baza pe el. Afișează timpul de răspuns și fereastra de context, adică cantitatea de text pe care modelul o poate reține simultan. Un timp de răspuns scurt face o sesiune lungă cu multe carduri mai plăcută, iar o fereastră de context mică îți spune să lucrezi la un singur fișier de rută pe rând, în loc să lipești o configurație întreagă. Dacă testul eșuează, verifică mai întâi adresa endpoint-ului și cheia, apoi testează din nou. Rulează testul de fiecare dată când conectezi un model sau un endpoint diferit, astfel încât să știi timpul de răspuns și fereastra de context înainte de prima sarcină.
Potrivește modelul cu sarcina
Folosește un model mai mare pentru lucrul cu multe componente în mișcare: restructurarea unui fișier de rută lung, raționamentul privind motivul pentru care un lanț de redirecționare se rotește sau compararea regulilor a două straturi. Folosește un model mai mic pentru editări mici, cum ar fi schimbarea unui cod de la 302 la 301 sau adăugarea unei singure căi. Instrumentul run_on_model trimite un singur pas concret către un model mai mare, astfel încât restul conversației poate rămâne pe unul mai mic. Astfel, păstrezi modelul mare pentru momentul când contează, iar tu citești în continuare fiecare card și fiecare diferență.
Calitatea variază de la model la model, iar niciun model nu este întotdeauna corect. Tratează fiecare propunere ca pe un proiect. Citește diferența, rulează propria comandă de testare a configurației și solicită adresa pentru a vedea codul de status real. Ask first este o setare rezonabilă pentru fișierele live, deoarece agentul se oprește înainte de acțiunile care modifică ceva, iar Plan only îți permite să citești un plan înainte ca ceva să ruleze.
