Wybierz model AI, który edytuje Twoje pliki routingowe
Segment Route nie działa na jednym, stałym modelu. Łączysz dostawcę AI w chmurze przez standardowy punkt końcowy API, model działający lokalnie na Twoim PC lub wbudowany model, a wybór decyduje, gdzie trafiają Twoje polecenia i ile kosztuje błąd.
Trzy sposoby połączenia z modelem
Dostawca AI w chmurze
Dostawca w chmurze jest osiągany przez standardowy punkt końcowy API, a Ty wklejasz adres punktu końcowego i swój klucz API do aplikacji. Klucz pozostaje na Twoim PC. Większe modele chmurowe lepiej radzą sobie z długim plikiem tras lub splątanym łańcuchem przekierowań. Konsekwencja prywatności jest oczywista: Twoje polecenie, w tym tekst każdego pliku, który agent odczytuje, trafia do tego dostawcy. Dostawca może również naliczać opłaty za własne użycie, co jest sprawą między Tobą a dostawcą. Pomyśl, zanim pozwolisz agentowi odczytać plik zawierający wewnętrzne nazwy hostów.
Model na Twoim własnym PC
Model działający lokalnie na Twoim PC to wybór, gdy pliki tras nie muszą opuszczać maszyny. Przy modelu lokalnym nic nie opuszcza komputera, ponieważ Twoje polecenia trafiają tylko do punktu końcowego modelu, który wybierzesz, a ten punkt końcowy znajduje się na Twoim własnym komputerze. Modele lokalne są zazwyczaj mniejsze niż chmurowe, więc oczekuj, że będziesz dokładniej czytać diff i dzielić duże zadania na małe kroki. Użyj przycisku Test, aby sprawdzić czas odpowiedzi i okno kontekstowe przed rozpoczęciem.
Wbudowany model
Wbudowany model jest gotowy do użycia bez Twojego własnego punktu końcowego, więc jest najszybszym sposobem na wypróbowanie Segment Route po instalacji. Nie wpisujesz adresu ani klucza. Nadaje się do pierwszego małego zadania, takiego jak odczytanie listy tras i zaproponowanie jednego przekierowania, i pozwala zobaczyć, jak zachowują się karty, diffy i tryby zatwierdzania. Gdy zadanie przekracza możliwości, dołącz większy model i wykonaj to samo zadanie ponownie.
Sprawdź połączenie przyciskiem Test
Przycisk Test sprawdza punkt końcowy, zanim się na nim oprzesz. Pokazuje czas odpowiedzi i okno kontekstowe, czyli ilość tekstu, jaką model może utrzymać jednocześnie. Krótki czas odpowiedzi sprawia, że długa sesja z wieloma kartami jest przyjemniejsza, a małe okno kontekstowe mówi, abyś pracował nad jednym plikiem tras na raz, zamiast wklejać całą konfigurację. Jeśli test się nie powiedzie, najpierw sprawdź adres punktu końcowego i klucz, a następnie przetestuj ponownie. Uruchom test za każdym razem, gdy łączysz inny model lub punkt końcowy, aby znać czas odpowiedzi i okno kontekstowe przed pierwszym zadaniem.
Dopasuj model do zadania
Użyj większego modelu do pracy z wieloma elementami: restrukturyzacja długiego pliku tras, rozumienie, dlaczego łańcuch przekierowań się zapętla, lub porównanie reguł dwóch warstw. Użyj mniejszego modelu do małych edycji, takich jak zmiana jednego kodu z 302 na 301 lub dodanie jednej ścieżki. Narzędzie run_on_model wysyła pojedynczy, twardy krok do większego modelu, więc reszta czatu może pozostać na mniejszym. To utrzymuje duży model na moment, gdy ma to znaczenie, a Ty nadal czytasz każdą kartę i każdy diff samodzielnie.
Jakość różni się w zależności od modelu, a żaden model nie jest zawsze poprawny. Traktuj każdą propozycję jako szkic. Przeczytaj diff, uruchom własną komendę testową konfiguracji i poproś o adres, aby zobaczyć rzeczywisty kod statusu. Ask first to rozsądny domyślny wybór dla plików na żywo, ponieważ agent pauzuje przed akcjami, które coś zmieniają, a Plan only pozwala Ci przeczytać plan przed uruchomieniem czegokolwiek.
