Vyberte AI model, který upraví vaše soubory směrování

Segment Route neběží na jednom pevném modelu. Připojíte cloudového poskytovatele AI prostřednictvím standardního koncového bodu API, model běžící lokálně na vašem PC nebo vestavěný model. Volba určuje, kam putují vaše příkazy a co vás chyba stojí.

Tři způsoby připojení modelu

Cloudový poskytovatel AI

K poskytovateli v cloudu se přistupuje prostřednictvím standardního koncového bodu API. Do aplikace vložíte adresu koncového bodu a svůj API klíč. Klíč zůstává na vašem PC. Větší cloudové modely si často lépe poradí s dlouhým souborem směrování nebo spleteným řetězcem přesměrování. Důsledkem pro soukromí je jasné: váš prompt včetně textu jakéhokoli souboru, který agent čte, putuje k tomuto poskytovateli. Poskytovatel si může účtovat poplatky za vlastní využití, což je věc mezi vámi a poskytovatelem. Zvažte, než necháte agenta číst soubor obsahující interní názvy hostitelů.

Model na vašem vlastním PC

Model běžící lokálně na vašem PC je volbou, když soubory směrování nesmí opustit stroj. Při lokálním modelu nic neopouští PC, protože vaše prompty putují pouze do koncového bodu modelu, který si vyberete, a tento koncový bod je na vašem vlastním počítači. Lokální modely jsou obvykle menší než cloudové, takže počítejte s pečlivějším čtením diffu a rozdělením velké úlohy na malé kroky. Použijte tlačítko Test a podívejte se na dobu odezvy a kontextové okno, než začnete.

Vestavěný model

Vestavěný model je připraven k použití bez vašeho vlastního koncového bodu, takže je to nejrychlejší způsob, jak vyzkoušet Segment Route po instalaci. Nezadáte adresu ani klíč. Vhodný je pro první malou úlohu, jako je přečtení seznamu směrování a navrhnutí jednoho přesměrování. Umožňuje vám vidět, jak se chovají karty, diffy a režimy schvalování. Když úloha přesáhne to, co zvládá dobře, připojte větší model a spusťte stejnou úlohu znovu.

Zkontrolujte připojení pomocí tlačítka Test

Tlačítko Test zkontroluje koncový bod, než na něj spoléháte. Zobrazí dobu odezvy a kontextové okno, což je množství textu, které model dokáže najednou uchovat. Krátká doba odezvy zpříjemní dlouhou relaci s mnoha kartami. Malé kontextové okno vám napoví, abyste pracovali na jednom souboru směrování najednou místo vložení celé konfigurace. Pokud test selže, nejprve zkontrolujte adresu koncového bodu a klíč a poté test spusťte znovu. Spusťte test pokaždé, když připojíte jiný model nebo koncový bod, abyste znali dobu odezvy a kontextové okno před první úlohou.

Přizpůsobte model úloze

Použijte větší model pro práci s mnoha pohyblivými částmi: restrukturalizaci dlouhého souboru směrování, úvažování o tom, proč řetězec přesměrování cyklicky běží, nebo porovnávání pravidel dvou vrstev. Použijte menší model pro malé úpravy, jako je změna jednoho kódu z 302 na 301 nebo přidání jedné cesty. Nástroj run_on_model pošle jeden tvrdý krok většímu modelu, takže zbytek chatu může zůstat na menším. Tím si necháte velký model pro chvíli, kdy má význam, a vy si přitom přečtete každou kartu i každý diff sami.

Kvalita se liší od modelu k modelu a žádný model není vždy správný. Vezměte každý návrh jako koncept. Přečtěte si diff, spusťte svůj vlastní příkaz na test konfigurace a požádejte o adresu, abyste viděli skutečný stavový kód. Ask first je rozumné výchozí nastavení pro živé soubory, protože agent se před akcemi, které něco změní, pozastaví. Plan only vám umožní přečíst plán, než něco běží.