Kies het AI-model dat je routingbestanden bewerkt

Segment Route draait niet op één vast model. Je koppelt een cloud-AI-aanbieder via een standaard API-eindpunt, een model dat lokaal op je pc draait, of het ingebouwde model. De keuze bepaalt waar je prompts naartoe gaan en wat een fout je kost.

Drie manieren om een model te koppelen

Een cloud-AI-aanbieder

Een cloudaanbieder bereik je via een standaard API-eindpunt. Plak het eindpuntadres en je API-sleutel in de app. De sleutel blijft op je pc. Grotere cloudmodellen gaan vaak beter om met lange routebestanden of verwarrende omleidingsketens. Het privacyconsequente is duidelijk: je prompt, inclusief de tekst van elk bestand dat de agent leest, gaat naar die aanbieder. De aanbieder kan ook rekenen voor eigen gebruik, wat een zaak tussen jou en de aanbieder is. Denk na voordat je de agent een bestand laat lezen met interne hostnamen.

Een model op je eigen pc

Een lokaal model op je pc is de keuze wanneer routebestanden de machine niet mogen verlaten. Bij een lokaal model vertrekt er niets van je pc, omdat je prompts alleen naar het eindpunt gaan dat jij kiest, en dat eindpunt staat op je eigen computer. Lokale modellen zijn meestal kleiner dan cloudmodellen, dus verwacht je de diff zorgvuldiger te lezen en een grote taak in kleine stappen op te splitsen. Gebruik de knop Test om de reactietijd en het contextvenster te zien voordat je begint.

Het ingebouwde model

Het ingebouwde model is direct bruikbaar zonder je eigen eindpunt, dus het is de snelste manier om Segment Route uit te proberen na de installatie. Je voert geen adres of sleutel in. Het is geschikt voor een eerste kleine taak, zoals het lezen van een routelijst en het voorstellen van één omleiding, en het laat je zien hoe kaarten, diffs en goedkeuringsmodi werken. Als een taak groeit buiten wat het goed aankan, koppel je een groter model en voer je dezelfde taak opnieuw uit.

Controleer de verbinding met de knop Test

De knop Test controleert een eindpunt voordat je erop vertrouwt. Het toont de reactietijd en het contextvenster, wat de hoeveelheid tekst is die het model tegelijk kan vasthouden. Een korte reactietijd maakt een lange sessie met veel kaarten aangenamer, en een klein contextvenster vertelt je om aan één routebestand tegelijk te werken in plaats van een hele configuratie te plakken. Als de test mislukt, controleer dan eerst het eindpuntadres en de sleutel, en test opnieuw. Voer de test uit telkens wanneer je een ander model of eindpunt koppelt, zodat je de reactietijd en het contextvenster kent voordat de eerste taak begint.

Pas het model aan de taak aan

Gebruik een groter model voor werk met veel onderdelen: een lang routebestand herstructureren, redeneren over waarom een omleidingsketen loopt, of de regels van twee lagen vergelijken. Gebruik een kleiner model voor kleine bewerkingen, zoals het wijzigen van één code van 302 naar 301 of het toevoegen van één pad. Het hulpprogramma run_on_model stuurt één harde stap naar een groter model, zodat de rest van de chat op een kleiner model kan blijven. Dat houdt het grote model voor het moment dat het er toe doet, en je leest elke kaart en elke diff zelf.

De kwaliteit varieert van model tot model, en geen enkel model is altijd correct. Behandel elk voorstel als een concept. Lees de diff, voer je eigen configuratietestopdracht uit en vraag het adres op om de echte statuscode te zien. Ask first is een verstandige standaard voor live bestanden, omdat de agent pauzeert voordat acties iets veranderen, en Plan only laat je een plan lezen voordat er iets draait.