Escolha o modelo de IA que edita seus arquivos de roteamento

O Segment Route não usa um modelo fixo. Conecte um provedor de IA em nuvem via endpoint de API padrão, um modelo local no seu PC ou o modelo embutido. A escolha define para onde vão seus prompts e quanto custa um erro.

Três formas de conectar um modelo

Um provedor de IA em nuvem

Um provedor em nuvem é acessado por um endpoint de API padrão. Cole o endereço do endpoint e sua chave de API no app. A chave fica no seu PC. Modelos maiores lidam melhor com arquivos de rota longos ou cadeias de redirecionamento complexas. A consequência de privacidade é clara: seu prompt, incluindo o texto de qualquer arquivo lido pelo agente, vai para esse provedor. O provedor pode cobrar pelo uso, o que é uma questão entre você e o provedor. Pense antes de deixar o agente ler um arquivo com nomes de host internos.

Um modelo no seu próprio PC

Um modelo local é a escolha quando os arquivos de rota não podem sair da máquina. Com um modelo local, nada sai do PC, pois seus prompts vão apenas para o endpoint que você escolhe, que está no seu computador. Modelos locais são geralmente menores que os de nuvem, então espere ler o diff com mais cuidado e dividir tarefas grandes em etapas menores. Use o botão Testar para ver o tempo de resposta e a janela de contexto antes de começar.

O modelo embutido

O modelo embutido está pronto para uso sem seu próprio endpoint, sendo a forma mais rápida de experimentar o Segment Route após a instalação. Você não precisa inserir um endereço ou chave. É adequado para uma primeira tarefa pequena, como ler uma lista de rotas e propor um redirecionamento, e permite ver como cartões, diffs e modos de aprovação funcionam. Quando uma tarefa cresce além do que ele lida bem, conecte um modelo maior e execute a mesma tarefa novamente.

Verifique a conexão com o botão Testar

O botão Testar verifica um endpoint antes de você confiar nele. Ele mostra o tempo de resposta e a janela de contexto, que é a quantidade de texto que o modelo pode manter de uma vez. Um tempo de resposta curto torna uma sessão longa com muitos cartões mais agradável, e uma janela de contexto pequena indica que você deve trabalhar em um arquivo de rota por vez, em vez de colar toda a configuração. Se o teste falhar, verifique o endereço do endpoint e a chave primeiro, e teste novamente. Execute o teste sempre que conectar um modelo ou endpoint diferente, para conhecer o tempo de resposta e a janela de contexto antes da primeira tarefa.

Combine o modelo com a tarefa

Use um modelo maior para tarefas com muitas partes móveis: reestruturar um arquivo de rota longo, raciocinar sobre por que uma cadeia de redirecionamento está em loop ou comparar as regras de duas camadas. Use um modelo menor para edições pequenas, como alterar um código de 302 para 301 ou adicionar um caminho. A ferramenta run_on_model envia uma única etapa difícil para um modelo maior, para que o resto do chat possa permanecer em um modelo menor. Isso mantém o modelo grande para o momento em que importa, e você ainda lê cada cartão e cada diff você mesmo.

A qualidade varia de modelo para modelo, e nenhum modelo está sempre correto. Trate cada proposta como um rascunho. Leia o diff, execute seu próprio comando de teste de configuração e solicite o endereço para ver o código de status real. Ask first é uma opção sensata para arquivos em produção, pois o agente pausa antes de ações que alteram algo, e Plan only permite ler um plano antes que qualquer coisa seja executada.