라우팅 파일을 수정할 AI 모델을 선택하세요

Segment Route는 단일 모델에 고정되지 않습니다. 표준 API 엔드포인트로 클라우드 AI 제공업체를 연결하거나, PC의 로컬 모델 또는 내장 모델을 선택할 수 있습니다. 이 선택은 프롬프트의 전송 경로와 오류 발생 시 비용을 결정합니다.

모델 연결 방법 세 가지

클라우드 AI 제공업체

클라우드 제공업체는 표준 API 엔드포인트를 통해 연결하며, 엔드포인트 주소와 API 키를 앱에 입력하면 됩니다. 키는 PC에 그대로 유지됩니다. 대규모 클라우드 모델은 긴 라우팅 파일이나 복잡하게 얽힌 리다이렉트 체인을 더 잘 처리합니다. 프라이버시 측면에서 명확한 점은 프롬프트와 에이전트가 읽는 파일 텍스트 모두 해당 제공업체로 전송된다는 것입니다. 제공업체는 자체 사용량에 대해 요금을 청구할 수 있으며, 이는 귀하와 제공업체 간의 문제입니다. 내부 호스트 이름이 포함된 파일을 에이전트가 읽게 하기 전에 신중히 생각하세요.

내 PC의 모델

라우팅 파일이 외부로 나가지 않아야 할 때는 로컬 모델을 선택하세요. 로컬 모델은 프롬프트가 귀하가 선택한 엔드포인트로만 전송되며 해당 엔드포인트가 귀하의 컴퓨터에 있으므로 데이터가 PC 외부로 나가지 않습니다. 로컬 모델은 일반적으로 클라우드 모델보다 작으므로, diff를 더 주의 깊게 읽고 큰 작업을 작은 단계로 나누어야 합니다. 시작하기 전에 테스트 버튼을 사용하여 응답 시간과 컨텍스트 창을 확인하세요.

내장 모델

내장 모델은 별도의 엔드포인트 없이 바로 사용할 수 있으므로 설치 후 Segment Route를 시도하는 가장 빠른 방법입니다. 주소나 키를 입력할 필요가 없습니다. 라우트 목록을 읽고 하나의 리다이렉트를 제안하는 것과 같은 첫 번째 작은 작업에 적합하며, 카드, diff 및 승인 모드가 어떻게 작동하는지 확인할 수 있습니다. 작업이 내장 모델이 잘 처리할 수 있는 범위를 넘어설 때는 더 큰 모델을 연결하고 동일한 작업을 다시 실행하세요.

테스트 버튼으로 연결 확인

테스트 버튼은 신뢰하기 전에 엔드포인트를 확인합니다. 응답 시간과 모델이 한 번에 보유할 수 있는 텍스트 양인 컨텍스트 창을 보여줍니다. 짧은 응답 시간은 많은 카드로 구성된 긴 세션을 더 쾌적하게 만들어주며, 작은 컨텍스트 창은 전체 구성을 붙여넣기보다 한 번에 하나의 라우팅 파일로 작업해야 함을 의미합니다. 테스트가 실패하면 먼저 엔드포인트 주소와 키를 확인한 후 다시 테스트하세요. 다른 모델이나 엔드포인트를 연결할 때마다 테스트를 실행하여 첫 번째 작업 전에 응답 시간과 컨텍스트 창을 파악하세요.

작업에 맞는 모델 선택

여러 요소가 움직이는 작업에는 더 큰 모델을 사용하세요. 긴 라우팅 파일 재구성, 리다이렉트 체인이 루프를 도는 이유 추론, 또는 두 레이어의 규칙 비교 등이 해당됩니다. 작은 편집(예: 302에서 301로 코드 변경 또는 경로 추가)에는 작은 모델을 사용하세요. run_on_model 도구는 단일 단계를 더 큰 모델로 전송하므로 나머지 채팅은 작은 모델을 유지할 수 있습니다. 이렇게 하면 중요한 순간에만 큰 모델을 사용하고, 모든 카드와 diff는 직접 읽게 됩니다.

모델마다 품질이 다르며, 어느 모델도 항상 정확한 것은 아닙니다. 모든 제안은 초안으로 간주하세요. diff를 읽고 자체 구성 테스트 명령을 실행하며, 주소를 요청하여 실제 상태 코드를 확인하세요. 라이브 파일의 경우 Ask first가 합리적인 기본값입니다. 에이전트가 변경 작업을 수행하기 전에 일시 중지하며, Plan only는 실행 전에 계획을 읽을 수 있게 해줍니다.