Chọn mô hình AI để chỉnh sửa tệp định tuyến
Segment Route không chạy trên một mô hình cố định. Bạn kết nối nhà cung cấp AI đám mây qua điểm cuối API tiêu chuẩn, mô hình chạy cục bộ trên PC hoặc mô hình tích hợp, và lựa chọn này quyết định nơi prompt của bạn được gửi đi và chi phí khi xảy ra lỗi.
Ba cách kết nối mô hình
Nhà cung cấp AI đám mây
Nhà cung cấp đám mây được truy cập qua điểm cuối API tiêu chuẩn, và bạn dán địa chỉ điểm cuối cùng khóa API vào ứng dụng. Khóa vẫn nằm trên PC của bạn. Các mô hình đám mây lớn thường xử lý tốt hơn với tệp tuyến dài hoặc chuỗi chuyển hướng phức tạp. Hệ quả về quyền riêng tư rất rõ ràng: prompt của bạn, bao gồm nội dung bất kỳ tệp nào mà agent đọc, đều được gửi đến nhà cung cấp đó. Nhà cung cấp cũng có thể tính phí theo mức sử dụng của riêng họ, đây là vấn đề giữa bạn và nhà cung cấp. Hãy cân nhắc trước khi cho phép agent đọc một tệp chứa tên máy chủ nội bộ.
Mô hình trên PC của bạn
Mô hình chạy cục bộ trên PC là lựa chọn khi các tệp tuyến không được phép rời khỏi máy. Với mô hình cục bộ, không dữ liệu nào rời khỏi PC, vì prompt của bạn chỉ được gửi đến điểm cuối mô hình mà bạn chọn và điểm cuối đó nằm trên chính máy tính của bạn. Mô hình cục bộ thường nhỏ hơn mô hình đám mây, vì vậy hãy chuẩn bị đọc kỹ hơn các diff và chia nhỏ công việc lớn thành các bước nhỏ. Sử dụng nút Test để xem thời gian phản hồi và cửa sổ ngữ cảnh trước khi bắt đầu.
Mô hình tích hợp
Mô hình tích hợp sẵn sàng sử dụng mà không cần điểm cuối riêng của bạn, vì vậy đây là cách nhanh nhất để thử Segment Route sau khi cài đặt. Bạn không cần nhập địa chỉ hoặc khóa. Nó phù hợp cho một tác vụ nhỏ đầu tiên, chẳng hạn như đọc danh sách tuyến và đề xuất một chuyển hướng, và cho phép bạn xem cách các thẻ, diff và chế độ phê duyệt hoạt động. Khi một công việc vượt quá khả năng xử lý tốt của nó, hãy kết nối một mô hình lớn hơn và chạy lại cùng tác vụ đó.
Kiểm tra kết nối với nút Test
Nút Test kiểm tra một điểm cuối trước khi bạn dựa vào nó. Nó hiển thị thời gian phản hồi và cửa sổ ngữ cảnh, là lượng văn bản mà mô hình có thể giữ cùng một lúc. Thời gian phản hồi ngắn giúp phiên làm việc dài với nhiều thẻ dễ chịu hơn, và cửa sổ ngữ cảnh nhỏ cho bạn biết nên làm việc trên một tệp tuyến tại một thời điểm thay vì dán toàn bộ cấu hình. Nếu bài kiểm tra thất bại, hãy kiểm tra địa chỉ điểm cuối và khóa trước, sau đó thử lại. Chạy bài kiểm tra bất cứ khi nào bạn kết nối một mô hình hoặc điểm cuối khác, để bạn biết thời gian phản hồi và cửa sổ ngữ cảnh trước khi thực hiện tác vụ đầu tiên.
Ghép mô hình với công việc
Sử dụng mô hình lớn hơn cho các công việc có nhiều phần chuyển động: tái cấu trúc một tệp tuyến dài, suy luận về lý do tại sao một chuỗi chuyển hướng bị lặp lại, hoặc so sánh các quy tắc của hai lớp. Sử dụng mô hình nhỏ hơn cho các chỉnh sửa nhỏ, chẳng hạn như thay đổi một mã từ 302 sang 301 hoặc thêm một đường dẫn. Công cụ run_on_model gửi một bước cứng duy nhất đến mô hình lớn hơn, vì vậy phần còn lại của cuộc trò chuyện có thể giữ ở mô hình nhỏ hơn. Điều đó giữ mô hình lớn cho thời điểm quan trọng, và bạn vẫn đọc mọi thẻ và mọi diff của riêng mình.
Chất lượng thay đổi từ mô hình này sang mô hình khác, và không có mô hình nào luôn đúng. Hãy coi mọi đề xuất là bản nháp. Đọc diff, chạy lệnh kiểm tra cấu hình của riêng bạn và yêu cầu địa chỉ để xem mã trạng thái thực tế. Ask first là mặc định hợp lý cho các tệp trực tiếp, vì agent sẽ tạm dừng trước các hành động thay đổi thứ gì đó, và Plan only cho phép bạn đọc kế hoạch trước khi bất cứ thứ gì chạy.
