Оберіть AI-модель, яка редагуватиме файли маршрутів
Segment Route не прив’язаний до однієї фіксованої моделі. Ви підключаєте хмарного провайдера через стандартний API-ендпоінт, модель, що працює локально на вашому ПК, або вбудовану модель, і цей вибір визначає, куди надходять ваші запити та скільки коштує помилка.
Три способи підключення моделі
Хмарний AI-провайдер
Хмарний провайдер підключається через стандартний API-ендпоінт, і ви вставляєте адресу ендпоінту та свій API-ключ у програму. Ключ залишається на вашому ПК. Більші хмарні моделі краще справляються з довгими файлами маршрутів або заплутаними ланцюжками перенаправлень. Наслідок для конфіденційності очевидний: ваш запит, включаючи текст будь-якого файлу, який читає агент, надходить до цього провайдера. Провайдер може стягувати плату за власне використання — це ваша справа. Подумайте, перш ніж дозволяти агенту читати файл із внутрішніми іменами хостів.
Модель на вашому ПК
Модель, що працює локально на вашому ПК, — це вибір, коли файли маршрутів не повинні залишати машину. З локальною моделлю ніщо не виходить за межі ПК, оскільки ваші запити надходять лише до кінцевої точки моделі, яку ви обрали, а ця кінцева точка знаходиться на вашому власному комп’ютері. Локальні моделі зазвичай менші за хмарні, тому очікуйте, що доведеться уважніше перевіряти diff і розбивати велике завдання на дрібні кроки. Використовуйте кнопку Test, щоб перевірити час відгуку та контекстне вікно перед початком роботи.
Вбудована модель
Вбудована модель готова до використання без вашого власного ендпоінту, тому це найшвидший спосіб спробувати Segment Route після встановлення. Вам не потрібно вводити адресу чи ключ. Вона підходить для першої невеликої задачі, наприклад, для читання списку маршрутів та пропозиції одного перенаправлення, і дозволяє побачити, як поводяться картки, diff та режими затвердження. Коли завдання перевищує те, що вона добре опрацьовує, підключіть більшу модель і виконайте ту саму задачу знову.
Перевірте з’єднання кнопкою Test
Кнопка Test перевіряє ендпоінт, перш ніж ви почнете ним користуватися. Вона показує час відгуку та контекстне вікно — обсяг тексту, який модель може утримати одночасно. Короткий час відгуку робить тривалу сесію з багатьма картками комфортнішою, а невелике контекстне вікно підказує працювати з одним файлом маршруту за раз, замість того щоб вставляти всю конфігурацію. Якщо тест не вдається, спочатку перевірте адресу ендпоінту та ключ, а потім спробуйте знову. Запускайте тест щоразу, коли підключаєте іншу модель або ендпоінт, щоб знати час відгуку та контекстне вікно до першої задачі.
Обирайте модель під завдання
Використовуйте більшу модель для роботи з багатьма рухомими частинами: реструктуризація довгого файлу маршрутів, міркування щодо того, чому ланцюжок перенаправлень зациклюється, або порівняння правил двох шарів. Використовуйте меншу модель для дрібних редагувань, наприклад, зміни одного коду з 302 на 301 або додавання одного шляху. Інструмент run_on_model надсилає один чіткий крок до більшої моделі, тому решта чату може залишатися на меншій. Це зберігає велику модель для моменту, коли вона дійсно потрібна, і ви все одно самі перевіряєте кожну картку і кожен diff.
Якість варіюється від моделі до моделі, і жодна модель не завжди правильна. Сприймайте кожну пропозицію як чернетку. Прочитайте diff, запустіть власну команду тестування конфігурації та запитайте адресу, щоб побачити реальний код стану. Ask first — розумне значення за замовчуванням для живих файлів, оскільки агент робить паузу перед діями, що щось змінюють, а Plan only дозволяє прочитати план, перш ніж щось запуститься.
