Mô hình và mức nỗ lực theo từng cuộc trò chuyện
Trong Perch Desktop, mỗi cuộc trò chuyện giữ mô hình riêng và mức nỗ lực riêng, nên một cuộc trò chuyện tiết kiệm và một cuộc trò chuyện đào sâu có thể nằm cạnh nhau mà bạn không phải đặt lại gì.
Trước đây chọn mô hình là một thiết lập cho cả ứng dụng: chọn một mô hình trong một cuộc trò chuyện là mọi cuộc trò chuyện đổi theo. Giờ không còn như vậy. Trong Perch Desktop, lựa chọn thuộc về cuộc trò chuyện, và mức nỗ lực cũng thế.
The short version
Một cuộc trò chuyện lấy mô hình của nó từ đâu
Ba đường, theo thứ tự:
- Bạn chọn ngay trong cuộc trò chuyện đó, từ nút chọn mô hình trong ô soạn tin hoặc bằng
/model. - Lượt đầu tiên của nó. Một cuộc trò chuyện chưa có mô hình riêng sẽ giữ mô hình mà lượt đầu tiên của nó đã chạy, nên một lựa chọn bạn làm ở nơi khác về sau không bao giờ dời nó đi.
- Bản ghi đã lưu của nó. Mô hình của cuộc trò chuyện được lưu cùng cuộc trò chuyện, nên nó vẫn còn đó khi bạn quay lại sau nhiều ngày.
Một cuộc trò chuyện bạn chưa viết gì vào sẽ theo lựa chọn của ứng dụng cho tới lượt đầu tiên. Một cuộc trò chuyện đã viết từ trước khi có mô hình theo từng cuộc trò chuyện thì không có mô hình đã lưu, và chạy theo lựa chọn của ứng dụng đúng như lúc bạn mở cửa sổ, chứ không theo các lựa chọn làm ở cuộc trò chuyện khác sau đó.
Bạn chọn được gì còn tùy gói của bạn. Starter ghim được các mô hình trong nhóm của chính nó; Pro ghim được mọi mô hình trừ các mô hình chỉ dành cho Ultra; Ultra ghim được toàn bộ danh mục. Xem Mô hình.
Mức nỗ lực là thứ riêng
Mức nỗ lực được theo dõi tách khỏi mô hình. Đổi mô hình của một cuộc trò chuyện không bao giờ ghi đè mức nỗ lực của nó, và một cuộc trò chuyện nhớ cả hai một cách độc lập, qua đúng ba đường đó: một lựa chọn trên nút điều chỉnh nỗ lực, lượt đầu tiên của nó, hoặc bản ghi đã lưu.
Bản thân nút điều chỉnh là một thanh trượt trong trình đơn mô hình, và các nấc của nó là những mức mà mô hình đang chọn hỗ trợ.
| Thiết lập | Nghĩa là gì |
|---|---|
| Off | Không suy nghĩ. Nhanh nhất, và nhẹ nhất cho hạn mức của bạn. |
| Low | Suy luận nông. Dành cho việc ngắn, phạm vi rõ, khi tốc độ là chính. |
| Medium | Cân bằng. Ít lệnh gọi công cụ hơn và gộp lại nhiều hơn. |
| High | Mặc định. Suy luận phức tạp và công việc kiểu tác nhân. |
| XHigh | Suy luận sâu hơn cho việc khó, nhiều bước. |
| Max | Mức suy luận tối đa mà mô hình hỗ trợ, cho những việc đặt chất lượng lên trước. |
| Ultra | Mức sâu nhất, chỉ có khi mô hình đang chọn tuyên bố là hỗ trợ. |
Việc chọn mức là một phần của Pro và Ultra, và một tài khoản Starter đang giữ thẻ Unlimited DeepSeek có thể chọn mức trong thời gian thẻ còn hiệu lực. Ngoài ra, các lượt trên Starter chạy ở High.
Các mô hình thể hiện khả năng suy luận theo những cách hoàn toàn khác nhau: có mô hình bỏ qua hẳn các tham số suy luận, có mô hình chỉ nhận một công tắc bật tắt, có mô hình công bố thang bậc có tên riêng của nó. Mức bạn chọn sẽ được quy về thứ mà mô hình cuối cùng thực sự hiểu, và một mức không được hỗ trợ sẽ rơi xuống mức gần nhất bên dưới chứ không phải bên trên. Bộ khung nói kỹ hơn về điều đó.
Trợ thủ đi theo cuộc trò chuyện
Mô hình cho các trợ thủ mà Perch tạo ra trong một lượt mặc định là Inherit, tức đi theo cuộc trò chuyện: một mô hình bạn ghim cho cuộc trò chuyện cũng được dùng cho các trợ thủ của nó, còn trên Roost chúng vẫn ở chế độ định tuyến tự động. Nêu tên một mô hình khác là cách để một mô hình kiểm tra phần việc của mô hình kia. Xem Tác nhân con.
Trong CLI
CLI giữ một mô hình và một mức nỗ lực cho mỗi phiên, chứ không phải cho mỗi cuộc trò chuyện. /model hiển thị hoặc đặt mô hình, /effort hiển thị hoặc đặt mức, và /status in cả hai cùng với chế độ, persona và thư mục làm việc.
Công cụ Chats
Trên Pro và Ultra, tác nhân có thể thấy các cuộc trò chuyện khác của bạn, đọc một cái, gửi tin nhắn cho nó hoặc dừng lượt của nó, để một phần công việc bàn giao được cho phần khác mà bạn không phải chạy đi chuyển lời.
Mô hình cục bộ
Chạy Perch trên một mô hình ngay trên máy tính của bạn qua Ollama, LM Studio hay một máy chủ llama.cpp. Các lượt trên nó không được đo mức sử dụng, và địa chỉ không bao giờ rời khỏi máy bạn.

