Chúng tôi vừa ra mắt Mentat của @CTGTInc, một API tương thích với OpenAI cho phép các doanh nghiệp kiểm soát hành vi của LLM một cách xác định. Các chỉ số cho thấy sự cải thiện rõ rệt về độ chính xác, tính chân thực và ngăn chặn ảo tưởng. Chúng tôi đã xây dựng nó sau khi thấy các mô hình bỏ qua thông tin đúng hoặc tạo ra những hiểu lầm do các mẫu nội bộ mà chúng dựa vào trong quá trình tạo ra. Các prompt và RAG không thể sửa chữa điều đó. Mentat sử dụng động cơ chính sách của chúng tôi để quản lý hành vi ở cấp độ tính năng trong thời gian thực. Nó điều chỉnh đầu ra theo quy tắc và thông tin đáng tin cậy của tổ chức và giải quyết các sai sót trước khi chúng đến tay người dùng cuối. Điều này giảm thiểu ảo tưởng và giữ cho các câu trả lời nhất quán mà không cần tinh chỉnh hoặc các ngăn xếp prompt dễ bị tổn thương. Phân tích đầy đủ ở đây: