Tocmai am lansat @CTGTInc's Mentat, un API compatibil OpenAI care oferă companiilor control determinist asupra comportamentului LLM-urilor. Reperele au arătat creșteri clare în acuratețe, sinceritate și prevenirea halucinațiilor. Am construit-o după ce am văzut modele ignorând informațiile corecte sau generând concepții greșite din cauza tiparelor interne pe care se bazează în timpul generării. Prompturile și RAG-ul nu au putut corecta asta. Mentat folosește motorul nostru de politici pentru a guverna comportamentul la nivel de funcționalitate în timp real. Aliniază rezultatele cu regulile organizației și informațiile de încredere ale organizației și rezolvă inexactitățile înainte ca acestea să ajungă la utilizatorul final. Acest lucru reduce halucinațiile și menține răspunsurile consistente fără ajustări fine sau stive fragile de mesaje. Detalierea completă aici: