Chưa bao giờ có một nền tảng công nghệ nào vừa cải thiện khả năng vừa giảm chi phí theo từng nhiệm vụ nhanh chóng như AI. Trong năm tới, nhờ vào những cải tiến trong mô hình cơ bản, các tác nhân AI sẽ: xử lý các nhiệm vụ kéo dài lâu hơn; xử lý tốt hơn với sự suy giảm ngữ cảnh trong các cửa sổ ngữ cảnh dài mà không bị nhầm lẫn; trở nên nhanh hơn cho các nhiệm vụ ngày càng khó khăn; cải thiện chuyên môn trong tất cả các lĩnh vực công việc tri thức nhờ vào việc mở rộng sau đào tạo vượt xa mã; làm việc với các công cụ và việc sử dụng máy tính tốt hơn; và nhiều hơn nữa. Mỗi khả năng và cải tiến này sẽ mở ra một biên giới mới của các trường hợp sử dụng. Nếu bạn đang xây dựng các tác nhân AI và kiến trúc sản phẩm, UX, hoặc mô hình kinh doanh của bạn không thể tận dụng hoàn toàn những cập nhật này thì bạn sẽ bị bỏ lại phía sau.

Hệ quả là nhờ có các tác nhân AI, mỗi doanh nghiệp nhỏ và doanh nhân giờ đây có nguồn lực của một Fortune 500 trong tay. Công nghệ luôn liên quan đến việc tạo ra nhiều sự phong phú hơn và tiếp cận tốt hơn đến một nguồn tài nguyên nhất định. Chúng ta đã làm điều này với phần mềm trong nhiều thập kỷ, từ máy tính lớn đến máy chủ khách hàng đến đám mây. Mỗi giai đoạn này đã làm cho công nghệ trở nên dễ tiếp cận hơn 10-100 lần cho nhiều doanh nghiệp hơn. AI cũng làm điều tương tự bây giờ cho tất cả các lĩnh vực công việc tri thức. Tại sao lập trình cao cấp chỉ có sẵn cho một tập hợp công ty cực kỳ nhỏ trên thế giới? Tại sao phần lớn các công ty không thể đủ khả năng để có quảng cáo tuyệt vời? Tại sao chỉ một tập hợp nhỏ các công ty nhận được lời khuyên pháp lý tuyệt vời, bảo mật phần mềm, nghiên cứu, và gần như mọi lĩnh vực công việc tri thức khác? AI mang tất cả những khả năng này đến cho các công ty ở mọi quy mô. Cơ hội lớn nhất trong các tác nhân AI là tìm ra những nguồn lực mà hầu hết các công ty luôn muốn nhưng chưa bao giờ có khả năng chi trả hoặc tìm thấy trước đây.

Đây là lý do tại sao kỹ thuật ngữ bối cảnh lại quan trọng đến vậy. Chúng tôi vừa dành 2 giờ để tranh luận về việc khi nào một tác nhân nên dựa vào kiến thức nội bộ của nó so với việc cố gắng tìm bối cảnh liên quan trong dữ liệu cho chỉ một loại câu hỏi. Chúng tôi đã đi qua 2 trường hợp thử nghiệm trong hàng trăm trường hợp. Ngay cả những người tham gia vào buổi não bộ cũng không thể đồng ý về những gì họ mong đợi con người sẽ làm trong tình huống này. Thực sự không có câu trả lời đúng, và điều này luôn phụ thuộc vào bối cảnh từng khách hàng. Mọi thứ trong kỹ thuật bối cảnh đều là sự đánh đổi giữa nhiều yếu tố: bạn muốn tác nhân trả lời câu hỏi nhanh đến mức nào, bạn muốn yêu cầu bao nhiêu tương tác qua lại cho người dùng, nó nên làm bao nhiêu công việc trước khi cố gắng trả lời một câu hỏi, nó biết như thế nào rằng nó có tài liệu nguồn đầy đủ để trả lời câu hỏi, mức độ rủi ro của câu trả lời sai là gì, và nhiều điều khác nữa. Mỗi quyết định bạn đưa ra về một trong những chiều này đều có hậu quả ở đầu bên kia. Không có bữa trưa miễn phí. Đây là lý do tại sao việc xây dựng các tác nhân AI lại thú vị đến vậy. Nó cũng làm nổi bật giá trị mà có trên lớp LLM. Việc đưa ra những quyết định này đúng cách liên quan trực tiếp đến chất lượng của giá trị đề xuất.