Chủ đề thịnh hành
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.

Inference
Nghiên cứu và phát triển suy luận
Trong khi các mô hình tiên tiến xuất sắc trong việc tìm kiếm có tính chất tác động, chúng lại quá đắt đỏ và chậm cho những nhiệm vụ yêu cầu nhiều token như vậy. Đây là một vấn đề, vì độ chính xác của tìm kiếm có xu hướng tỷ lệ thuận với số lượng token được xử lý.
Giải pháp là các mô hình nhỏ, được huấn luyện bằng RL một cách cẩn thận, được thiết kế riêng cho từng công cụ tìm kiếm, có thể vượt trội hơn các mô hình tiên tiến chung trong khi rẻ hơn và nhanh hơn từ một đến hai bậc.

Michael23 giờ trước
Nhờ vào sự phục hồi của RL, LLM cuối cùng cũng có thể phối hợp công cụ và lý luận một cách đáng tin cậy để thực hiện việc truy xuất chính xác cao.
Các công ty như Happenstance, Clado và Mintlify đã chuyển sang tìm kiếm theo kiểu tác nhân, và chỉ còn là vấn đề thời gian cho đến khi bất cứ điều gì ít hơn cảm thấy bị hỏng đối với người dùng.

3,49K
😋

Allanatrix29 thg 9, 2025
Tin lớn: Tôi sẽ gia nhập @inference_net với vai trò Kỹ sư/Nghiên cứu viên Machine Learning.
Cảm ơn rất nhiều đến tất cả những ai đã là một phần của hành trình này:
• @Teknium1, nguồn cảm hứng lớn nhất của tôi, công việc của anh ấy tại Nous đã thúc đẩy tôi tiến lên.
• @TroyQuasar vì đã ở bên tôi trong những lúc khó khăn.
• Và toàn bộ mạng lưới của tôi, sự hỗ trợ của các bạn có ý nghĩa rất lớn.
Tôi sẽ không quên điều đó. Tôi biết ơn tất cả các bạn.
6,43K
Hàng nghìn mô hình ngôn ngữ nhỏ được tải lên mỗi ngày trên HuggingFace, nhưng hầu hết không được áp dụng trong doanh nghiệp.
Tín hiệu tốt nhất cho tính hữu ích không phải là các chỉ số hoặc lượt tải HF, mà là liệu các công ty có thực sự triển khai một mô hình vào sản xuất hay không.
@michael_chomsky đã tìm ra những mô hình thực sự tạo ra sự khác biệt:

Michael18 thg 9, 2025
Giới thiệu các Mô Hình Awesome Open Workhorse, một bộ sưu tập được chọn lọc thủ công các mô hình ngôn ngữ nhỏ (SLMs) đã thực sự được áp dụng trong doanh nghiệp.
Bạn có thể đã nghe về sự phấn khích xung quanh tính hữu ích của SLMs, và cách mà 'chúng là tương lai.'
Nhưng điều đó thực sự có nghĩa là gì?
Những mô hình nào mà các doanh nghiệp đang thực sự sử dụng để giải quyết các vấn đề của họ một cách rẻ hơn, nhanh hơn hoặc chính xác hơn so với các LLM tiên tiến?
Tôi đã tập hợp một danh sách các mô hình nhỏ mà tôi biết chắc chắn là đang được sử dụng trong sản xuất, và đã bao gồm bằng chứng rằng chúng được sử dụng để giải quyết các vấn đề trong thế giới thực.
Nếu bạn đang sử dụng một SLM trong sản xuất, xin vui lòng liên hệ, hoặc tốt hơn nữa là gửi một PR!
Mục tiêu của tôi là làm cho đây trở thành bộ sưu tập tốt nhất của các mô hình nhỏ thực sự hữu ích, vì việc tải xuống HF đơn giản không phải là một chỉ số hiệu quả về việc một mô hình có thực sự tốt hay không.

2,88K
Hàng đầu
Thứ hạng
Yêu thích