Mercury 3 là mô hình ngôn ngữ khuếch tán (diffusion LLM) do Inception Labs giới thiệu tháng 10/2026. Một thử nghiệm độc lập được đăng trên HackerNoon cho thấy Mercury 3 có tốc độ phản hồi rất cao, nhưng việc tăng mức suy luận có thể khiến mô hình tiêu tốn nhiều token mà không xuất ra câu trả lời. Đây là bài toán quan trọng khi doanh nghiệp chọn mô hình cho AI Agent và ứng dụng thời gian thực.
Mercury 3 là gì và vì sao diffusion LLM đáng chú ý?
Khác với mô hình tự hồi quy (autoregressive) sinh token theo thứ tự, diffusion LLM tinh chỉnh nhiều vị trí văn bản qua các bước lặp. Cơ chế này mở ra khả năng giảm số bước xử lý tuần tự, nhưng không tự động bảo đảm tổng thời gian hoàn thành tác vụ thấp hơn mọi mô hình khác. Tốc độ thực tế còn phụ thuộc phần cứng, hệ thống phục vụ mô hình và mạng.
Inception Labs công bố những gì về Mercury 3?
Trong thông báo ngày 19/10/2026, Inception Labs công bố Mercury 3 đạt 1.068 token/giây trên GPU NVIDIA, ngữ cảnh một triệu token và mức giá niêm yết 0,20 USD/triệu input token cùng 0,70 USD/triệu output token. Giá khuyến mại khi ra mắt giảm 50%. Đây là thông số và tuyên bố từ nhà cung cấp, không phải kết quả xác minh độc lập của ASolution.
Benchmark độc lập: nhanh nhưng không dẫn đầu mọi phép đo
Bài thử nghiệm của Bruce Li trên HackerNoon sử dụng 637 bài lập trình và 150 câu hỏi SQL Agent, với các lần chạy lặp lại. Ở cấu hình low, Mercury 3 đạt 86,0% bài lập trình đúng với thời gian phản hồi trung vị 0,83 giây. Claude Haiku 5.5 không bật suy luận đạt 86,1% ở 0,97 giây. gpt-oss-120b phục vụ trên Cerebras đạt 84,9% ở 0,34 giây. Những con số này phản ánh sản phẩm và hạ tầng cụ thể trong bài kiểm thử, không chứng minh ưu thế tuyệt đối của một kiến trúc mô hình.
Tốc độ token không đồng nghĩa tốc độ hoàn thành công việc
Mercury 3 được tác giả đo ở khoảng 850–900 token hiển thị mỗi giây, trong khi gpt-oss-120b trên Cerebras đạt khoảng 2.400–2.500. Trong bài SQL Agent, Mercury 3 low hoàn thành tác vụ với trung vị khoảng 2,06 giây, nhanh hơn nhiều lựa chọn khác trong phép thử; tuy nhiên, số lượt gọi mô hình và công cụ cũng quyết định thời gian cuối cùng.
Điểm yếu bất ngờ: suy luận nhiều hơn có thể cho kết quả tệ hơn
Trong bài kiểm thử lập trình của tác giả, độ chính xác Mercury 3 giảm từ 86,0% ở low xuống 82,3% ở medium và 81,4% ở high. Tác giả ghi nhận 7,5% lượt gọi medium và 8,6% lượt gọi high chạm giới hạn 32.768 output token mà không trả về câu trả lời hữu ích. Các lượt gọi như vậy chiếm 61% tổng output token Mercury 3 tiêu thụ trong phần kiểm thử lập trình. Đây là quan sát trong một thiết lập cụ thể, chưa thể khái quát cho mọi phiên bản hay khối lượng công việc.
Vì sao đây là vấn đề vận hành?
- Thời gian chờ có thể tăng mạnh ở phần đuôi phân phối độ trễ, dù trung vị rất thấp.
- Chi phí tăng vì token được tiêu thụ nhưng người dùng không nhận được kết quả.
- Các quy trình nhiều bước có thể bị gián đoạn nếu mô hình không kết thúc đúng hạn.
- SLA phải tính cả timeout, retry, lỗi định dạng và tỷ lệ tác vụ hoàn thành, không chỉ token/giây.
Chi phí thực tế: nên tính trên câu trả lời đúng
Theo phép đo được HackerNoon công bố, Mercury 3 low có chi phí khoảng 0,59 USD trên 1.000 câu trả lời lập trình đúng ở mức giá khuyến mại và khoảng 1,19 USD theo giá thường. GPT-6 Luna không bật suy luận được báo cáo khoảng 0,07 USD trong cùng cách tính. Đây không phải bảng giá phổ quát: kết quả thay đổi theo độ dài ngữ cảnh, đầu ra, retry, công cụ và thời điểm định giá.
Bài học cho doanh nghiệp triển khai AI Agent
- Đánh giá end-to-end: đo thời gian từ yêu cầu đến khi hoàn tất nghiệp vụ, không chỉ latency của một lời gọi API.
- Thiết lập giới hạn token, timeout và ngân sách cho từng bước; có cơ chế fallback khi mô hình không trả lời.
- Đo cost per successful task, tỷ lệ thành công, số lượt gọi công cụ, p95/p99 latency và lỗi schema.
- Thử nghiệm các mức reasoning trên dữ liệu nghiệp vụ thực tế; không mặc định high tốt hơn low.
- Đối với SQL Agent, dùng tài khoản chỉ đọc, hạn chế phạm vi dữ liệu và kiểm tra truy vấn trước khi thực thi.
Khi nào nên cân nhắc Mercury 3?
Mercury 3 đáng được đưa vào vòng thử nghiệm khi ứng dụng ưu tiên phản hồi nhanh như trợ lý tương tác, tìm kiếm thời gian thực, hỗ trợ khách hàng hoặc agent cần nhiều vòng gọi mô hình. Với tác vụ đòi hỏi tính ổn định cao, doanh nghiệp nên kiểm tra riêng các trường hợp suy luận kéo dài, JSON không hợp lệ và sự cố timeout. Không nên quyết định chỉ dựa trên một benchmark hay tuyên bố quảng bá.
Giới hạn của nghiên cứu và cách đọc kết quả
Bài HackerNoon phản ánh một bộ phép đo trong tháng 10/2026 từ một máy khách tại khu vực US West. Kết quả chịu ảnh hưởng của cấu hình API, hạ tầng nhà cung cấp, bộ dữ liệu và sai số thống kê. Kho mã nguồn GitHub của tác giả có phần tổng hợp kết quả được cập nhật sau bài đăng, với một số cỡ mẫu và con số khác; vì vậy bài viết này ghi rõ số liệu trích từ phiên bản HackerNoon ngày 23/10/2026, không trộn lẫn các lần chạy.
Kết luận: chọn mô hình theo chất lượng tác vụ thay vì lời hứa tốc độ
Mercury 3 cho thấy diffusion LLM là hướng phát triển đáng chú ý, đặc biệt cho ứng dụng nhạy cảm với độ trễ. Tuy nhiên, điểm yếu ở mức suy luận cao nhắc lại nguyên tắc quan trọng: một hệ thống AI tốt cần vừa nhanh, vừa đúng, vừa có khả năng kết thúc công việc ổn định với chi phí dự đoán được. ASolution khuyến nghị đánh giá theo từng luồng nghiệp vụ và triển khai giám sát trước khi đưa vào production.