Mistral Responses API hiện ở giai đoạn public preview, cho phép phát triển ứng dụng AI theo định dạng OpenAI Responses trên mô hình Mistral. Bài viết giải thích tính năng, API stateless, function calling, streaming, structured output, ví dụ tích hợp và các giới hạn cần đánh giá trước khi sử dụng trong doanh nghiệp.

Mistral Responses API là gì?

Mistral Responses API là giao diện API ở giai đoạn public preview cho phép ứng dụng sử dụng mô hình Mistral theo định dạng OpenAI Responses. Mục tiêu là giảm công sức chuyển đổi tích hợp ở tầng request và response, đồng thời hỗ trợ các luồng sinh văn bản, xử lý ảnh, tài liệu, gọi hàm và streaming. Khả năng tương thích định dạng không có nghĩa hành vi, độ chính xác, giá thành hoặc toàn bộ tính năng đều tương đương giữa hai nhà cung cấp.

Các khả năng được tài liệu xác nhận

Tài liệu chính thức liệt kê đầu vào/đầu ra văn bản; ảnh qua URL hoặc base64; tệp qua HTTPS URL, base64 hoặc file ID; đầu ra có cấu trúc với JSON mode và JSON Schema thông qua text.format; streaming; function calling do ứng dụng thực thi; reasoning tùy mô hình; và endpoint đếm input token. Đây là tập tính năng của bản preview, cần kiểm tra tính tương thích với từng model trước khi triển khai.

Điểm khác biệt quan trọng: API stateless

Mistral Responses API hiện hoạt động theo cơ chế stateless. Ứng dụng phải lưu lịch sử hội thoại và gửi lại qua trường input ở mỗi lượt, bao gồm cả các output item trước đó. Các trường previous_response_id, conversation và store không được dùng để dựa vào trạng thái hội thoại phía máy chủ. Thiết kế này trao quyền quản lý dữ liệu cho ứng dụng nhưng cũng đặt trách nhiệm về lưu trữ, giới hạn ngữ cảnh, quyền riêng tư và chi phí token lên đội triển khai.

Luồng request và response cơ bản

Ứng dụng gửi POST /v1/responses với model, input và các tùy chọn tương ứng. Kết quả có mảng output gồm message, reasoning item hoặc function call tùy trường hợp. Không nên giả định mọi kết quả đều là một chuỗi văn bản duy nhất; parser cần xử lý loại item, trạng thái completed, incomplete hoặc failed và các lỗi API.

Ví dụ gọi API bằng cURL

Ví dụ dưới đây dựa trên API reference của Mistral. Đặt API key ở biến môi trường, không ghi khóa vào source hoặc log.

curl https://api.mistral.ai/v1/responses \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $MISTRAL_API_KEY" \
  -d '{"model":"mistral-large-4","input":"Giải thích CI/CD trong một câu.","reasoning":{"effort":"high"},"max_output_tokens":4096}' 

Streaming và trải nghiệm người dùng

Với stream=true, server trả về các sự kiện theo tiến trình. Ứng dụng có thể đọc response.output_text.delta để hiển thị nội dung từng phần. Cần xử lý response.completed, response.failed, response.incomplete và error; đồng thời có timeout, cơ chế hủy request và theo dõi lỗi mạng. Streaming cải thiện độ trễ cảm nhận, không bảo đảm tổng thời gian xử lý luôn thấp hơn.

Function calling cho AI Agent

Ứng dụng khai báo các hàm trong tools cùng tên, mô tả và schema tham số. Khi model trả function_call, backend phải xác thực tên hàm, tham số và quyền của người dùng trước khi thực thi. Kết quả được gửi lại bằng function_call_output với call_id tương ứng. Không để model tự động gọi các thao tác nhạy cảm như chuyển tiền, xóa dữ liệu hoặc thay đổi quyền truy cập mà không có kiểm soát bổ sung.

Structured output và dữ liệu doanh nghiệp

JSON mode và JSON Schema giúp ứng dụng yêu cầu đầu ra có cấu trúc để trích xuất thông tin, phân loại ticket hoặc điền biểu mẫu. Dù có schema, backend vẫn phải kiểm tra kiểu dữ liệu, giá trị hợp lệ, quy tắc nghiệp vụ và dữ liệu có nguồn gốc trước khi ghi vào hệ thống. Cần phân biệt hợp lệ cú pháp với đúng về mặt nội dung.

Xử lý ảnh và tài liệu

Responses API hỗ trợ nội dung input_image và input_file trong user message hoặc function result theo tài liệu. Khả năng đọc ảnh phụ thuộc model có vision; file có thể dùng URL, dữ liệu base64 hoặc file ID. Trước khi truyền tài liệu doanh nghiệp, cần đánh giá quyền truy cập, phân loại dữ liệu, quy định lưu trữ và chính sách của nhà cung cấp.

Quản lý ngữ cảnh và chi phí token

Vì API stateless, lịch sử gửi lại có thể làm tăng input token ở các lượt tiếp theo. Mistral cung cấp POST /v1/responses/input_tokens để ước lượng lượng token của input, instructions và tools trước khi tạo response. Doanh nghiệp nên đặt ngưỡng ngân sách, rút gọn lịch sử có kiểm soát, lưu nhật ký chi phí và đánh giá độ chính xác sau tóm tắt.

Khả năng di chuyển từ OpenAI Responses

Việc dùng định dạng OpenAI Responses tạo điều kiện tái sử dụng một phần cấu trúc request, response và tư duy xây dựng agent. Tuy nhiên, không nên gọi đây là thay thế một-một: Mistral quy định một số trường phải bỏ trống hoặc không được gửi, như previous_response_id và store; các built-in tool, model, reasoning và lifecycle cũng cần kiểm thử riêng. Cách triển khai an toàn là tạo adapter cho từng provider và bộ test hợp đồng API.

Khía cạnhLưu ý với Mistral
Hội thoạiỨng dụng tự lưu và gửi lại lịch sử
previous_response_idKhông sử dụng
storeBỏ qua hoặc false/null
Function callingBackend thực thi và trả kết quả theo call_id
StreamingXử lý delta và các trạng thái kết thúc

Kiến trúc triển khai khuyến nghị

Một kiến trúc thực tế gồm giao diện người dùng, backend orchestration, kho hội thoại, provider adapter, tool gateway và lớp quan sát vận hành. Backend chịu trách nhiệm xác thực, giới hạn tần suất, kiểm soát dữ liệu, gọi Mistral, xử lý streaming và lưu lịch sử. Tool gateway áp dụng phân quyền tối thiểu, xác nhận thao tác quan trọng và audit log. Đây là đề xuất kiến trúc của ASolution, không phải yêu cầu bắt buộc từ Mistral.

Ứng dụng trong ERP, CRM và trợ lý tài liệu

Với ERP, model có thể diễn giải câu hỏi và đề xuất truy vấn báo cáo qua hàm được kiểm soát; với CRM, hỗ trợ tóm tắt lịch sử chăm sóc khách hàng; với trợ lý tài liệu, phân tích tệp và trả lời có kiểm chứng từ hệ thống dữ liệu riêng. Trong các trường hợp này, AI không nên là nguồn dữ liệu có thẩm quyền cuối cùng: quyền truy cập, phép tính và ghi dữ liệu phải do backend quyết định.

Rủi ro và giới hạn của public preview

Public preview có thể thay đổi hành vi hoặc giới hạn trong quá trình phát triển. Trước production, cần kiểm thử version SDK, hợp đồng response, độ ổn định streaming, tính nhất quán structured output, tốc độ, chi phí, quota, giới hạn model và xử lý lỗi. Không nên suy diễn rằng API hỗ trợ lưu hội thoại phía server hay mọi tính năng của OpenAI Responses khi tài liệu Mistral chưa xác nhận.

Checklist thử nghiệm trước production

Tạo bộ kiểm thử gồm: hội thoại nhiều lượt; function call thành công và thất bại; tool output sai định dạng; JSON schema phức tạp; ảnh/tệp không hợp lệ; ngắt kết nối streaming; timeout; token vượt giới hạn; quyền truy cập chéo người dùng; dữ liệu nhạy cảm; retry idempotent; và giám sát latency, lỗi, token, chi phí. Thực hiện thử nghiệm trên dữ liệu giả lập trước khi kết nối hệ thống thật.

Khi nào doanh nghiệp nên cân nhắc?

Mistral Responses API phù hợp để đánh giá khi đội kỹ thuật đang xây AI Agent theo mô hình Responses và muốn thử một nhà cung cấp khác mà không viết lại toàn bộ tầng điều phối. Chưa nên chuyển đổi chỉ vì tương thích cú pháp: quyết định phải dựa trên kết quả benchmark nội bộ, chính sách dữ liệu, chi phí toàn vòng đời, SLA và khả năng duy trì hệ thống.

Kết luận

Mistral Responses API mở thêm lựa chọn cho hệ thống AI doanh nghiệp, đặc biệt ở lớp tích hợp Agent, tool calling và structured output. Giá trị thực tế nằm ở khả năng giảm phụ thuộc vào một giao diện độc quyền, nhưng sự khác biệt về state management và tính năng preview đòi hỏi kiểm thử nghiêm túc. Nên bắt đầu bằng một proof of concept có dữ liệu và tiêu chí đo lường rõ ràng.

Câu hỏi thường gặp

Mistral Responses API đã phát hành chính thức chưa?

Chưa. Tài liệu Mistral xác nhận API đang ở public preview.

Mistral Responses API có lưu lịch sử hội thoại không?

Không theo mô hình server-side conversation trong bản preview. Ứng dụng cần lưu và gửi lại lịch sử qua input.

Có thể dùng lại ứng dụng viết cho OpenAI Responses không?

Có thể tái sử dụng một phần định dạng tích hợp, nhưng cần adapter và kiểm thử vì một số trường và tính năng khác biệt.

API hỗ trợ những chức năng nào?

Theo tài liệu: text, image, file, structured output, streaming, function calling, reasoning tùy model và đếm input token.