API miễn phí OVH AI Endpoints
OVHcloud AI Endpoints là API serverless cho các mô hình mở, được lưu trữ tại Liên minh châu Âu. Bạn có thể gọi API mà không cần khóa API, với giới hạn tốc độ thấp. Hướng dẫn này nêu giới hạn khi ẩn danh và khi có khóa, các mô hình trong danh mục miễn phí và các bước cài đặt.
Mã, tên mô hình và nhãn danh mục trực tiếp được hiển thị bằng tiếng Anh.
Giới hạn khi ẩn danh và khi có khóa
Hướng dẫn khả năng của OVHcloud liệt kê hai giới hạn tốc độ. Nếu bạn vượt một trong hai giới hạn, API trả về trạng thái 429.
| Truy cập | Giới hạn tốc độ | Bạn cần gì | Chi phí |
|---|---|---|---|
| Ẩn danh (không khóa) | 2 yêu cầu mỗi phút, theo IP và theo mô hình | Không cần gì | OVHcloud cho biết bạn có thể thử mô hình miễn phí trong sandbox hoặc qua API |
| Khóa truy cập API | 400 yêu cầu mỗi phút, theo dự án Public Cloud và theo mô hình | Một dự án Public Cloud có phương thức thanh toán | Tính phí theo token đầu vào và đầu ra |
- Giới hạn khi ẩn danh áp dụng theo từng mô hình. Bạn có thể gọi nhiều mô hình, mỗi mô hình 2 yêu cầu mỗi phút.
- Khóa từ dự án Public Cloud ở chế độ Discovery, không có phương thức thanh toán, không thể dùng dịch vụ.
- OVHcloud cho biết có thể thêm giới hạn trong tương lai dựa trên token, ký tự hoặc giây âm thanh.
Mô hình miễn phí trên OVH AI Endpoints
Bảng cho thấy các mô hình OVH trong danh mục FreeLLMAPI hiện nay, kèm giới hạn khi ẩn danh. Danh sách thay đổi khi OVHcloud thêm hoặc gỡ mô hình.
| Mô hình | Miễn phí trên | Ngữ cảnh | Giới hạn miễn phí (ưu đãi tốt nhất) | Công cụ | Thị giác |
|---|---|---|---|---|---|
| Qwen3.8 27B | OVH AI Endpoints | 262K | 2 yêu cầu/phút 2/min per IP | Có | Không |
| Qwen3.6 27B | OVH AI Endpoints | 131K | 2 yêu cầu/phút 2/min per IP | Có | Không |
| Qwen3.5 397B | OVH AI Endpoints | 262K | 2 yêu cầu/phút 2/min per IP | Có | Không |
| Qwen3.5 9B | OVH AI Endpoints | 262K | 2 yêu cầu/phút 2/min per IP | Có | Không |
| GPT-OSS 120B | OVH AI Endpoints | 131K | 2 yêu cầu/phút 2/min per IP | Có | Không |
| GPT-OSS 20B | OVH AI Endpoints | 131K | 2 yêu cầu/phút 2/min per IP | Có | Không |
| Llama 3.3 70B | OVH AI Endpoints | 131K | 2 yêu cầu/phút 2/min per IP | Có | Không |
| Mistral Small 3.2 24B | OVH AI Endpoints | 131K | 2 yêu cầu/phút 2/min per IP | Có | Không |
| Qwen2.5 VL 72B | OVH AI Endpoints | 33K | 2 yêu cầu/phút 2/min per IP | Không | Có |
| Qwen3Guard Gen 8B | OVH AI Endpoints | 33K | 2 yêu cầu/phút 2/min per IP | Không | Không |
| Qwen3Guard Gen 0.6B | OVH AI Endpoints | 33K | 2 yêu cầu/phút 2/min per IP | Không | Không |
Dữ liệu trực tiếp từ danh mục FreeLLMAPI (phiên bản 2026.11.19, đã kiểm tra 2026-11-19). Giới hạn miễn phí thay đổi thường xuyên. Danh mục được kiểm tra mỗi ngày.
Một số mô hình này cũng có gói miễn phí ở nhà cung cấp khác với giới hạn cao hơn. Ví dụ, GPT-OSS 120B cũng miễn phí trên Groq và Cloudflare Workers AI. Cột Miễn phí trên hiển thị mọi nhà cung cấp cho từng mô hình.
Gọi API không cần khóa
AI Endpoints dùng định dạng API OpenAI. URL gốc trong bộ điều hợp FreeLLMAPI là https://oai.endpoints.kepler.ai.cloud.ovh.net/v1. Dùng model id trong bảng.
Yêu cầu ẩn danh với curl
curl https://oai.endpoints.kepler.ai.cloud.ovh.net/v1/chat/completions \
-H "Content-Type: application/json" \
-d '{"model": "gpt-oss-120b", "messages": [{"role": "user", "content": "Hello"}]}'Để dùng khóa, tạo khóa trong OVHcloud Control Panel. Vào Public Cloud, chọn dự án của bạn, rồi AI, rồi AI Endpoints. Mở tab API keys và tạo khóa. OVHcloud chỉ hiển thị giá trị khóa một lần, nên hãy lưu ngay.
Dùng OVH trong nhóm với các gói miễn phí khác
OVH được đăng ký trong FreeLLMAPI như nhà cung cấp không cần khóa. Bạn không cần thêm khóa. Bộ định tuyến có thể gửi yêu cầu tới mô hình OVH ngay khi bạn khởi động.
- Cài đặt FreeLLMAPI và mở bảng điều khiển tại
http://localhost:3001. - Thêm khóa miễn phí từ một hoặc nhiều nhà cung cấp khác trên trang Keys.
- Mở Fallback Chain và đặt các mô hình OVH ở vị trí bạn muốn.
- Gửi yêu cầu bằng khóa thống nhất của bạn. Bộ định tuyến theo dõi giới hạn 2 yêu cầu mỗi phút cho từng mô hình.
Khi OVH trả về 429, bộ định tuyến đặt mô hình đó vào thời gian nghỉ và thử mô hình tiếp theo trong chuỗi. Tiêu đề X-Routed-Via cho biết nhà cung cấp nào đã trả lời.
| Nhà cung cấp | Vấn đề đã biết | Cách xử lý |
|---|---|---|
| OVH AI Endpoints | Anonymous tier is 2 req/min | OVH AI Endpoints anonymous mode is documented at 2 req/min per IP per model (observed even stricter across models). The 400 req/min authenticated tier requires a Public Cloud project with a payment method, so the catalog ships the keyless path. Treat as a breadth/fallback tier, not a throughput tier. |
| OVH AI Endpoints | No API key required | Routes anonymously — the catalog ships a keyless sentinel row and calls work with no account or key. |
| OVH AI Endpoints | Needs token room | Some free routes spend hidden reasoning tokens before visible output. Avoid tiny max_tokens values or requests can finish by length with empty content. |
| OVH AI Endpoints | May emit thinking trace | OVH Qwen reasoning routes can include <think> blocks or reasoning prose. Strip or suppress the thinking trace when a plain answer is required. |
| OVH AI Endpoints | Safety classifier output | This route returns moderation/safety labels rather than normal assistant prose. Use it as a guardrail model, not a primary chat model. |
Dữ liệu trực tiếp từ danh mục FreeLLMAPI (phiên bản 2026.11.19, đã kiểm tra 2026-11-19). Giới hạn miễn phí thay đổi thường xuyên. Danh mục được kiểm tra mỗi ngày.
Xử lý sự cố OVH AI Endpoints
| Vấn đề | Nguyên nhân | Cách khắc phục |
|---|---|---|
| Lỗi 429 ở yêu cầu thứ hai trong một phút | Giới hạn khi ẩn danh là 2 yêu cầu mỗi phút cho mỗi mô hình | Chờ 30 giây giữa các yêu cầu, hoặc gọi mô hình khác |
| Lỗi 429 dù bạn không gửi yêu cầu gần đây | Người dùng khác trên cùng địa chỉ IP dùng gói ẩn danh | Dùng khóa, hoặc dùng nhà cung cấp miễn phí khác trong giờ cao điểm |
| Khóa trả về lỗi xác thực | Khóa thuộc dự án Public Cloud ở chế độ Discovery | Thêm phương thức thanh toán cho dự án, rồi tạo khóa mới |
| Không tìm thấy model id | OVHcloud đã gỡ hoặc đổi tên mô hình | Kiểm tra lại danh sách mô hình và dùng model id hiện tại |
| Câu trả lời dừng trước khi kết thúc | Mô hình có ngân sách đầu ra nhỏ hoặc phát ra chuỗi suy luận | Đặt giá trị max_tokens cao hơn, hoặc chọn mô hình khác |
Phần lớn các lỗi này là giới hạn tốc độ. Một gói ẩn danh đơn lẻ dễ dùng, nhưng chậm với tác vụ dài. Gom nó với các gói miễn phí khác để ứng dụng tiếp tục chạy khi OVH trả về 429.
Vị trí dữ liệu và quyền riêng tư
OVHcloud nêu rằng AI Endpoints được lưu trữ và chạy tại Liên minh châu Âu. Họ cũng nêu rằng dữ liệu của bạn không bao giờ được dùng để huấn luyện mô hình của họ. Họ chỉ giữ dữ liệu cần thiết cho việc thanh toán.
- Điều này làm cho OVH trở thành lựa chọn miễn phí hữu ích cho các dự án châu Âu. Đọc free LLM APIs in Europe để xem các lựa chọn khác tại EU.
- Giới hạn khi ẩn danh áp dụng theo địa chỉ IP. Nhiều người dùng sau cùng một IP chia sẻ 2 yêu cầu mỗi phút.
- Dịch vụ thuộc OVHcloud Public Cloud Special Conditions. Đọc các điều khoản này trước khi dùng cho sản xuất.
Câu hỏi thường gặp
OVH AI Endpoints có miễn phí không?
Bạn có thể gọi không cần khóa với 2 yêu cầu mỗi phút, theo IP và theo mô hình. OVHcloud cho biết bạn có thể thử mô hình miễn phí. Dùng có khóa được tính phí theo token đầu vào và đầu ra.
Tôi có cần khóa API cho OVH AI Endpoints không?
Không, với gói ẩn danh. Khóa cho 400 yêu cầu mỗi phút cho mỗi mô hình, nhưng cần một dự án Public Cloud có phương thức thanh toán.
Giới hạn tốc độ của OVH AI Endpoints là gì?
Truy cập ẩn danh cho 2 yêu cầu mỗi phút, theo IP và theo mô hình. Khóa cho 400 yêu cầu mỗi phút, theo dự án Public Cloud và theo mô hình. Cả hai đều trả về 429 khi vượt giới hạn.
Mô hình nào miễn phí trên OVH AI Endpoints?
Bảng trên trang này cho biết các mô hình OVH trong danh mục miễn phí hiện nay, ví dụ các mô hình GPT-OSS, Qwen, Llama và Mistral. Danh sách thay đổi khi OVHcloud cập nhật danh mục.
OVH có dùng prompt của tôi để huấn luyện không?
OVHcloud nêu rằng dữ liệu của bạn không bao giờ được dùng để huấn luyện mô hình của họ, và dịch vụ chạy tại Liên minh châu Âu.
Hướng dẫn liên quan
- API LLM miễn phí được lưu trữ tại châu Âu
- API LLM không cần đăng ký
- API LLM miễn phí có huấn luyện trên dữ liệu của bạn không?
- Giới hạn tốc độ API LLM miễn phí
- Base URL API tương thích OpenAI miễn phí
Nguồn
- OVHcloud docs: AI Endpoints features, capabilities and limitations (đã kiểm tra 20 November 2026)
- OVHcloud docs: AI Endpoints getting started (đã kiểm tra 20 November 2026)
- OVHcloud: AI Endpoints product page (đã kiểm tra 20 November 2026)
- FreeLLMAPI docs: Supported platforms (đã kiểm tra 20 November 2026)