Trang chủ / Hướng dẫn / API miễn phí OVH AI Endpoints

API miễn phí OVH AI Endpoints

OVHcloud AI Endpoints là API serverless cho các mô hình mở, được lưu trữ tại Liên minh châu Âu. Bạn có thể gọi API mà không cần khóa API, với giới hạn tốc độ thấp. Hướng dẫn này nêu giới hạn khi ẩn danh và khi có khóa, các mô hình trong danh mục miễn phí và các bước cài đặt.

Mã, tên mô hình và nhãn danh mục trực tiếp được hiển thị bằng tiếng Anh.

Giới hạn khi ẩn danh và khi có khóa

Hướng dẫn khả năng của OVHcloud liệt kê hai giới hạn tốc độ. Nếu bạn vượt một trong hai giới hạn, API trả về trạng thái 429.

Giới hạn OVHcloud AI Endpoints (đã kiểm tra ngày 20 tháng 11 năm 2026)
Truy cậpGiới hạn tốc độBạn cần gìChi phí
Ẩn danh (không khóa)2 yêu cầu mỗi phút, theo IP và theo mô hìnhKhông cần gìOVHcloud cho biết bạn có thể thử mô hình miễn phí trong sandbox hoặc qua API
Khóa truy cập API400 yêu cầu mỗi phút, theo dự án Public Cloud và theo mô hìnhMột dự án Public Cloud có phương thức thanh toánTính phí theo token đầu vào và đầu ra
  • Giới hạn khi ẩn danh áp dụng theo từng mô hình. Bạn có thể gọi nhiều mô hình, mỗi mô hình 2 yêu cầu mỗi phút.
  • Khóa từ dự án Public Cloud ở chế độ Discovery, không có phương thức thanh toán, không thể dùng dịch vụ.
  • OVHcloud cho biết có thể thêm giới hạn trong tương lai dựa trên token, ký tự hoặc giây âm thanh.
Trường hợp sử dụng: 2 yêu cầu mỗi phút đủ cho kiểm thử, script, bot cá nhân hoặc tuyến dự phòng. Không đủ cho tác nhân lập trình nếu đó là nhà cung cấp duy nhất.

Mô hình miễn phí trên OVH AI Endpoints

Bảng cho thấy các mô hình OVH trong danh mục FreeLLMAPI hiện nay, kèm giới hạn khi ẩn danh. Danh sách thay đổi khi OVHcloud thêm hoặc gỡ mô hình.

Mô hình OVH AI Endpoints ở gói miễn phí ẩn danh
Mô hìnhMiễn phí trênNgữ cảnhGiới hạn miễn phí (ưu đãi tốt nhất)Công cụThị giác
Qwen3.8 27BOVH AI Endpoints262K2 yêu cầu/phút
2/min per IP
CóKhông
Qwen3.6 27BOVH AI Endpoints131K2 yêu cầu/phút
2/min per IP
CóKhông
Qwen3.5 397BOVH AI Endpoints262K2 yêu cầu/phút
2/min per IP
CóKhông
Qwen3.5 9BOVH AI Endpoints262K2 yêu cầu/phút
2/min per IP
CóKhông
GPT-OSS 120BOVH AI Endpoints131K2 yêu cầu/phút
2/min per IP
CóKhông
GPT-OSS 20BOVH AI Endpoints131K2 yêu cầu/phút
2/min per IP
CóKhông
Llama 3.3 70BOVH AI Endpoints131K2 yêu cầu/phút
2/min per IP
CóKhông
Mistral Small 3.2 24BOVH AI Endpoints131K2 yêu cầu/phút
2/min per IP
CóKhông
Qwen2.5 VL 72BOVH AI Endpoints33K2 yêu cầu/phút
2/min per IP
KhôngCó
Qwen3Guard Gen 8BOVH AI Endpoints33K2 yêu cầu/phút
2/min per IP
KhôngKhông
Qwen3Guard Gen 0.6BOVH AI Endpoints33K2 yêu cầu/phút
2/min per IP
KhôngKhông

Dữ liệu trực tiếp từ danh mục FreeLLMAPI (phiên bản 2026.11.19, đã kiểm tra 2026-11-19). Giới hạn miễn phí thay đổi thường xuyên. Danh mục được kiểm tra mỗi ngày.

Một số mô hình này cũng có gói miễn phí ở nhà cung cấp khác với giới hạn cao hơn. Ví dụ, GPT-OSS 120B cũng miễn phí trên Groq và Cloudflare Workers AI. Cột Miễn phí trên hiển thị mọi nhà cung cấp cho từng mô hình.

Gọi API không cần khóa

AI Endpoints dùng định dạng API OpenAI. URL gốc trong bộ điều hợp FreeLLMAPI là https://oai.endpoints.kepler.ai.cloud.ovh.net/v1. Dùng model id trong bảng.

Yêu cầu ẩn danh với curl

curl https://oai.endpoints.kepler.ai.cloud.ovh.net/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{"model": "gpt-oss-120b", "messages": [{"role": "user", "content": "Hello"}]}'

Để dùng khóa, tạo khóa trong OVHcloud Control Panel. Vào Public Cloud, chọn dự án của bạn, rồi AI, rồi AI Endpoints. Mở tab API keys và tạo khóa. OVHcloud chỉ hiển thị giá trị khóa một lần, nên hãy lưu ngay.

Dùng OVH trong nhóm với các gói miễn phí khác

OVH được đăng ký trong FreeLLMAPI như nhà cung cấp không cần khóa. Bạn không cần thêm khóa. Bộ định tuyến có thể gửi yêu cầu tới mô hình OVH ngay khi bạn khởi động.

  1. Cài đặt FreeLLMAPI và mở bảng điều khiển tại http://localhost:3001.
  2. Thêm khóa miễn phí từ một hoặc nhiều nhà cung cấp khác trên trang Keys.
  3. Mở Fallback Chain và đặt các mô hình OVH ở vị trí bạn muốn.
  4. Gửi yêu cầu bằng khóa thống nhất của bạn. Bộ định tuyến theo dõi giới hạn 2 yêu cầu mỗi phút cho từng mô hình.

Khi OVH trả về 429, bộ định tuyến đặt mô hình đó vào thời gian nghỉ và thử mô hình tiếp theo trong chuỗi. Tiêu đề X-Routed-Via cho biết nhà cung cấp nào đã trả lời.

Nhà cung cấpVấn đề đã biếtCách xử lý
OVH AI EndpointsAnonymous tier is 2 req/minOVH AI Endpoints anonymous mode is documented at 2 req/min per IP per model (observed even stricter across models). The 400 req/min authenticated tier requires a Public Cloud project with a payment method, so the catalog ships the keyless path. Treat as a breadth/fallback tier, not a throughput tier.
OVH AI EndpointsNo API key requiredRoutes anonymously — the catalog ships a keyless sentinel row and calls work with no account or key.
OVH AI EndpointsNeeds token roomSome free routes spend hidden reasoning tokens before visible output. Avoid tiny max_tokens values or requests can finish by length with empty content.
OVH AI EndpointsMay emit thinking traceOVH Qwen reasoning routes can include <think> blocks or reasoning prose. Strip or suppress the thinking trace when a plain answer is required.
OVH AI EndpointsSafety classifier outputThis route returns moderation/safety labels rather than normal assistant prose. Use it as a guardrail model, not a primary chat model.

Dữ liệu trực tiếp từ danh mục FreeLLMAPI (phiên bản 2026.11.19, đã kiểm tra 2026-11-19). Giới hạn miễn phí thay đổi thường xuyên. Danh mục được kiểm tra mỗi ngày.

Xử lý sự cố OVH AI Endpoints

Vấn đềNguyên nhânCách khắc phục
Lỗi 429 ở yêu cầu thứ hai trong một phútGiới hạn khi ẩn danh là 2 yêu cầu mỗi phút cho mỗi mô hìnhChờ 30 giây giữa các yêu cầu, hoặc gọi mô hình khác
Lỗi 429 dù bạn không gửi yêu cầu gần đâyNgười dùng khác trên cùng địa chỉ IP dùng gói ẩn danhDùng khóa, hoặc dùng nhà cung cấp miễn phí khác trong giờ cao điểm
Khóa trả về lỗi xác thựcKhóa thuộc dự án Public Cloud ở chế độ DiscoveryThêm phương thức thanh toán cho dự án, rồi tạo khóa mới
Không tìm thấy model idOVHcloud đã gỡ hoặc đổi tên mô hìnhKiểm tra lại danh sách mô hình và dùng model id hiện tại
Câu trả lời dừng trước khi kết thúcMô hình có ngân sách đầu ra nhỏ hoặc phát ra chuỗi suy luậnĐặt giá trị max_tokens cao hơn, hoặc chọn mô hình khác

Phần lớn các lỗi này là giới hạn tốc độ. Một gói ẩn danh đơn lẻ dễ dùng, nhưng chậm với tác vụ dài. Gom nó với các gói miễn phí khác để ứng dụng tiếp tục chạy khi OVH trả về 429.

Vị trí dữ liệu và quyền riêng tư

OVHcloud nêu rằng AI Endpoints được lưu trữ và chạy tại Liên minh châu Âu. Họ cũng nêu rằng dữ liệu của bạn không bao giờ được dùng để huấn luyện mô hình của họ. Họ chỉ giữ dữ liệu cần thiết cho việc thanh toán.

  • Điều này làm cho OVH trở thành lựa chọn miễn phí hữu ích cho các dự án châu Âu. Đọc free LLM APIs in Europe để xem các lựa chọn khác tại EU.
  • Giới hạn khi ẩn danh áp dụng theo địa chỉ IP. Nhiều người dùng sau cùng một IP chia sẻ 2 yêu cầu mỗi phút.
  • Dịch vụ thuộc OVHcloud Public Cloud Special Conditions. Đọc các điều khoản này trước khi dùng cho sản xuất.
Dùng tất cả các mô hình này qua một khóa duy nhất. FreeLLMAPI là bộ định tuyến mã nguồn mở, tự lưu trữ. Nó đặt tất cả các gói miễn phí này sau một endpoint duy nhất tương thích OpenAI, và tự chuyển sang nhà cung cấp khác khi một nhà cung cấp bị giới hạn tốc độ. Xem danh mục hoặc bắt đầu.

Câu hỏi thường gặp

OVH AI Endpoints có miễn phí không?

Bạn có thể gọi không cần khóa với 2 yêu cầu mỗi phút, theo IP và theo mô hình. OVHcloud cho biết bạn có thể thử mô hình miễn phí. Dùng có khóa được tính phí theo token đầu vào và đầu ra.

Tôi có cần khóa API cho OVH AI Endpoints không?

Không, với gói ẩn danh. Khóa cho 400 yêu cầu mỗi phút cho mỗi mô hình, nhưng cần một dự án Public Cloud có phương thức thanh toán.

Giới hạn tốc độ của OVH AI Endpoints là gì?

Truy cập ẩn danh cho 2 yêu cầu mỗi phút, theo IP và theo mô hình. Khóa cho 400 yêu cầu mỗi phút, theo dự án Public Cloud và theo mô hình. Cả hai đều trả về 429 khi vượt giới hạn.

Mô hình nào miễn phí trên OVH AI Endpoints?

Bảng trên trang này cho biết các mô hình OVH trong danh mục miễn phí hiện nay, ví dụ các mô hình GPT-OSS, Qwen, Llama và Mistral. Danh sách thay đổi khi OVHcloud cập nhật danh mục.

OVH có dùng prompt của tôi để huấn luyện không?

OVHcloud nêu rằng dữ liệu của bạn không bao giờ được dùng để huấn luyện mô hình của họ, và dịch vụ chạy tại Liên minh châu Âu.

Hướng dẫn liên quan

Nguồn

Tất cả hướng dẫn · Xem tất cả mô hình miễn phí