Nyumbani / Miongozo / API ya bure ya GitHub Models: kilichotokea na cha kutumia sasa

API ya bure ya GitHub Models: kilichotokea na cha kutumia sasa

GitHub Models iliwapa wasanidi ufikiaji wa bure, wenye vikomo vya kiwango, kwa LLM nyingi kwa kutumia tokeni ya GitHub. GitHub ilistaafu huduma hii tarehe 30 Julai 2026. Mwongozo huu unaeleza kilichoacha kufanya kazi, mbadala ambao GitHub inapendekeza, na jinsi ya kuhamisha msimbo kwenda kwenye ngazi za modeli za bure.

Msimbo, majina ya modeli na lebo za katalogi ya moja kwa moja zinaonyeshwa kwa Kiingereza.

Hali: GitHub Models imestaafu

GitHub ilitangaza kustaafu kwake mwezi wa Juni 2026 na ikafunga huduma kwa wateja wapya. Tarehe 1 Julai 2026, GitHub iliweka tarehe ya mwisho. Huduma ilisimama tarehe 30 Julai 2026.

  • Kilichosimama: uwanja wa majaribio, katalogi ya modeli, API ya inference na vituo vya bring your own key (BYOK).
  • Walioathirika: wateja wote. Hii inajumuisha wateja wenye matumizi yanayoendelea.
  • Kabla ya tarehe ya mwisho: GitHub iliendesha hitilafu fupi mbili za kupungua huduma tarehe 16 Julai na 23 Julai 2026. Wakati wa kila kupungua, maombi yalirudisha hitilafu.
  • GitHub Spark: kazi ya llm() ya Spark ilitumia GitHub Models. Iliacha kufanya kazi siku hiyo hiyo.
Muhimu: vikomo vya bure vya kiwango vya GitHub Models (maombi kwa dakika, maombi kwa siku na tokeni kwa ombi) havitumiki tena kwa chochote. Msimbo wowote unaoita API ya inference ya GitHub Models sasa unashindwa. Usisubiri huduma irudi.

Mbadala ambao GitHub inapendekeza

Mabadiliko ya GitHub yanataja mbadala mbili. Hakuna hata moja ni nakala ya bure moja kwa moja ya GitHub Models.

ChaguoNi niniMatumizi ya bure
Microsoft Foundry (ai.azure.com)Katalogi ya modeli na huduma ya inference kwenye Azure, kwa miradi mipya na iliyopoInatozwa kupitia usajili wa Azure. Angalia Azure kwa ofa za sasa za majaribio
GitHub CopilotModeli ndani ya mtiririko wa kazi wa GitHub, kihariri na wakala wa CopilotMipango ya Copilot ina vikomo vyake. Si API ya jumla ya inference kwa programu yako
Ngazi za bure za watoa hudumaNgazi za bure za moja kwa moja kutoka kwa watoa huduma kama Google AI Studio, Groq, NVIDIA NIM na OVHNdiyo, kwa vikomo vya kiwango kwa kila mtoa huduma
FreeLLMAPILango unalojiendeshea lenyewe linalokusanya ngazi za bure nyuma ya ufunguo mmoja unaooana na OpenAINdiyo. Kipanga njia ni chanzo huria na kinaita ngazi za bure pekee

Ikiwa ulitumia GitHub Models kwa prototaipu, majaribio au mradi mdogo wa pembeni, ngazi ya bure ya mtoa huduma ndiyo inayolingana zaidi. GitHub Models pia ilitumia muundo wa gumzo wa mtindo wa OpenAI. Msimbo mwingi unahamia kwa kubadilisha base URL, ufunguo na jina la modeli.

Hamisha msimbo wako kwenda kituo cha bure kinachooana na OpenAI

FreeLLMAPI inaendeshwa kwenye kompyuta yako. Inatuma kila ombi kwenye ngazi ya bure ya mtoa huduma. Mtoa huduma mmoja anaporudisha hitilafu ya kikomo cha kiwango, inajaribu mtoa huduma anayefuata. Fanya hatua hizi:

  1. Sakinisha FreeLLMAPI kwa kisakinishi cha mstari mmoja. Docker lazima iwe imesakinishwa.
  2. Fungua dashibodi kwenye http://localhost:3001.
  3. Ongeza funguo za bure kutoka watoa huduma wawili au zaidi kwenye ukurasa wa Keys. Google AI Studio na Groq kila moja inatoa ufunguo wa bure bila kadi.
  4. Nakili ufunguo wako wa pamoja kutoka ukurasa wa Keys.
  5. Badilisha base URL, ufunguo na jina la modeli kwenye msimbo wako.

Sakinisha (macOS au Linux)

curl -fsSL https://freellmapi.co/install.sh | bash

Python: badilisha mteja wa GitHub Models

from openai import OpenAI

client = OpenAI(
    base_url="http://localhost:3001/v1",
    api_key="<unified-key>",
)

resp = client.chat.completions.create(
    model="auto",  # or a model id from your catalog
    messages=[{"role": "user", "content": "Say hello in one line."}],
)
print(resp.choices[0].message.content)

Tumia auto ili kipanga njia kichague modeli. Ili kubaki na modeli moja, tumia model id kutoka jedwali hapa chini. Kila jibu lina kichwa cha X-Routed-Via. Kinaonyesha mtoa huduma na modeli waliojibu.

Modeli za bure zinazobadilisha katalogi ya GitHub Models

GitHub Models iliorodhesha modeli za OpenAI, Meta, Mistral, DeepSeek na Microsoft. Familia nyingi za modeli hizo hizo zina ngazi za bure mahali pengine. Jedwali linaonyesha modeli za bure zenye nguvu zaidi zenye wito wa zana na muktadha wa 128K au zaidi, kutoka katalogi ya leo.

Modeli za bure zenye wito wa zana na muktadha wa 128K au zaidi
ModeliBure kwenyeMuktadhaVikomo vya bure (ofa bora)ZanaUoni
GLM 5.3UnoRouter1M1 maombi/dakika
1 req/min per model
NdiyoHapana
GLM 5.3 FlashNVIDIA NIM, UnoRouter1M40 maombi/dakika
40 RPM
NdiyoNdiyo
Gemini 3.8 FlashGoogle AI Studio1MRecurring provider quotaNdiyoNdiyo
Qwen3.8 Flash NextAMD Radeon Cloud262KRecurring daily account allowanceNdiyoHapana
Qwen3.8 FlashElectronHub1M$0.25/week shared recurring creditNdiyoNdiyo
Gemini 3.7 FlashGoogle AI Studio1M10 maombi/dakika
20 maombi/siku
250,000 tokeni/dakika
~3M
NdiyoNdiyo
GPT-5.6 LunaElectronHub1M$0.25/week shared recurring creditNdiyoNdiyo
Dots3 Note PreviewKilo Gateway, OpenRouter512K20 maombi/dakika
50 maombi/siku
50 req/day account-wide (1,000 after a $10 purchase)
NdiyoNdiyo
DeepSeek V4 FlashAMD Radeon Cloud, BazaarLink, ElectronHub1M10 maombi/dakika
50 maombi/siku
Shared rate limit
NdiyoHapana
Qwen3.8 27BElectronHub, Groq, OVH AI Endpoints262K30 maombi/dakika
250 maombi/siku
70,000 tokeni/dakika
~6M
NdiyoNdiyo
Gemini 3.6 FlashGoogle AI Studio1M10 maombi/dakika
20 maombi/siku
250,000 tokeni/dakika
~3M
NdiyoNdiyo
Qwen 3.8 27BCloudflare Workers AI262KShared 10k neurons/dayNdiyoNdiyo

Inaonyesha 12 kati ya 109 modeli za bure zinazolingana. Tazama modeli zote.

Data ya moja kwa moja kutoka katalogi ya FreeLLMAPI (toleo 2026.11.19, imekaguliwa 2026-11-19). Vikomo vya bure hubadilika mara kwa mara. Katalogi hukaguliwa kila siku.

Ikiwa msimbo wako ulitumia modeli za GPT kwenye GitHub Models, soma Je, kuna API ya bure ya GPT?. Inaorodhesha modeli za uzito wazi za GPT-OSS na njia nyingine za GPT zenye ufikiaji wa bure.

Tofauti na GitHub Models

  • Uthibitishaji: GitHub Models ilitumia tokeni ya GitHub. Ngazi za bure za watoa huduma zinatumia funguo zao za API. FreeLLMAPI inakupa ufunguo mmoja wa pamoja kwa zote.
  • Vikomo: kila mtoa huduma anaweka vikomo vyake. Baadhi wanahesabu maombi kwa dakika. Wengine wanahesabu tokeni kwa siku au mikopo kwa mwezi.
  • Majina ya modeli: GitHub Models ilitumia majina kama openai/gpt-4.1. Watoa huduma wa bure wanatumia model id zao. Angalia katalogi kwa id kamili.
  • Hitilafu: ngazi ya bure inarudisha hitilafu 429 unapofikia kikomo chake. Bila lango, msimbo wako lazima ukamate hitilafu hii na kusubiri. FreeLLMAPI inaikamata na kutuma ombi kwa mtoa huduma anayefuata.
  • Matumizi ya data: baadhi ya ngazi za bure zinaweza kutumia maombi yako kuboresha modeli zao. Soma ni API zipi za bure za LLM zinafunza kwa data yako kabla ya kutuma data binafsi.

Leo katalogi inaorodhesha modeli 487 za bure kutoka kwa watoa huduma 45 (imekaguliwa 2026-11-19). Ngazi moja ya bure inafikia kikomo chake haraka. Ongeza funguo kutoka watoa huduma wanne au zaidi ili upate maombi zaidi kwa siku.

Tumia kila moja ya hizi kwa ufunguo mmoja. FreeLLMAPI ni kipanga njia huria, unachoendesha mwenyewe. Kinaweka tabaka hizi zote za bure nyuma ya kituo kimoja cha OpenAI kinachooana, na kinahamia kwenye nyingine pale kikomo kinapofikiwa. Vinjari katalogi au anza sasa.

Maswali yanayoulizwa mara kwa mara

Je, GitHub Models bado ni ya bure?

Hapana. GitHub ilistaafu GitHub Models tarehe 30 Julai 2026. Uwanja wa majaribio, katalogi ya modeli, API ya inference na BYOK havipatikani kwa mteja yeyote.

Vikomo vya bure vya kiwango vya GitHub Models ni vipi?

Havitumiki tena. Huduma imestaafu, kwa hivyo vikomo vya zamani vya dakika, vya siku na vya ombi havina athari. Maombi kwa API ya zamani ya inference yanashindwa.

GitHub inapendekeza nini badala ya GitHub Models?

GitHub inapendekeza Microsoft Foundry kwenye Azure kwa ufikiaji wa modeli kwenye miradi, na GitHub Copilot kwa mitiririko ya kazi ya AI kwenye GitHub. Hakuna hata moja ni API ya bure ya matumizi ya jumla.

Ninapataje mbadala wa bure wa GitHub Models?

Tumia ngazi ya bure ya mtoa huduma kama Google AI Studio, Groq au NVIDIA NIM. Ili kutumia ngazi kadhaa za bure kwa ufunguo mmoja na mbadala wa kiotomatiki, endesha FreeLLMAPI kisha elekeza mteja wako wa OpenAI kwake.

Je, ninaweza kuendelea kutumia msimbo wangu wa OpenAI SDK?

Ndiyo. GitHub Models ilitumia muundo wa gumzo wa mtindo wa OpenAI. Badilisha base URL, ufunguo wa API na jina la modeli. Msimbo uliobaki unabaki vile vile.

Miongozo inayohusiana

Vyanzo

Miongozo yote · Tazama modeli zote za bure