GPT4Free：免费聚合各大 LLM 到一个 OpenAI 兼容的 API

GPT4Free免费聚合各大 LLM 到一个 OpenAI 兼容的 API【免费下载链接】gpt4freeThe official gpt4free repository | various collection of powerful language models | opus 4.6 gpt 5.3 kimi 2.5 deepseek v3.2 gemini 3项目地址: https://gitcode.com/GitHub_Trending/gp/gpt4free上次月度账单弹出来的时候我盯着那行数字愣了好一会儿。后来团队干脆试了 GPT4Free 的免费聚合 API同一套调用代码底层换成了免费可用的模型源账单那行数字直接归零。它解决了什么问题我们组接大模型这事一直是这样的想测 A 家的模型注册账号、填 key想换 B 家的改一遍 base_url 和参数格式。provider 那边一限流线上任务就开始掉。说白了大家的时间都耗在维护一堆入口上而不是真正调模型。GPT4Free 的定位很直接把一堆可用的模型源聚合成一个统一的、OpenAI 兼容的接口。你的代码只对一个接口说话哪家可用、怎么降级它自己处理。核心机制一句话说清你可以把它理解成一个智能前台所有请求按同一套 OpenAI 格式递进来前台按可用性和配额把单子分给最合适的后端某家挂了或没额度就顺着配置好的名单顺延给下一家。路由规则可以在config.yaml里声明按 quota、错误计数这些条件排顺序条件不满足就跳下一个。跟我一步步来第 1 步装好环境先确认 Python 3.10然后用 pip 装主包。这条命令会拉下完整依赖含 API 服务所需的 FastAPI/uvicorn。pip install -U g4f[all]装完后python -c import g4f不报错就算齐活。第 2 步用 Python 客户端发第一个请求这一段在做什么用一个 OpenAI 风格的客户端发同步请求不传任何 keyprovider 由 g4f 自己挑。from g4f.client import Client client Client() response client.chat.completions.create( modelgpt-4o-mini, messages[{role: user, content: 一句话介绍你自己}], ) print(response.choices[0].message.content) # ← 关键和 OpenAI 返回结构一致跑完你会直接看到模型的回复文本打印出来。第 3 步开成流式输出长回答别干等加一个streamTrue逐块接收。stream client.chat.completions.create( modelgpt-4o-mini, messages[{role: user, content: 写段项目周报}], streamTrue, # ← 关键开启流式 ) for chunk in stream: if chunk.choices and chunk.choices[0].delta.content: print(chunk.choices[0].delta.content, end, flushTrue)终端里文字会一个字一个字蹦出来。第 4 步跑起 OpenAI 兼容的 API 服务这一条命令把 GPT4Free 起成本地服务之后 curl、OpenAI SDK 都能指着它用。python -m g4f --port 8080 --debug服务起来后http://localhost:8080/v1就是 OpenAI 兼容端点把现有项目里的base_url改成它、清掉 key 就能跑。第 5 步用 config.yaml 声明自定义路由最后这段是给路由文件加一条自定义模型名客户端按这个名字请求g4f 会按条件依次尝试各个 provider。models: - name: my-gpt4 providers: - provider: OpenaiAccount model: gpt-4o condition: balance 0 or error_count 3 # ← 关键有额度才走它 - provider: PollinationsAI # ← 兜底无条件可用 model: openai-large保存后请求modelmy-gpt4路由就生效了。不同场景怎么选场景推荐配置延迟成本团队共享一个端点Docker 全量镜像映射 8080 的 OpenAI 兼容 API中等免费只占一台常开机器私有内网 / 数据不出域本地 Ollama OLLAMA_HOST/OLLAMA_PORT指向本机取决于本机硬件免费用你自己的显存偶尔调用 / 脚本内嵌pip 装g4f[all]直接用 Python 客户端最低无中间服务免费零额外运维如果你要的是给全组一个稳定的 base_urlDocker 方案最合适持久目录挂好 cookie 和生成媒体就行。如果数据绝对不能出内网本地 Ollama 更合适g4f/Provider/local/Ollama.py会优先查本机localhost:11434的模型列表。如果只是自己脚本里偶尔调一下pip Python 客户端最省省掉容器和端口维护注意装的是g4f[all]才有完整依赖。新手容易踩的 3 个坑❌ 直接写一个听起来很高大上的模型名不管 provider 支不支持 ✅ 先确认可用列表g4f.models或 API 的/v1/models再写死名字原因同一个名字在不同 provider 下含义不同名字对不上就直接空响应或报错。❌ 本地 Ollama 不在默认端口却指望 g4f 自动找到 ✅ 显式设置OLLAMA_HOST/OLLAMA_PORT环境变量原因provider 默认去localhost:11434查本机模型查不到就会走公网代理路线。❌ 把config.yaml随手丢在项目根目录 ✅ 放到 cookie 目录~/.config/g4f/cookies/或./har_and_cookies/原因路由文件只在读取 cookie 目录时自动加载放错地方会被静默忽略。另外 quota 缓存有 5 分钟 TTL改完配置稍等一会儿再验证别误判成没生效。接下来可以做什么先跑通etc/examples/messages.py这个最小同步例子确认自己环境里至少有一条 provider 通把代码里硬编码的模型名替换成config.yaml里的自定义路由加上 quota / 错误数条件让降级逻辑自动接管在 API 服务启动命令里加--debug观察请求实际走了哪个 provider再决定要不要收紧路由延伸阅读路由配置说明docs/config-yaml-routing.md一份可直接抄的示例配置etc/examples/config.yamlOllama provider 实现g4f/Provider/local/Ollama.pyAPI 服务实现g4f/api/run.py有坑欢迎在 issue 里蹲一个provider 挂了、路由不生效这种基本都有人踩过。【免费下载链接】gpt4freeThe official gpt4free repository | various collection of powerful language models | opus 4.6 gpt 5.3 kimi 2.5 deepseek v3.2 gemini 3项目地址: https://gitcode.com/GitHub_Trending/gp/gpt4free创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考