FreeLLMAPI34 家免费 LLM 额度拧成 1 个 OpenAI 兼容端点【免费下载链接】freellmapi7.4 billion tokens per month. 34 free LLM providers. 635 free model endpoints. All behind one /v1 endpoint, plus any custom OpenAI-compatible endpoint. Smart routing, automatic failover, encrypted keys. Personal experimentation only.项目地址: https://gitcode.com/GitHub_Trending/fr/freellmapi各家免费额度都不够单用管 34 套密钥和限流更累。FreeLLMAPI 是本地跑的免费 LLM 额度网关34 家提供商、635 个模型端点、一个 /v1 接口。读完这篇你能在本机跑通它并发出第一个真实请求。它替你省掉的事你在给内部工具写摘要脚本手头有三家提供商的密钥。代码里写满了 base_url 和重试client OpenAI(base_urlhttps://api.groq.com/openai/v1) resp client.chat.completions.create(modelllama-3.3-70b, ...) # 撞 429 → 整个卡在这每家都有各自的失败点。接上 FreeLLMAPI 后base_url 只指本地model 填 auto那把 freellmapi-… 统一密钥背后压着各家真实密钥。真实密钥用 AES-256-GCM 加密存本地 SQLite你的应用只见到统一密钥。哪家撞上限流路由器把它的密钥挂冷却自动切到回退链下一家。3 套 SDK 变成 1 个 base_url。从零到跑通前置条件Docker 和 OpenSSL。第 1 步拉代码、生成主密钥git clone https://gitcode.com/GitHub_Trending/fr/freellmapi cd freellmapi ENCRYPTION_KEY$(openssl rand -hex 32) printf ENCRYPTION_KEY%s\nPORT3001\n $ENCRYPTION_KEY .envENCRYPTION_KEY 是给各家静态密钥做 AES-256-GCM 加密用的主钥。 ✅ .env 里有两行ENCRYPTION_KEY 和 PORT3001。第 2 步起容器docker compose up -dAPI 和仪表盘都跑在 3001 端口SQLite 数据落在具名卷里。 ✅ docker compose ps 状态是 Updocker compose logs -f freellmapi 里看到监听 3001。第 3 步建账号、加密钥浏览器打开本机的 3001 端口服务器版首次要设一个邮箱 密码账号。Keys 页加一把你现有的提供商密钥Google AI Studio、Groq、Mistral 都行。 ✅ 那把密钥右边出现健康状态点说明它通过了体检。第 4 步排回退链、拿统一密钥把 Fallback Chain 拖成你要的优先级顺序复制页顶的 freellmapi-… 统一密钥。链的顺序就是当前的路由顺序。✅ Playground 发一句话回复下方标出应答的提供商、模型和延迟。发一条真实请求把客户端的 base_url 指过来代码和你写 OpenAI 官方接口时没有任何区别from openai import OpenAI client OpenAI( base_urlhttp://localhost:3001/v1, api_keyfreellmapi-your-unified-key, ) resp client.chat.completions.create( modelauto, messages[{role: user, content: 用一句话解释免费额度}], ) print(resp.choices[0].message.content) print(Routed via:, resp.headers.get(x-routed-via))怎么确认它在干活响应头 X-Routed-Via 写清这次是谁处理的形如 groq/llama-3.3-70b。拿它和 Keys 页那把密钥的健康状态对上链路就在真实工作。流式、工具调用、Embedding、图像语音生成的完整接口写法见 API 参考。超出基本盘的玩法换路由档位model 传 auto:fast 走测得最快的档、auto:smart 走智力最高的 → 想按单一指标取舍时用。Fusion 多模型合成model 传 fusion同一份提示词并行发给一组免费模型起草裁判模型综合出最终答案 → 单个模型答得不够稳时用。命名回退链预先建一条编码链请求传 auto:coding → 不同工具想走不同链、共用一把密钥时用。本地模型混流Keys 页把 Ollama、vLLM 等本地模型加成自定义端点 → 想免费池和本地模型一起路由时用。编程智能体接入一条 npx 命令把端点和密钥写进 Claude Code、Codex CLI → 想把编程智能体切到免费池时用。先知道这些再动手⚠️ 池子里没有前沿模型也没有 SLA。头部模型跑满每日配额后整体智力明显下滑UTC 午夜才重置深夜只能当轻量任务用。⚠️ 单用户、local-first默认只绑 127.0.0.1别的设备打不开是常态。要改用 HOST_BIND0.0.0.0 开放局域网防护只有那把统一密钥只在你信任的网络里这么干。⚠️ 忘记密码没有邮箱可发重置链接。一次性重置码直接打在服务器日志里15 分钟内有效翻不到日志就只能等过期重试。⚠️ 上游提供商的服务条款对你的代理流量同样适用。真要上线产品发布前得换成付费 API。项目定位是个人实验与学习不是生产替代。接着玩的方向把 Claude Code、Codex CLI 指过来一键配置命令见 客户端与编程智能体路由打分和配额冷却机制看 架构说明。【免费下载链接】freellmapi7.4 billion tokens per month. 34 free LLM providers. 635 free model endpoints. All behind one /v1 endpoint, plus any custom OpenAI-compatible endpoint. Smart routing, automatic failover, encrypted keys. Personal experimentation only.项目地址: https://gitcode.com/GitHub_Trending/fr/freellmapi创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考 
长河君 · 2026/10/31 1:45:00 · 阅读 1.2k FreeLLMAPI｜34 家免费 LLM 额度，拧成 1 个 OpenAI 兼容端点
FreeLLMAPI34 家免费 LLM 额度拧成 1 个 OpenAI 兼容端点【免费下载链接】freellmapi7.4 billion tokens per month. 34 free LLM providers. 635 free model endpoints. All behind one /v1 endpoint, plus any custom OpenAI-compatible endpoint. Smart routing, automatic failover, encrypted keys. Personal experimentation only.项目地址: https://gitcode.com/GitHub_Trending/fr/freellmapi各家免费额度都不够单用管 34 套密钥和限流更累。FreeLLMAPI 是本地跑的免费 LLM 额度网关34 家提供商、635 个模型端点、一个 /v1 接口。读完这篇你能在本机跑通它并发出第一个真实请求。它替你省掉的事你在给内部工具写摘要脚本手头有三家提供商的密钥。代码里写满了 base_url 和重试client OpenAI(base_urlhttps://api.groq.com/openai/v1) resp client.chat.completions.create(modelllama-3.3-70b, ...) # 撞 429 → 整个卡在这每家都有各自的失败点。接上 FreeLLMAPI 后base_url 只指本地model 填 auto那把 freellmapi-… 统一密钥背后压着各家真实密钥。真实密钥用 AES-256-GCM 加密存本地 SQLite你的应用只见到统一密钥。哪家撞上限流路由器把它的密钥挂冷却自动切到回退链下一家。3 套 SDK 变成 1 个 base_url。从零到跑通前置条件Docker 和 OpenSSL。第 1 步拉代码、生成主密钥git clone https://gitcode.com/GitHub_Trending/fr/freellmapi cd freellmapi ENCRYPTION_KEY$(openssl rand -hex 32) printf ENCRYPTION_KEY%s\nPORT3001\n $ENCRYPTION_KEY .envENCRYPTION_KEY 是给各家静态密钥做 AES-256-GCM 加密用的主钥。 ✅ .env 里有两行ENCRYPTION_KEY 和 PORT3001。第 2 步起容器docker compose up -dAPI 和仪表盘都跑在 3001 端口SQLite 数据落在具名卷里。 ✅ docker compose ps 状态是 Updocker compose logs -f freellmapi 里看到监听 3001。第 3 步建账号、加密钥浏览器打开本机的 3001 端口服务器版首次要设一个邮箱 密码账号。Keys 页加一把你现有的提供商密钥Google AI Studio、Groq、Mistral 都行。 ✅ 那把密钥右边出现健康状态点说明它通过了体检。第 4 步排回退链、拿统一密钥把 Fallback Chain 拖成你要的优先级顺序复制页顶的 freellmapi-… 统一密钥。链的顺序就是当前的路由顺序。✅ Playground 发一句话回复下方标出应答的提供商、模型和延迟。发一条真实请求把客户端的 base_url 指过来代码和你写 OpenAI 官方接口时没有任何区别from openai import OpenAI client OpenAI( base_urlhttp://localhost:3001/v1, api_keyfreellmapi-your-unified-key, ) resp client.chat.completions.create( modelauto, messages[{role: user, content: 用一句话解释免费额度}], ) print(resp.choices[0].message.content) print(Routed via:, resp.headers.get(x-routed-via))怎么确认它在干活响应头 X-Routed-Via 写清这次是谁处理的形如 groq/llama-3.3-70b。拿它和 Keys 页那把密钥的健康状态对上链路就在真实工作。流式、工具调用、Embedding、图像语音生成的完整接口写法见 API 参考。超出基本盘的玩法换路由档位model 传 auto:fast 走测得最快的档、auto:smart 走智力最高的 → 想按单一指标取舍时用。Fusion 多模型合成model 传 fusion同一份提示词并行发给一组免费模型起草裁判模型综合出最终答案 → 单个模型答得不够稳时用。命名回退链预先建一条编码链请求传 auto:coding → 不同工具想走不同链、共用一把密钥时用。本地模型混流Keys 页把 Ollama、vLLM 等本地模型加成自定义端点 → 想免费池和本地模型一起路由时用。编程智能体接入一条 npx 命令把端点和密钥写进 Claude Code、Codex CLI → 想把编程智能体切到免费池时用。先知道这些再动手⚠️ 池子里没有前沿模型也没有 SLA。头部模型跑满每日配额后整体智力明显下滑UTC 午夜才重置深夜只能当轻量任务用。⚠️ 单用户、local-first默认只绑 127.0.0.1别的设备打不开是常态。要改用 HOST_BIND0.0.0.0 开放局域网防护只有那把统一密钥只在你信任的网络里这么干。⚠️ 忘记密码没有邮箱可发重置链接。一次性重置码直接打在服务器日志里15 分钟内有效翻不到日志就只能等过期重试。⚠️ 上游提供商的服务条款对你的代理流量同样适用。真要上线产品发布前得换成付费 API。项目定位是个人实验与学习不是生产替代。接着玩的方向把 Claude Code、Codex CLI 指过来一键配置命令见 客户端与编程智能体路由打分和配额冷却机制看 架构说明。【免费下载链接】freellmapi7.4 billion tokens per month. 34 free LLM providers. 635 free model endpoints. All behind one /v1 endpoint, plus any custom OpenAI-compatible endpoint. Smart routing, automatic failover, encrypted keys. Personal experimentation only.项目地址: https://gitcode.com/GitHub_Trending/fr/freellmapi创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考