本来是给自己做的, 前两天公司内网需要一个, 就给开源了.
主要用途是管理众多大模型提供商, 提供二次分发的 ApiKey. 附带 OpenAI 和 Anthropic 协议互转能力.
网上有同类的产品, 但是觉得都比较重, 不适合个人用户部署.
项目地址: https://github.com/lx0758/AI-Gateway
最重要的: 各位大哥们, 求个 Star 啊!!!
 | 1 LRWF 15 天前 看着还行，已 star ，跟其它同类项目相比，有什么特别的优势不？ |
 | 2 ezioswj 15 天前 star 学习学习，最近才开始研究这方面，感觉我有点慢了/(ㄒoㄒ)/~~ |
 | 3 FakerLeung 15 天前 octopus ？ |
4 vonsdite 14 天前 我也来一个： https://github.com/VonSdite/LLM_Proxy - 支持一个上游对接多个下游（当前还是 1:1 ，正在修改）。比如上游 openai 接口，下游可对接 openai_chat\claude\codex 协议客户端 - 支持 Hook 扩展，有些 provider 需要 cookie 或者 token 才能访问，并且需要动态更新，这个时候可以写 hook 来扩展，hook 有 header_hook 、request_guard 、response_guard ，后面两个 guard 可以来做内容检测 - 支持白名单控制用户管理，不开的时候所有 IP 均能访问，开了之后只有允许的 IP 才可访问 provider ，支持对模型粒度的用户控制 - 支持 Provider 设置多个 api key 的策略，可控制单独 key 的使用量、请求数等 |
 | 5 lcry2023 14 天前 和 new-api 和 one-api 这类区别是？ |
 | 6 lx0758 OP |
 | 8 xiaoz 13 天前 via Android 其实 Bifrost 比较轻量:https://blog.xiaoz.org/archives/22835 ，golang 开发的，支持负载均衡，故障转移。 |
Select Language