万益资讯网

这个项目,有的意思,就是把网上很多免费的大模型都集成在里面了。你不用一个个去找,

这个项目,有的意思,就是把网上很多免费的大模型都集成在里面了。你不用一个个去找,用这个就能用上免费模型了。

一个兼容OpenAI的终端。十六个免费的大型语言模型提供商。每月约17亿token。

将 Google、Groq、Cerebras、SambaNova、NVIDIA、Mistral、OpenRouter、GitHub Models、Cohere、Cloudflare、HuggingFace、Z.ai(Zhipu)、Ollama、Kilo、Pollinations 和 LLM7 的免费套餐汇聚,以及任何自定义兼容 OpenAI 的终端(llama.cpp、LM Studio、vLLM、本地 Ollama)——都集中在单一终端下。

密钥是加密存储的。

路由器会为每个请求选择最佳可用型号,当某个供应商有速率限制时切换到下一个供应商,并跟踪每个密钥使用情况,确保你能在每个免费套餐的上限内保持。

不过免费套餐基本都有一些问题,要么限额度,要么限流,要么就是用一阵就给你切小模型,降智。免费的才是最贵的,费半天劲,还不如花点钱。

项目地址:github.com/tashfeenahmed/freellmapi