OrcaRouter Lite 是一个自托管的开源大模型路由器,支持 OpenAI 兼容接口。用户可自行添加多种模型提供商的密钥,并通过 "auto" 模式实时切换,自动吸收服务商故障。支持单工作区部署和流式传输。若需管理大量模型且不想自建服务器,可选择付费托管服务。
https://github.com/Continuum-AI-Corp/OrcaRouter-Lite
https://api.orcarouter.ai/v1
#orcarouter #llmrouter #openaiapi #TGAgent