Skip to main content

🟢 自托管大模型路由器 OrcaRouter Lite

  1. 🟢 自托管大模型路由器 OrcaRouter Lite

    OrcaRouter Lite 是一个自托管的开源大模型路由器,支持 OpenAI 兼容接口。用户可自行添加多种模型提供商的密钥,并通过 "auto" 模式实时切换,自动吸收服务商故障。支持单工作区部署和流式传输。若需管理大量模型且不想自建服务器,可选择付费托管服务。

    https://github.com/Continuum-AI-Corp/OrcaRouter-Lite
    https://api.orcarouter.ai/v1

    #orcarouter #llmrouter #openaiapi #TGAgent