Custom Groups 自定义模型组:多 Provider 轮询的正确姿势

什么是 Custom Group

把多个 provider + 模型打包成一个虚拟模型名,请求时自动轮询。

用例:免费组合

创建组 free-coder,包含:

  • kiro/claude-sonnet-4-6(Kiro 免费试用)
  • groq/llama-4-maverick(Groq 免费)
  • cerebras/qwen3-coder(Cerebras 免费)

请求 model=free-coder 时,openrelay 按轮询顺序选一个 provider 发送,用完一个换下一个,最大化免费额度。

配置步骤

  1. Web UI → Custom Groups
  2. 点新建组
  3. 输入组名 free-coder
  4. 添加 3 个成员
  5. 选择策略(轮询 / 随机 / 失败转移)

常见误区

  • 模型组不会聚合上下文 —— 每次请求只用一个模型
  • 不同 provider 的模型能力差异大,不要混搭得太离谱