Cline,运行在你自己的 GPU 上。
Cline 的 OpenAI Compatible 提供方,在其设置界面中填写。
来自 Cline 的请求去往何处:Connect 写入的两项设置,中间是 warden,然后每块 GPU 上一份模型副本。
文字说明: Cline 把请求发送给 LM Warden,Base URL 设为 warden,API Key 填写 warden 密钥。LM Warden 检查密钥,支持 OpenAI Chat Completions,按密钥优先级为请求排队,并交给副本路由器。路由器让每个会话留在已持有其缓存的副本上(每块 GPU 一个模型副本)。
- 协议
- OpenAI Chat Completions
- 支持情况
- 仅限本地模型
仅限本地模型,通过流式 Chat Completions。Cline 没有配置文件:请在 API Provider > OpenAI Compatible 下输入这些值。它的 Anthropic 提供方支持自定义 Base URL,但不支持自定义标头,因此无法使用路由器模式。
要求
- 需要支持工具调用的模型(用于智能体式编辑)。
- 至少有 32,768 个 token 的上下文时效果最好。
设置
在控制台中,Connect 会用你的 warden 地址、你的密钥和你选择的模型写入这些文件。下面以占位符展示这些文件。
本地模型
Settings > API Provider > OpenAI Compatible。
设置Base URL: https://your-warden/v1
API Key: vw_YOUR_KEY
Model ID: your-served-model-name
Context Window Size: 32768
官方文档:https://docs.cline.bot/provider-config/openai-compatible(查阅日期:2026-10-04)。
相关内容:所有编程智能体 · 让你的智能体选择模型 · API 密钥