LM Warden

Cursor,运行在你自己的 GPU 上。

Cursor 的 OpenAI Base URL 覆盖设置,用于与已部署的模型聊天。

来自 Cursor 的请求去往何处 Cursor 把请求发送给 LM Warden,Override OpenAI Base URL 设为 warden,OpenAI API Key 填写 warden 密钥。LM Warden 检查密钥,支持 OpenAI Chat Completions,按密钥优先级为请求排队,并交给副本路由器。路由器让每个会话留在已持有其缓存的副本上(每块 GPU 一个模型副本)。 Cursor Override OpenAI Base URL the warden, at /v1 OpenAI API Key vw_… POST /v1/chat/completions LM Warden checks the key: one per app speaks OpenAI Chat Completions scheduler, key priority usage, latency and live stats per key Replica router a session goes back to the replica that holds its cache one model copy per GPU your GPUs: vLLM or llama.cpp replica 0, GPU 0 replica 1, GPU 1 replica 2, GPU 2 a conversation stays on its replica
来自 Cursor 的请求去往何处 Cursor 把请求发送给 LM Warden,Override OpenAI Base URL 设为 warden,OpenAI API Key 填写 warden 密钥。LM Warden 检查密钥,支持 OpenAI Chat Completions,按密钥优先级为请求排队,并交给副本路由器。路由器让每个会话留在已持有其缓存的副本上(每块 GPU 一个模型副本)。 Cursor Override OpenAI Base URL the warden, at /v1 OpenAI API Key vw_… POST /v1/chat/completions LM Warden checks the key: one per app speaks OpenAI Chat Completions scheduler, key priority usage, latency, live stats per key Replica router a session goes back to the replica that holds its cache replica 0 GPU 0 replica 1 GPU 1 replica 2 GPU 2 your GPUs: vLLM or llama.cpp a conversation stays on its replica
来自 Cursor 的请求去往何处:Connect 写入的两项设置,中间是 warden,然后每块 GPU 上一份模型副本。

文字说明: Cursor 把请求发送给 LM Warden,Override OpenAI Base URL 设为 warden,OpenAI API Key 填写 warden 密钥。LM Warden 检查密钥,支持 OpenAI Chat Completions,按密钥优先级为请求排队,并交给副本路由器。路由器让每个会话留在已持有其缓存的副本上(每块 GPU 一个模型副本)。

协议
OpenAI Chat Completions
支持情况
仅限本地模型

请求由 Cursor 的服务器发出,因此这个 warden 的 URL 必须能从互联网访问;局域网或 localhost 上的 warden 无法使用。自定义密钥只适用于聊天模型:Tab 补全仍使用 Cursor 自己的模型,而使用 Cursor 模型的 Agent 会拒绝自定义密钥。Cursor 当前的文档已不再介绍 Override OpenAI Base URL 设置;这一设置是从 Cursor 员工在论坛上的回复中得知的。

要求

  • Cursor 的服务器会调用这个 URL,因此它必须能从互联网访问。

设置

在控制台中,Connect 会用你的 warden 地址、你的密钥和你选择的模型写入这些文件。下面以占位符展示这些文件。

与本地模型聊天

Cursor Settings > Models,然后把模型名称添加为自定义模型。

设置
OpenAI API Key: vw_YOUR_KEY
Override OpenAI Base URL: https://your-warden/v1
Custom model: your-served-model-name

官方文档:https://cursor.com/docs/settings/api-keys(查阅日期:2026-10-04)。