Grok CLI，运行在你自己的 GPU 上。

xAI 的 Grok Build CLI，以自带密钥（BYOK）模型的方式接入 LM Warden。

来自 Grok CLI 的请求去往何处：Connect 写入的两项设置，中间是 warden，然后每块 GPU 上一份模型副本。

文字说明： Grok CLI 把请求发送给 LM Warden，base_url 设为 warden，env_key 填写 warden 密钥。LM Warden 检查密钥，支持 OpenAI Chat Completions，按密钥优先级为请求排队，并交给副本路由器。路由器让每个会话留在已持有其缓存的副本上（每块 GPU 一个模型副本）。

协议: OpenAI Chat Completions
支持情况: 仅限本地模型

仅限本地模型，走 Chat Completions（api_backend = chat_completions）。不会直通到 xAI，BYOK 模型也不需要 xAI 登录。session_summary 让 Grok 生成会话标题的请求也使用这个模型；没有它，Grok 会向这个 warden 请求 grok-4.6，并得到 404。Grok 运行时会向 config.toml 写入它自己的配置段。社区版 grok-cli（npm grok-dev）是另一个工具：聊天可用，工具调用不可用。

要求

需要支持工具调用的模型（用于智能体式编辑）。
至少有 32,768 个 token 的上下文时效果最好。

设置

在控制台中，Connect 会用你的 warden 地址、你的密钥和你选择的模型写入这些文件。下面以占位符展示这些文件。

Grok Build（官方）

在 ~/.grok/config.toml 中添加一个模型条目；密钥来自 LMWARDEN_KEY。安装：curl -fsSL https://x.ai/cli/install.sh | bash，或 npm i -g @xai-official/grok

config.toml (~/.grok/config.toml)

[model.lmwarden]
model = "your-served-model-name"
name = "LM Warden · your-served-model-name"
base_url = "https://your-warden/v1"
env_key = "LMWARDEN_KEY"
api_backend = "chat_completions"
context_window = 32768

[models]
default = "lmwarden"
session_summary = "lmwarden"
# The model's context window is unknown: 32768 is a guess. Set it to the model's real window.

Shell

export LMWARDEN_KEY=vw_YOUR_KEY
grok -m lmwarden

社区版 grok-cli

社区版 grok-cli 从环境变量中读取 Base URL、密钥和模型，并且需要安装 Bun。聊天可用；工具调用会失败，因为它的 xAI SDK 拒绝分段到达的工具调用数据块，而 vLLM 正是这样流式输出的。

Shell

export GROK_BASE_URL=https://your-warden/v1
export GROK_API_KEY=vw_YOUR_KEY
export GROK_MODEL=your-served-model-name
npx -y grok-dev

官方文档：https://docs.x.ai/build/settings/reference（查阅日期：2026-10-04）。