El proveedor OpenAI Compatible de Cline, configurado desde su pantalla de configuración.
Adónde va una solicitud de Cline: las dos opciones que configura Connect, el warden en medio y, después, una copia del modelo por GPU.
Descripción:Cline envía sus solicitudes a LM Warden, con Base URL configurada con la dirección del warden y una clave del warden en API Key. LM Warden comprueba la clave, recibe la solicitud por OpenAI Chat Completions, la pone en cola según la prioridad de la clave y se la pasa al enrutador de réplicas, que mantiene cada sesión en la réplica que ya tiene su caché, con una copia del modelo por GPU.
Protocolo
OpenAI Chat Completions
Compatibilidad
Solo modelos locales
Solo modelos locales, mediante Chat Completions en streaming. Cline no tiene archivo de configuración: introduce estos valores en API Provider > OpenAI Compatible. Su proveedor Anthropic admite una URL base personalizada, pero no un encabezado personalizado, así que el modo Router no está disponible.
Requisitos
Necesita un modelo con llamadas a herramientas (ediciones agénticas).
Funciona mejor con al menos 32.768 tokens de contexto.
Configuración
En la consola, Connect genera estos archivos con la dirección de tu warden, tu clave y el modelo que hayas elegido. Aquí aparecen con marcadores de posición.
Modelos locales
Settings > API Provider > OpenAI Compatible.
Configuración
Base URL: https://your-warden/v1
API Key: vw_YOUR_KEY
Model ID: your-served-model-name
Context Window Size: 32768