A substituição da URL base da OpenAI no Cursor, para chat com um modelo servido.
Para onde vai uma solicitação do Cursor: as duas configurações que o Connect grava, o warden no meio e depois uma cópia do modelo por GPU.
Em texto:O Cursor envia as solicitações ao LM Warden com Override OpenAI Base URL apontando para o warden e OpenAI API Key contendo uma chave do warden. O LM Warden verifica a chave, implementa o protocolo OpenAI Chat Completions, coloca a solicitação na fila pela prioridade da chave e a entrega ao roteador de réplicas, que mantém cada sessão na réplica que já tem o cache dela, uma cópia do modelo por GPU.
Protocolo
OpenAI Chat Completions
Suporte
Só modelos locais
As solicitações partem dos servidores do Cursor, então a URL deste warden precisa estar acessível pela internet; um warden na LAN ou em localhost não vai funcionar. Chaves personalizadas só funcionam com modelos de chat: o preenchimento com Tab continua usando os modelos do próprio Cursor, e o Agent com os modelos do Cursor rejeita chaves personalizadas. A documentação atual do Cursor não descreve mais a configuração Override OpenAI Base URL; ela é conhecida por respostas da equipe do Cursor no fórum.
Requisitos
Os servidores do Cursor chamam esta URL, então ela precisa estar acessível pela internet.
Configuração
No console, o Connect grava estes arquivos com o endereço do seu warden, a sua chave e o modelo que você escolheu. Aqui eles aparecem com espaços reservados.
Chat com um modelo local
Cursor Settings > Models, depois adicione o nome do modelo como modelo personalizado.
Configurações
OpenAI API Key: vw_YOUR_KEY
Override OpenAI Base URL: https://your-warden/v1
Custom model: your-served-model-name