是的,LiteLLM 官方提供了非常完备的 Docker 支持,这不仅是部署 LiteLLM Proxy 的推荐方式,也是与 Claude Code 配合使用的最佳实践。

通过 Docker 运行,你可以避免本地 Python 环境的污染,并能更轻松地管理环境变量。


1. 快速启动(命令行方式)

如果你只需要快速启动一个适配 DeepSeek 的代理,可以直接运行:

docker run \
    -e DEEPSEEK_API_KEY='你的_KEY' \
    -p 4000:4000 \
    ghcr.io/berriai/litellm:main-latest \
    --model openai/deepseek-chat \
    --api_base https://api.deepseek.com/v1

2. 生产推荐:Docker Compose 部署

如果你想长期稳定使用,建议创建一个 docker-compose.yaml 文件。这样你可以通过配置文件管理多个模型(如同时挂载 DeepSeek-V3 和 R1)。

第一步:创建 litellm-config.yaml

model_list:
  - model_name: claude-3-7-sonnet-20250219 # 给 Claude Code 用的“假”名
    litellm_params:
      model: openai/deepseek-reasoner # 实际调用的模型
      api_key: "os.environ/DEEPSEEK_API_KEY"
      api_base: "https://api.deepseek.com/v1"

第二步:创建 docker-compose.yaml

services:
  litellm:
    image: ghcr.io/berriai/litellm:main-latest
    ports:
      - "4000:4000"
    volumes:
      - ./litellm-config.yaml:/app/config.yaml
    environment:
      - DEEPSEEK_API_KEY=sk-xxxx
    command: [ "--config", "/app/config.yaml", "--port", "4000" ]

第三步:启动

docker-compose up -d

3. 配合 Claude Code 使用

一旦 Docker 容器启动,它就会在本地 http://localhost:4000 监听。你只需要在终端设置:

export ANTHROPIC_API_BASE="http://localhost:4000"
export ANTHROPIC_API_KEY="dummy-key"
claude

4. 关键点提示

  • 镜像版本:推荐使用 ghcr.io/berriai/litellm:main-latest 以获取最新的模型适配。如果追求极度稳定,可以使用带 -stable 标签的版本。
  • 网络问题:如果你在 Docker 内部访问 API 遇到网络问题,确保你的宿主机代理已正确配置,或者在 Docker 中设置 HTTP_PROXY/HTTPS_PROXY 环境变量。
  • 资源占用:LiteLLM 镜像非常轻量,生产环境下内存占用通常在 100MB-200MB 左右。

你是在本地机器(Mac/Windows)上运行 Docker,还是在 Linux 服务器上部署?