GPT-Load

服务器配置：

安全配置：

数据库配置：

性能与跨域配置：

日志配置：

代理配置：

GPT-Load 会自动从环境变量中读取代理设置，用于向上游 AI 服务商发起请求。

支持的代理协议格式：

• HTTP: http://user:pass@host:port
• HTTPS: https://user:pass@host:port
• SOCKS5: socks5://user:pass@host:port

基础设置：

请求设置：

密钥配置：

迁移场景

• 启用加密：将明文数据加密存储 - 使用 --to <新密钥>
• 禁用加密：将加密数据解密为明文 - 使用 --from <当前密钥>
• 更换密钥：更换加密密钥 - 使用 --from <当前密钥> --to <新密钥>

操作步骤

Docker Compose 部署

# 1. 更新镜像（确保使用最新版本）
docker compose pull

# 2. 停止服务
docker compose down

# 3. 备份数据库（强烈建议）
# 执行迁移前，必须手动备份数据库或者导出你的密钥，避免因操作或者异常导致的密钥丢失。

# 4. 执行迁移命令
# 启用加密（your-32-char-secret-key 为你的密钥，建议使用32位以上的随机字符串）
docker compose run --rm gpt-load migrate-keys --to "your-32-char-secret-key"

# 禁用加密
docker compose run --rm gpt-load migrate-keys --from "your-current-key"

# 更换密钥
docker compose run --rm gpt-load migrate-keys --from "old-key" --to "new-32-char-secret-key"

# 5. 更新配置文件
# 编辑 .env 文件，设置 ENCRYPTION_KEY 与 --to 参数一致
# 如果禁用加密，则删除 ENCRYPTION_KEY 或设置为空
vim .env
# 添加或修改: ENCRYPTION_KEY=your-32-char-secret-key

# 6. 重启服务
docker compose up -d

源码构建部署

# 1. 停止服务
# 停止正在运行的服务进程（Ctrl+C 或 kill 进程）

# 2. 备份数据库（强烈建议）
# 执行迁移前，必须手动备份数据库或者导出你的密钥，避免因操作或者异常导致的密钥丢失。

# 3. 执行迁移命令
# 启用加密
make migrate-keys ARGS="--to your-32-char-secret-key"

# 禁用加密
make migrate-keys ARGS="--from your-current-key"

# 更换密钥
make migrate-keys ARGS="--from old-key --to new-32-char-secret-key"

# 4. 更新配置文件
# 编辑 .env 文件，设置 ENCRYPTION_KEY 与 --to 参数一致
echo "ENCRYPTION_KEY=your-32-char-secret-key" >> .env

# 5. 重启服务
make run

注意事项

⚠️ 重要提醒：

• ENCRYPTION_KEY 一旦丢失将无法恢复已加密的数据！ 请务必安全备份此密钥，建议使用密码管理器或安全的密钥管理系统保存
• 迁移前必须停止服务，避免数据不一致
• 强烈建议备份数据库，以防迁移失败需要恢复
• 密钥建议使用 32 位或更长的随机字符串，确保安全性
• 迁移后确保 .env 中的 ENCRYPTION_KEY 与 --to 参数一致
• 如果禁用加密，需要删除或清空 ENCRYPTION_KEY 配置

密钥生成示例

# 生成安全的随机密钥（32字符）
openssl rand -base64 32 | tr -d "=+/" | cut -c1-32

GPT-Load 通过分组名称路由请求到不同的 AI 服务。使用方式如下：

1. 代理端点格式

http://localhost:3001/proxy/{group_name}/{原始API路径}

• {group_name}: 在管理界面创建的分组名称
• {原始API路径}: 保持与原始 AI 服务完全一致的路径

2. 认证方式

在 Web 管理界面中配置代理密钥 (Proxy Keys)，可设置系统级别和分组级别的代理密钥。

• 认证方式: 与原生 API 一致，但需将原始密钥替换为配置的代理密钥。
• 密钥作用域: 在系统设置配置的 全局代理密钥 可以在所有分组使用，在分组配置的 分组代理密钥 仅在当前分组有效。
• 格式: 多个密钥使用半角英文逗号分隔。

3. OpenAI 接口调用示例

GPT-Load 当前支持两种 OpenAI 兼容分组类型：

• openai（OpenAI Chat Completions 格式）
• openai-response（OpenAI Responses 格式）

假设创建了名为 openai 的分组：

原始调用方式：

curl -X POST https://api.openai.com/v1/chat/completions \
  -H "Authorization: Bearer sk-your-openai-key" \
  -H "Content-Type: application/json" \
  -d '{"model": "gpt-4.1-mini", "messages": [{"role": "user", "content": "Hello"}]}'

代理调用方式：

curl -X POST http://localhost:3001/proxy/openai/v1/chat/completions \
  -H "Authorization: Bearer your-proxy-key" \
  -H "Content-Type: application/json" \
  -d '{"model": "gpt-4.1-mini", "messages": [{"role": "user", "content": "Hello"}]}'

变更说明：

• 将 https://api.openai.com 替换为 http://localhost:3001/proxy/openai
• 将原始 API Key 替换为代理密钥

OpenAI Responses 格式示例（openai-response 分组）：

curl -X POST http://localhost:3001/proxy/openai-response/v1/responses \
  -H "Authorization: Bearer your-proxy-key" \
  -H "Content-Type: application/json" \
  -d '{"model": "gpt-4.1-mini", "input": "Hello"}'

4. Gemini 接口调用示例

假设创建了名为 gemini 的分组：

原始调用方式：

curl -X POST https://generativelanguage.googleapis.com/v1beta/models/gemini-2.5-pro:generateContent?key=your-gemini-key \
  -H "Content-Type: application/json" \
  -d '{"contents": [{"parts": [{"text": "Hello"}]}]}'

代理调用方式：

curl -X POST http://localhost:3001/proxy/gemini/v1beta/models/gemini-2.5-pro:generateContent?key=your-proxy-key \
  -H "Content-Type: application/json" \
  -d '{"contents": [{"parts": [{"text": "Hello"}]}]}'

变更说明：

• 将 https://generativelanguage.googleapis.com 替换为 http://localhost:3001/proxy/gemini
• 将 URL 参数中的 key=your-gemini-key 替换为代理密钥

5. Anthropic 接口调用示例

假设创建了名为 anthropic 的分组：

原始调用方式：

curl -X POST https://api.anthropic.com/v1/messages \
  -H "x-api-key: sk-ant-api03-your-anthropic-key" \
  -H "anthropic-version: 2023-06-01" \
  -H "Content-Type: application/json" \
  -d '{"model": "claude-sonnet-4-20250514", "messages": [{"role": "user", "content": "Hello"}]}'

代理调用方式：

curl -X POST http://localhost:3001/proxy/anthropic/v1/messages \
  -H "x-api-key: your-proxy-key" \
  -H "anthropic-version: 2023-06-01" \
  -H "Content-Type: application/json" \
  -d '{"model": "claude-sonnet-4-20250514", "messages": [{"role": "user", "content": "Hello"}]}'

变更说明：

• 将 https://api.anthropic.com 替换为 http://localhost:3001/proxy/anthropic
• 将 x-api-key 头部中的原始 API Key 替换为代理密钥

6. 支持的接口

OpenAI Chat Completions 格式（openai）：

• /v1/chat/completions - 聊天对话
• /v1/completions - 文本补全
• /v1/embeddings - 文本嵌入
• /v1/models - 模型列表
• 以及其他所有 OpenAI 兼容接口

OpenAI Responses 格式（openai-response）：

• /v1/responses - 统一响应生成
• /v1/models - 模型列表
• 以及其他所有 OpenAI Responses 兼容接口

Gemini 格式：

• /v1beta/models/*/generateContent - 内容生成
• /v1beta/models - 模型列表
• 以及其他所有 Gemini 原生接口

Anthropic 格式：

• /v1/messages - 消息对话
• /v1/models - 模型列表（如果可用）
• 以及其他所有 Anthropic 原生接口

7. 客户端 SDK 配置

OpenAI Python SDK：

from openai import OpenAI

client = OpenAI(
    api_key="your-proxy-key",  # 使用密钥
    base_url="http://localhost:3001/proxy/openai"  # 使用代理端点
)

response = client.chat.completions.create(
    model="gpt-4.1-mini",
    messages=[{"role": "user", "content": "Hello"}]
)

Google Gemini SDK (Python)：

import google.generativeai as genai

# 配置 API 密钥和基础 URL
genai.configure(
    api_key="your-proxy-key",  # 使用代理密钥
    client_options={"api_endpoint": "http://localhost:3001/proxy/gemini"}
)

model = genai.GenerativeModel('gemini-2.5-pro')
response = model.generate_content("Hello")

Anthropic SDK (Python)：

from anthropic import Anthropic

client = Anthropic(
    api_key="your-proxy-key",  # 使用代理密钥
    base_url="http://localhost:3001/proxy/anthropic"  # 使用代理端点
)

response = client.messages.create(
    model="claude-sonnet-4-20250514",
    messages=[{"role": "user", "content": "Hello"}]
)

重要提示：作为透明代理服务，GPT-Load 完全保留各 AI 服务的原生 API 格式和认证方式，仅需要替换端点地址并使用在管理端配置的代理密钥即可无缝迁移。