3.5 KiB
3.5 KiB
会话记录总结:大模型 API 中转与 Docker 部署指南
本文件记录了关于开源大模型 API 网关(new-api)、相关生态工具、Docker 部署环境选择以及如何在 Linux 上进行操作的完整对话过程。
1. 核心仓库分析:New API 与 Sub2API 的区别
- QuantumNous/new-api (New API):
- 定位:专业、通用的企业级/团队级自托管 AI API 网关。
- 核心:基于官方 API Key 进行路由分发、负载均衡、高可用及精细化计费/额度管理。几乎无封号风险。
- Wei-Shaw/sub2api (Sub2API):
- 定位:主打订阅池化(拼车共享)的一站式 AI API 中转服务。
- 核心:将网页端包月账号(如 ChatGPT Plus、Claude Pro)通过协议逆向转为标准 API 共享使用。极易触发风控封号。
2. 边缘工具生态链(5个开源仓库分析)
farion1231/cc-switch:跨平台的桌面端 API 调度与外壳管理工具,用于一键切换命令行工具的 API 供应商及 MCP 插件。totec448-spec/chat-on-steroids:将网页版 ChatGPT 结合浏览器扩展与本地 MCP 协议,赋予其读写本地代码和执行终端命令能力的本地编程助手。fb0sh/MCPod:用于打包、运行和管理本地 MCP Server 的容器化或后端轻量环境。router-for-me/CLIProxyAPI:底层的协议转译与中转核心,将各大厂命令行工具或免费测试通道包装为标准的 OpenAI/Claude API。linguo2625469/workbuddy2api-panel:腾讯 CodeBuddy 的逆向网关与自动化任务管理面板(内置自动做任务脚本,现已停更)。
3. 部署环境与操作系统选择
- 系统核心原则:Docker 的核心技术强依赖 Linux 内核。
- 服务器系统建议:
- 强烈反对:在旧版 Windows Server 2012 上强行部署。
- 强烈推荐:Ubuntu 24.04 LTS 或 Debian 12。如果购买的是 Windows 系统服务器,可在腾讯云后台免费一键重装为 Linux。
- 硬件替代方案:使用同事的 Mac mini 运行 Docker Desktop 也是极佳且稳定的本地服务器选择。
4. New API 服务器端部署全流程(Linux + Docker)
- 配置域名解析:
- 在域名注册商处添加 A 记录,将子域名(例如
api.trivoo.online)解析至服务器公网 IP。
- 在域名注册商处添加 A 记录,将子域名(例如
- 安装 Docker 基础环境:
curl -fsSL https://get.docker.com | bash sudo systemctl enable --now docker - 拉取代码并配置密钥:
修改
git clone https://github.com/QuantumNous/new-api.git cd new-api openssl rand -hex 32docker-compose.yml,设置SESSION_SECRET、HTTPS 信任域名及数据库/Redis 密码。 - 启动后台容器:
docker compose up -d - 配置 Nginx 与 HTTPS:
- 安装 Nginx 和 Certbot,配置反向代理将流量转发至
http://127.0.0.1:3000并签发 SSL 证书。
- 安装 Nginx 和 Certbot,配置反向代理将流量转发至
- 后台初始化与调用:
- 访问域名创建管理员账号,添加上链渠道(官方 API Key),生成分发令牌即可在客户端调用。
5. 远程访问与 Linux 运维互动
- 访问方式:Linux 服务器通常通过命令行操作。初学者可直接使用腾讯云后台自带的 Workbench(网页终端),无需在本地下载复杂软件。
- AI 运维模式:用户只需负责打开终端,将报错或需求交由 AI,“复制粘贴”AI 提供的标准命令,即可轻松实现无痛部署。