部署 · 加固 · 运维
自托管 AI API 网关
部署与运维
为需要统一管理 LLM 流量入口的团队提供网关部署、安全加固与长期运维支持。密钥、日志、基础设施，全部掌握在你自己手里。
# 每一次交付，都以验证数据收尾
$ deployctl preflight --remote gateway-host
ok 80/443 空闲 · docker 27.x · 磁盘余 4GB
$ deployctl apply --plan plan.json
ok 容器 healthy · 仅绑定 127.0.0.1
$ deployctl verify --target gateway-host
ok TLS A · HSTS · 安全头 6/6 · 日志已脱敏
# 交接内容：运维手册 + 备份方案 + 完全属于你的密钥先看交付方法，不靠宣传口号
检查
修改前先核查主机、网络暴露面、密钥保管与回滚路径。
部署
按书面配置落地，缩小公网暴露面，并使用可吊销的虚拟密钥。
验证
实际探测 TLS、健康状态、故障转移、日志脱敏、备份和恢复，不把“容器在运行”当作交付证据。
团队常见的三个问题
密钥散落各处
API 密钥被随手贴进笔记、CI 变量和各种桌面工具，没有人能说清一共发出去多少把、各自用在哪里，更没有人敢轮换。
成本一笔糊涂账
账单月底才出，具体是哪个团队、哪个功能、哪个失控的脚本烧掉了预算，服务商控制台给不出答案。
代码被厂商绑死
每个服务各自硬编码一家厂商的 SDK，想换模型、想在故障时切换备用线路，都要改代码、重新上线。
网关层能带来什么
自托管网关（LiteLLM、one-api、Sub2API 等开源项目）在所有上游服务商之前统一提供一个 OpenAI 兼容接口。业务侧使用的是可随时创建、限额、吊销的虚拟密钥，真正的服务商密钥集中存放、严格管控。用量按密钥计量，速率限制、模型路由、故障转移一应俱全——而这一切都运行在你自己的服务器上。
服务内容
部署
Docker Compose 或 systemd 方案，反向代理配齐 HTTPS 与 HSTS，容器以非 root 运行，目录结构有文档可查，升级路径经过实际演练。
加固
密钥统一入库并收紧权限，管理面与数据面隔离，安全响应头、fail2ban、日志脱敏——任何情况下密钥都不会以明文出现在日志里。
运维
健康检查与告警、用量看板、定期备份与恢复演练（附书面 runbook），以及按团队、按密钥的配额策略。
交接
项目结束时，基础设施、文档与讲解录屏全部移交。系统的正常运转不依赖任何外部个人——这本身就是交付标准之一。
服务边界
先确认环境，再谈部署方案
需要一套交接后仍能独立运维的网关？
邮件说明目标软件、服务器限制和需要接入的上游。我会先确认是否适合承接及工作范围，再开始部署。