如果你管过三个以上大模型 API Key,应该能体会到那种隐藏在控制台背后的混乱:各家平台的密钥规则不同、账单口径不同、团队里谁调了多少完全靠猜,月底对账更是灾难。这个问题在我这边发展到什么程度呢?光是记录密钥的表格就有四五个版本,后来不得不写脚本去各平台拉用量再手工合并。直到我决定换一种思路,把目光投向了一个开源项目——New API,一款可以自托管的 AI 网关。它做的事情简单说就是:把多个模型厂商的接口统一收口到一个入口,让团队内部所有请求都走同一个门,密钥管理、模型路由、额度分配、调用日志全都集中在一起。这篇文章我会从我的实际使用经历出发,把这套网关的部署、配置、踩坑和运维经验完整梳理一遍,适合正在被多模型管理折磨的开发者、小团队技术负责人,也适合想给自建应用加一层统一 API 入口的独立开发者。
1. 我的场景就是从"钥匙串"变成"门禁系统"
1.1 散落各处的 API Key 是混乱的根源
我很长时间没意识到问题的本质。表面看,团队有 OpenAI 的 Key,有 Anthropic 的 Key,有 DeepSeek 的 Key,再加上国产几家大模型的 Key,工具齐全,想用什么模型就用什么模型。但深入用起来就会发现,Key 越多,管理成本不是线性增长,而是爆炸式增长。
首先是密钥权限无法收口。任何一个同事离职,他手里可能攒了三四个平台的 Key,你没法确定他是不是已经把这些 Key 存在了某个笔记软件里,只能全部重置再逐个通知相关系统修改配置。其次是调用数据分散在各厂商后台,每次想统计某个功能一个月花了多少钱,要登录五六个平台,把时间范围对齐,再把不同币种、不同计量单位的账单手工整理到一张表里。
最让我崩溃的是没有一个统一的"熔断"机制。某个 Key 因为欠费或者触发了限流,上游报错只会出现在对应服务的日志里,前台用户感知到响应变慢或失败,我们再去翻日志找是哪个环节出问题,效率极低。
1.2 New API 做了什么:把各家厂商的后端抽象成一扇统一的门
后来我了解到 New API 这个开源项目。它最初是从 One API 这个项目 fork 出来的,作者在原有基础上做了大量增强,核心定位就是做一个可自托管的 AI 网关。你把它部署在自己的服务器上,它对外暴露一套兼容 OpenAI 接口规范的 API,对内可以对接多个模型提供方。
也就是说,团队内部所有业务服务统一只配置网关的地址和网关下发的 Token,由网关在中间完成路由转发、鉴权、限流、重试、计量计费。业务侧不再关心上游到底是 OpenAI、Anthropic 还是 DeepSeek,也不关心 Key 是否存在某个环境变量里。所有密钥、调用量、费用明细全部集中在网关的控制台里。
这个抽象的价值,用一句大白话讲就是:以前每个人手里攥着一大把钥匙,哪个门坏了还要挨个试;现在门口装了一套门禁系统,进门刷卡,谁刷的、什么时候刷的、去了哪一层,系统全都有记录。
1.3 为什么我推荐自托管而不是用厂商控制台
有些厂商自己的控制台也带了用量统计和密钥管理功能,为什么还要自建网关?我的理由很直接,第一是数据归属权。厂商后台只保留"我的账号下发生了什么",而网关记录的是"我的业务里谁在什么场景下调用了什么模型",后者带着业务维度,对成本核算和性能调优更有价值。第二是切换成本。今天某个模型的价格政策调整了,我可以直接在网关里调整倍率、切换渠道,业务代码一行不用动。第三是权限粒度。我可以给不同项目、不同成员分配不同令牌,设置不同额度,而不是把主 Key 直接给他们。
当然,自托管也有代价,比如需要你自己维护一台服务器、处理升级和备份。但从投入产出比来看,对于调用量大、团队人数多的场景,这个代价完全值得。
需要模型API调用? 免费领10W Token,多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. New API 的控制台与核心对象:渠道、令牌、分组
2.1 渠道(Channel)是什么:一张"上游连接表"
第一次打开 New API 的控制台,左上角第一个进入视线的概念就是"渠道"。渠道这个词可能对新手有点抽象,我的理解是:渠道就是一条通往某个上游模型服务的连接配置。
在控制台里创建渠道时,你需要指定渠道类型,比如 OpenAI、Anthropic、Google Gemini、DeepSeek、智谱、通义千问等,然后填入对应的 API Key,再声明这个渠道提供哪些模型。New API 支持把多个同类型渠道配置成一组,它会自动做负载均衡和健康检查,某个渠道挂了就自动切换到另一个可用渠道。
New API 支持的渠道类型非常多,这也是我坚持选它的一个重要原因。市面上不少网关工具只支持 OpenAI 格式的接口,一旦要接 Anthropic 的原生接口或者国内厂商的私有协议,就得自己写适配层。New API 把这些接入协议都内置了,控制台里点选类型、粘贴 Key 就能用。
2.2 令牌(Token)不是密钥,是权限策略
在 New API 里,"令牌"这个词和大部分人的直觉有点偏差。它不是简单的"一串密钥",而是一个包含权限策略的载体。
