SavedModel部署实战：从model.save()到TensorFlow Serving的完整指南

干了几年模型上线的工作，我越来越觉得 model.save() 是 TensorFlow 给开发者设下的一个“温柔陷阱”。本地训练完，顺手一句 model.save('my_model')，看着生成了一堆文件，心里踏实得很。可真到了要把模型接到线上服务、或者交给别的团队去部署的时候，才发现问题一堆：环境里没装 Keras 怎么办？自定义层反序列化失败怎么办？模型里那几个预处理节点到底怎么传参？这时候你再回头去研究 saved_model.pb 里到底藏了什么，才会意识到——SavedModel 从来就不是一个“保存格式”，而是一套完整的模型发布方案。

这篇文章，我把自己在实际项目里对 SavedModel 的踩坑和理解完整梳理一遍。不光是讲 model.save() 怎么用，而是从部署视角重新审视：目录结构、签名机制、版本管理、性能优化，以及 TensorFlow Serving 落地时的常见坑。适合那些已经能用 Keras 训练模型、但还没搞明白“训练产物”和“部署产物”本质区别的同学。看完你至少能回答三个问题：SavedModel 到底比 H5 强在哪？签名是干什么的？为什么有些人部署起来又快又稳，而你总是掉链子。

1. SavedModel 和 model.save() 的底层逻辑

1.1 model.save() 到底保存了什么

model.save() 这个 API，在 TF2 里默认保存的就是 SavedModel 格式。但你如果只是把它当成“把模型存下来”的便捷工具，那就漏掉了大量信息。实际上，model.save() 自动为你做了一系列封装：

• 追踪（trace）模型的 call() 方法，生成一个或多个 ConcreteFunction；
• 把权重导出为 checkpoint 格式，放进 variables/ 目录；
• 把模型结构、优化器状态、损失函数等元信息写入 saved_model.pb；
• 顺带序列化一些自定义对象的配置（如果可序列化的话）。

换句话说，model.save() 确实在帮你生成一个 SavedModel，但它生成的是“Keras 视角下的 SavedModel”。它好用，但也隐藏了太多细节。一旦你的模型里有自定义层、预处理的 Lambda、或者需要对外暴露多个入口，model.save() 生成的产物往往不够“干净”——里面混杂了训练期才需要的对象信息，推理时根本用不上，反而让模型变大、加载变慢、调试困难。

1.2 H5 和 SavedModel 的本质区别

很多初学者会问：.h5 一个文件多方便，为什么非要用一个文件夹？我通常用一句话解释：H5 是“存档”，SavedModel 是“安装包”。

H5 适合训练过程中的阶段性保存，它把权重和结构揉在一个二进制文件里。加载时要求你有完整的 Keras 环境，并且自定义对象必须手动注册，否则反序列化直接报错。你可以在单机训练时用它，但一旦要放到服务端、边缘设备、或者用 C++ 去推理，H5 基本就废了。

SavedModel 则是一个自包含的目录，核心是 saved_model.pb 里的图定义和签名（Signature），配合 variables/ 里的权重和 assets/ 里的外部资源。它不依赖 Python 侧的类定义，任何支持 TensorFlow Runtime 的语言都能加载。这就像你把一个应用程序做成了免安装的绿色版，拷到哪都能跑。

1.3 为什么部署视角必须“超越” model.save()

我在多个项目里验证过一件事：用 model.save() 保存模型推上线，遇到问题几乎无法排查。因为你不知道它帮你生成的那几个签名（serving_default 之外可能什么都没有）到底符不符合下游需求。

部署的核心诉求是：提供一个稳定、明确、高性能的接口。你需要控制输入输出的名字、张量形状、是否允许动态 batch、要不要把预处理并进图里。这些 model.save() 也能做一部分，但如果你不理解背后的机制，就只能在接口层面“碰运气”。所以才说，真正进阶的用法是自己手动构建 SavedModel——你不需要每次都手写 protobuf，但你至少要会创建带自定义签名的 ConcreteFunction，再有选择性地导出。

2. SavedModel 目录结构逐层解剖

2.1 从 tree 命令看整棵目录树

先看一个典型的 SavedModel 目录长什么样：

text复制my_model/
├── assets/
├── fingerprint.pb
├── saved_model.pb
└── variables/
    ├── variables.data-00000-of-00001
    └── variables.index

如果你用的是较新的 TensorFlow（2.10 以上），还会多出 fingerprint.pb，它是模型的哈希指纹，用于快速校验模型版本，加载时可以作为缓存依据。

• saved_model.pb：序列化后的 SavedModel protobuf，包含 MetaGraphDef、SignatureDef、图结构信息和变量初始化信息。这个文件是整个模型的核心“说明书”。
• variables/：存放权重。variables.index 是变量名到数据块的索引；variables.data-* 是实际张量数据。带 shard 的格式是为了支持超大模型分片存储。
• assets/：外部资源，比如词汇表、配置 JSON、字典文件。你可以在 tf.saved_model.save 时通过 assets 参数传入，运行时用 `