南门居士-杜锦刚做数据回归预测这几年，我有个越来越强的感受：模型选型其实没那么纠结，真正决定预测精度上限的，往往是参数有没有找到合适的位置。RBF神经网络就是个典型例子——理论上它结构简单、逼近能力强，但真拿它去拟合数据时，隐藏层径向基函数的中心点、宽度和输出权重三个参数组，随便哪一个没配好，预测结果都能差出去一大截。早期我习惯用K-Means聚类定中心、再最小二乘定权重这套传统两步法，后来在对比实验里发现一个尴尬事实：K-Means聚出的中心只考虑了数据分布密度，根本不关心回归误差，等于把最关键的一步交给了不一定对的方向。
后来我试了一种2022年提出的优化器INFO（Weighted Mean of Vectors，向量加权平均优化算法），把RBF的中心和宽度整体丢给INFO去搜索，权重用最小二乘闭式解兜底，做出了一个叫INFO-RBF的回归预测方案。实测下来，在多个数据集上无论精度还是稳定性，都比传统两步法RBF要稳，某些问题上甚至能追平或超过调参良好的核岭回归。
这篇文章不打算讲虚的，我会从为什么RBF参数难定讲起，把INFO优化器的设计逻辑、INFO-RBF的编码与适应度设计、Python核心代码、实验对比结果，以及我在实操中踩过的具体坑全部过一遍。适合这几类人看：正在做回归预测但觉得传统RBF精度不够的；研究智能优化算法想找个落地场景的；以及论文需要算法对比、想快速复现一个baseline的。
1. RBF回归的痛点：三个参数组，每一步都容易踩偏
1.1 RBF网络在回归预测里的定位
RBF（Radial Basis Function）网络是三层前馈结构：输入层直接接收特征向量，隐藏层是若干个径向基函数神经元，输出层是一个线性加权求和。数学形式很简洁：
$$ \hat{y}(x) = \sum_{j=1}^{H} w_j \exp\left(-\frac{|x - c_j|^2}{2\sigma_j^2}\right) $$
其中 $c_j$ 是第 $j$ 个基函数的中心点，$\sigma_j$ 是宽度（也叫spread），$w_j$ 是输出权重，$H$ 是隐藏节点数。每个隐藏节点就像一个"局部专家"，只在输入离它近的时候产生较大响应，离远了响应指数衰减。最终输出是这些专家意见的加权汇总。
这个结构做回归预测有一个天然优势：局部逼近。只需要在输入空间的关键位置布置足够多的基函数，理论上就能以任意精度逼近连续函数，这是RBF网络的通用逼近性质。和MLP相比，它的输出层是线性的，因此只要中心和宽度定下来，权重可以用最小二乘一步求出，训练速度非常快。
但问题恰恰出在"中心和宽度定下来"这六个字上。RBF网络的预测能力高度依赖 $c_j$ 和 $\sigma_j$ 的选择，这两个参数组一旦不合理，后面无论权重算得多精确都是白搭。这正是RBF应用中最容易翻车的地方。
1.2 传统两步法训练RBF的三处硬伤
大多数教材和开源代码教的是两步法：先用K-Means对训练样本聚类，把聚类中心直接当成RBF中心；再用启发式规则（比如所有中心之间平均距离的某个倍数）统一设置宽度；最后在隐藏层输出矩阵上用最小二乘求权重。这套流程实现简单，但仔细推敲有三处硬伤：
- K-Means是无监督的，和回归误差没有直接关系。 聚类优化的是数据密度，不是预测残差。一个区域样本密集但函数关系相对线性，聚类中心会堆很多，白白浪费基函数；另一个区域样本稀少但非线性剧烈，却可能一个中心都没有。结果就是模型容量用在了错误的地方。
- 宽度设置的启发式规则过于粗糙。 常见做法是取中心间平均距离除以 $\sqrt{2H}$，或者直接用最大距离。这个值对全体神经元一视同仁，可实际数据里不同区域的局部变化尺度差异很大，有的地方需要窄基函数捕捉细节，有的地方需要宽基函数保证平滑，一个固定宽度很难兼顾。
- 两步法本质是贪心策略。 每一步都做局部最优，但没有一个反馈机制把最终预测误差传导回中心选择环节。K-Means选完中心后，无论后面怎么调宽和权重，都无法弥补中心位置本身的偏差。
有人会说，那直接用梯度下降反向传播把 $c_j$、$\sigma_j$、$w_j$ 一起训练不就行了？理论上可以，但实践里RBF的误差面对 $\sigma_j$ 非常敏感，$\sigma$ 稍微浮动一点，高斯函数的高原和陡坡区域变化巨大，梯度容易不稳定，也容易陷进局部最优。自己做几次实验就会发现，BP训练RBF的收敛过程很折磨，远不如两步法来得省心。
1.3 从"经验调参"到"算法寻优"的转变
既然RBF的核心困难是中心与宽度的优化，而这个问题又是一个典型的连续参数寻优问题，那很自然的思路就是：交给全局优化算法去找。方向定了之后，剩下的问题就变成了选谁、怎么编码、怎么设计适应度函数。这也是下面要重点展开的内容。
需要模型API调用？ 免费领10W Token，多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. INFO优化器：为什么"向量加权平均"这一招就能高效寻优
2.1 INFO算法从哪来，解决什么问题
INFO（weIghted meaN oF vectOrs）是2022年发表在Expert Systems with Applications上的一种群体智能优化算法，作者是Ahmadianfar等人。它的大背景是元启发式算法家族，和遗传算法（GA）、粒子群（PSO）、差分进化（DE）、灰狼优化（GWO）等属于同一类：不依赖梯度信息，通过维护一个种群在搜索空间里迭代逼近全局最优。
INFO的核心思想概括起来只有一句话：用适应度加权的向量平均值来指导个体的更新方向。 这个思路比GA的交叉变异要直观，比PSO的速度-位置模型要简单，比DE的差分变异多了适应度的引导。它认为，多个个体组成的加权平均向量往往比单个个体更接近最优区域，围绕这个加权平均值做局部扰动，既能保持收敛速度，又能保留探索能力。
2.2 三大算子：均值规则、收敛加速、局部搜索
INFO每一轮迭代对每个个体执行三个主要操作：
均值规则（Mean Rule）。 从种群中随机挑出两个不同于当前个体的向量 $X_a$、$X_b$，再加上当前全局最优 $X_{best}$，按照适应度差值计算权重，得到加权平均向量：
$$ wm = \frac{w_1 X_a + w_2 X_b + w_3 X_{best}}{w_1 + w_2 + w_3} $$
权重的核心思想是：适应度越好的向量，话语权越大。原论文用 $\cos(\Delta f + \pi) \cdot \exp(-|\Delta f|)$ 这种形式同时引入方向和衰减，我工程实现时对权重取绝对值再归一化，防止负权重把新解推到搜索空间外。得