SSABP+NSGA2+熵权TOPSIS：多目标参数寻优完整流程

之前做工艺参数寻优时最头疼的不是算法不够多而是“模型、优化、决策”三个环节经常是脱节的先用某个神经网络做个预测模型再用另一套工具跑多目标优化最后拍脑袋从帕累托解集里选点整个流程很难复现。这篇文章把 K 折交叉验证、SSABP 神经网络、NSGA2 多目标遗传算法、熵权法和 Topsis 法串成一条完整链路从数据生成、模型评估、反向寻优到最佳方案筛选全部给出可运行代码适合有 Python 基础、想落地“代理模型 多目标优化 多准则决策”的读者。1. 背景与核心概念1.1 为什么需要组合这些方法在很多工程场景中我们面对的不是单一目标优化而是多个相互冲突的目标比如“成本最低”和“可靠性最高”、“能耗最小”和“效率最大”。这些目标之间往往没有显式表达式只能依赖历史数据、仿真软件或实验获得输入输出样本。这时就出现两个问题输入 X 和输出 Y 之间是黑箱关系无法直接写出目标函数。多个目标之间互相制约不存在唯一最优解而是一个帕累托前沿Pareto Front。针对第一个问题可以用神经网络建立代理模型用历史样本拟合 X 到 Y 的映射关系。针对第二个问题可以用 NSGA2 这种多目标遗传算法在自变量可行域内搜索帕累托前沿。最后还要从大量帕累托解里选出“最符合当前业务偏好”的一组解这时候就用熵权法确定指标权重、用 Topsis 法给所有解排序。本文把它们组合成完整的“正向建模 反向寻优 方案决策”流程。1.2 什么是“反寻优”常规使用神经网络时我们做的事情是给定一组自变量 X预测因变量 Y。反寻优的思路正好反过来利用已经训练好的神经网络代理模型把 Y 当成优化目标在 X 的可行域内搜索一组最优自变量组合使得经过模型映射后得到的目标 Y 尽可能接近工程期望。因此本文里的 NSGA2 不是去优化神经网络的权重而是去优化自变量 X。神经网络训练完成后就固定下来只负责给 NSGA2 提供目标函数的快速估计。这种方式特别适合目标函数计算代价高、但又必须做多目标搜索的场景。1.3 方法全景整套流程可以拆成四个阶段阶段方法作用建模SSABP 神经网络用麻雀搜索算法优化 BP 网络逼近 X → Y 映射模型评估K 折交叉验证评估代理模型泛化能力防止过拟合多目标寻优NSGA2在自变量空间搜索帕累托前沿方案决策熵权法 Topsis客观定权从帕累托解集中选出最佳妥协解下面逐个拆解这些方法的原理。2. 方法原理拆解2.1 SSABP麻雀搜索算法优化 BP 神经网络BP反向传播神经网络是最常用的前馈神经网络之一通过梯度下降不断调整权重。它的问题也很明显初始权重随机设置容易陷入局部最优学习率、隐藏层节点数等参数敏感。SSASparrow Search Algorithm麻雀搜索算法是一种群体智能优化算法模拟麻雀觅食和反捕食行为。麻雀群体内部有发现者、加入者和警戒者三类角色发现者负责寻找食物适应度较高搜索范围广。加入者跟随发现者觅食同时有机会竞争更好的位置。警戒者位于群体边缘的麻雀感知危险后会向安全区域移动。SSABP 的核心思想就是用麻雀搜索算法搜索 BP 神经网络的初始权重和阈值让网络从一个较优的起点开始训练降低对随机初始化的依赖。在本文的简化实现中我们用 SSA 直接搜索网络权重适应度函数是训练集 MSE。这样既能演示麻雀算法与神经网络结合的思想又避免陷入复杂的反向传播实现细节。2.2 K 折交叉验证K 折交叉验证把样本分成 K 份每次取其中 K-1 份训练、1 份验证轮换 K 次最后平均验证误差。在本文流程里K 折交叉验证的作用有两点评估 SSABP 代理模型的泛化能力避免模型过拟合到训练集上。在隐藏层节点数等超参数选择时用交叉验证平均误差作为选择依据。实际业务中如果数据量不大K 折交叉验证比单次划分训练集/测试集更可靠。2.3 NSGA2 与帕累托前沿NSGA2Non-dominated Sorting Genetic Algorithm II是最经典的多目标遗传算法之一。它通过非支配排序把种群分成多个层级同一层级内用拥挤度距离保持解的多样性配合精英保留策略不断进化。帕累托前沿的含义是一组解中任何一个目标函数的改进都会导致至少一个其他目标函数的恶化。NSGA2 的最终输出就是逼近真实帕累托前沿的解集。在本文流程中NSGA2 的决策变量是原始自变量 X目标函数是 SSABP 模型输出的多个因变量 Y。因为 SSABP 模型是连续可微的可以快速评估大量候选解所以多目标遗传算法在这里效率很高。2.4 熵权法熵权法是一种客观赋权方法。它的基本思想是某个指标在所有方案中的变异程度越大说明它携带的信息量越大权重就应该越高。计算步骤大致是对原始指标矩阵做归一化。计算每个指标的信息熵。用 1 减去信息熵得到差异系数。差异系数归一化后就是权重。熵权法避免了人为打分的主观性适合在缺少先验偏好时先给出一组权重。2.5 Topsis 法Topsis逼近理想解排序法通过比较每个方案与“正理想解”和“负理想解”的距离来排序。正理想解各指标都达到最优值的虚拟方案。负理想解各指标都达到最差值的虚拟方案。某个方案的贴近度 C 越大说明它距离正理想解越近、距离负理想解越远排名越靠前。熵权法和 Topsis 经常组合使用称为 E-Topsis即“熵权法确定权重 Topsis 排序”正好可以完成从帕累托前沿中挑选最优解的任务。3. 环境准备与实验数据说明3.1 环境与依赖本文代码基于 Python 3依赖的库如下numpy matplotlib pandas scikit-learn pymoo其中 pymoo 用于 NSGA2 多目标优化。不同版本 API 略有差异本文以 pymoo 0.6.x 为例。安装命令pip install numpy matplotlib pandas scikit-learn pymoo版本需要根据你的项目实际情况调整本文示例以常见环境为例重点演示配置思路。3.2 项目结构示例代码可以组织为单一脚本也可以拆成多个模块。为了阅读方便我按模块拆解如下ssabp_nsga2_topsis_demo/ ├── main.py # 主程序串联整个流程 ├── ssa_bp.py # SSABP 模型实现 ├── evaluate.py # K 折交叉验证 ├── optimize.py # NSGA2 多目标寻优 └── decision.py # 熵权法 Topsis如果希望快速验证也可以把所有代码合并到一个.py文件中。下面按模块逐步讲解。3.3 模拟数据说明为了演示完整流程本文使用一个双变量、双目标的模拟数据生成函数目标都希望最小化。# 文件路径data_generator.py import numpy as np def generate_synthetic_data(n200, seed42): rng np.random.default_rng(seed) # 自变量2 个连续变量 X rng.uniform(-3, 3, size(n, 2)) # 因变量2 个目标 y1 X[:, 0] ** 2 X[:, 1] ** 2 0.2 * rng.standard_normal(n) y2 (X[:, 0] - 1) ** 2 (X[:, 1] 1) ** 2 0.2 * rng.standard_normal(n) y np.column_stack([y1, y2]) return X, y这个数据生成函数里y1 最优区域在原点附近y2 最优区域在 (1, -1) 附近两个目标的最优点并不重合因此帕累托前沿会比较明显。4. 完整代码实战4.1 实现 SimpleBP 与麻雀搜索算法这里先定义一个简单的单隐藏层 BP 网络然后实现麻雀搜索算法去搜索网络的权重。# 文件路径ssa_bp.py import numpy as np class SimpleBP: def __init__(self, n_input, n_hidden, n_output): self.n_input n_input self.n_hidden n_hidden self.n_output n_output # 初始化权重 self.w1 np.random.randn(n_input, n_hidden) * np.sqrt(2.0 / n_input) self.b1 np.zeros(n_hidden) self.w2 np.random.randn(n_hidden, n_output) * np.sqrt(2.0 / n_hidden) self.b2 np.zeros(n_output) def forward(self, X): z1 X self.w1 self.b1 a1 np.tanh(z1) z2 a1 self.w2 self.b2 # 回归问题输出层不激活 return z2 def predict(self, X): return self.forward(X) def pack_params(model): 将网络权重展平为一维向量 return np.concatenate([ model.w1.ravel(), model.b1, model.w2.ravel(), model.b2 ]) def unpack_params(model, params): 将一维向量还原为网络权重 p params.copy() n model.n_input * model.n_hidden model.w1 p[:n].reshape(model.n_input, model.n_hidden) p p[n:] model.b1 p[:model.n_hidden] p p[model.n_hidden:] n model.n_hidden * model.n_output model.w2 p[:n].reshape(model.n_hidden, model.n_output) p p[n:] model.b2 p[:model.n_output] class SSA: 麻雀搜索算法用于优化 BP 网络权重 def __init__(self, model, X, y, pop_size20, max_iter40, pd_ratio0.2, sd_ratio0.15, lb-1.0, ub1.0, seed42): self.model model self.X X self.y y self.pop_size pop_size self.max_iter max_iter self.pd_ratio pd_ratio self.sd_ratio sd_ratio self.lb lb self.ub ub self.seed seed self.dim len(pack_params(model)) self.rng np.random.default_rng(seed) def fitness(self, params): unpack_params(self.model, params) pred self.model.predict(self.X) return np.mean((pred - self.y) ** 2) def run(self): dim self.dim pop self.rng.uniform(self.lb, self.ub, (self.pop_size, dim)) fit np.array([self.fitness(p) for p in pop]) best_idx np.argmin(fit) gbest_pos pop[best_idx].copy() gbest_fit fit[best_idx] pd_num max(1, int(self.pop_size * self.pd_ratio)) sd_num max(1, int(self.pop_size * self.sd_ratio)) for t in range(self.max_iter): # 按适应度排序 idx np.argsort(fit) pop pop[idx] fit fit[idx] best_pos pop[0].copy() avg_fit fit.mean() # 发现者更新 for i in range(pd_num): if self.rng.random() 0.8: factor np.exp(-i / (pd_num * self.max_iter)) pop[i] pop[i] * factor else: pop[i] pop[i] self.rng.uniform(-0.1, 0.1, dim) # 加入者更新 for i in range(pd_num, self.pop_size): if i self.pop_size / 2: pop[i] self.rng.uniform(self.lb, self.ub, dim) else: A self.rng.integers(0, 2, (1, dim)) * 2 - 1 A_plus np.linalg.pinv(A) push np.abs(pop[i] - best_pos) A_plus pop[i] pop[i] push.flatten() # 警戒者更新 sd_idx self.rng.choice(self.pop_size, sd_num, replaceFalse) for i in sd_idx: if fit[i] avg_fit: pop[i] best_pos self.rng.uniform(-1, 1, dim) * np.abs(pop[i] - best_pos) else: pop[i] pop[i] self.rng.uniform(-1, 1, dim) * (np.abs(pop[i] - best_pos) 1e-8) # 边界处理 pop np.clip(pop, self.lb, self.ub) # 重新计算适应度 for i in range(self.pop_size): f self.fitness(pop[i]) fit[i] f if f gbest_fit: gbest_fit f gbest_pos pop[i].copy() return gbest_pos, gbest_fit说明这个实现是麻雀搜索算法的一个简化版本重点演示“群体智能搜索网络权重”的核心思路。正式项目中可以按照标准 SSA 论文调整警戒者位置更新公式。4.2 K 折交叉验证评估接下来实现 K 折交叉验证。数据先做标准化再训练 SSABP最后在验证集上反标准化得到真实量纲的预测值。# 文件路径evaluate.py import numpy as np from sklearn.model_selection import KFold from sklearn.preprocessing import StandardScaler, MinMaxScaler from ssa_bp import SimpleBP, SSA, unpack_params def evaluate_kfold(X, y, hidden6, k5, pop_size20, max_iter30, seed42): kf KFold(n_splitsk, shuffleTrue, random_stateseed) mse_scores [] r2_scores [] for train_idx, val_idx in kf.split(X): X_tr, X_va X[train_idx], X[val_idx] y_tr, y_va y[train_idx], y[val_idx] # 标准化 scaler_x StandardScaler() scaler_y MinMaxScaler() X_tr_s scaler_x.fit_transform(X_tr) y_tr_s scaler_y.fit_transform(y_tr) X_va_s scaler_x.transform(X_va) # 训练 SSABP model SimpleBP(X.shape[1], hidden, y.shape[1]) ssa SSA(model, X_tr_s, y_tr_s, pop_sizepop_size, max_itermax_iter, seedseed) best_params, _ ssa.run() unpack_params(model, best_params) # 验证集预测