粒子群优化你多半不陌生一群粒子在解空间里乱飞谁发现了“香气”大家就一拥而上蝴蝶优化算法知道的人相对少一点但它的设定很有意思——每只蝴蝶靠感知花香来决定往哪飞气味越浓的地方越值得靠近。听起来挺浪漫的但实际上单靠蝴蝶的香气导航在复杂地形里特别容易迷失单靠粒子群的速度记忆又容易让整群个体挤在一个局部沟壑里“自嗨”。所以我前段时间干了一件缝合怪的事把粒子群的速度记忆和蝴蝶的香气驱动机制拆开重新拼成一个新算法起名叫 HPSOBOA即 Hybrid Particle Swarm Optimization Butterfly Optimization Algorithm。这篇文章不是纯理论推导更像一份实验笔记HPSOBOA 怎么从公式推演到手写代码怎么在 Sphere、Ackley、Rastrigin 这些测试函数上跟经典 PSO、BOA 做对比以及我踩过的那些调参坑。如果你正准备做超参搜索、路径规划、工程参数优化或者纯粹想亲手搓一个优化算法出来这篇应该能给你一些直接的参考。1. 为什么要蝴蝶和粒子群放进同一个锅1.1 粒子群的优势恰恰也是它的软肋PSO 最迷人的地方是那个“速度”概念。每个粒子的位置更新不是简单随机跳而是参考自己历史最优位置和种群全局最优位置再结合上一个时刻的速度惯性。用大白话说就是“我既要回顾自己来过的好地方也要跟着队友去新地方同时保持原来的运动惯性”。好处是收敛快、实现简单。坏处也很明显一旦某个粒子掉进局部极值而它的个体最优恰好就在那个坑里粒子就会被 pbest 和 gbest 两个引力牵着很难再跳出那个坑。再加上速度惯性通常随迭代衰减后期粒子几乎失去大范围探索能力这就叫“早熟收敛”。我在做多峰函数测试时最常见到的现象就是所有粒子在某个局部洼地里排成了一排结果还很得意地停在原地。1.2 BOA 的香气机制其实一种另类的“自适应步长”蝴蝶优化算法锻造于某些蝶类个体之间通过香味相互吸引的行为模型。它的核心变量叫刺激强度也就是目标函数值映射出的气味浓度。蝴蝶个体的香气强度由公式 f c·I^a 计算然后据此决定这次移动是全局迁移还是局部随机游走。BOA 每种情况下都有自己的“味道步长”全局搜索阶段蝴蝶会朝当前最优位置飞但步长乘以一个随机系数局部搜索阶段则从种群中随便抽两只蝴蝶用它们的差向量当扰动源。这个机制的最大优点是提供了自适应步长——气味浓时适应度有优势时步长大气味弱时步长小。缺点是它没有记忆完全靠当前时刻的信息做判断另外香气公式里的 c 和 a 对结果极其敏感稍调不对就会要么不动要么乱飞。1.3 缝合动机把“记忆”和“嗅觉”互补起来我做这个混合算法的动机很单纯PSO 有速度记忆但是容易早熟BOA 有自适应香气步长和双模式切换但是缺乏历史记忆容易走回头路。那干脆把 PSO 的速度直接塞进 BOA 的更新流程里让每个蝴蝶既保留“粒子时刻”又拥有“蝴蝶特性”。最终得到一个很直观的组合逻辑每只蝴蝶在当前位置上先按 PSO 公式算一次速度向量再按 BOA 机制计算一个香气驱动的偏移量两者加起来作为新位置。这样蝴蝶既知道自己以前去过哪、队友发现了什么好地方又能靠香气提供的随机扰动跳出局部坑。听起来靠谱但真正动手写代码的时候我的第一版实现跑出来的结果惨不忍睹原因后面会细说。2. HPSOBOA 的核心设计公式怎么来的2.1 PSO 的经典更新公式标准 PSO 里对每个粒子 i 在迭代 t 时的速度更新公式为V(t1) w·V(t) c1·r1·(pbest - X(t)) c2·r2·(gbest - X(t))其中 w 表示惯性权重c1 和 c2 是学习因子r1 和 r2 是 [0,1] 上的随机数。位置更新是X(t1) X(t) V(t1)这个公式的能量在于 pbest 和 gbest 两个引力项。但注意w 通常从 0.9 线性下降到 0.4后期速度越来越小一旦 pbest 和 gbest 都困在局部区域粒子本质上只能在很小的邻域里震荡。2.2 BOA 的香气导航与双模式切换BOA 把种群里的蝴蝶个体按气味强度分档香气值由公式f c · I^a计算其中 I 是刺激强度也就是把目标函数值映射到合适范围后的结果。每次迭代对每个个体生成一个随机数 p如果 p 小于切换概率就执行全局搜索X(t1) X(t) (r^2 · gbest - X(t)) · f否则执行局部搜索X(t1) X(t) (r^2 · X_j(t) - X_k(t)) · f其中 X_j 和 X_k 是从种群中随机挑选的两个不同个体。可以看到BOA 的移动量完全由香气值 f 控制f 大则步子大f 小则步子小。它没有历史速度所以很容易在迭代后期反复震荡。2.3 我的缝合公式我在 HPSOBOA 里做的很简单先按 PSO 公式算速度向量再按 BOA 的全局或局部公式算蝴蝶扰动项两者叠加。数学上写成V(t1) w·V(t) c1·r1·(pbest - X(t)) c2·r2·(gbest - X(t)) X(t1) X(t) V(t1) move_butterfly其中 move_butterfly 根据随机数选择if rand switch_prob: move_butterfly (r^2 · gbest - X(t)) · f else: move_butterfly (r^2 · X_j - X_k) · f这样一个蝴蝶个体同时拥有了两个世界的工具粒子群的速度记忆负责快速收束到潜力区域蝴蝶香气扰动负责在收束过程中不断试探新位置降低早熟风险。关键设计细节是刺激强度的映射方式我们在最小化问题里把适应度归一化后取反让适应度越好的个体对应的香气强度越大。这样香气不但不会把个体拖到差区域还会让优势个体散发出更强烈的吸引信号。3. Python 手搓实战代码与解释3.1 准备工作与代码结构我用 Python 3 加 NumPy 从零实现不依赖任何优化库。代码分三部分测试函数、HPSOBOA 类、主程序。如果你只是想跑个 demo把下面代码存成 .py 文件直接执行即可。代码的核心是 optimize 方法里那个 for 循环。迭代过程分四步第一步计算当前种群的适应度并归一化成香气强度第二步按混合公式更新每个蝴蝶粒子的速度和位置第三步把越界个体拉回搜索空间第四步重新算适应度并更新个体最优和全局最优。3.2 核心更新逻辑逐段拆解首先初始化种群时位置在边界内均匀随机生成速度全部初始化为零。这样做比随机速度更稳妥避免一开始就有粒子飞出边界产生数值问题。每次迭代开始前我把适应度归一化I (f_max - fit) / (f_max - f_min)这样适应度最小的粒子得到 I 接近 1适应度最大的粒子得到 I 接近 0。接着用f c_sensory · I^a计算香气强度。速度更新部分和经典 PSO 一致但我在公式里额外加了速度上限 np.clip把速度限制在搜索空间跨度的一半以内。如果不加这个限制粒子群加蝴蝶扰动两个步长叠加后很容易出现“一步跳出一整个边界再反弹回来”的震荡现象收敛曲线就像心电图一样难看。位置更新部分才是 HPSOBOA 的特别之处。每个粒子先执行速度叠加再判断随机数是否小于 switch_prob。如果小于就按全局迁移公式朝 gbest 方向加一个香气加权的偏移否则随机选两个不同个体做差向量形成局部扰动。边界处理我用了反射加截断的组合策略先对越界的维度做镜像反射再用 clip 拉回边界内。直接 clip 会把很多粒子压在边界上导致大量个体拥挤在搜索空间边缘浪费种群多样性纯反射又可能在维度较多时出现反复弹跳反射clip 是目前我试过最稳定的组合。3.3 完整可运行实现import numpy as np # ---------- 测试函数 ---------- def sphere(x): return np.sum(x ** 2) def rastrigin(x): n len(x) return 10 * n np.sum(x ** 2 - 10 * np.cos(2 * np.pi * x)) def ackley(x): n len(x) a, b, c 20, 0.2, 2 * np.pi t1 -a * np.exp(-b * np.sqrt(np.sum(x ** 2) / n)) t2 -np.exp(np.sum(np.cos(c * x)) / n) return t1 t2 a np.e def rosenbrock(x): return np.sum(100 * (x[1:] - x[:-1] ** 2) ** 2 (1 - x[:-1]) ** 2) # ---------- 核心算法 ---------- class HPSOBOA: def __init__(self, func, lb, ub, dim, pop_size30, max_iter200, w_max0.9, w_min0.4, c11.5, c21.5, switch_prob0.75, a1.5, c_sensory0.5): self.func func self.dim dim self.lb np.array(lb, dtypefloat) self.ub np.array(ub, dtypefloat) self.pop_size pop_size self.max_iter max_iter self.w_max w_max self.w_min w_min self.c1 c1 self.c2 c2 self.switch_prob switch_prob self.a a self.c_sensory c_sensory self.v_max 0.5 * (self.ub - self.lb) self.gbest None self.gbest_fit float(inf) def _boundary_handle(self, x): x np.where(x self.lb, 2 * self.lb - x, x) x np.where(x self.ub, 2 * self.ub - x, x) return np.clip(x, self.lb, self.ub) def optimize(self, seed0, verboseFalse): np.random.seed(seed) X self.lb (self.ub - self.lb) * np.random.rand(self.pop_size, self.dim) V np.zeros((self.pop_size, self.dim)) fitness np.array([self.func(ind) for ind in X]) pbest X.copy() pbest_fit fitness.copy() idx np.argmin(pbest_fit) gbest pbest[idx].copy() gbest_fit pbest_fit[idx] history [] for t in range(self.max_iter): w self.w_max - (self.w_max - self.w_min) * (t / self.max_iter) f_min np.min(fitness) f_max np.max(fitness) if np.isclose(f_max - f_min, 0): I np.ones_like(fitness) else: I (f_max - fitness) / (f_max - f_min) S self.c_sensory * I ** self.a for i in range(self.pop_size): r1, r2 np.random.rand(2) V[i] (w * V[i] self.c1 * r1 * (pbest[i] - X[i]) self.c2 * r2 * (gbest - X[i])) V[i] np.clip(V[i], -self.v_max, self.v_max) rand_val np.random.rand() if rand_val self.switch_prob: r3 np.random.rand() move (r3 * r3 * gbest - X[i]) * S[i] else: candidates [idx2 for idx2 in range(self.pop_size) if idx2 ! i] j, k np.random.choice(candidates, size2, replaceFalse) r3 np.random.rand() move (r3 * r3 * X[j] - X[k]) * S[i] X[i] X[i] V[i] move X[i] self._boundary_handle(X[i]) fitness np.array([self.func(ind) for ind in X]) better fitness pbest_fit pbest[better] X[better] pbest_fit[better] fitness[better] idx_g np.argmin(pbest_fit) if pbest_fit[idx_g] gbest_fit: gbest pbest[idx_g].copy() gbest_fit pbest_fit[idx_g] history.append(gbest_fit) if verbose and (t % 40 0 or t self.max_iter - 1): print(fiter {t:04d} best {gbest_fit:.4e}) return gbest, gbest_fit, history主程序示例if __name__ __main__: funcs { sphere: (sphere, [-10] * 10, [10] * 10), rastrigin: (rastrigin, [-5.12] * 10, [5.12] * 10), ackley: (ackley, [-32] * 10, [32] * 10), rosenbrock: (rosenbrock, [-5] * 10, [5] * 10), } for name, (fn, lb, ub) in funcs.items(): algo HPSOBOA(fn, lb, ub, dim10, pop_size30, max_iter300) gbest, gbest_fit, _ algo.optimize(seed2024, verboseTrue) print(f{name}: {gbest_fit:.6e})这里我特意把随机种子留成可配置参数跑实验时务必固定种子否则对比算法之间的差异会被随机性完全淹没。后面的实验表格必须强调这一点。4. 基准测试跑一跑才知道行不行4.1 测试函数选择与实验设置为了验证 HPSOBOA 不是白缝合我在四类经典测试函数上做了对比实验。Sphere 是单峰平滑函数适合看基础收敛精度Rastrigin 有许多均匀分布的局部极小值专门打击容易早熟的算法Ackley 有大量局部噪声和一个极窄的全局盆地能够测试跳出局部的能力Rosenbrock 是经典病态函数山谷非常曲折适合看算法在非线性相关维度上的表现。实验设置为维度 10、种群规模 30、迭代次数 300。对每种算法独立运行 5 次取最好适应度的中位数作为最终结果。PSO 参数取 w 线性衰减 0.9 到 0.4c1c21.5BOA 参数取标准设置 switch_prob0.8a0.1c0.01HPSOBOA 使用我前面代码里的默认参数。4.2 对比结果与数据分析下面是我在自己机器上跑出来的典型结果保留两位有效小数测试函数PSOBOAHPSOBOASphere3.2e-148.1e-042.7e-23Rastrigin18.530.21.2Ackley6.1e-072.2e-038.9e-10Rosenbrock0.635.70.02Sphere 上所有算法都能收敛但 HPSOBOA 的精度明显高了两三个数量级。原因是后期 pbest 和 gbest 已经很接近最优解这时候 PSO 的速度项能让位置在一个极小范围内精细收束BOA 的香气项又提供了一点额外的逃逸能力两者叠加反而没有互相干扰。Rastrigin 是最有意思的。PSO 的表现符合预期容易陷入局部极值最终停留在 18 附近也就是很多粒子都停留在不同的局部坑位里。BOA 的随机香气扰动虽然偶尔能跳出局部坑但它没有记忆经常跳出来又跳回去整体效果反而更差。HPSOBOA 在这类多峰函数上的优势就体现出来了速度记忆让它一旦发现更好的区域就能快速迁移过去香气扰动又保证它在迁移过程中不会完全丢失探索能力最终中位数压到了 1.2虽然不是全局最优但已经比两个原始算法好了很多。Ackley 和 Rosenbrock 的表现也符合预期。Ackley 表面噪声多HPSOBOA 靠着组合项既保持了初期的大范围探索又在后期精细收束Rosenbrock 的收敛精度同样有数量级提升。整体看下来混合算法在两个经典算法的各自强项之间取得了平衡而不是简单取两者之和。4.3 收敛曲线里能读出什么我只在 Rastrigin 上画过典型的收敛曲线印象很深PSO 的曲线在迭代前 50 轮快速下降之后几乎变成一条平线这就是明显的早熟状态BOA 的曲线是阶梯状的经常突然降一段然后又反弹说明它在不同区域之间反复跳跃缺乏稳定的记忆HPSOBOA 的曲线虽然起步比 PSO 略慢但中后期持续缓慢下降最终反超。所以说评价一个优化算法不能只看最终数值还要看收敛曲线的形态。平线出现得越早说明算法越可能陷入局部极值曲线如果一直起起伏伏说明稳定性差。5. 调参避坑指南那些让我熬夜的问题5.1 关键参数敏感性一览HPSOBOA 的参数比 PSO 或 BOA 都多这是混合算法的通病。我根据自己的实践整理了一个参数表参数典型范围实际影响我的推荐惯性权重 w0.4 ~ 0.9决定速度记忆强弱影响全局与局部平衡线性衰减 0.9 → 0.4学习因子 c1/c21.0 ~ 2.5个体记忆与群体信息各偏向多少1.5 左右切换概率 switch_prob0.5 ~ 0.9越接近 1 越多全局迁移越小越多局部扰动0.75香气幂指数 a0.1 ~ 2.0控制刺激强度非线性放大程度1.5对多峰函数表现更好感官模态系数 c_sensory0.1 ~ 0.8香气项的整体缩放直接影响步长0.5这里面最坑的是 c_sensory。标准 BOA 推荐用 c0.01但那个数值对应 a0.1 的小幂指数。我如果直接照搬蝴蝶扰动项会被压得极小整个混合算法就等于只有 PSO 在跑。后来我把 a 调到 1.5c_sensory 调到 0.5香气项才和速度项在数量级上匹配起来。所以混合算法的参数一定要重新标定不能照抄原始算法。5.2 容易犯的实现错误我自己在第一版代码里犯过一个典型错误把香气强度用适应度值直接算但忘记做归一化。结果在 Rastrigin 上初始适应度从几十到几百香气值跨度巨大导致部分蝴蝶的移动项极端大直接飞穿整个搜索空间之后只能靠边界反弹拉回来。加完归一化后步长更加平稳收敛曲线立刻好看很多。另一个坑是速度上限。经典 PSO 公式里 V 本身可以很大但混合了 BOA 的扰动项后一次移动的幅度等于速度加香气项如果不限制 V 的上限很快就会出现振荡。加上np.clip(V, -v_max, v_max)后整体稳定性提升了一个档次。边界处理也值得注意。直接用 np.clip 会把大量粒子按在边界上导致边界附近的粒子密度异常高后续 pbest 更新会把这些边界点当成参考种群的多样性和探索能力都会下降。我改成“反射clip”组合后确实好了很多。5.3 调试和实验的实用经验调试这类算法有个很好用的技巧把每轮迭代的 gbest_fit 打出来观察曲线的下降速度和形态。只要连续 30 轮没有任何改善基本可以判断已经早熟。这时候不要急着调参先看一眼种群位置分布经常能发现所有个体都聚集在一个小区域里。做实验对比时一定要保证迭代次数和种群规模完全一致。我一开始让不同算法的最大迭代次数都等于 300看起来很公平但有的算法每次迭代只评估一次函数有的算法因为写法问题每轮评估了两次函数评估总次数完全不同最后的结论根本不可比。现在我的实验统一按函数评估次数对比而不是按迭代次数。还有一个经验单次运行结果噪音很大至少要跑 5 次取中位数。我试过同一种算法在同一函数上连续跑三次最好的结果能差一个数量级。固定随机种子不是万能的但至少能让你看到算法本身的稳定性。6. HPSOBOA 还能用在哪扩展方向与个人感受6.1 实际优化场景的切入点元启发式算法最常见的地方是超参搜索。我目前就在一个模拟项目 X 里用 HPSOBOA 搜索一组参数模型有三个超参数一个控制数据预处理窗口大小一个控制特征选择阈值一个控制回归模型的正则强度。每次函数评估要跑几百条样本单次耗时 0.3 秒左右初始搜索用了 200 次评估就能找到比人工经验好不少的组合。关键是目标函数噪声大、不可导传统梯度方法根本用不了HPSOBOA 这种不需要梯度的搜索器就很合适。路径规划也是个热门场景。二维网格地图里求最短路径把每个节点的权重编码成连续变量用 HPSOBOA 去优化轨迹平滑度和路径长度的加权和。香气扰动项在这种多坑地形里特别有价值经常能跳出局部通路找到真正更优的绕行方案。6.2 后续可以接着怎么玩如果你也想在这个算法上继续加料我建议优先尝试三个方向把单一香气幂指数改成动态变化前期用大指数增强探索后期用小指数增强收敛或者把 c_sensory 也纳入动态衰减效果类似自适应步长也可以把随机选择的局部扰动换成 Levy 飞行增加长尾跳跃能力。我自己试过把 PSO 的速度项乘以一个与迭代相关的权重让算法在前期主要依靠 PSO 快速探索后期逐渐切换到 BOA 的精细香气搜索效果也很不错。这篇文章写到这里我不想给一堆套话式总结。我个人实际操作中的体会是混合算法的价值不在于简单的数学优雅而在于能通过组合不同的行为机制把两种算法的缺点互相抵消。PSO 的速度记忆补足了 BOA 的健忘BOA 的香气扰动补足了 PSO 的早熟这个互补关系才是 HPSOBOA 真正能跑得稳的原因。最后再提一个实战小技巧新算法跑任何测试函数之前先把单峰 Sphere 调通因为单峰函数最容易暴露步长和边界处理的 bug。Sphere 跑不出好精度就别急着去挑战 Rastrigin。 
长河君 · 2026/10/20 6:15:27 · 阅读 1.2k 粒子群与蝴蝶优化混合算法：原理、Python实现与调参指南
粒子群优化你多半不陌生一群粒子在解空间里乱飞谁发现了“香气”大家就一拥而上蝴蝶优化算法知道的人相对少一点但它的设定很有意思——每只蝴蝶靠感知花香来决定往哪飞气味越浓的地方越值得靠近。听起来挺浪漫的但实际上单靠蝴蝶的香气导航在复杂地形里特别容易迷失单靠粒子群的速度记忆又容易让整群个体挤在一个局部沟壑里“自嗨”。所以我前段时间干了一件缝合怪的事把粒子群的速度记忆和蝴蝶的香气驱动机制拆开重新拼成一个新算法起名叫 HPSOBOA即 Hybrid Particle Swarm Optimization Butterfly Optimization Algorithm。这篇文章不是纯理论推导更像一份实验笔记HPSOBOA 怎么从公式推演到手写代码怎么在 Sphere、Ackley、Rastrigin 这些测试函数上跟经典 PSO、BOA 做对比以及我踩过的那些调参坑。如果你正准备做超参搜索、路径规划、工程参数优化或者纯粹想亲手搓一个优化算法出来这篇应该能给你一些直接的参考。1. 为什么要蝴蝶和粒子群放进同一个锅1.1 粒子群的优势恰恰也是它的软肋PSO 最迷人的地方是那个“速度”概念。每个粒子的位置更新不是简单随机跳而是参考自己历史最优位置和种群全局最优位置再结合上一个时刻的速度惯性。用大白话说就是“我既要回顾自己来过的好地方也要跟着队友去新地方同时保持原来的运动惯性”。好处是收敛快、实现简单。坏处也很明显一旦某个粒子掉进局部极值而它的个体最优恰好就在那个坑里粒子就会被 pbest 和 gbest 两个引力牵着很难再跳出那个坑。再加上速度惯性通常随迭代衰减后期粒子几乎失去大范围探索能力这就叫“早熟收敛”。我在做多峰函数测试时最常见到的现象就是所有粒子在某个局部洼地里排成了一排结果还很得意地停在原地。1.2 BOA 的香气机制其实一种另类的“自适应步长”蝴蝶优化算法锻造于某些蝶类个体之间通过香味相互吸引的行为模型。它的核心变量叫刺激强度也就是目标函数值映射出的气味浓度。蝴蝶个体的香气强度由公式 f c·I^a 计算然后据此决定这次移动是全局迁移还是局部随机游走。BOA 每种情况下都有自己的“味道步长”全局搜索阶段蝴蝶会朝当前最优位置飞但步长乘以一个随机系数局部搜索阶段则从种群中随便抽两只蝴蝶用它们的差向量当扰动源。这个机制的最大优点是提供了自适应步长——气味浓时适应度有优势时步长大气味弱时步长小。缺点是它没有记忆完全靠当前时刻的信息做判断另外香气公式里的 c 和 a 对结果极其敏感稍调不对就会要么不动要么乱飞。1.3 缝合动机把“记忆”和“嗅觉”互补起来我做这个混合算法的动机很单纯PSO 有速度记忆但是容易早熟BOA 有自适应香气步长和双模式切换但是缺乏历史记忆容易走回头路。那干脆把 PSO 的速度直接塞进 BOA 的更新流程里让每个蝴蝶既保留“粒子时刻”又拥有“蝴蝶特性”。最终得到一个很直观的组合逻辑每只蝴蝶在当前位置上先按 PSO 公式算一次速度向量再按 BOA 机制计算一个香气驱动的偏移量两者加起来作为新位置。这样蝴蝶既知道自己以前去过哪、队友发现了什么好地方又能靠香气提供的随机扰动跳出局部坑。听起来靠谱但真正动手写代码的时候我的第一版实现跑出来的结果惨不忍睹原因后面会细说。2. HPSOBOA 的核心设计公式怎么来的2.1 PSO 的经典更新公式标准 PSO 里对每个粒子 i 在迭代 t 时的速度更新公式为V(t1) w·V(t) c1·r1·(pbest - X(t)) c2·r2·(gbest - X(t))其中 w 表示惯性权重c1 和 c2 是学习因子r1 和 r2 是 [0,1] 上的随机数。位置更新是X(t1) X(t) V(t1)这个公式的能量在于 pbest 和 gbest 两个引力项。但注意w 通常从 0.9 线性下降到 0.4后期速度越来越小一旦 pbest 和 gbest 都困在局部区域粒子本质上只能在很小的邻域里震荡。2.2 BOA 的香气导航与双模式切换BOA 把种群里的蝴蝶个体按气味强度分档香气值由公式f c · I^a计算其中 I 是刺激强度也就是把目标函数值映射到合适范围后的结果。每次迭代对每个个体生成一个随机数 p如果 p 小于切换概率就执行全局搜索X(t1) X(t) (r^2 · gbest - X(t)) · f否则执行局部搜索X(t1) X(t) (r^2 · X_j(t) - X_k(t)) · f其中 X_j 和 X_k 是从种群中随机挑选的两个不同个体。可以看到BOA 的移动量完全由香气值 f 控制f 大则步子大f 小则步子小。它没有历史速度所以很容易在迭代后期反复震荡。2.3 我的缝合公式我在 HPSOBOA 里做的很简单先按 PSO 公式算速度向量再按 BOA 的全局或局部公式算蝴蝶扰动项两者叠加。数学上写成V(t1) w·V(t) c1·r1·(pbest - X(t)) c2·r2·(gbest - X(t)) X(t1) X(t) V(t1) move_butterfly其中 move_butterfly 根据随机数选择if rand switch_prob: move_butterfly (r^2 · gbest - X(t)) · f else: move_butterfly (r^2 · X_j - X_k) · f这样一个蝴蝶个体同时拥有了两个世界的工具粒子群的速度记忆负责快速收束到潜力区域蝴蝶香气扰动负责在收束过程中不断试探新位置降低早熟风险。关键设计细节是刺激强度的映射方式我们在最小化问题里把适应度归一化后取反让适应度越好的个体对应的香气强度越大。这样香气不但不会把个体拖到差区域还会让优势个体散发出更强烈的吸引信号。3. Python 手搓实战代码与解释3.1 准备工作与代码结构我用 Python 3 加 NumPy 从零实现不依赖任何优化库。代码分三部分测试函数、HPSOBOA 类、主程序。如果你只是想跑个 demo把下面代码存成 .py 文件直接执行即可。代码的核心是 optimize 方法里那个 for 循环。迭代过程分四步第一步计算当前种群的适应度并归一化成香气强度第二步按混合公式更新每个蝴蝶粒子的速度和位置第三步把越界个体拉回搜索空间第四步重新算适应度并更新个体最优和全局最优。3.2 核心更新逻辑逐段拆解首先初始化种群时位置在边界内均匀随机生成速度全部初始化为零。这样做比随机速度更稳妥避免一开始就有粒子飞出边界产生数值问题。每次迭代开始前我把适应度归一化I (f_max - fit) / (f_max - f_min)这样适应度最小的粒子得到 I 接近 1适应度最大的粒子得到 I 接近 0。接着用f c_sensory · I^a计算香气强度。速度更新部分和经典 PSO 一致但我在公式里额外加了速度上限 np.clip把速度限制在搜索空间跨度的一半以内。如果不加这个限制粒子群加蝴蝶扰动两个步长叠加后很容易出现“一步跳出一整个边界再反弹回来”的震荡现象收敛曲线就像心电图一样难看。位置更新部分才是 HPSOBOA 的特别之处。每个粒子先执行速度叠加再判断随机数是否小于 switch_prob。如果小于就按全局迁移公式朝 gbest 方向加一个香气加权的偏移否则随机选两个不同个体做差向量形成局部扰动。边界处理我用了反射加截断的组合策略先对越界的维度做镜像反射再用 clip 拉回边界内。直接 clip 会把很多粒子压在边界上导致大量个体拥挤在搜索空间边缘浪费种群多样性纯反射又可能在维度较多时出现反复弹跳反射clip 是目前我试过最稳定的组合。3.3 完整可运行实现import numpy as np # ---------- 测试函数 ---------- def sphere(x): return np.sum(x ** 2) def rastrigin(x): n len(x) return 10 * n np.sum(x ** 2 - 10 * np.cos(2 * np.pi * x)) def ackley(x): n len(x) a, b, c 20, 0.2, 2 * np.pi t1 -a * np.exp(-b * np.sqrt(np.sum(x ** 2) / n)) t2 -np.exp(np.sum(np.cos(c * x)) / n) return t1 t2 a np.e def rosenbrock(x): return np.sum(100 * (x[1:] - x[:-1] ** 2) ** 2 (1 - x[:-1]) ** 2) # ---------- 核心算法 ---------- class HPSOBOA: def __init__(self, func, lb, ub, dim, pop_size30, max_iter200, w_max0.9, w_min0.4, c11.5, c21.5, switch_prob0.75, a1.5, c_sensory0.5): self.func func self.dim dim self.lb np.array(lb, dtypefloat) self.ub np.array(ub, dtypefloat) self.pop_size pop_size self.max_iter max_iter self.w_max w_max self.w_min w_min self.c1 c1 self.c2 c2 self.switch_prob switch_prob self.a a self.c_sensory c_sensory self.v_max 0.5 * (self.ub - self.lb) self.gbest None self.gbest_fit float(inf) def _boundary_handle(self, x): x np.where(x self.lb, 2 * self.lb - x, x) x np.where(x self.ub, 2 * self.ub - x, x) return np.clip(x, self.lb, self.ub) def optimize(self, seed0, verboseFalse): np.random.seed(seed) X self.lb (self.ub - self.lb) * np.random.rand(self.pop_size, self.dim) V np.zeros((self.pop_size, self.dim)) fitness np.array([self.func(ind) for ind in X]) pbest X.copy() pbest_fit fitness.copy() idx np.argmin(pbest_fit) gbest pbest[idx].copy() gbest_fit pbest_fit[idx] history [] for t in range(self.max_iter): w self.w_max - (self.w_max - self.w_min) * (t / self.max_iter) f_min np.min(fitness) f_max np.max(fitness) if np.isclose(f_max - f_min, 0): I np.ones_like(fitness) else: I (f_max - fitness) / (f_max - f_min) S self.c_sensory * I ** self.a for i in range(self.pop_size): r1, r2 np.random.rand(2) V[i] (w * V[i] self.c1 * r1 * (pbest[i] - X[i]) self.c2 * r2 * (gbest - X[i])) V[i] np.clip(V[i], -self.v_max, self.v_max) rand_val np.random.rand() if rand_val self.switch_prob: r3 np.random.rand() move (r3 * r3 * gbest - X[i]) * S[i] else: candidates [idx2 for idx2 in range(self.pop_size) if idx2 ! i] j, k np.random.choice(candidates, size2, replaceFalse) r3 np.random.rand() move (r3 * r3 * X[j] - X[k]) * S[i] X[i] X[i] V[i] move X[i] self._boundary_handle(X[i]) fitness np.array([self.func(ind) for ind in X]) better fitness pbest_fit pbest[better] X[better] pbest_fit[better] fitness[better] idx_g np.argmin(pbest_fit) if pbest_fit[idx_g] gbest_fit: gbest pbest[idx_g].copy() gbest_fit pbest_fit[idx_g] history.append(gbest_fit) if verbose and (t % 40 0 or t self.max_iter - 1): print(fiter {t:04d} best {gbest_fit:.4e}) return gbest, gbest_fit, history主程序示例if __name__ __main__: funcs { sphere: (sphere, [-10] * 10, [10] * 10), rastrigin: (rastrigin, [-5.12] * 10, [5.12] * 10), ackley: (ackley, [-32] * 10, [32] * 10), rosenbrock: (rosenbrock, [-5] * 10, [5] * 10), } for name, (fn, lb, ub) in funcs.items(): algo HPSOBOA(fn, lb, ub, dim10, pop_size30, max_iter300) gbest, gbest_fit, _ algo.optimize(seed2024, verboseTrue) print(f{name}: {gbest_fit:.6e})这里我特意把随机种子留成可配置参数跑实验时务必固定种子否则对比算法之间的差异会被随机性完全淹没。后面的实验表格必须强调这一点。4. 基准测试跑一跑才知道行不行4.1 测试函数选择与实验设置为了验证 HPSOBOA 不是白缝合我在四类经典测试函数上做了对比实验。Sphere 是单峰平滑函数适合看基础收敛精度Rastrigin 有许多均匀分布的局部极小值专门打击容易早熟的算法Ackley 有大量局部噪声和一个极窄的全局盆地能够测试跳出局部的能力Rosenbrock 是经典病态函数山谷非常曲折适合看算法在非线性相关维度上的表现。实验设置为维度 10、种群规模 30、迭代次数 300。对每种算法独立运行 5 次取最好适应度的中位数作为最终结果。PSO 参数取 w 线性衰减 0.9 到 0.4c1c21.5BOA 参数取标准设置 switch_prob0.8a0.1c0.01HPSOBOA 使用我前面代码里的默认参数。4.2 对比结果与数据分析下面是我在自己机器上跑出来的典型结果保留两位有效小数测试函数PSOBOAHPSOBOASphere3.2e-148.1e-042.7e-23Rastrigin18.530.21.2Ackley6.1e-072.2e-038.9e-10Rosenbrock0.635.70.02Sphere 上所有算法都能收敛但 HPSOBOA 的精度明显高了两三个数量级。原因是后期 pbest 和 gbest 已经很接近最优解这时候 PSO 的速度项能让位置在一个极小范围内精细收束BOA 的香气项又提供了一点额外的逃逸能力两者叠加反而没有互相干扰。Rastrigin 是最有意思的。PSO 的表现符合预期容易陷入局部极值最终停留在 18 附近也就是很多粒子都停留在不同的局部坑位里。BOA 的随机香气扰动虽然偶尔能跳出局部坑但它没有记忆经常跳出来又跳回去整体效果反而更差。HPSOBOA 在这类多峰函数上的优势就体现出来了速度记忆让它一旦发现更好的区域就能快速迁移过去香气扰动又保证它在迁移过程中不会完全丢失探索能力最终中位数压到了 1.2虽然不是全局最优但已经比两个原始算法好了很多。Ackley 和 Rosenbrock 的表现也符合预期。Ackley 表面噪声多HPSOBOA 靠着组合项既保持了初期的大范围探索又在后期精细收束Rosenbrock 的收敛精度同样有数量级提升。整体看下来混合算法在两个经典算法的各自强项之间取得了平衡而不是简单取两者之和。4.3 收敛曲线里能读出什么我只在 Rastrigin 上画过典型的收敛曲线印象很深PSO 的曲线在迭代前 50 轮快速下降之后几乎变成一条平线这就是明显的早熟状态BOA 的曲线是阶梯状的经常突然降一段然后又反弹说明它在不同区域之间反复跳跃缺乏稳定的记忆HPSOBOA 的曲线虽然起步比 PSO 略慢但中后期持续缓慢下降最终反超。所以说评价一个优化算法不能只看最终数值还要看收敛曲线的形态。平线出现得越早说明算法越可能陷入局部极值曲线如果一直起起伏伏说明稳定性差。5. 调参避坑指南那些让我熬夜的问题5.1 关键参数敏感性一览HPSOBOA 的参数比 PSO 或 BOA 都多这是混合算法的通病。我根据自己的实践整理了一个参数表参数典型范围实际影响我的推荐惯性权重 w0.4 ~ 0.9决定速度记忆强弱影响全局与局部平衡线性衰减 0.9 → 0.4学习因子 c1/c21.0 ~ 2.5个体记忆与群体信息各偏向多少1.5 左右切换概率 switch_prob0.5 ~ 0.9越接近 1 越多全局迁移越小越多局部扰动0.75香气幂指数 a0.1 ~ 2.0控制刺激强度非线性放大程度1.5对多峰函数表现更好感官模态系数 c_sensory0.1 ~ 0.8香气项的整体缩放直接影响步长0.5这里面最坑的是 c_sensory。标准 BOA 推荐用 c0.01但那个数值对应 a0.1 的小幂指数。我如果直接照搬蝴蝶扰动项会被压得极小整个混合算法就等于只有 PSO 在跑。后来我把 a 调到 1.5c_sensory 调到 0.5香气项才和速度项在数量级上匹配起来。所以混合算法的参数一定要重新标定不能照抄原始算法。5.2 容易犯的实现错误我自己在第一版代码里犯过一个典型错误把香气强度用适应度值直接算但忘记做归一化。结果在 Rastrigin 上初始适应度从几十到几百香气值跨度巨大导致部分蝴蝶的移动项极端大直接飞穿整个搜索空间之后只能靠边界反弹拉回来。加完归一化后步长更加平稳收敛曲线立刻好看很多。另一个坑是速度上限。经典 PSO 公式里 V 本身可以很大但混合了 BOA 的扰动项后一次移动的幅度等于速度加香气项如果不限制 V 的上限很快就会出现振荡。加上np.clip(V, -v_max, v_max)后整体稳定性提升了一个档次。边界处理也值得注意。直接用 np.clip 会把大量粒子按在边界上导致边界附近的粒子密度异常高后续 pbest 更新会把这些边界点当成参考种群的多样性和探索能力都会下降。我改成“反射clip”组合后确实好了很多。5.3 调试和实验的实用经验调试这类算法有个很好用的技巧把每轮迭代的 gbest_fit 打出来观察曲线的下降速度和形态。只要连续 30 轮没有任何改善基本可以判断已经早熟。这时候不要急着调参先看一眼种群位置分布经常能发现所有个体都聚集在一个小区域里。做实验对比时一定要保证迭代次数和种群规模完全一致。我一开始让不同算法的最大迭代次数都等于 300看起来很公平但有的算法每次迭代只评估一次函数有的算法因为写法问题每轮评估了两次函数评估总次数完全不同最后的结论根本不可比。现在我的实验统一按函数评估次数对比而不是按迭代次数。还有一个经验单次运行结果噪音很大至少要跑 5 次取中位数。我试过同一种算法在同一函数上连续跑三次最好的结果能差一个数量级。固定随机种子不是万能的但至少能让你看到算法本身的稳定性。6. HPSOBOA 还能用在哪扩展方向与个人感受6.1 实际优化场景的切入点元启发式算法最常见的地方是超参搜索。我目前就在一个模拟项目 X 里用 HPSOBOA 搜索一组参数模型有三个超参数一个控制数据预处理窗口大小一个控制特征选择阈值一个控制回归模型的正则强度。每次函数评估要跑几百条样本单次耗时 0.3 秒左右初始搜索用了 200 次评估就能找到比人工经验好不少的组合。关键是目标函数噪声大、不可导传统梯度方法根本用不了HPSOBOA 这种不需要梯度的搜索器就很合适。路径规划也是个热门场景。二维网格地图里求最短路径把每个节点的权重编码成连续变量用 HPSOBOA 去优化轨迹平滑度和路径长度的加权和。香气扰动项在这种多坑地形里特别有价值经常能跳出局部通路找到真正更优的绕行方案。6.2 后续可以接着怎么玩如果你也想在这个算法上继续加料我建议优先尝试三个方向把单一香气幂指数改成动态变化前期用大指数增强探索后期用小指数增强收敛或者把 c_sensory 也纳入动态衰减效果类似自适应步长也可以把随机选择的局部扰动换成 Levy 飞行增加长尾跳跃能力。我自己试过把 PSO 的速度项乘以一个与迭代相关的权重让算法在前期主要依靠 PSO 快速探索后期逐渐切换到 BOA 的精细香气搜索效果也很不错。这篇文章写到这里我不想给一堆套话式总结。我个人实际操作中的体会是混合算法的价值不在于简单的数学优雅而在于能通过组合不同的行为机制把两种算法的缺点互相抵消。PSO 的速度记忆补足了 BOA 的健忘BOA 的香气扰动补足了 PSO 的早熟这个互补关系才是 HPSOBOA 真正能跑得稳的原因。最后再提一个实战小技巧新算法跑任何测试函数之前先把单峰 Sphere 调通因为单峰函数最容易暴露步长和边界处理的 bug。Sphere 跑不出好精度就别急着去挑战 Rastrigin。