当前位置:   article > 正文

整数规划之分支切割算法

分支切割算法

目录

1. 分支切割算法简介

2.分支切割原理,及需要考虑的方面

3.分支切割算法的关键

4.总结


1. 分支切割算法简介

分支切割算法,即branch and cut,是branch and bound分支定界+cutting plane割平面。同理我们类比分支定价branch and price,是branch and bound分支定界+column generation列生成。两者都是精确算法。

解决的是整数规划问题。我们通过松弛IP得到LP,最好松弛得到的LP就是整数解。但是实际上,基本不可能。所以我们想:能不能通过一些边把多余的块砍掉,保持原问题所有整数可行域不变。因为LP问题的最优解一定是某些顶点,假如把多余的块砍掉,顶点刚好是整数点,那求解LP不就得到IP的最优解了吗。砍掉多余块的边/面,我们叫做割平面(二维里头叫边,多维叫面。)

随之而来又有一个问题,该怎么找到割平面呢?如果有多个割平面,需要把所有的割平面都找出来吗?还是只需要选择部分就好,那么应该选择哪些割平面呢?回答是找到——原来LP最优解违背最多的那些平面,割得效果最好。我们把这些割平面(有效割平面)也叫做有效不等式,即valid inequalities。迭代求解LP和不断加入割平面,就可以得到整数可行解。

2.分支切割原理,及需要考虑的方面

精确算法保证了解的质量,也就是最优的。那么我们只关注一点:怎么提高求解的效率?

从两个方面进行考虑,这是由branch and bound的求解框架决定的。第一,我们要想办法减少实际求解node数目,也就是子问题尽可能少;另外,还要想办法提升每个node的求解效率,也就是高效求解子问题。(本文图片来自胡骞老师ppt)。注意,column generation和cutting plane的目的是为了提供更好的下界,即松弛后的线性规划问题的最优解。上界是整数解,通常需要通过启发式算法求解得到。

有人可能会想,既然启发式求解得快,为啥还需要精确求解算法?答案是启发式算法求到的解,我们不知道有多好,距离最优解还有多远。精确算法能提供一个支撑,一个比较的参照系。当然,我们必须明晰的一点是,启发式算法和精确算法并不是各自为政的,可以相互结合。你看,branch and cut和branch and price这种精确算法不就是利用启发式算法的高效率得到一个可行上界吗?可以提高求解效率,同时缩小gap。

附带说一句,现在很多启发式算法,或者说智能算法,推陈出新得很快。我们有没必要学呢?我觉得没有必要,万变不离其宗。最主要的是我们学会比较经典的那几个就行,比如(以下是引用别人的原话,我个人比较认同。):  “常用且比较推荐学习的有遗传算法GA、禁忌搜索算法TS、模拟退火算法SA、粒子群算法PSO、蚁群算法ACO、以及邻域搜索中的迭代邻域搜索算法、变邻域搜索算法VNS、自适应大规模邻域搜索算法ALNS”。

3.分支切割算法的关键

关键在于如何找到有效割平面。整数规划教材中写的经典的有效不等式,是Gomory不等式,这个很常见,也很有用。求解器基本也把Gomory不等式嵌里面了。下图可以看到cut的类型以及提升的效率,并不是绝对的。

 我们首先来介绍一下Gomory不等式。它的主要思想是:一个式子或者一组式子组合后除以一个值,然后向下取整。因为,都是整数变量,所以线性运算,也就是加减乘以后,肯定仍然是整数,所以相当于可以收紧。

第二种是取余:Modular。注意这里是等式处理,原来的是一个等式,然后找到一个数,左边取它的余数,右边常数取它的余数,符号变为\geqslant。左边每个变量系数都向下取整,所以是\leqslant,而后乘以除数的相反数,所以变为\geqslant 。以下是例子。

 第三种是析取:Disjunctions。主要思想是把原来的可行解分为多个子集,然后分别求取子集的有效不等式,再转化为原来问题的有效不等式。方法是,子集系数取最小,右侧常数取最大。

 第四种,是非常常用的,且是很重要的一类:cover inequalities。(按照问题类型是,背包\leqslant或者是流模型,可以继续往下分为knapsack cover和flow cover。)

我们来简述下cover inequalities。与之相关的还有加强型的cover——lifted cover inequalities,也就是和割得最好的cover方法——separation problem。

 我们来看上述图片。cover的定义是系数违背原约束的一个子集C。最小的cover,即minimal cover是指,对于cover C而言,去掉其中的任意一个元素系数a_{j},约束就成立了,也就是不再是一个cover。

对于每一个cover来说,元素累加\leqslantcover个数-1。从所有系数中取到大于原来cover系数中最大的系数所组成的集合称为集合D,C与D并集的元素累加也 \leqslantcover个数-1。这个被称为一个lifted cover inequalities。

有很多cover,应该选择哪个呢?这个涉及到separation problem,这个是核心所在。类似于列生成中的pricing problem定价子问题了。原理是,割掉LP最优解违反最多的割平面。

左下代表cover inequlity,是不违背的,是成立的。也就是说\sum_{i\in C}(1-x_{j})-1\geqslant 0是成立的,<是不成立的,所以我们要让前面的不等式尽量小,也就是minimize。注意这里集合发生变化,我们用z来表示i是否在cover中,那么就可以转化为右边。约束是,一开始定义cover的系数违背约束。注意这里约束右侧取b+1,假如是小数,那么直接向上取证就行了。

另一类flow cover inequalities。按照=,<,和>分为三种。

4.总结

 所以主要涉及的点有以下几个:

未完待续......

这个基本是我听完讲座后的总结了。这些基础的我是听懂了,但是我还暂时不知道怎么去用,怎么编程用代码实现。运筹是理论和实践结合的特别紧密的学科,只听懂理论,没用,在没有用代码表述出自己的思路之前,一点用都没有,而且很容易忘。不过听了课,了解大概的原理,后续需要用到的时候,复习起来就方便了。写总结的过程也是加深理解和整理思路的过程。

后续假如实际用到了,再来补充。

参考资料:

优化求解器 | 强大的Cutting Plane算法:Gurobi中Cuts的介绍及案例探究(Python+Gurobi) (qq.com)

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/菜鸟追梦旅行/article/detail/218304
推荐阅读
相关标签
  

闽ICP备14008679号