武汉世纪互联科技有限公司为您免费提供武汉网站优化公司武汉专业网络推广武汉网站营销等相关信息发布和行业资讯,敬请关注!
联系我们
咨询热线
13995609075
全国售后热线:
13995609075
邮箱:4733180@qq.com
地址:洪山区卓刀泉路108号凯乐桂园S-1栋单元10层1室
您的当前位置:首页 > 新闻信息 > 详细内容

武汉网络优化公司探讨凸优化和优化区别

来源:http://www.whxsjhl.com/news/545.html   发布时间:2019-02-18

武汉网络优化公司探讨凸优化和优化区别

凸优化性质好,并且即使是日常生活中的许多非凸优化问题,目前有效的办法也只能是利用凸优化的思路去近似求解。一些例子有:带整数变量的优化问题,松弛之后变成凸优化问题(所以原问题其实是凸优化问题+整数变量);任意带约束的非凸连续优化问题,其对偶问题作为原问题解的一个lower bound,一定是凸的!一个更具体的例子,大家都知道针对带有hidden variable的近似求解maximum likelihood estimate的EM算法,或者贝叶斯版本里头所谓的variational Bayes(VB) inference。武汉网络优化公司介绍原本的MLE其实是非凸优化问题,所以EM和VB算法都是找到了一个比较好优化的concave lower bound对这个lower bound进行优化。

目前对于这些非凸优化问题取得的算法理论方面的突破大体其实归结于找到这些非凸优化问题中“凸”的结构。这也是为什么我们看到一阶算法(SGD, ADAM等)仍然大行其道,武汉网络优化公司分析这些非凸优化算法的时候其实很多的lemma(引理)仍然是凸优化(凸分析)里的引理或者引申。举个例子,我们大家都知道凸函数的各种等价定义。而在Zeyuan Allen-Zhu的一系列非凸优化算法的文章中所谓的非凸性的刻画仍然是基于此衍生出来的:
实际上,现在非凸优化里面很多的非凸性刻画都是脱胎于凸优化,比如prox regularity之类的,或者一些更弱的convexity定义(这在经典凸分析里就已经有不少研究了,quasi-convex,psuedo-convex等等),这里不再赘述。
真正一般化地解决非凸优化问题,那肯定是要对一般的混合整数(线性)规划(MILP, mixed integer linear programming)要有好的办法求解才算。因为任意一个非凸优化问题,都可以用很多的分段线性函数逼近,后变成一个MILP。当然,因为P!=NP这个猜想的存在,这件事情在理论上肯定是hopeless,但是在实际当中,基于硬件能力的提升,还有比如量子计算机一类的新技术,武汉网络优化公司对人类未来能够在实际中求解MILP还是持一个比较乐观的态度。
以上就是武汉网络优化公司介绍凸优化和优化区别,希望对您有帮助,欢迎咨询惠顾!!!

相关标签:武汉网络优化公司,
相关产品