优化方法的理论体系
2、多维无约束优化方法
3、多维有约束优化方法
4、线性优化方法
5、多目标优化方法
6、离散变量优化方法
7、基于其他理论的优化方法
8、常见的优化算例
9、主要文献
方法/步骤
（一）一维优化方法。主要有以下三类：1）基于盲人探路思想的试探法。以步长加倍策略将极值点确定在距离当前点单步步长之内，再以步长减半策略，使当前点接近于极值点。主要有确定极值点所在区间的进退法（应用推论1）、一维盲人探路法（在进退法基础上增加一个模块）、一阶导数符号法（应用推论2）等。2）区间削去法。比较区间内两点的目标函数值或计算一点的导数符号，根据单峰假设将极值点所在区间削短。主要有对称等比例、对称变比例区间分割法、平分法、切线交点法、自适应二分法等。3）拟合函数寻点法。主要是二次拟合函数法（抛物线法）、三角拟合函数法、二次拟合函数定点法、一次拟合导函数法等。
（二）多维无约束优化方法。主要有：1）负梯度方向法及基于盲人探路思想的折线负梯度方向法。2）多维二阶近似式方向法及其近似算法。3）坐标系拟均匀变换法，也称为坐标变换法，包括局部坐标系的建立。4）获得共轭方向的方法，主要有定义法、几何法、待定系数法、两次同方向寻优获得法、连续两次沿负梯度方向寻优获得法（四寻法、六寻法、三寻法）等。5）共轭方向轮换法，主要有几何法、待定系数法、正交向量组法等，包括方向组的概念。6）寻优方向的数值算法实现，基于二次函数假设的数值偏导数、方向导数计算式，构造二阶偏导数矩阵法、大步长探测等算法实例。7）拟合函数法，主要有多维二次拟合函数法和线性拟合梯度法。8）不求偏导数的方向组轮换法，主要有坐标方向轮换法、自适应坐标下降法、经典Powell基本算法和改进算法、构造共轭方向法等。9）无界多面体变形法，也称为单形替换法或单纯形法，与多维有约束复合形法的寻优思想相同。
（三）多维有约束优化方法。主要有：1）可行域内直接求解法，主要包括网格法、有界多面体变形法（复合形法）、随机方向法等。2）优选可用方向法，寻优到约束边界之后，寻优最好的方向继续寻优，是船到桥头自然直的正确思路。3）半步法，没有寻优到约束边界的时候采用无约束优化方法，寻到之后退半步重新选择新的寻优方向，是未雨抽聊的研究思路。4）化简法，主要有基于二阶近似式构造寻优方向法、基于一阶近似式线性化法。5）构造无约束优化问题序列法，采用加权组合的方式将目标函数和约束函数转化为无约束优化问题，权按照一定规律变化，从而构造出一系列的无约束优化方法，主要有围墙法（内点惩罚函数法，须加固围墙）和土堆法（外点惩罚函数法）。
（四）线性优化方法。对于目标函数和约束函数均为设计变量线性函数的优化问题，其约束边界和目标函数等值线均为直线，可行点的集合构成一个凸集，且为凸多面体。如果存在最优点，则必为该凸集的某个顶点。寻找最优点就是在该凸多面体上确定最优的顶点。主要方法为单纯形法，在可行域多面体的某一个顶点出发，逐渐滑向更好的顶点，最终获得最优点。
（五）多目标优化方法。主要有以下几类：1）穷举类方法。直接求出所有分目标函数的最优点，然后在各个目标之间进行协调，使其相互间作出适当“让步”，以便获得整体最优方案，选择较好的设计点。或者列出所有方案，采用专家评议、领导拍板等方式确定最优方案。2）直接重构单目标函数法。直接由各分目标函数构造一个新的目标函数，从而将多目标的优化问题转化为单目标的。如主要目标法、线性加权组合法、取最大分目标函数值法、分目标乘除法、分层序列法等，其中线性加权组合法最具有实用性。3）间接重构单目标函数法。将原分目标函数适当处理后构造一个新的目标函数。如理想点法、功率系数法（几何平均法）、协调曲线法等。
（六）离散变量优化方法。主要有三类：1）按连续变量处理法。取得最优点后，再圆整。离散变量依次确定，原优化问题依次降维。2）随机法。根据实际情况随机确定一些设计点，然后从中选取最优点。或者在初始点周围以随机方式寻找多个设计点，取其最优者作为当前点继续寻优。3）穷举法。如分支定界法、网格法。
（七）基于其他理论的优化方法。实际上，存在很多不能由标准数学模型描述的优化问题，其数学模型的建立与评价均没有固定的模式，可行域不连续，甚至只是一些零散的可行点，并且各可行点的优劣难以用统一的标准衡量，比如旅行商最佳路径问题、背包问题等。在日常生活当中也存在着类似的问题，如股市运作，何时何股入市最优；战争发起，何时何地以什么方式最有利；个人学习计划，先学习还是先工作，学什么课程做什么工作最好。借用其他学科的理论知识，可发展一些优化方法，如遗传算法、神经网络算法、基于知识的专家系统算法、蚁群算法、模拟退火算法、分形与混沌算法等。这些方法均以全域优化问题为研究对象，基于概率论和随机理论，使多个盲人按相同规律寻求全域极值点，因此也称为智能优化算法。其共同特点是“无序中寻求有序，偶然中探索必然”。
（八）常见的优化算例。1）一维单峰函数。用于一维优化方法的检验。2）二维二次函数。可绘图直观地表示寻优过程，，检验算法最直接有效。因为优化方法都是在单峰假设下提出来的，即假设目标函数为二次函数，检验结果可信。3）多维二次函数。构造共轭方向的优化方法对于二维优化问题效果明显，但是需要在多维设计空间当中检验。4）复杂函数。最典型的是Rosenbrock函数，由于存在一个弯弯的峡谷，成为许多优化方法的滑铁卢。5）目标函数没有数学表达式的优化问题。如目标函数的求取需要借助于其他计算算法。6）抽象优化问题。设计变量没有优选值问题、目标函数和约束函数难以用数学表达式表示。比如背包问题、旅行商问题、交通信号灯规划问题等。对于这些问题，穷举法是最可靠的算法。
（九）主要文献。上述综述主要是基于一下创新性文献而完成的：[1]例证多维二阶近似式法的适用性[J]. 德州学院学报, 2017,33(6):12-14.[2]多维二次拟合函数优化方法[J]. 甘肃科学学报, 2017, 29(5):26-28.[3] 基于目标函数梯度向量的相邻方向共轭法[J].甘肃科学学报,2017,29(05):15-21.[4]目标函数优化的切线交点法[J]. 机械设计与研究(核心), 2017, 33(2):17-19,24.[5]The program verification of the three-seeking and six-seeking method based on the conjugate direction[A]. . 2017 5th International Conference on Machinery, Materials and Computing Technology(ICMMCT2017), March 25-26, 2017 Beijing, China. Advances in Engineering, volume 126, pp109-114.[6]基于盲人探路寻优思想的二阶近似式定点法研究[J]. 中国石油大学学报（自然科学版）, 2017, 41(1): 144-149.[7]盲人探路负梯度方向法[J]. 甘肃科学学报, 2016, 28(5):116-122.[8] Blind-walking optimization method[J]. Journal of Networks, 2010, 5(12):1458-1466.[9]优化方法[M]. 东南大学出版社, 2009.10[10]随机方向法改进及其验证[J]. 计算机仿真, 2009, 26(1):189-192.[11]具有畸形约束极值点问题的优化[J]. 中国科技论文在线学报, 2008, 3(8):562-565.[12]形象化教学方法在“机械优化设计”课程中的应用[J]. 中国石油大学学报(社科版), 2008, 25(S): 90-92[13]加固围墙的内点惩罚函数法防越界验证[J]. 机械设计, 2007, 24(S):111-112.[14]连续负梯度方向获得共轭方向的六寻优化方法[J]. 计算机科学与探索, 2019, 13(0).
相关参考：
triz理论是基于什么归纳总结而成的
TRIZ理论是一种基于知识的、面向人的发明问题的、系统化的方法论，本质上是一种分析解决问题的套路和步骤，也就是算法。该理论从研究发明创造的内在规律而生，但其思想可以进一步扩展到所有问题的分析和解决上，向上可以到哲学层面，向下也提供了很多具体的工具 。现代TRIZ理论体系主要包括以下几个方面的内...
数量化理论方法
一、数量化理论及其在地下水管理中的应用 “数量化”是指把定性的东西用数量来表达。定性数据只是一种状态的描述。它并不具有算术运算性质。数量化理论方法，实际上就是定性数据的分析方法，它是多元分析的一个分支。在我们所研究的问题中，常可根据变量的性质对其分类：一些变量可以被视为变化的原因，称...
为什么化学没有形成严密简洁的理论体系
门捷列夫发现元素周期律后，不仅初步形成了无机化学的体系，并且与原子分子学说一起形成化学理论体系。通过对矿物的分析，发现了许多新元素，加上对原子分子学说的实验验证，经典性的化学分析方法也有了自己的体系。草酸和尿素的合成、原子价概念的产生、苯的六环结构和碳价键四面体等学说的创立、酒石酸拆分成...
公理化方法的历史发展
公理化方法发展的第一阶段是由亚里士多德的完全三段论到欧几里得《几何原本》的问世．大约在公元前3世纪，希腊哲学家和逻辑学家亚里斯多德总结了几何学与逻辑学的丰富资料，系统地研究了三段论，以数学及其它演绎的学科为例，把完全三段论作为公理，由此推导出其它所有三段论法，从而使整个三段论体系成为一个公理...
方法论和认识论的关系?方法论和方法之间的关系?
方法论和认识论的关系：方法论是马克思主义哲学原理的使用方法。认识论是包括方法和相关理论在内的一套哲学原理。方法论具体是告诉你怎样处理问题，而认识论除了告诉你怎样处理问题之外还告诉你如何去认识事物的发展规律。方法论和方法的关系：方法论是方法的集合体，方法论由诸多根据理论总结出来的方法组成。
跨文化方面的理论有哪些
最有影响的四个跨文化理论提出了区分文化差异的方法和维度，对帮助我们理解、解释和预测特定群体的文化行为有重要的指导作用。一、六大价值取向理论（克拉克洪和斯乔贝克）最早提出跨文化理论的美国人类学家。Kluckhohn &Strodtbeck Kluckhohn ,哈佛大学的教授，参与太平洋战争期间美国战争情报处组建的专家队伍，...
方法论是什么
方法论是一种以解决问题为目标的理论体系或系统，通常涉及对问题阶段、任务、工具、方法技巧的论述。方法论会对一系列具体的方法进行分析研究、系统总结并最终提出较为一般性的原则。方法论也是一个哲学概念。人们关于“世界是什么、怎么样”的根本观点是世界观。用这种观点作指导去认识世界和改造世界，就成...
公理化方法的作用意义
爱因斯坦运用公理化方法创立了相对论理论体系．狭义相对论的出发点是两个基本假设：相对性原理和光速不变原理．爱因斯坦以此为前提，逻辑地演绎出四个推论：“尺缩效应”、“钟慢效应”、“质量增大效应”和“关系式”．这些就是爱因斯坦运用公理化方法，创立的狭义相对论完整理论体系的精髓．
因素分析法的基本理论
因此,因素分析法是用来形成科学概念,进而建构思想模型和理论体系的强有力的认识手段和辅助工具。因素分析法的数学运算主要是建立在矩阵运算的基础之上。它的基本运算过程如下:首先是收集一定的测量资料,将资料数据标准化。在心理测量中,常需将测验分数转化成标准分数,并排列成数据矩阵。其次,通过相关运算求出每个因素和...
法的基本理论和法的一般原理
法学基础理论是法学体系中研究法的一般性问题的导论性的基础理论学科，对其它具体法学学科具有方法论性质的指导意义。二、法原理 法律原则是为法律规则提供某种基础或根源的综合性的、指导性的价值准则或规范，是法律诉讼、法律程序和法律裁决的确认规范。在用语上，法律原则与法律原理（Doctrines of Law，或...
相关评论
17040934251： 最优化原理可这样阐述:一个最优化策略具有这样的性质,不论过去状态和决策如何,对前面的决策所形成的状态而言,余下的诸决策必须构成最优策略.简而言之,一个最优化策略的子策略总是最优的.一个问题满足最优化原理又称其具有最...
17040934251： 1、管理优化原理的涵义:现代企业管理为了以尽可能少的综合耗费获取尽可能大的经济效益和社会效益,就要对生产经营活动中的一切因素、条件及其相互之间的关系进行全面、系统的分析,并在此基础上拟定出多种可供选择的方案,通过比...
17040934251： 摘 要: 教学过程最优化理论以“时间”和“效果”为标准,以综合拟定教学任务、划分具体教学任务、分清主次教学内容、选择合理教学形式和教学方法、分析教学效率为六大方法体系.教学过程最优化理论在体育教学领域产生了很大的影响...
