无约束最优化问题的算法研究与实现的任务书.docx

无约束最优化问题的算法研究与实现的任务书
任务书
1.任务概述
本任务的目的是研究和实现无约束优化问题的算法。无约束最优化问题是指优化问题中没有任何等式或不等式的限制条件。针对这种问题，需要寻找一个目标函数的最小值或最大值。在现代计算机科学领域，无约束最优化问题是实际应用中最常见的问题之一。本任务将重点领域学习求解此类问题的常用算法，并完成相关实验和代码实现。
2.任务目标
2.1掌握无约束最优化问题基础算法
任务主要包括以下内容：
（1）无约束最优化问题的定义和基本概念
（2）最速下降法、牛顿法和拟牛顿法的实现原理和思想。
（3）高斯牛顿法和Levenberg-Marquardt的实现原理和思想。
（4）梯度法、共轭梯度法和拟牛顿法在无约束优化问题中的应用
2.2实现无约束最优化问题的相关算法
任务具体要求：
（1）根据学习情况，完成无约束最优化问题相关算法的实现。
（2）对各种算法进行实验和对比，对算法的效率、准确性和稳定性进行分析。
（3）将算法实现及其相关实验结果进行撰写论文或报告。
3.任务要求
3.1算法实现
（1）使用Python或C++等任意一种编程语言实现相关算法
（2）对算法实现进行详细注释，便于大家理解和学习
（3）代码必须具有可重复性，最好配合一个实验环境或数据。
3.2实验与分析
（1）对各种算法进行实验，对比其效率、准确性和稳定性。
（2）进行实验并编写的报告或论文，要涵盖算法详细实现过程、实验结果、及实用性分析等
4.可行性分析
目前无约束最优化问题相关算法已经有了初步的研究和应用，包括梯度方法，最速下降法，共轭梯度法，牛顿法、拟牛顿法、高斯牛顿法、Levenberg-Marquardt等。因此，对于本任务的目标达成有较大的可行性。
5.任务进度计划
本任务采用的是独立完成，预计完成时间为一个月。具体时间安排如下：
第一周：
（1）学习无约束最优化问题的相关知识和算法。
（2）实现最速下降法算法。
第二周：
（1）实现牛顿法算法。
（2）完成相关算法的实验和结果分析。
第三周：
（1）实现拟牛顿法算法。
（2）完成相关算法的实验和结果分析。
第四周：
（1）编写相关实验报告或论文。
（2）调整算法，对实验结果进行相应的优化。
6.提交内容
本任务需要提交以下内容：
（1）详细实现算法的程序代码
（2）实验结果和分析
（3）完整的实验报告或论文
（4）任务总结
7.参考文献
[1]杨睿恺.无约束优化问题求解算法研究[D].2018.
[2]AntonV.Prokopyev,MichaelZ.Zgurovsky.TheUseoftheKKMPrincipleintheStudyofanUnconstrainedOptimizationProblem[J].JournalofOptimizationTheoryandApplications,2021,188(1):349-373.
[3]KaraahmetogluA.,MullerhausH.E.,RöschA.[etal.].Self-tuningofunconstrainedoptimizationalgorithmsusingstatisticalprocesscontrol[J].EngineeringOptimization,2019,51(9):1646-1661.