面向边缘计算的模型压缩方法研究的任务书.docx

面向边缘计算的模型压缩方法研究的任务书
任务书
一、任务背景
在当今大数据时代，数据规模和计算量呈现出快速增长的趋势。特别是在边缘计算场景下，由于网络带宽和计算资源的限制，传统的深度学习模型往往难以应用，因此需要对模型进行压缩和优化来适应边缘计算的需求。模型压缩技术是通过减少模型参数和计算量，来获得一个更小、更快、更灵活的模型，从而在保证性能的前提下使用较少的计算资源。因此，面向边缘计算的模型压缩方法是目前亟待研究的领域。
二、任务目的
本课题旨在研究面向边缘计算的模型压缩方法，提出一种高效可行的压缩算法。具体任务如下：
1.调研目前主流的模型压缩方法，分析其适用性和不足之处；
2.研究针对边缘计算场景下的模型压缩技术，包括网络剪枝、定点化、低秩分解、参数量化等方法，探索其优势和可行性；
3.综合运用多种压缩技术，提出一种高效的面向边缘计算的模型压缩方法，并在多个数据集上进行测试和对比分析；
4.通过实验和测试数据对比，验证所提出的方法的有效性，并提出改进意见和建议。
三、任务内容和难点
1.调研目前主流的模型压缩方法，梳理相关的理论知识，对比分析各种方法的优劣，查找已有算法的改进点和创新点，提出创新思路和组合方案。
2.研究针对边缘计算场景下的模型压缩技术，深入剖析相关的理论原理和应用场景，分析各自的优缺点，并进行实验和测试数据对比分析，总结出最优的模型压缩算法。
3.提出一种高效的面向边缘计算的模型压缩方法，包括网络剪枝、定点化、低秩分解、参数量化等方法的融合应用，测试数据集的选择、评价指标的设计等问题。
4.通过实验和测试数据对比，验证所提出的方法的有效性，并提出改进意见和建议。验证的难点在于需要考虑到模型的灵活性和鲁棒性，同时还要满足较低的延迟和高精度。
四、预期结果
本研究将提出一种高效可行的面向边缘计算的模型压缩方法，使得深度学习模型可以被部署在边缘设备上，从而能够利用较少的计算资源获得较好的性能。同时，该研究还将对模型压缩方法的相关领域进行深入的分析和研究，提出有关模型压缩方法的改进和发展方向。
五、参考文献
[1]HanS，PoolJ，TranJ，etal.LearningbothWeightsandConnectionsforEfficientNeuralNetwork[J].AdvanceinNeuralInformationProcessingSystems(NIPS),2015:1135-1143.
[2]HubaraI，CourbariauxM，SoudryD，etal.QuantizedNeuralNetworks:TrainingNeuralNetworkswithlowPrecisionWeightsandActivations[J].arXivpreprint,arXiv:1609.07061,2016.
[3]YangY，LuoJ，LiangM，etal.DeepCompression:CompressingDeepNeuralNetworkswithPruning,TrainedQuantizationandHuffmanCoding[J].arXivpreprint,arXiv:1510.00149,2015.
[4]DingM，HouB，ChenY，etal.ModelCompressionforImageRecognitionwithDeepConvolutionalNeuralNetworks[J].IEEETransactionsonImageProcessing,2017,28(10):4821-4827.
[5]LiH，JinZ，YaoR，etal.ProjectiveLow-RankStructureforEfficientNeuralNetworkCompression[C].ICML'19:Proceedingsofthe36thInternationalConferenceonMachineLearning,2019.
[6]ZhangX，ZouJ，LiS，etal.LQ-Nets:LearnedQuantizationforHighlyEficientNeuralNetworkInference[C].CVPR’18:Proceedingsofthe31thIEEEConferenceonComputerVisionandPatternRecognition,2018.
[7]WangG，YeQ，LiX，etal.ERFNet:EfficientResidualFactorizedConvNetforReal-timeSemanticSegmentation[C].ECCV'18:ProceedingsoftheEuropeanConferenceonCompute