数据处理方法、装置和存储介质.pdf

(19)国家知识产权局(12)发明专利申请(10)申请公布号CN114970847A(43)申请公布日2022.08.30(21)申请号202210500937.X(22)申请日2022.05.09(71)申请人清华大学地址100084北京市海淀区清华园1号(72)发明人施路平张伟豪马松辰赵蓉(74)专利代理机构北京林达刘知识产权代理事务所(普通合伙)11277专利代理师刘新宇(51)Int.Cl.G06N3/063(2006.01)G06N3/04(2006.01)权利要求书2页说明书14页附图4页(54)发明名称数据处理方法、装置和存储介质(57)摘要本公开涉及一种数据处理方法、装置和存储介质。该方法包括：获取神经网络模型的计算图；获取处理器的信息；根据计算图和处理器的信息，确定第一中间表示，第一中间表示包括处理器支持的算子；根据第一中间表示和处理器的信息，确定第二中间表示，第二中间表示包括算子在所述处理器上的时间调度信息和空间映射信息；根据第二中间表示和处理器的信息，确定神经网络模型对应的目标指令；根据计算图、第一中间表示、第二中间表示、目标指令中的至少一种，以及处理器的信息，对处理器进行优化。根据本申请实施例，可以实现对新型神经网络模型的层次化编译，使其能够高效地部署到新型芯片上，还可以指导处理器进行优化，灵活高效。CN114970847ACN114970847A权利要求书1/2页1.一种数据处理方法，其特征在于，所述方法包括：获取神经网络模型的计算图，所述计算图表示所述神经网络模型的结构；获取处理器的信息；根据所述计算图和所述处理器的信息，确定第一中间表示，所述第一中间表示包括所述处理器支持的算子；根据所述第一中间表示和所述处理器的信息，确定第二中间表示，所述第二中间表示包括所述算子在所述处理器上的时间调度信息和空间映射信息；根据所述第二中间表示和所述处理器的信息，确定所述神经网络模型对应的目标指令，所述目标指令用于被所述处理器执行；根据所述计算图、所述第一中间表示、所述第二中间表示、所述目标指令中的至少一种，以及所述处理器的信息，对所述处理器进行优化。2.根据权利要求1所述的方法，其特征在于，所述处理器的信息包括所述处理器支持的算子信息，所述算子信息包括算子类型、算子的数据精度中的至少一种，所述根据所述计算图和所述处理器的信息，确定第一中间表示，包括：根据所述计算图和所述处理器支持的算子信息，确定所述第一中间表示。3.根据权利要求2所述的方法，其特征在于，所述根据所述计算图和所述处理器支持的算子信息，确定所述第一中间表示，包括：根据所述处理器支持的算子信息，对所述计算图中的算子进行算子类型转换和/或算子量化，确定所述第一中间表示。4.根据权利要求1所述的方法，其特征在于，所述处理器的信息包括所述处理器的资源信息，所述资源信息包括内存资源信息、计算资源信息、路由资源信息中的至少一种，所述根据所述第一中间表示和所述处理器的信息，确定第二中间表示，包括：根据所述第一中间表示和所述资源信息，确定第二中间表示。5.根据权利要求1所述的方法，其特征在于，所述处理器的信息包括所述处理器的行为特征信息，所述行为特征信息包括所述处理器可执行的操作，所述根据所述第二中间表示和所述处理器的信息，确定所述神经网络模型对应的目标指令，包括：根据所述第二中间表示和所述行为特征信息，确定所述目标指令。6.根据权利要求5所述的方法，其特征在于，所述根据所述第二中间表示和所述行为特征信息，确定所述目标指令，包括：根据所述第二中间表示和所述行为特征信息，对第二中间表示进行内存地址分配、路由路径规划、计算流水优化、寄存器分配中的至少一种，确定所述目标指令。7.根据权利要求2所述的方法，其特征在于，所述根据所述计算图、所述第一中间表示、所述第二中间表示、所述目标指令中的至少一种，以及所述处理器的信息，对所述处理器进行优化，包括：根据所述计算图和所述处理器支持的算子信息，确定所述处理器是否满足对所述神经网络模型的算子功能支持需求；在不满足对所述神经网络模型的算子功能支持需求的情况下，对所述处理器进行优化。8.根据权利要求4所述的方法，其特征在于，所述根据所述计算图、所述第一中间表示、2CN114970847A权利要求书2/2页所述第二中间表示、所述目标指令中的至少一种，以及所述处理器的信息，对所述处理器进行优化，包括：根据所述第一中间表示和所述资源信息，确定所述处理器是否满足对所述神经网络模型的算力支持需求；在不满足对所述神经网络模型的算力支持需求的情况下，对所述处理器进行优化。9.根据权利要求5所述的方法，其特征在于，所述根据所述计算图、所述第一中间表示、所述第二中间表示、所述目标指令中的至少一种，以及所述处理器的信息，对所述处理器进行优化，包括：根据所