基于计算图进化的AI模型自动生成的方法.pdf

(19)中华人民共和国国家知识产权局(12)发明专利申请(10)申请公布号CN109784497A(43)申请公布日2019.05.21(21)申请号201910036186.9(22)申请日2019.01.15(71)申请人探智立方（北京）科技有限公司地址100192北京市海淀区永泰庄北路1号天地邻枫1号楼2层247(72)发明人钱广锐宋煜傅志文吴开源(74)专利代理机构南京思拓知识产权代理事务所(普通合伙)32288代理人许婷(51)Int.Cl.G06N20/00(2019.01)G06N3/12(2006.01)权利要求书2页说明书5页附图1页(54)发明名称基于计算图进化的AI模型自动生成的方法(57)摘要本发明提供一种基于计算图进化的AI模型自动生成的方法,主要包括如下步骤：预设数据；利用遗传算法算子生成第一代计算图模型并根据其计算图结构计算模型性能；去除无效用模型和重复模型，剩余模型作为备选模型并保留作为下一代种子；挑出若干数量最优模型；备选模型使用遗传算法算子产生一个计算图新模型；判断上一步产生的计算图新模型是否生成过；保存新模型为新一代计算图模型，判断其是否满足预设数据和进化结束条件；进化计算结果汇总，选择出最优模型。本发明可以同时做机器学习和深度学习；避免相同模型的被重复计算的次数，提升模型设计效率；跳出局部最优；防止搜索网络的性能的衰退；不需要通过实际数据进行训练就可直接评估。CN109784497ACN109784497A权利要求书1/2页1.一种基于计算图进化的AI模型自动生成的方法，其特征在于包括以下步骤：步骤(1)：根据用户预设的数据，进行数据准备，设置模型设计平台生产参数，开始模型自动设计；步骤(2)：利用遗传算法算子生成第一代计算图模型；步骤(3)：a、根据第一代计算图结构计算模型性能；b、根据计算图性能和复杂度，计算每一个计算图模型的适应度；步骤(4)：根据模型适应度，去除无效用模型和重复模型，剩余模型作为备选模型，并保留作为下一代种子；步骤(5)：根据步骤(4)保留的下一代种子，挑出若干数量最优模型；步骤(6)：根据步骤(4)选择出的作为下一代种子的备选模型使用遗传算法算子产生一个计算图新模型；步骤(7)：判断步骤(6)产生的计算图新模型是否为已经生成过的计算图模型，如否，进入步骤(8)；如是，返回步骤(6)；步骤(8)：保存步骤(5)、(7)的计算图模型为新一代计算图模型；步骤(9)：判断是否步骤(8)的新一代计算图模型的数量满足步骤(1)中预设的数据，如是，进入下一步；如否，返回步骤(6)；步骤(10)：a、对生命周期超过三代的模型，则再进行寻找最优解或者靠近最优解的次优解的超参搜索，所述生命周期超过三代的定义同遗传算法中“代”数的定义，自该模型结构第一次出现在本流程中开始算为第一代，超参搜索后保留下来的模型进入步骤(11)；b、对生命周期没有超过三代的模型，根据计算图结构计算模型性能，根据计算图性能和复杂度计算每一个计算图模型的适应度，然后进入步骤(11)；步骤(11)：判断计算图新模型是否满足步骤(1)中预设的进化结束条件，如满足，进入步骤(12)；如不满足，返回步骤(3b)；步骤(12)：进化计算结果汇总，根据模型复杂度和准确率进行综合评分，选择出最优模型。2.如权利要求1所述的基于计算图进化的AI模型自动生成的方法，其特征在于所述步骤(1)中用户预设的数据，包括了数据的统计分布、数据维度间相关系数和/或数据各维度和标签之间的统计相关性。3.如权利要求1所述的基于计算图进化的AI模型自动生成的方法，其特征在于所述步骤(1)中设置的模型设计平台生产参数包括了计算资源、作业运行时间、作业目标和/或遗传学算法参数。4.如权利要求3所述的基于计算图进化的AI模型自动生成的方法，其特征在于所述作业目标包含了计算图模型的适应度阀值：包括了被认为满足进化结束条件的适应度阀值，和被认为是无效用模型的适应度阀值。5.如权利要求1所述的基于计算图进化的AI模型自动生成的方法，其特征在于所述步骤(2)、(6)所述遗传算法算子包括了随机算子、交叉算子和/或变异算子。6.如权利要求5所述的基于计算图进化的AI模型自动生成的方法，其特征在于所述随2CN109784497A权利要求书2/2页机算子为随机选取神经元个数、随机选取神经元种类和/或随机决定神经元连接关系。7.如权利要求1所述的基于计算图进化的AI模型自动生成的方法，其特征在于所述步骤(3)、(10)中所述的复杂度指根据计算图的节点数量和边的数量来计算的复杂度。8.如权利要求1所述的基于计算图进化的AI模型自动生成的方法，其特征在于所述步骤(10)所述超参搜索中超参指的是AI里面神经网络的控制参数，包括了学习率、即参数和/或权值衰减参数。3CN109