基于特征增强的推荐系统神经网络训练方法及装置.pdf

(19)中华人民共和国国家知识产权局(12)发明专利申请(10)申请公布号CN111414539A(43)申请公布日2020.07.14(21)申请号202010197501.9G06Q30/06(2012.01)(22)申请日2020.03.19G06N3/04(2006.01)G06N3/08(2006.01)(71)申请人清华大学地址100084北京市海淀区清华园1号申请人智者四海（北京）技术有限公司(72)发明人施韶韵张敏郝斌李大任张瑞于新星单厚智刘奕群马少平(74)专利代理机构北京林达刘知识产权代理事务所(普通合伙)11277代理人刘新宇(51)Int.Cl.G06F16/9535(2019.01)G06F16/435(2019.01)G06F16/335(2019.01)权利要求书3页说明书15页附图3页(54)发明名称基于特征增强的推荐系统神经网络训练方法及装置(57)摘要本公开涉及一种基于特征增强的推荐系统神经网络训练方法及装置，所述方法包括：将第一训练集中的多个第一样本，输入第t轮待训练的神经网络中进行处理，得到与多个第一样本对应的预测分值；根据多个第一样本的特征信息及与多个第一样本对应的预测分值，分别确定神经网络对各个属性的关注度；根据关注度阈值及神经网络对各个属性的关注度，分别确定各个属性的增强概率；根据第一增强率及增强概率，从多个第一样本的特征信息中，确定出待更新的特征信息；根据待更新的特征信息及噪声特征值，更新第一训练集中的第一样本，得到更新后的第二训练集；根据第二训练集，对神经网络进行第t轮训练。本公开的实施例可提高神经网络的鲁棒性。CN111414539ACN111414539A权利要求书1/3页1.一种基于特征增强的推荐系统神经网络训练方法，其特征在于，所述方法包括：将预设的第一训练集中的多个第一样本，输入第t轮待训练的神经网络中进行处理，得到与所述多个第一样本对应的预测分值，t为正整数，所述第一样本包括表示用户属性的特征信息及表示待推荐对象的对象属性的特征信息；根据所述多个第一样本的特征信息及与所述多个第一样本对应的预测分值，分别确定所述神经网络对各个属性的关注度；根据预设的关注度阈值及所述神经网络对各个属性的关注度，分别确定所述各个属性的增强概率；根据预设的所述多个第一样本的特征信息的第一增强率及所述各个属性的增强概率，从所述多个第一样本的特征信息中，确定出待更新的特征信息；根据所述待更新的特征信息及预设的噪声特征值，更新所述第一训练集中的第一样本，得到更新后的第二训练集；根据所述第二训练集，对所述神经网络进行第t轮训练，其中，所述神经网络应用于推荐系统，用于预测用户对所述推荐系统中的待推荐对象的评分。2.根据权利要求1所述的方法，其特征在于，根据所述多个第一样本的特征信息及与所述多个第一样本对应的预测分值，分别确定所述神经网络对各个属性的关注度，包括：对于第一训练集中的任一第一样本，根据所述第一样本的特征信息及与所述第一样本对应的预测分值，分别确定所述第一样本的各个特征信息对所述预测分值的第一贡献值；对于多个属性中的任一属性，从各个第一样本的各个特征信息的第一贡献值中，确定出与所述属性对应的特征信息的第二贡献值；将所述第二贡献值的平均值，确定为所述神经网络对所述属性的关注度。3.根据权利要求1所述的方法，其特征在于，根据预设的所述多个第一样本的特征信息的第一增强率及所述各个属性的增强概率，从所述多个第一样本的特征信息中，确定出待更新的特征信息，包括：根据预设的所述多个第一样本的特征信息的第一增强率，确定所述多个第一样本的特征信息的增强数量；从所述第一训练集的多个第一样本中，随机选取多个第二样本，所述第二样本的数量与所述增强数量相同；对于任一第二样本，根据所述各个属性的增强概率，从多个属性中，随机选取一个属性，并将所述第二样本中与随机选取的属性对应的特征信息，确定为待更新的特征信息。4.根据权利要求1所述的方法，其特征在于，所述方法还包括：根据预设的初始增强率、预设的最大增强率及预设的每轮增强率变化值，确定第t轮训练时所述多个第一样本的特征信息的第二增强率；根据所述最大增强率及所述第二增强率，确定第t轮训练时所述多个第一样本的特征信息的第一增强率。5.根据权利要求1所述的方法，其特征在于，根据预设的关注度阈值及所述神经网络对各个属性的关注度，分别确定所述各个属性的增强概率，包括：对于任一属性，在所述神经网络对所述属性的关注度小于预设的关注度阈值的情况2CN111414539A权利要求书2/3页下，将所述关注度确定为所述属性的增强概率。6.根据权利要求5所述的方法，其特征在于，根据预设的关注度阈值及所述神经网络对各个属性的关注度，分别确定所述各个属性的增强概率，还包括：对于任一属性，在所述神经