生成机器学习模型的输入数据.pdf

(19)国家知识产权局(12)发明专利申请(10)申请公布号CN114970804A(43)申请公布日2022.08.30(21)申请号202210147929.1G06Q40/02(2012.01)(22)申请日2022.02.17G06Q40/04(2012.01)(30)优先权数据21157977.62021.02.18EP(71)申请人维萨国际服务协会地址美国加利福尼亚州(72)发明人吴朋奥拉温米·乔治陈庆国蔡一伟(74)专利代理机构北京康信知识产权代理有限责任公司11240专利代理师刘瑞贤(51)Int.Cl.G06N3/04(2006.01)G06N3/08(2006.01)G06Q10/04(2012.01)权利要求书2页说明书7页附图7页(54)发明名称生成机器学习模型的输入数据(57)摘要针对一组训练日期中的每一者，一种计算机实施方法包括：针对包括所述训练日期的日期序列中的每一者，接收表示预定的一组日期依赖性特征的值的输入数据阵列；接收对应于在所述训练日期对预定度量的评估的目标输出；以及执行更新例程，包括：使用神经网络的第一层来处理用于每一日期的所述输入数据阵列，使用所述神经网络的第二层来处理所得中间数据阵列以生成网络输出，以及在所述目标输出与所述网络输出之间的误差的负梯度的方向上更新所述神经网络的参数的值。然后，所述数据处理系统被布置成通过使用所述神经网络的所述第一层处理用于给定日期序列中的每一者的输入数据阵列来生成嵌入阵列。CN114970804ACN114970804A权利要求书1/2页1.一种计算机实施方法，训练数据处理系统以生成具有第一数目个维度且表示与给定日期相关联的信息的嵌入阵列，针对一组训练日期的每一训练日期，所述方法包括：针对包括所述训练日期的相应日期序列中的每一者，接收具有大于所述第一数目个维度的第二数目个维度且表示预定的一组日期依赖性特征的值的相应输入数据阵列；接收对应于在所述训练日期对预定度量的评估的目标输出值；以及执行更新例程，包括：使用神经网络的第一一个或多个层来处理用于所述相应日期序列中的每一日期的所述相应输入数据阵列以生成中间数据阵列，其中所述中间数据阵列具有所述第一数目个维度；使用所述神经网络的第二一个或多个层来处理所述中间数据阵列以生成网络输出值；确定所述网络输出值与所述目标输出值之间的误差；以及在所述网络输出值与所述目标输出值之间的所确定误差的负梯度的方向上更新所述神经网络的一组参数的值，由此当已针对所述一组训练日期的每一训练日期执行所述更新例程时，所述数据处理系统被布置成通过使用所述神经网络的所述第一一个或多个层处理用于包括所述给定日期的给定日期序列中的每一者的相应输入数据阵列来生成用于所述给定日期的所述嵌入阵列。2.根据权利要求1所述的方法，进一步包括通过使用所述神经网络的所述第一一个或多个层处理用于包括所述给定日期的所述给定日期序列中的每一者的所述相应输入数据阵列来生成用于所述给定日期的所述嵌入阵列。3.根据权利要求1或2所述的方法，其中针对所述一组训练日期的每一训练日期，所述训练日期是所述相应训练日期序列中的最后日期。4.根据前述权利要求中任一项所述的方法，其中深度神经网络的所述第一一个或多个层包括一个或多个递归神经网络层。5.根据权利要求4所述的方法，其中所述深度神经网络的所述第一一个或多个层包括至少一个长短期存储器单元。6.根据前述权利要求中任一项所述的方法，其中所述给定日期是所述一组训练日期的所述训练日期中的一者。7.根据前述日期中任一项所述的方法，其中针对所述一组训练日期的每一训练日期，所述目标输出值对应于在所述训练日期对财务度量的评估。8.一种方法，包括：使用根据权利要求2至6中任一项所述的方法生成用于给定日期的多个嵌入阵列，其中相应不同目标输出值对应于在所述训练日期对相应不同预定度量的评估；以及将用于所述给定日期的所述多个嵌入阵列组合为用于所述给定日期的被组合的嵌入阵列。9.一种方法，包括：使用根据权利要求2至8中任一项所述的方法生成用于相应不同日期的多个嵌入阵列。10.根据权利要求9所述的方法，进一步包括使用有监督学习来处理用于所述相应不同日期的所述多个嵌入阵列，以基于包括用于给定目标日期的嵌入阵列的输入而训练预测模2CN114970804A权利要求书2/2页型以预测在所述给定目标日期的日期依赖性变量的值。11.根据权利要求9所述的方法，进一步包括将用于所述相应不同日期的所述多个嵌入阵列通过网络传输到远程计算系统。12.根据权利要求11所述的方法，在所述远程系统处进一步包括：接收用于所述相应不同日期的所述多个嵌入阵列；以及接收对应于在对应于所述多个嵌入阵列的子集的过去日期对预测度量的评估的一组训练值；使用有监督学习来处理所述一组训练日期和所述多个嵌入