语义特征提取模型的训练方法、装置、设备及存储介质.pdf
书生****aa
亲,该文档总共28页,到这已经超出免费预览范围,如果喜欢就直接下载吧~
相关资料
语义特征提取模型的训练方法、装置、设备及存储介质.pdf
本申请公开了一种语义特征提取模型的训练方法、装置、设备及存储介质,涉及人工智能技术领域。所述方法包括:获取语义特征提取模型的训练语料,训练语料包括目标语言的字词文本语料及其发音标注信息;获取字词文本语料的字词表示向量序列及其发音标注信息的发音表示向量序列;通过语义特征提取模型,从字词表示向量序列和发音表示向量序列中,提取融合语义特征;基于融合语义特征,确定语义特征提取模型的预训练任务所对应的预测结果;基于预测结果和真实结果确定语义特征提取模型的预训练损失,并根据预训练损失调整语义特征提取模型的参数,得到预
语义分类模型的训练方法、装置、设备及存储介质.pdf
本申请涉及数据处理技术领域,揭示了一种语义分类模型的训练方法、装置、设备及存储介质,其中方法包括:将训练样本输入第一分类训练模型中,得到第一语义分类结果,并通过损失函数计算第一语义分类结果的第一损失值;将扰动元素项与稀疏矩阵进行叠加,得到扰动矩阵;将不同的扰动矩阵添加至第一分类训练模型的词嵌入向量中,得到若干个第二分类训练模型;采用每一个第二分类训练模型分别对训练样本进行语义分类,得到若干组不同的第二语义分类结果,通过损失函数计算每一组第二语义分类结果的第二损失值,并根据第二损失值在第二分类训练模型中选取
语义表示模型的训练方法、装置、设备和存储介质.pdf
本公开提供了一种语义表示模型的训练方法、装置、设备和存储介质,计算机技术领域,具体涉及自然语言处理、深度学习等技术领域。语义表示模型的训练方法包括:获取当前轮对应的当前步数;基于所述当前步数,确定语义表示模型采用的超参数的当前值;在所述当前轮中,基于所述超参数的所述当前值,训练所述语义表示模型。本公开可以提高语义表示模型的训练速度,节省计算资源。
模型训练方法、装置、设备及存储介质.pdf
本申请实施例提供一种模型训练方法、装置、设备及存储介质,通过获取样本数据集;基于所述样本数据集对模型进行多轮训练,在训练过程中,采用前一轮训练中得到的困难样本进行下一轮的训练,直至所述模型基于所述样本数据集中的所有样本均能输出正确结果为止,得到目标模型,其中,所述困难样本是指在训练过程中预先标定结果与模型输出结果不一致的样本。本申请实施例能够提升模型训练的效率和模型的准确性。
模型训练方法、装置、设备及存储介质.pdf
本公开实施例公开了一种模型训练方法、装置、设备及存储介质,其中,所述方法包括:损失函数缩放器创建接口基于缩放器构造参数,创建损失函数缩放器;在对深度学习模型进行的每一轮次混合精度训练的前向传播过程中,损失函数缩放器缩放接口基于所述损失函数缩放器,对所述深度学习模型在当前轮次混合精度训练中输出的损失值进行放大处理,得到放大后的所述损失值;在每一所述轮次混合精度训练的反向传播过程中,损失函数优化器迭代接口利用设定的优化器和所述损失函数缩放器,基于放大后的所述损失值,对所述深度学习模型中的网络参数进行更新,得到