基于差分隐私保护的内容风险小程序识别方法及装置.pdf

(19)中华人民共和国国家知识产权局(12)发明专利申请(10)申请公布号CN112084493A(43)申请公布日2020.12.15(21)申请号202010988095.8(22)申请日2020.09.18(71)申请人支付宝（杭州）信息技术有限公司地址310000浙江省杭州市西湖区西溪路556号8层B段801-11(72)发明人侯辉超(74)专利代理机构北京亿腾知识产权代理事务所(普通合伙)11309代理人陈霁周良玉(51)Int.Cl.G06F21/54(2013.01)权利要求书4页说明书17页附图3页(54)发明名称基于差分隐私保护的内容风险小程序识别方法及装置(57)摘要本说明书实施例提供了基于差分隐私保护的内容风险小程序识别方法及装置，该方法的一具体实施方式包括：响应于监控到用户通过服务平台承载的小程序执行的目标操作，获取操作源是否属于风险操作源的判定结果，其中，操作源包括用户与其使用设备的组合，判定结果利用风险识别策略组而确定；响应于判定操作源属于风险操作源，利用满足本地化差分隐私保护的随机响应技术，对该小程序的程序标识进行扰动，得到扰动程序标识；将操作源的操作源标识和扰动程序标识发送至服务平台的服务端，以使服务端利用随机响应技术，根据已接收的多个扰动程序标识，识别该小程序是否为内容风险小程序。CN112084493ACN112084493A权利要求书1/4页1.一种基于差分隐私保护的内容风险小程序识别方法，应用于服务平台的客户端，包括：响应于监控到用户通过所述服务平台承载的小程序执行的目标操作，获取操作源是否属于风险操作源的判定结果，其中，所述操作源包括所述用户与其使用设备的组合，所述判定结果利用风险识别策略组而确定；响应于判定所述操作源属于风险操作源，利用满足本地化差分隐私保护的随机响应技术，对所述小程序的程序标识进行扰动，得到扰动程序标识；将所述操作源的操作源标识和所述扰动程序标识发送至所述服务平台的服务端，以使所述服务端利用所述随机响应技术，根据已接收的多个扰动程序标识，识别所述小程序是否为内容风险小程序。2.根据权利要求1所述的方法，其中，在所述响应于监控到用户通过所述服务平台承载的小程序执行的目标操作之前，所述方法还包括：从所述服务端接收所述风险识别策略组。3.根据权利要求1所述的方法，其中，所述获取操作源是否属于风险操作源的判定结果，包括：判断所述操作源是否具有风险标记，所述风险标记是预先根据所述风险识别策略组针对风险操作源而添加的标记；若具有风险标记，则判定所述操作源属于风险操作源。4.根据权利要求1所述的方法，其中，所述获取操作源是否属于风险操作源的判定结果，包括：利用所述风险识别策略组，确定所述操作源是否属于风险操作源。5.根据权利要求4所述的方法，其中，在所述响应于判定所述操作源属于风险操作源之后，所述方法还包括：为所述操作源添加风险标记。6.根据权利要求1所述的方法，其中，所述目标操作包括以下至少一项：信息发布操作、信息访问操作。7.根据权利要求1所述的方法，其中，所述操作源标识包括账户标识和设备标识；以及所述风险识别策略组包括以下至少一种策略：内容风险识别策略、设备风险识别策略、名单策略，所述名单策略包括账户名单和/或设备名单；其中，所述内容风险识别策略，用于以下至少一项的风险识别：所述目标操作在所述小程序中涉及的信息内容、所述操作源标识对应的历史发布数据和/或历史访问数据；所述设备风险识别策略，用于所述设备标识对应的设备的风险识别；所述名单策略，用于所述设备标识对应的设备和/或所述账户标识对应的账户的风险识别。8.根据权利要求4所述的方法，其中，所述利用所述风险识别策略组，确定所述操作源是否属于风险操作源，包括：利用所述风险识别策略组，确定所述操作源对应的目标风险值；若所述目标风险值超出风险阈值，则确定所述操作源属于风险操作源；若所述目标风险值未超出风险阈值，则确定所述操作源不属于风险操作源。2CN112084493A权利要求书2/4页9.根据权利要求8所述的方法，其中，所述利用所述风险识别策略组，确定所述操作源对应的目标风险值，包括：若所述风险识别策略组包括单个风险识别策略，则利用所述单个风险识别策略，确定所述目标风险值；若所述风险识别策略组包括多个风险识别策略，则利用所述多个风险识别策略，针对所述操作源确定多个风险值，并根据所述多个风险值确定所述目标风险值。10.根据权利要求9所述的方法，其中，所述根据所述多个风险值确定所述目标风险值，包括：将所述多个风险值的平均值或总和，确定为所述目标风险值。11.根据权利要求9所述的方法，其中，所述风险识别策略组中的各个策略分别设置有权重；以及所述根据所述多个风险值确定所述目标风险值，包括：根据所述多个风险识别策略的权重，对所述多个风险值