数据处理方法、装置及分布式系统.pdf
是你****晨呀
亲,该文档总共18页,到这已经超出免费预览范围,如果喜欢就直接下载吧~
相关资料
数据处理方法、装置及分布式系统.pdf
本申请提供一种数据处理方法、装置及分布式系统,涉及数据通信技术领域。该方法通过接收主控单元发送的用于获得待访问数据的访问请求信息,其中,访问请求信息包括与待访问数据的目标索引地址对应的目标访问地址及待访问数据的标识信息;从访问请求信息中提取出目标访问地址、标识信息,并确定出目标访问地址对应的目标索引地址;根据目标索引地址及标识信息,从数据集中确定出待访问数据,并将待访问数据发送至主控单元,能够改善现有技术中需要读取所有数据并将其上传而导致内存消耗大的技术问题,有助于提高分布式系统数据访问的效率。
分布式数据处理方法、装置、系统及电子设备.pdf
本申请提供了一种分布式数据处理方法、装置、系统及电子设备,涉及信息处理技术领域。包括:主控节点获取待处理的非结构化数据的相关信息,将非结构化数据的相关信息划分为各分片数据,发送给至少一个读写节点,每个读写节点将接收到的每个分片数据划分为至少两个子分片数据,并发送给至少一个工作节点,每个工作节点对接收到的每个子分片数据进行相应的处理。本申请通过设置不同处理任务的主控节点、读写节点、工作节点,实现了对非结构化数据的相关信息的分布式处理;将非结构化数据的相关信息分配到不同节点进行并行处理,或者将非结构化数据的相
分布式存储系统及其数据处理方法、相关装置.pdf
本申请涉及分布式存储技术领域,公开了分布式存储系统及其数据处理方法、相关装置。分布式存储系统包括主节点设备、至少一个从节点设备和至少一个学习节点设备,主节点设备、从节点设备和学习节点设备用于与至少一个控制设备交互,方法应用于学习节点设备,方法包括:在学习节点设备创建时,接收至少一控制设备中目标控制设备发送的第一读请求;将第一读请求发送至主节点设备;接收主节点设备发送的对应第一读请求的目标数据;将目标数据进行存储,以及将目标数据发送至目标控制设备。通过上述方式,能够更快地承接读请求的流量,以缓解主节点设备和
分布式数据处理方法及装置.pdf
本说明书实施例提供了分布式数据处理方法及装置,其中,一种分布式数据处理方法包括:从系统日志中提取各处理请求的处理时长;对所述处理时长进行排序,并将排序后的处理时长组装为至少一个数据集;通过分布式计算接口针对所述至少一个数据集执行包含数据统计的数据操作,获得所述数据操作的数据结构体。
分布式数据处理方法、装置及设备.pdf
本说明书实施例提供了一种分布式数据处理方法、装置及设备,其中方法包括:确定目标图数据中当前参与数据处理的活跃顶点集合,若第一分布式节点的外存中保存有活跃顶点集合中的任意活跃顶点,则确定预设的多个数据处理模式中与活跃顶点集合相匹配的目标数据处理模式;根据目标数据处理模式,确定与任意活跃顶点具有关联关系的待更新顶点;根据第一分布式节点的外存中的该任意活跃顶点的第一数据,向待更新顶点所在的目标分布式节点发送第一更新消息,以使目标分布式节点根据第一更新消息对其外存中的待更新顶点的第二数据进行更新处理。