基于多中心集群协同计算的大数据平台技术研究与应用

2024-05-27 电信科学250 0.58M 0

  摘要:中国电信面向横跨多个地域、拥有众多集群的大型政企机构,推出可以高效协同各类资源的广域大数据架构体系——云边智算大数据平台。该平台从集群维度对数据分区进行逻辑抽象,将独立分散的数据集整合为一个“虚拟数据集”,实现一对多的数据集映射管理。同时,该平台的计算负载数据集具有泛化特征,能够灵活应对不同场景下的数据处理需求。另外,该平台以关系表达式为中间表示,支持多种计算引擎和调度系统,能够在复杂的大型数据处理高容错场景中高效完成批处理任务负载。目前,云边智算大数据平台已在多种应用场景中落地,平台在5G Core能力调度子系统(5GC)多中心大数据作业开发、运营方面提效17%,且已实现8省前置大数据集群共计42PB存储、84TB内存、24 984 VCore计算资源的协同调度,日均完成80 308次前置-核心两级任务调度。

  文章目录

  0 引言

  1 国内外发展现状

  2 云边智算大数据平台

  2.1 平台架构

  2.2统一元数据模块

  2.3 任务优化引擎

  3 平台应用成效

  4 结束语



您还没有登录,请登录后查看详情



 

1/26专辑:论文下载

举报收藏 0打赏 0评论 0
相关文档
本类推荐
下载排行
网站首页  |  关于我们  |  联系方式  |  用户协议  |  隐私政策  |  版权声明  |  网站地图  |  排名推广  |  广告服务  |  积分换礼  |  网站留言  |  RSS订阅  |  违规举报  |  蜀ICP备2024057410号-1