【环球新视野】冯丹教授:近数据处理新型盘框等技术创新,加速数据中心向Diskless架构演进

来源:5G通信网时间:2023-04-20 11:11:12


【资料图】

飞象网讯日前,在中国深圳举办的第20届华为全球分析师大会,长江学者特聘教授、华中科技大学计算机科学与技术学院院长冯丹对数据中心Diskless架构及近数据处理发展趋势做出了权威解读,为传统云存储、大数据等计算域和存储域不完全分离造成的资源浪费,提出了一个新的技术解决方向,帮助云和互联网数据中心降本增效,实现数据中心高质量演进。

冯丹教授提到,传统存算融合架构下,企业通常采用应用与本地盘耦合的服务器一体化架构,存在存力效率低、无效数据迁移、资源浪费等典型问题:

1.计算域和存储域未彻底分离,仍各自存在独立的本地存储,往往按照最大容量预设配置,存力利用率低;

2.采用通用算力进行数据处理,IO效率低,存储域仍以CPU为中心,存取性能无法充分发挥;

3.数据从盘到计算域CPU,需要8次以上数据搬迁,无效搬迁带来了网络和算力资源的浪费;

4.在存算融合的上千节点大规模集群中,算力、容量空间配比无法均衡,扩容时需要额外迁移数据,不仅带来现有业务风险,还会浪费投资;

5.数据爆发增长,面向结构化数据的数据缩减策略不完全适用于非结构化场景。

随着算力多样化、高性能网络和存储介质的发展,数据中心架构从以CPU中心朝着以数据为中心的Diskless架构演进。Diskless架构下,单一CPU算力发展到GPU、DPU、XPU等多样算力,算力效率得以充分发挥;网络从IP、NOF发展到高通量的CXL,为算力和存力等硬件解耦奠定了基础;存力也从传统HDD到SSD,性能、功耗实现全面提升。在Intel、华为、KIOXIA、阿里云等业界芯片、存储、云和互联网厂商的积极推进下,Diskless架构借助专用DPU/IPU等数据处理芯片和OceanDisk等专用存储模块,进一步提升数据处理和存储的效能,充分调动数据中心资源。

冯丹教授表示,资源池化共享的Diskless架构应具备以下关键技术:

1.网存协同,DPU硬件卸载加速,数据高效协同处理。通过DPU等专有数据处理模块,使服务器CPU全为应用服务,基础设施与应用任务解耦,将VirtIO、NVMe-oF等CPU计算效率低任务转移到DPU的专用加速器执行,实现资源弹性扩展。

2.数控分离+IO直通,实现控制流与IO流分离,IO直通到存储介质,进一步提升存储效率。通过数控分离,可达到极致IO访问时延,通过存储域IO读写数据流与IO控制处理的分离,使得读写IO直通到存储介质中,减少IO处理路径,降低处理复杂度,极大提升存储域访问性能。计算域则可以借助DPU bypass CPU,减少数据拷贝开销,提升IO访问性能。

3.盘控协同,盘芯片与控制器芯片配合,提升集成度,达到最佳成本和能耗。盘控协同技术的关键是要实现高性能、低成本的大盘,通过硬件对盘控系统内的算法进行加速,比如利用FPGA实现FTL/DIF/在线压缩/加密/EC/GC等硬化,提升性能;盘内和框内的各类驱动和缓存层合一,实现盘框一体,构建极致成本和能耗的大盘存储。

4.算子卸载,EC、数据缩减等算法通过硬件卸载到存储端,实现近数据处理。通过计算语义的卸载,存储直出语义接口,主机侧软件栈打薄,减少80%的IO交互次数,实现对整系统的CPU和网络带宽节省。同时,在大数据/数据仓库场景,可以利用引擎的下推接口,下推谓词和投影等运算操作到存储资源池,减少无效数据的搬移。

冯丹教授表示:“从技术趋势来看,高性能异构算力、高速网络、大存力新型盘框、算子卸载等技术的发展,带来了数据中心架构的变革,加速了以CPU为中心的耦合架构走向彻底存算分离、资源池化共享的以数据为中心的Diskless架构,这种架构进一步简化了数据中心基础设施构建,能够实现存力和算力资源的集约高效发展,已经成为大规模数据中心发展的重要技术趋势。”

华为去年发布的OceanDisk智能盘框产品,是一个标准的大存力新型盘框产品。OceanDisk通过NoF+高速网络连接Diskless服务器,实现计算和存储独立弹性扩展,帮助客户提高资源利用率,机柜空间和设备功耗分别降低40%;内置FlashLink®智能盘框协同算法等软硬结合技术,带来最大250万IOPS,50GB/s带宽的高性能;依托华为多年存储研发实力,OceanDisk智能盘框提供硬盘亚健康管理、智能慢盘优化等技术,保持大规模数据中心10万级硬盘的性能稳定,大幅降低运维难度。OceanDisk作为业界首个面向Diskless架构的新型盘框,将以高性能、高可靠、绿色集约重新定义下一代云和互联网数据中心存储架构。

关键词:

相关阅读

推荐阅读

【环球新视野】冯丹教授:近数据处理新型盘框等技术创新,加速数据中心向Diskless架构演进

【环球新视野】冯丹教授:近数据处理新型盘框等技

飞象网讯日前,在中国深圳举办的第20届华为全球分析师大会,长江学者特聘教授、华中科技大学计算机科学与技术学院院长冯丹对数据中心Diskless更多

2023-04-20 11:11:12
【天天速看料】深挖潜解决大问题 长春电信提升网络效能护航客户服务

【天天速看料】深挖潜解决大问题 长春电信提升网

万物逢春的时节,中国电信吉林公司开展的“全员服务在行动”再开新花:今年第一季度,在省会长春,先后有133个区域的电信手机上网速度变快了,更多

2023-04-20 10:16:46
全球通讯!中国移动智能企业网关集采:5标包中移动终端中3,中兴瑞斯康达中2

全球通讯!中国移动智能企业网关集采:5标包中移

从中国移动官网获悉,中国移动日前公示了2023年至2024年智能企业网关产品公开采购部分的集采结果,固定库部分由中移动终端集团、中兴、瑞斯康更多

2023-04-20 10:15:06
小米 POCO F5 Pro 手机现身 Geekbench:搭载骁龙 8+ Gen1 移动平台

小米 POCO F5 Pro 手机现身 Geekbench:搭载

据gizchina报道,小米旗下一款型号为“23013PC75G”的手机出现在了Geekbench认证页面上,预计为POCOF5Pro。Geekb更多

2023-04-20 09:11:44
【热闻】5G的下半场,基站正在变得越来越聪明

【热闻】5G的下半场,基站正在变得越来越聪明

飞象网讯(魏德龄 文)众所周知,我国5G基站建设已经达到了一个足以令人骄傲的量级,基站数量占全球基站数量的60%。根据工信部发布的2023年1―更多

2023-04-20 08:18:01
当前简讯:国家发改委:正在起草关于扩大消费的文件 稳定汽车消费提升居民收入

当前简讯:国家发改委:正在起草关于扩大消费的文

4月19日,国家发展改革委举行4月例行新闻发布会。一季度GDP增长4 5%,超出市场预期。其中,3月份消费和出口大幅回升,3月房地产销售进一步回暖更多

2023-04-20 08:18:15
大模型商业化开荒 微软走到哪里了

大模型商业化开荒 微软走到哪里了

4月17日,微软以AzureOpenAI国际版服务所提供的GPT-3、GPT-4、Codex、DALL-E和企业级ChatGPT服务为基础,针对零售电商、制造更多

2023-04-20 08:02:02
今日热门!小米13 Ultra售价5999元起 雷军称让移动影像回归“光学味”

今日热门!小米13 Ultra售价5999元起 雷军称让移

小米本周正式发布全新的人文影像专业旗舰手机小米13Ultra,搭载徕卡Summicron镜头,配备全焦段徕卡光学四摄、一英寸可变光圈、2K专业超色准屏更多

2023-04-19 22:02:33
+ 点击查看更多精彩
字节跳动计划投资“大量资金”开发VR领域
    据 Protocol 报道,字节跳动正在认真考虑进入虚拟现实(VR)领域...
任天堂Switch曝光:合作伙伴招聘新游戏机开发工程师
    据外媒报道称,任天堂即将推新一代Switch,其中一个最有力的证据...
途牛发布纳斯达克股价不合规通知函
    4月18日,在途牛收到纳斯达克股价不合规通知函后,途牛方面发布声...
一加新机现身:搭载天玑8100处理器,主打快充和游戏
    今天,一款型号显示为PGKM10的一加新机现身GeekBench,这款新机搭...
紫光国微:预计2022年第一季度净利润同比增长69.9%
    紫光国微发布公告称,预计2022年第一季度归属于上市公司股东的净...
斯坦福大学建造小型太阳能电池板原型
    日前,斯坦福大学的研究人员已经建造了一个小型太阳能电池板原型...
    资讯播报