专家称:Linux 内核微调可减少数据中心 30% 能耗

3个月前 科技 23观看
摘要 硬件性能在不断提升,但定期回顾和检查代码仍然很有价值。有时你可能会发现一个小小的调整就能带来意想不到的效率提升或性能改进。滑铁卢大学 Cheriton 计算机科学学院的研究人员就实现了这样

硬件性能在不断提升,但定期回顾和检查代码仍然很有价值。有时你可能会发现一个小小的调整就能带来意想不到的效率提升或性能改进。6Cb喜好网-记录每日喜好的科技时尚娱乐生活

滑铁卢大学 Cheriton 计算机科学学院的研究人员就实现了这样的突破。他们仅用约 30 行代码对 Linux 内核的网络协议栈进行修改,就可能使数据中心能耗降低高达 30%。6Cb喜好网-记录每日喜好的科技时尚娱乐生活

这些改动已作为 Linux 6.13 内核版本的一部分发布。6Cb喜好网-记录每日喜好的科技时尚娱乐生活

该项目源于研究人员试图解释为什么用户态网络方案相比内核态方案能获得如此显著的性能提升。Martin Karsten 教授在接受采访时表示。6Cb喜好网-记录每日喜好的科技时尚娱乐生活

传统上,Linux 网络是由中断驱动的。当新数据通过网络到达时,会触发系统中断,CPU 核心会暂停当前任务来处理数据包。这种方式适合多用户同时运行任务的环境。6Cb喜好网-记录每日喜好的科技时尚娱乐生活

"在传统系统中,操作系统是多用户活动的协调者,"Karsten 说。"在服务器上,很多用户同时登录执行各种小任务,操作系统需要持续关注每个用户并确保公平性。"6Cb喜好网-记录每日喜好的科技时尚娱乐生活

如今情况已大不相同。许多现代吞吐量导向的工作负载(如反向代理或缓存)可能消耗相当于多个传统系统的资源。对于这类应用,Karsten 表示,让应用在准备好处理更多工作时主动轮询网络可能更有效率。6Cb喜好网-记录每日喜好的科技时尚娱乐生活

通过减少中断请求 (IRQ),主机 CPU 可以将更多时间用于数据处理,而不是等待尚未准备好的数据包。6Cb喜好网-记录每日喜好的科技时尚娱乐生活

这在用户空间已经实现,但需要一些工作。Karsten 补充说,你需要知道你的应用是否会从这种方法中受益,然后去实现它。6Cb喜好网-记录每日喜好的科技时尚娱乐生活

持续轮询网络也会带来额外开销。"当流量较低时,你仍在消耗 CPU 核心资源,这对能耗来说极其低效,"他补充道。6Cb喜好网-记录每日喜好的科技时尚娱乐生活

基于这些认识,研究团队寻找一种兼顾两者的方法。他们开发了一个引入自适应轮询的内核补丁。在高流量期间,主机可以在处理完上一批数据后立即轮询网络获取新数据。当流量降低且没有新数据需要处理时,系统可以回到中断驱动模式,从而节省能源。更重要的是,由于这些都在内核中处理,所以基本上是自动的。6Cb喜好网-记录每日喜好的科技时尚娱乐生活

研究人员在 2023 年发表的论文中首次展示了这项功能的基础实现。此时,Karsten 意识到这项工作的影响可能超出研究论文的范畴,于是开始与 Linux 内核开发者和 Fastly 首席技术官 Joe Damato 合作,将这个功能整合到内核中。6Cb喜好网-记录每日喜好的科技时尚娱乐生活

据 Karsten 称,这个补丁带来的性能提升可能相当显著。早期测试显示,它可以在不影响尾部延迟的情况下将吞吐量提高多达 45%。同时,在相同负载下,通过减少之前在中断处理网络开销上浪费的资源,可以减少高达 30% 的能耗。6Cb喜好网-记录每日喜好的科技时尚娱乐生活

当然,这是最理想的情况。并非所有应用都能看到这样的性能提升。Karsten 表示,吞吐量密集型应用应该能获得最大收益。"有些应用如 Memcached 除了网络通信外几乎不做其他事情。"6Cb喜好网-记录每日喜好的科技时尚娱乐生活

即使平均节省效果较低,考虑到所有运行 Linux 的设备,这仍是相当可观的能源节省。6Cb喜好网-记录每日喜好的科技时尚娱乐生活

不过这些节省不会立即实现,因为要等到包含这些修改的内核版本进入企业客户青睐的长期支持 (LTS) 版本可能需要一段时间。6Cb喜好网-记录每日喜好的科技时尚娱乐生活

遗憾的是,即使内核在数据中心得到广泛应用,它可能对 AI 集群帮助不大。这是因为在 AI 和高性能计算应用中,远程直接内存访问 (RDMA) 技术一直是首选。6Cb喜好网-记录每日喜好的科技时尚娱乐生活

NVIDIA 网络部门高级副总裁 Gilad Shainer 表示:"这种方法消除了网络数据处理中对 CPU 周期的需求,是高性能互连技术的基础。"6Cb喜好网-记录每日喜好的科技时尚娱乐生活

尽管如此,对 Karsten 来说,这个补丁凸显了重新审视软件栈的重要性,不仅是内核或应用层面,还包括中间件、库和其他所有组件。"我认为有很多效率低下的问题我们可以消除,而且时机即将到来,"他说。6Cb喜好网-记录每日喜好的科技时尚娱乐生活

"过去没人在这上面花钱,因为明年硬件速度会翻倍,何必担心?"他补充道。"但如果这种情况停止了,我们最好好好看看软件。"6Cb喜好网-记录每日喜好的科技时尚娱乐生活

这正是 Karsten 计划未来研究的重点方向。6Cb喜好网-记录每日喜好的科技时尚娱乐生活

展开全文
猜你感兴趣
五环外接不住马拉松“泼天富贵”

五环外接不住马拉松“泼天富贵”

11月10日,这个寻常的周末,全国有十

11-19 68阅读
土耳其对亚马逊旗下Twitch处以200万里拉罚款,因数据泄露事件

土耳其对亚马逊旗下Twitch处以20

11月1

11-19 68阅读
撑起“北方第二城”,凭什么是它?

撑起“北方第二城”,凭什么是它?

全国

11-19 70阅读
一家城配自动驾驶服务商,融了7个亿丨投融周报

一家城配自动驾驶服务商,融了7个

大家

11-19 66阅读
大模型的效率腾飞,彩云科技做对了什么?

大模型的效率腾飞,彩云科技做对了

对于绝大多数AI创业者来说,AGI的

11-19 65阅读
被审判的麦琳和妖魔化的小红书

被审判的麦琳和妖魔化的小

作者 / 张   特编辑 / 朱   婷运

11-19 68阅读
9年前,那个娶了泰国“最尤物妖”的北京夫君,如今后悔了吗

9年前,那个娶了泰国“最尤

11-19 72阅读
长安十二时辰龙波是好是坏 龙波扮演者是谁资料作品介绍(长安十二时辰龙波是好是坏)

长安十二时辰龙波是好是坏

《长安十二时辰》这部剧正在热播,在

11-19 65阅读
戈壁和江百丽结局,男方不爱女方,女生到最后一无所有

戈壁和江百丽结局,男方不爱

《暗恋橘生淮南》中江百丽和戈壁

11-19 156阅读
要回归了?李奈映透露丈夫元斌正在选剧本 有望复出拍戏

要回归了?李奈映透露丈夫元

47岁韩国男星元斌,凭着帅气

11-19 63阅读
烟雨江湖千机遗迹怎么开启?烟雨江湖千机遗迹攻略流程

烟雨江湖千机遗迹怎么开启

《烟雨江湖》是一款开放世界武侠冒险手

11-19 152阅读
海龟汤恐怖题目和答案全套汇总推荐(2024)

海龟汤恐怖题目和答案全套

《海龟汤》是年轻人之间最新的热门社交

11-19 411阅读
金庸群侠传3加强版古墓路线全流程详细攻略

金庸群侠传3加强版古墓路

金庸群侠传3游戏里面玩家可以自由选择

11-19 121阅读
卧龙苍天陨落在哪强化装备?卧龙苍天陨落强化装备位置介绍

卧龙苍天陨落在哪强化装备

卧龙苍天陨落在哪强化装备?卧龙苍天陨落

11-19 63阅读
《荒野大镖客:救赎》PC版显卡性能实测:缺乏诚意的移植!帧生成效果开倒车

《荒野大镖客:救赎》PC版显

11-19 68阅读