AI基础设施新现实:让计算靠近数据而非数据靠近计算

1个月前 科技 11观看
摘要 随着人工智能在各行各业的企业运营中发挥着变革性作用,数据存储方面的关键挑战不断涌现——无论模型多么先进,其性能都取决于快速、安全、可靠地访问海量数据的能力。如果没有合适的

随着人工智能在各行各业的企业运营中发挥着变革性作用,数据存储方面的关键挑战不断涌现——无论模型多么先进,其性能都取决于快速、安全、可靠地访问海量数据的能力。如果没有合适的数据存储基础设施,即使是最强大的AI系统也可能因缓慢、分散或低效的数据管道而陷入困境。p7F喜好网-记录每日喜好的科技时尚娱乐生活

这一话题成为VB Transform大会第一天的焦点,会议聚焦于由PEAK:AIO和Solidigm引领的医学影像AI创新。他们与医学AI开放网络(MONAI)项目——一个用于开发和部署医学影像AI的开源框架——携手合作,正在重新定义数据基础设施如何支持医院中的实时推理和训练,从增强诊断到推动先进研究和操作用例。p7F喜好网-记录每日喜好的科技时尚娱乐生活

在临床AI边缘的存储创新p7F喜好网-记录每日喜好的科技时尚娱乐生活

在微软风投基金M12管理合伙人Michael Stewart的主持下,会议汇集了PEAK:AIO首席执行官Roger Cummings和Solidigm产品与市场总监Greg Matson的深刻见解。对话探讨了下一代高容量存储架构如何通过提供处理临床环境中海量数据集所需的速度、安全性和可扩展性,为医学AI开辟新的道路。p7F喜好网-记录每日喜好的科技时尚娱乐生活

至关重要的是,两家公司从早期就深度参与了MONAI项目。MONAI与伦敦国王学院等机构合作开发,专门用于开发和部署医学影像AI模型。这个开源框架的工具集专为医疗保健的独特需求量身定制,包括用于DICOM支持、3D图像处理和模型预训练的库和工具,使研究人员和临床医生能够构建用于肿瘤分割和器官分类等任务的高性能模型。p7F喜好网-记录每日喜好的科技时尚娱乐生活

MONAI的一个关键设计目标是支持本地部署,允许医院在利用标准GPU服务器进行训练和推理的同时,保持对敏感患者数据的完全控制。这将框架的性能与其底层数据基础设施紧密联系,需要快速、可扩展的存储系统来充分支持实时临床AI的需求。这正是Solidigm和PEAK:AIO发挥作用的地方:Solidigm提供高密度闪存存储,而PEAK:AIO专门为AI工作负载定制存储系统。p7F喜好网-记录每日喜好的科技时尚娱乐生活

Cummings解释道:"我们很幸运能够早期与伦敦国王学院和Sebastien Orslund教授合作开发MONAI。通过与Orslund的合作,我们开发了底层基础设施,使生命科学领域的研究人员、医生和生物学家能够在这个框架基础上快速构建。"p7F喜好网-记录每日喜好的科技时尚娱乐生活

满足医疗AI的双重存储需求p7F喜好网-记录每日喜好的科技时尚娱乐生活

Matson指出,他看到存储硬件出现了明显的分化,不同的解决方案针对AI数据管道的特定阶段进行了优化。对于MONAI等用例、类似的边缘AI部署以及涉及训练集群供给的场景,超高容量固态存储发挥着关键作用,因为这些环境通常受到空间和功耗限制,但仍需要本地访问海量数据集。p7F喜好网-记录每日喜好的科技时尚娱乐生活

例如,MONAI能够在医院现有IT基础设施的单个节点上存储超过200万次全身CT扫描。Matson说:"非常受限的空间、功耗和超高容量存储实现了相当令人瞩目的结果。"这种效率对医疗保健边缘AI来说是游戏规则的改变者,使机构能够在本地运行先进的AI模型,而不会影响性能、可扩展性或数据安全性。p7F喜好网-记录每日喜好的科技时尚娱乐生活

相比之下,涉及实时推理和主动模型训练的工作负载对系统提出了截然不同的要求。这些任务需要能够提供极高每秒输入/输出操作数(IOPS)的存储解决方案,以跟上高带宽内存(HBM)所需的数据吞吐量,并确保GPU得到充分利用。PEAK:AIO的软件定义存储层与Solidigm的高性能固态硬盘(SSD)相结合,解决了这一范围的两端需求——在整个AI管道中提供所需的容量、效率和速度。p7F喜好网-记录每日喜好的科技时尚娱乐生活

边缘临床AI工作负载的软件定义层p7F喜好网-记录每日喜好的科技时尚娱乐生活

Cummings解释说,PEAK:AIO的软件定义AI存储技术与Solidigm的高性能SSD配对时,使MONAI能够以临床AI所需的速度读取、写入和存档海量数据集。这种组合加速了模型训练并提高了医学影像的准确性,同时在为医疗保健环境量身定制的开源框架内运行。p7F喜好网-记录每日喜好的科技时尚娱乐生活

Cummings说:"我们提供了一个可以部署在任何商用服务器上的软件定义层,将其转换为AI或HPC工作负载的高性能系统。在边缘环境中,我们采用相同的能力并将其缩放到单个节点,使推理更接近数据所在的位置。"p7F喜好网-记录每日喜好的科技时尚娱乐生活

一个关键能力是PEAK:AIO如何通过将内存更直接地集成到AI基础设施中来帮助消除传统的内存瓶颈。Cummings说:"我们将内存视为基础设施本身的一部分——这一点经常被忽视。我们的解决方案不仅扩展存储,还扩展内存工作空间和与之相关的元数据。"这对于那些无法承受——无论是在空间还是成本方面——重复运行大型模型的客户来说意义重大。通过保持内存驻留令牌的活跃和可访问性,PEAK:AIO实现了高效的本地化推理,无需持续重新计算。p7F喜好网-记录每日喜好的科技时尚娱乐生活

让智能更接近数据p7F喜好网-记录每日喜好的科技时尚娱乐生活

Cummings强调,企业需要采用更战略性的方法来管理AI工作负载。"你不能只是一个目的地。你必须理解工作负载。我们与Solidigm及其基础设施合作开展了一些令人难以置信的技术工作,在如何处理数据方面更加智能,从如何从单个节点获得性能开始,"Cummings解释道。"因此,随着推理成为如此巨大的推动力,我们看到通才变得更加专业化。我们现在正在将从单个节点完成的工作推向更接近数据的地方,以提高效率。我们想要更智能的数据,对吧?做到这一点的唯一方法就是更接近那些数据。"p7F喜好网-记录每日喜好的科技时尚娱乐生活

大规模AI部署中出现了一些明显的趋势,特别是在新建的绿地数据中心。这些设施设计有高度专业化的硬件架构,将数据尽可能接近GPU。为了实现这一点,它们严重依赖全固态存储——特别是超高容量SSD——旨在提供具有保持GPU持续高吞吐量数据供给所需速度和可访问性的PB级存储。p7F喜好网-记录每日喜好的科技时尚娱乐生活

Cumming解释道:"现在同样的技术基本上在企业边缘以微观形式出现。因此,对于AI系统的采购者来说,确定如何选择硬件和系统供应商变得至关重要,甚至要确保如果你想从系统中获得最佳性能,你要在全固态上运行。这允许你在单个系统中引入大量数据,就像MONAI示例一样——它在单个系统中有超过1500万张图像。这在边缘的小型系统中实现了令人难以置信的处理能力。"p7F喜好网-记录每日喜好的科技时尚娱乐生活

展开全文
猜你感兴趣
星驿付与慧徕店亮相金融界“奥运会”—Sibos2024年会,与国际金融大咖齐聚北京,共话全球金融发展

星驿付与慧徕店亮相金融界“奥运

【锋巢网】导读:10月21日至24日,

11-19 103阅读
戴森设计大奖国际20强名单出炉

戴森设计大奖国际20强名单出炉

【锋巢网】首次有两支中国大陆赛

11-19 119阅读
中国联通:6G 70%技术与5G重合 将有6大典型应用

中国联通:6G 70%技术与5G重合 将有

时至今日,6

11-19 97阅读
“农药”不老,腾讯有“宝”

“农药”不老,腾讯有“宝”

腾讯

11-19 100阅读
焦虑的开发者,涌向“纯血鸿蒙”培训班

焦虑的开发者,涌向“纯血鸿蒙”培

有两

11-19 99阅读
龙波 始终亲力亲为,哪个岗位有需要就扑在哪里 优秀新闻工作者 编辑⑨(龙波始终亲力亲为)

龙波 始终亲力亲为,哪个岗

为激励全市新闻战线认真践行“四向

11-19 104阅读
NCT DREAM正辑四辑《DREAMSCAPE》登上韩国国内各大专辑周榜一位

NCT DREAM正辑四辑《DREAM

11月11日发行的NCT DREAM正辑

11-19 103阅读
《逆天奇案》寡佬是谁?钟嘉瑜最后和谁在一起了?

《逆天奇案》寡佬是谁?钟嘉

在《逆天奇案》中,寡佬是一名警察,

11-19 98阅读
马斯克赌大赢大 部分广告商准备重返推特

马斯克赌大赢大 部分广告

多位媒体高管透

11-19 105阅读
徐克执导!新《射雕英雄传》官宣定档2025大年初一 肖战饰演郭靖

徐克执导!新《射雕英雄传》

11月15日消息,今

11-19 100阅读
《严阵以待》DLC“深水”Steam页面开放 发售日待定

《严阵以待》DLC“深水”S

今日(11月16日),《严阵以待》DLC「Dark W

11-19 123阅读
三国群英传3秘籍大全_三国群英传3秘籍代码及使用方法一览

三国群英传3秘籍大全_三国

给大家分享三国群英传3秘籍大全,里面包

11-19 105阅读
Skinseed怎样上传到我的世界?Skinseed皮肤导入方法

Skinseed怎样上传到我的世

《Skinseed》是一款专为游戏《我的世界

11-19 111阅读
饥荒所有魔杖制作方法详细介绍

饥荒所有魔杖制作方法详细

饥荒游戏里面拥有非常丰富的魔杖种类,不

11-19 111阅读
原神终将到来的花神诞祭任务流程|终将到来的花神诞祭任务攻略

原神终将到来的花神诞祭任

终将到来的花神诞祭是原神须弥地区魔神

11-19 152阅读