AMD发布下一代开源软件栈技术ROCm7 DeepSeek R1推理性能提升3.8倍

6天前 游戏 4观看
摘要 6月13日消息,在今日凌晨的AMD Advancing AI 2025活动中,AMD正式推出其下一代开源软件栈技术ROCm 7,进一步加速AI与开发者生产力。随着ROCm 7的

6月13日消息,在今日凌晨的AMD Advancing AI 2025活动中,AMD正式推出其下一代开源软件栈技术ROCm 7,进一步加速AI与开发者生产力。nEa喜好网-记录每日喜好的科技时尚娱乐生活

nEa喜好网-记录每日喜好的科技时尚娱乐生活

随着ROCm 7的发布,AMD终于从其ROCm 6软件栈向前迈进,该软件栈在过去几年中,尤其是在AI计算出现以来已经经历了多次更新。以下是AMD在ROCm 7中重点关注的一些功能:最新算法与模型;用于扩展AI的高级功能;MI350系列支持;集群管理;企业级功能。nEa喜好网-记录每日喜好的科技时尚娱乐生活

nEa喜好网-记录每日喜好的科技时尚娱乐生活

通过ROCm,AMD表示其正更加专注于其软件堆栈中日益增长的推理能力。ROCm 7堆栈将包括增强型框架,如vLLM v1、llm-d、SGLang,并专注于提供多种优化。即将到来的ROCm 7新内核和算法包括GEMM自动调优、MoE、Attention和基于Python的内核编写。nEa喜好网-记录每日喜好的科技时尚娱乐生活

AMD已宣布对其MI350系列提供FP6和FP4支持,ROCm 7也包含对这些高级数据类型的全面支持,如FP8、FP6、FP4和混合精度。nEa喜好网-记录每日喜好的科技时尚娱乐生活

从发布会获悉,在性能方面,AMD表示ROCm 7将推理作为重点,为AI工作负载带来了高达3.5倍的性能提升。具体来看,相较于ROCm 6,ROCm 7的Llama 3.1 70B提升了3.2倍,Qwen2-72B提升了3.4倍,DeepSeek R1提升了3.8倍。nEa喜好网-记录每日喜好的科技时尚娱乐生活

nEa喜好网-记录每日喜好的科技时尚娱乐生活

展开全文
猜你感兴趣
遥远未来的末世乌托邦,2D动作解谜游戏《默途》移动版即将上线

遥远未来的末世乌托邦,2D动

《默途》是由梦匠工作室开发的一款2D

11-19 83阅读
原子之心展览园死者位置_展览园全部死者位置一览

原子之心展览园死者位置_

原子之心游戏的展览园区域中一共拥有11

11-19 87阅读
原子之心冰箱在哪?原子之心冰箱位置详细介绍

原子之心冰箱在哪?原子之

原子之心冰箱在哪?原子之心游戏里面那台

11-19 97阅读
原子之心动物谜题答案_动物谜题解谜教程

原子之心动物谜题答案_动

原子之心游戏中玩家会碰到一个动物谜题

11-19 86阅读
原神愚人者人愚之任务攻略|愚人者人愚之隐藏任务详解

原神愚人者人愚之任务攻略

愚人者人愚之是原神须弥地区的隐藏任务

11-19 82阅读
托举1.4万特殊考生!每个梦想都值得守护

托举1.4万特殊考生!每个梦

2025年高考6月1

06-12 15阅读
收藏!华南理工大学2025年本科招生最全联系方式

收藏!华南理工大学2025年本

1. 机械与汽车

06-13 12阅读
用志愿服务传递活力名片!287只“广财小海豚”跃动全运赛场

用志愿服务传递活力名片!28

“哨声定格此刻

06-16 10阅读
广州市属高校毕业生就业工作会议举行 确保有就业意愿的困难毕业生100%就业

广州市属高校毕业生就业工

日前,广州市教育

06-17 7阅读
“学而思长公主”橙橙回归:放下桂冠,拾起人生

“学而思长公主”橙橙回归

“学而思长公主

06-18 6阅读
零跑全新B系列首款全球化车型B10广州车展国内首秀,将拉动零跑销量再攀高峰

零跑全新B系列首款全球化

第二十二届广州国际汽车展览会(下称广州

11-19 87阅读
飞行汽车第一股Lilium要破产了

飞行汽车第一股Lilium要破

飞行汽车作

11-19 90阅读
石家庄这段 抓鸭子 的视频火了,网友 这就是必胜的样子吧(石家庄这段抓鸭子)

石家庄这段 抓鸭子 的视频

近日 石家庄一小区居民 夜间隔

11-19 83阅读
吉利星愿外有颜值,内有安全

吉利星愿外有颜值,内有安全

吉利星愿(参数|询价)的外形设计独

11-19 82阅读
2024吉利好车节上线 10亿补贴好“试”开启

2024吉利好车节上线 10亿

11月1日起,2024吉利好车节正式上线!

11-19 86阅读