AMD发布下一代开源软件栈技术ROCm7 DeepSeek R1推理性能提升3.8倍

2个月前 游戏 11观看
摘要 6月13日消息,在今日凌晨的AMD Advancing AI 2025活动中,AMD正式推出其下一代开源软件栈技术ROCm 7,进一步加速AI与开发者生产力。随着ROCm 7的

6月13日消息,在今日凌晨的AMD Advancing AI 2025活动中,AMD正式推出其下一代开源软件栈技术ROCm 7,进一步加速AI与开发者生产力。TXO喜好网-记录每日喜好的科技时尚娱乐生活

TXO喜好网-记录每日喜好的科技时尚娱乐生活

随着ROCm 7的发布,AMD终于从其ROCm 6软件栈向前迈进,该软件栈在过去几年中,尤其是在AI计算出现以来已经经历了多次更新。以下是AMD在ROCm 7中重点关注的一些功能:最新算法与模型;用于扩展AI的高级功能;MI350系列支持;集群管理;企业级功能。TXO喜好网-记录每日喜好的科技时尚娱乐生活

TXO喜好网-记录每日喜好的科技时尚娱乐生活

通过ROCm,AMD表示其正更加专注于其软件堆栈中日益增长的推理能力。ROCm 7堆栈将包括增强型框架,如vLLM v1、llm-d、SGLang,并专注于提供多种优化。即将到来的ROCm 7新内核和算法包括GEMM自动调优、MoE、Attention和基于Python的内核编写。TXO喜好网-记录每日喜好的科技时尚娱乐生活

AMD已宣布对其MI350系列提供FP6和FP4支持,ROCm 7也包含对这些高级数据类型的全面支持,如FP8、FP6、FP4和混合精度。TXO喜好网-记录每日喜好的科技时尚娱乐生活

从发布会获悉,在性能方面,AMD表示ROCm 7将推理作为重点,为AI工作负载带来了高达3.5倍的性能提升。具体来看,相较于ROCm 6,ROCm 7的Llama 3.1 70B提升了3.2倍,Qwen2-72B提升了3.4倍,DeepSeek R1提升了3.8倍。TXO喜好网-记录每日喜好的科技时尚娱乐生活

TXO喜好网-记录每日喜好的科技时尚娱乐生活

展开全文
猜你感兴趣
斯宾塞不喜欢操纵性扩展内容:不能把本体砍掉单独卖

斯宾塞不喜欢操纵性扩展内

随着微软大力推动其游戏在首日即登陆G

11-19 123阅读
传索尼正在研究如何在PS5主机上原生运行PS3游戏

传索尼正在研究如何在PS5

据最新传闻,索尼目前正在致力于让PS3游

11-19 120阅读
玩转无忧传奇行会系统,成就宏图霸业

玩转无忧传奇行会系统,成就

行会是无忧传奇中一个非常重要的组成部

11-19 115阅读
三国群英传3秘籍大全_三国群英传3秘籍代码及使用方法一览

三国群英传3秘籍大全_三国

给大家分享三国群英传3秘籍大全,里面包

11-19 105阅读
卧龙苍天陨落武将韩当解锁方法详细介绍

卧龙苍天陨落武将韩当解锁

韩当是三国历史上孙吴阵营的名将,在卧龙

11-19 114阅读
孩子放假在家天天鸡飞狗跳?暑期亲子矛盾可以这样解决

孩子放假在家天天鸡飞狗跳

如何合理管控孩

07-12 20阅读
对话“男友驾车出事致截瘫”双方:女生称被花束、视频等争议网暴到崩溃,男方称愿接受判决担责

对话“男友驾车出事致截瘫

近日,甘肃白女士

07-12 21阅读
2025年广东省艾滋病防治健康教育作品征集启动,全民创意助力健康护航

2025年广东省艾滋病防治健

为深入贯彻落实

07-14 20阅读
华珠教师团队亮相第30届差分方程及其应用国际会议!

华珠教师团队亮相第30届差

7月15日至19日,

07-22 19阅读
广州中考补录结束:共录取5622人,民办普高热度不高

广州中考补录结束:共录取56

7月27日,广州市

07-28 12阅读
交通管制公告,请合理安排出行线路

交通管制公告,请合理安排出

因哈

11-19 126阅读
智界R7出增程版,比亚迪再出百万级豪车丨广州车展新车前瞻(国产篇)

智界R7出增程版,比亚迪再出

11-19 143阅读
我们向上,中国向前!五菱携手央视举办致敬奋斗者大会,点燃国民奋斗新活力

我们向上,中国向前!五菱携手

11月18日晚,上汽通用五菱承时代之召

11-19 114阅读
助力中西部电子信息产业发展,尽在2025武汉国际半导体产业与电子技术博览会(OVC)

助力中西部电子信息产业发

半导体是持续支撑起中国科技创新发

11-19 105阅读
怎样检测二手车是否调表?分享三个方法快速检测调表车

怎样检测二手车是否调表?分

购买二手车时,里程数是评估车辆价值

11-19 114阅读