体验在AMD Ryzen AI和Radeon上运行DeepSeek R1精简版"推理"模型

3个月前 游戏 18观看
摘要 推理模型是一类新型的大型语言模型(LLMs),通过链式思维(CoT)推理来解决高度复杂的任务,其代价是响应时间较长。DeepSeek R1是最近发布的前沿“推理”模型,已被提炼成

60O喜好网-记录每日喜好的科技时尚娱乐生活

推理模型是一类新型的大型语言模型(LLMs),通过链式思维(CoT)推理来解决高度复杂的任务,其代价是响应时间较长。DeepSeek R1是最近发布的前沿“推理”模型,已被提炼成功能强大的小型模型。目前,可以通过LM Studio,轻松将这些DeepSeek R1精简版模型部署到AMD Ryzen AI处理器和Radeon显卡上,并可以使用。60O喜好网-记录每日喜好的科技时尚娱乐生活

推理模型在生成最终输出之前加入了一个“思考”阶段——用户可以通过展开“思考”窗口看到模型给出最终答案前的推理过程。与传统的大型语言模型(LLMs)直接生成单次响应不同,链式思维(CoT)推理模型会在回答前进行广泛的推理。LLM所做的假设和自我反思对用户是可见的,这提高了模型的推理和分析能力——尽管这意味着首次(最终输出)token的响应时间会显著增加。60O喜好网-记录每日喜好的科技时尚娱乐生活

推理模型可能会在生成最终响应之前,先花费数千个token来分析和处理问题(您可以查看这一思维链!)。这种方法使得模型在解决涉及数学和科学的复杂问题时表现出色,能够从多角度深入分析问题后再得出最终答案。根据您的AMD硬件配置,这些模型将在您的AMD Ryzen AI处理器或Radeon显卡上提供最先进的推理能力。60O喜好网-记录每日喜好的科技时尚娱乐生活

如何在 AMD Ryzen AI和 Radeon显卡上运行 DeepSeek R1精简版"推理"模型60O喜好网-记录每日喜好的科技时尚娱乐生活

请按照以下简单步骤操作,仅需几分钟(具体时间取决于下载速度)即可开始运行 DeepSeek R1 精简版模型。60O喜好网-记录每日喜好的科技时尚娱乐生活

请确保您使用的是可选驱动程序 Adrenalin 25.1.1,您可以通过点击此链接直接下载。60O喜好网-记录每日喜好的科技时尚娱乐生活

第一步:请确保您已安装 25.1.1 可选版本或更高版本的 Adrenalin 驱动程序。60O喜好网-记录每日喜好的科技时尚娱乐生活

第二步:请从 lmstudio.ai/ryzenai 下载 LM Studio 0.3.8 或更高版本。60O喜好网-记录每日喜好的科技时尚娱乐生活

第三步:安装 LM Studio 后,您可直接跳过引导屏幕。60O喜好网-记录每日喜好的科技时尚娱乐生活

第四步:安装LM Studio后,您可以点击“发现”选项。60O喜好网-记录每日喜好的科技时尚娱乐生活

第五步: 选择您的DeepSeek R1 Distill。像Qwen 1.5B这样的小型Distill提供了极速的性能(并且是推荐的起点),而更大的Distill则提供更强的推理能力。它们都具有极强的能力。以下表格详细列出了最大推荐的DeepSeek R1 Distill规模:60O喜好网-记录每日喜好的科技时尚娱乐生活

60O喜好网-记录每日喜好的科技时尚娱乐生活

* = AMD推荐将所有Distill运行在Q4 K M量化模式。60O喜好网-记录每日喜好的科技时尚娱乐生活

1 = 需要将可变显存设置为自定义:24GB。60O喜好网-记录每日喜好的科技时尚娱乐生活

2 = 需要将可变显存设置为高。60O喜好网-记录每日喜好的科技时尚娱乐生活

60O喜好网-记录每日喜好的科技时尚娱乐生活


* = AMD推荐将所有Distill运行在Q4 K M量化模式。60O喜好网-记录每日喜好的科技时尚娱乐生活

1 = 列出在没有部分GPU卸载的情况下最大支持的Distill。60O喜好网-记录每日喜好的科技时尚娱乐生活

第六步:在右侧,确保选择了“Q4 K M”量化模式,然后点击“下载”。60O喜好网-记录每日喜好的科技时尚娱乐生活

第七步:下载完成后,返回聊天选项页,从下拉菜单中选择DeepSeek R1 distill,并确保勾选了“手动选择参数”选项。60O喜好网-记录每日喜好的科技时尚娱乐生活

第八步:在GPU卸载中,将滑块移到最大值。60O喜好网-记录每日喜好的科技时尚娱乐生活

第九步:点击“模型加载”。60O喜好网-记录每日喜好的科技时尚娱乐生活

第十步:与完全在本地AMD硬件上运行的推理模型进行交互!60O喜好网-记录每日喜好的科技时尚娱乐生活

注释60O喜好网-记录每日喜好的科技时尚娱乐生活

GD-97 - 提供第三方网站链接仅为方便之用,除非明确声明,AMD对这些链接网站的内容不负责任,也不表示任何形式的认可。60O喜好网-记录每日喜好的科技时尚娱乐生活

GD-220e - Ryzen AI被定义为结合了专用AI引擎、AMD Radeon图形引擎和Ryzen处理器核心的组合,能够启用AI功能。需要OEM和ISV支持,某些AI功能可能尚未针对Ryzen AI处理器进行优化。Ryzen AI与以下处理器兼容:(a)AMD 锐龙 7040和8040系列处理器以及锐龙 PRO 7040/8040系列处理器,但不包括锐龙 5 7540U、锐龙 5 8540U、锐龙 3 7440U和锐龙 3 8440U处理器;(b)AMD 锐龙 AI 300系列处理器和AMD 锐龙 AI PRO 300系列处理器;(c)所有AMD 锐龙 8000G系列桌面处理器,但不包括锐龙 5 8500G/GE和锐龙 3 8300G/GE;(d)AMD 锐龙 200系列处理器和锐龙 PRO 200系列处理器,但不包括锐龙 5 220和锐龙 3 210;(e)AMD 锐龙 AI Max系列处理器和锐龙 AI PRO Max系列处理器。在购买之前,请与您的系统制造商确认功能的可用性。60O喜好网-记录每日喜好的科技时尚娱乐生活

展开全文
猜你感兴趣
Steam传播仇恨指控引人质疑:青蛙表情包占一半以上

Steam传播仇恨指控引人质

在海外的许多网友都喜欢用一个名为“P

11-19 68阅读
传索尼正在研究如何在PS5主机上原生运行PS3游戏

传索尼正在研究如何在PS5

据最新传闻,索尼目前正在致力于让PS3游

11-19 70阅读
原子之心展览园啁啾表位置_展览园所有啁啾表所在位置一览

原子之心展览园啁啾表位置

啁啾表是原子之心游戏里面的一个特殊收

11-19 68阅读
饥荒理智怎么恢复?饥荒超全恢复理智值方法一览

饥荒理智怎么恢复?饥荒超

饥荒理智怎么恢复?在饥荒游戏的设定中,玩

11-19 71阅读
原神大走廊的尽头隐藏成就|大走廊的尽头任务攻略

原神大走廊的尽头隐藏成就

大走廊的尽头是原神须弥沙漠地区的隐藏

11-19 70阅读
2025年广州中考名额分配政策出炉:分配比例为50%、录取分降40分

2025年广州中考名额分配政

4月30日,广州市

05-03 16阅读
环保产业如何实现高质量发展?智能化与绿色转型是关键

环保产业如何实现高质量发

4月29日,由广东

05-03 17阅读
锚定“双一流”,福建农林大学向全球英才伸出橄榄枝

锚定“双一流”,福建农林大

4月25日,福建农林大学2025年海内外英才

05-03 18阅读
中小学春秋假,如何放得好推得开?

中小学春秋假,如何放得好推

“杭州中小学有

05-09 14阅读
被AI检测整破防后怀疑人生,盲目追求AI率可能导致学术论文考核“双向失灵”

被AI检测整破防后怀疑人生

随着毕业季的到

05-11 15阅读
DoNews汽车直击广州车展-广汽传祺1 Concept

DoNews汽车直击广州车展-

11-19 67阅读
()

()

艺术简介 凌云子,字腾龙,1981年

11-19 70阅读
往国外卖“旧车”更赚钱?2024年我国二手车出口规模或达40万辆

往国外卖“旧车”更赚钱?20

11-19 72阅读
揭秘:车辆事故记录查询的3种实用方法,轻松查出事故车!

揭秘:车辆事故记录查询的3

车辆事故记录如同一面镜子,可以映照

11-19 64阅读
如何查询车辆真实行驶公里数?分享5个速查调表车的小妙招

如何查询车辆真实行驶公里

在购买二手车或了解自己车辆的使用

11-19 69阅读