体验在AMD Ryzen AI和Radeon上运行DeepSeek R1精简版"推理"模型

6个月前 游戏 28观看
摘要 推理模型是一类新型的大型语言模型(LLMs),通过链式思维(CoT)推理来解决高度复杂的任务,其代价是响应时间较长。DeepSeek R1是最近发布的前沿“推理”模型,已被提炼成

LFP喜好网-记录每日喜好的科技时尚娱乐生活

推理模型是一类新型的大型语言模型(LLMs),通过链式思维(CoT)推理来解决高度复杂的任务,其代价是响应时间较长。DeepSeek R1是最近发布的前沿“推理”模型,已被提炼成功能强大的小型模型。目前,可以通过LM Studio,轻松将这些DeepSeek R1精简版模型部署到AMD Ryzen AI处理器和Radeon显卡上,并可以使用。LFP喜好网-记录每日喜好的科技时尚娱乐生活

推理模型在生成最终输出之前加入了一个“思考”阶段——用户可以通过展开“思考”窗口看到模型给出最终答案前的推理过程。与传统的大型语言模型(LLMs)直接生成单次响应不同,链式思维(CoT)推理模型会在回答前进行广泛的推理。LLM所做的假设和自我反思对用户是可见的,这提高了模型的推理和分析能力——尽管这意味着首次(最终输出)token的响应时间会显著增加。LFP喜好网-记录每日喜好的科技时尚娱乐生活

推理模型可能会在生成最终响应之前,先花费数千个token来分析和处理问题(您可以查看这一思维链!)。这种方法使得模型在解决涉及数学和科学的复杂问题时表现出色,能够从多角度深入分析问题后再得出最终答案。根据您的AMD硬件配置,这些模型将在您的AMD Ryzen AI处理器或Radeon显卡上提供最先进的推理能力。LFP喜好网-记录每日喜好的科技时尚娱乐生活

如何在 AMD Ryzen AI和 Radeon显卡上运行 DeepSeek R1精简版"推理"模型LFP喜好网-记录每日喜好的科技时尚娱乐生活

请按照以下简单步骤操作,仅需几分钟(具体时间取决于下载速度)即可开始运行 DeepSeek R1 精简版模型。LFP喜好网-记录每日喜好的科技时尚娱乐生活

请确保您使用的是可选驱动程序 Adrenalin 25.1.1,您可以通过点击此链接直接下载。LFP喜好网-记录每日喜好的科技时尚娱乐生活

第一步:请确保您已安装 25.1.1 可选版本或更高版本的 Adrenalin 驱动程序。LFP喜好网-记录每日喜好的科技时尚娱乐生活

第二步:请从 lmstudio.ai/ryzenai 下载 LM Studio 0.3.8 或更高版本。LFP喜好网-记录每日喜好的科技时尚娱乐生活

第三步:安装 LM Studio 后,您可直接跳过引导屏幕。LFP喜好网-记录每日喜好的科技时尚娱乐生活

第四步:安装LM Studio后,您可以点击“发现”选项。LFP喜好网-记录每日喜好的科技时尚娱乐生活

第五步: 选择您的DeepSeek R1 Distill。像Qwen 1.5B这样的小型Distill提供了极速的性能(并且是推荐的起点),而更大的Distill则提供更强的推理能力。它们都具有极强的能力。以下表格详细列出了最大推荐的DeepSeek R1 Distill规模:LFP喜好网-记录每日喜好的科技时尚娱乐生活

LFP喜好网-记录每日喜好的科技时尚娱乐生活

* = AMD推荐将所有Distill运行在Q4 K M量化模式。LFP喜好网-记录每日喜好的科技时尚娱乐生活

1 = 需要将可变显存设置为自定义:24GB。LFP喜好网-记录每日喜好的科技时尚娱乐生活

2 = 需要将可变显存设置为高。LFP喜好网-记录每日喜好的科技时尚娱乐生活

LFP喜好网-记录每日喜好的科技时尚娱乐生活


* = AMD推荐将所有Distill运行在Q4 K M量化模式。LFP喜好网-记录每日喜好的科技时尚娱乐生活

1 = 列出在没有部分GPU卸载的情况下最大支持的Distill。LFP喜好网-记录每日喜好的科技时尚娱乐生活

第六步:在右侧,确保选择了“Q4 K M”量化模式,然后点击“下载”。LFP喜好网-记录每日喜好的科技时尚娱乐生活

第七步:下载完成后,返回聊天选项页,从下拉菜单中选择DeepSeek R1 distill,并确保勾选了“手动选择参数”选项。LFP喜好网-记录每日喜好的科技时尚娱乐生活

第八步:在GPU卸载中,将滑块移到最大值。LFP喜好网-记录每日喜好的科技时尚娱乐生活

第九步:点击“模型加载”。LFP喜好网-记录每日喜好的科技时尚娱乐生活

第十步:与完全在本地AMD硬件上运行的推理模型进行交互!LFP喜好网-记录每日喜好的科技时尚娱乐生活

注释LFP喜好网-记录每日喜好的科技时尚娱乐生活

GD-97 - 提供第三方网站链接仅为方便之用,除非明确声明,AMD对这些链接网站的内容不负责任,也不表示任何形式的认可。LFP喜好网-记录每日喜好的科技时尚娱乐生活

GD-220e - Ryzen AI被定义为结合了专用AI引擎、AMD Radeon图形引擎和Ryzen处理器核心的组合,能够启用AI功能。需要OEM和ISV支持,某些AI功能可能尚未针对Ryzen AI处理器进行优化。Ryzen AI与以下处理器兼容:(a)AMD 锐龙 7040和8040系列处理器以及锐龙 PRO 7040/8040系列处理器,但不包括锐龙 5 7540U、锐龙 5 8540U、锐龙 3 7440U和锐龙 3 8440U处理器;(b)AMD 锐龙 AI 300系列处理器和AMD 锐龙 AI PRO 300系列处理器;(c)所有AMD 锐龙 8000G系列桌面处理器,但不包括锐龙 5 8500G/GE和锐龙 3 8300G/GE;(d)AMD 锐龙 200系列处理器和锐龙 PRO 200系列处理器,但不包括锐龙 5 220和锐龙 3 210;(e)AMD 锐龙 AI Max系列处理器和锐龙 AI PRO Max系列处理器。在购买之前,请与您的系统制造商确认功能的可用性。LFP喜好网-记录每日喜好的科技时尚娱乐生活

展开全文
猜你感兴趣
《优米雅的鍊金工房》第二波情报,新宣传片公开

《优米雅的鍊金工房》第二

活着, 就会不断地累积记忆。这是她在灭

11-19 111阅读
《战神:诸神黄昏》6.001补丁发布 优化手柄和显卡支持

《战神:诸神黄昏》6.001补

《战神:诸神黄昏》6.001更新版本着重解

11-19 116阅读
《GTA三部曲》开发者不满名字被删 实际只修改了开场

《GTA三部曲》开发者不满

《GTA三部曲》开发商 Grove Street Ga

11-19 112阅读
360浏览器兼容模式怎么设置?360浏览器极速模式怎么开?一文看懂

360浏览器兼容模式怎么设

360浏览器是我们使用最多的一款浏览器

11-19 131阅读
硬件情报站第156期:AMD锐龙9800X3D黄牛价翻倍 网友14900K送保被拒

硬件情报站第156期:AMD锐龙

11-19 141阅读
孩子放假在家天天鸡飞狗跳?暑期亲子矛盾可以这样解决

孩子放假在家天天鸡飞狗跳

如何合理管控孩

07-12 27阅读
2025年广东省艾滋病防治健康教育作品征集启动,全民创意助力健康护航

2025年广东省艾滋病防治健

为深入贯彻落实

07-14 25阅读
中国最神秘军校72年来首次招女生 10人平均分628.3分

中国最神秘军校72年来首次

在中国众多军事

07-28 25阅读
粤陇协同创新职教新范式,广东优秀中职教师走进甘肃

粤陇协同创新职教新范式,广

近日,2025年广东

08-01 31阅读
依托数智科技推动商用车产品迭代,长安凯程绘出品牌转型路线图

依托数智科技推动商用车产

虽然

11-19 139阅读
2024车企年关时刻:裁员、转型和迷茫

2024车企年关时刻:裁员、转

知道年底难,

11-19 135阅读
李泽湘冲刺第二个IPO,估值90亿

李泽湘冲刺第二个IPO,估值9

“创业导师

11-19 135阅读
飞行汽车第一股Lilium要破产了

飞行汽车第一股Lilium要破

飞行汽车作

11-19 137阅读
Manhart MH2 450:BMW 2系的新境界

Manhart MH2 450:BMW 2系的

Manhart 通过其 MH2 450 售后套件

11-19 151阅读