看好ASIC理由又多一个?算力战争下半场开启 AI推理时代或将至

7个月前 生活 39观看
摘要《科创板日报》12月16日讯 ChatGPT面世两年多以来,AI的主战场正在转向,从训练端转向一个规模更大、竞争更为激烈的领域:推理。推理被视作AI大模型的“下半场”,在上半场中,竞争聚焦于快速预训练响应,而如今,AI推理时代正在渐

《科创板日报》12月16日讯 ChatGPT面世两年多以来,AI的主战场正在转向,从训练端转向一个规模更大、竞争更为激烈的领域:推理。推理被视作AI大模型的“下半场”,在上半场中,竞争聚焦于快速预训练响应,而如今,AI推理时代正在渐渐逼近,更多目光开始投向了慢速深度推理。TzY喜好网-记录每日喜好的科技时尚娱乐生活

“AI预训练时代无疑将终结。”在温哥华NeurIPS大会上,OpenAI联合创始人兼前首席科学家伊利亚•苏茨克维尔(Ilya Sutskever)直言。TzY喜好网-记录每日喜好的科技时尚娱乐生活

今年5月离开OpenAI之后,Ilya Sutskever创立了自己的AI实验室Safe Superintelligence,之后他鲜少公开露面,直至这一次亮相。TzY喜好网-记录每日喜好的科技时尚娱乐生活

Ilya Sutskever在这场演讲中将数据比作化石燃料,而燃料终将耗尽。“算力在增长,但数据却没有增长,因为我们只有一个互联网……我们已经达到了数据峰值,不会再有更多数据了,我们必须处理好现有的数据。TzY喜好网-记录每日喜好的科技时尚娱乐生活

现有数据仍可推动AI进一步发展,业内也正在竭力挖掘新数据进行训练,这种情况最终将迫使行业改变目前的AI模型训练方式。TzY喜好网-记录每日喜好的科技时尚娱乐生活

其预计,下一代AI模型将是真正的AI Agent,且具备推理能力——目前的AI主要根据大模型之前学习过的内容进行匹配,而未来的AI则能以更接近思考的方式来一步步解决问题。“它们能根据有限的数据理解事物,也不会感觉困惑。”他补充,AI推理得越多,就越难以预测。TzY喜好网-记录每日喜好的科技时尚娱乐生活

一定程度来说,Ilya Sutskever的说法与OpenAI不久前的表态与最新动向不谋而合——用推理弥补数据瓶颈。TzY喜好网-记录每日喜好的科技时尚娱乐生活

在11月末的一场路边谈话中,OpenAI高级研究副总裁Mark Chen否认了“Scaling Law撞墙”。他表示,“我们准确地掌握了需要解决的技术挑战”,OpenAI已经有o系列和GPT系列两个模型,来让模型继续保持Scaling。TzY喜好网-记录每日喜好的科技时尚娱乐生活

其中,OpenAI近日发布的o1模型就是推理模型。其最突出的地方便在于“会推理”:在给出回答之前,o1会思考,通过产生一个很长的内部思维链(CoT),逐步推理,模仿人类思考复杂问题的过程。TzY喜好网-记录每日喜好的科技时尚娱乐生活

这个过程也与Ilya Sutskever所说的“以更接近思考的方式来一步步解决问题”更加贴合。TzY喜好网-记录每日喜好的科技时尚娱乐生活

或许对于一般用户而言,o1模型的这种转变不易察觉,但The Atlantic指出,研究人员已认识到,与GPT等旧模型相比,o1模型不仅仅是一次简单的升级,而是标志着一个“完全不同的游戏规则”和“真正的进步”。TzY喜好网-记录每日喜好的科技时尚娱乐生活

▌AI推理时代来了?TzY喜好网-记录每日喜好的科技时尚娱乐生活

预训练时代或许行将落幕,而在AI算力“跷跷板”的另一头,推理正在崛起。TzY喜好网-记录每日喜好的科技时尚娱乐生活

近几日多家券商研报都指出,随着端侧AI放量,豆包、ChatGPT等AI应用快速发展,算力需求会加速从预训练向推理侧倾斜,推理有望接力训练,成为下一阶段算力需求的主要驱动力TzY喜好网-记录每日喜好的科技时尚娱乐生活

进一步来说,随着大规模AI模型普及,推理需求不断扩大并趋于多样化,定制化芯片的需求也有望扩大TzY喜好网-记录每日喜好的科技时尚娱乐生活

巴克莱的另一份报告预计,AI推理计算需求将快速提升,预计其将占通用人工智能总计算需求的70%以上,推理计算的需求甚至可以超过训练计算需求,达到后者的4.5倍。英伟达GPU目前在推理市场中市占率约80%,但随着大型科技公司定制化ASIC芯片不断涌现,这一比例有望在2028年下降至50%左右。TzY喜好网-记录每日喜好的科技时尚娱乐生活

博通上周发布的财报也已证明了ASIC的需求之旺盛:2024财年公司的人工智能收入增长220%,达到122亿美元;其预计AI产品收入将在2025财年第一财季同比增长65%。博通还透露,目前正在与三个非常大型的客户开发AI芯片,预计明年公司AI芯片的市场规模为150亿-200亿美元。TzY喜好网-记录每日喜好的科技时尚娱乐生活

随着谷歌、AWS等科技巨头纷纷加大对定制化AI芯片的研发投入,以强化在人工智能领域的技术优势和供应链控制力,国金证券今日研报指出,这一趋势不仅助力企业应对日益复杂的 AI 需求,还推动了整个自研芯片赛道的高景气度和持续创新。未来,自研芯片将在 AI 推理和训练领域扮演关键角色,成为降本增效和提升算力的重要手段。TzY喜好网-记录每日喜好的科技时尚娱乐生活

展开全文
猜你感兴趣
炒过Labubu,再也忘不掉日入2万的滋味

炒过Labubu,再也忘不掉日入

“家人们别

11-19 115阅读
时隔4年重返白宫,特朗普的变与不变

时隔4年重返白宫,特朗普的

11-19 101阅读
抖音App“朋友”功能迎来升级,再次探索社交业务

抖音App“朋友”功能迎来

日前有消息显示,抖音App的“朋友”功

11-19 111阅读
 三季度健康消费指数发布,政、产、研专家把脉医健产业发展创新

三季度健康消费指数发布,

作为第七届中国国际进口博览会的系列

11-19 116阅读
吉利牛仔或无四驱版 两款车型售9.59-10.19万元

吉利牛仔或无四驱版 两款

近日消息,吉利牛仔车型实车已到店,据悉

11-19 104阅读
 苏醒同款|意大利多曼尼音响如何引领聆听艺术新风尚?

苏醒同款|意大利多曼尼音

自我疗愈的需求正在“解压”出新的经

11-19 103阅读
“迷人的绽放” AS Dalio 2025春夏新品备受青睐

“迷人的绽放” AS Dalio

10月,AS Dalio “Enchanted Bloom 迷

11-19 108阅读
 《服饰与美容VOGUE》时尚之力盛会首次落地深圳 发现都市生活“自悠自在”新方式

《服饰与美容VOGUE》时尚

10月17-23日,2024年“VOGUE时尚之力盛

11-19 103阅读
时尚“趋势”下的好生意:服饰品牌如何精准捕捉消费者喜好

时尚“趋势”下的好生意:服

在时尚的海洋中,品牌如同航行者,而趋势

11-19 102阅读
溯抗衰*之源 · 享疗养之境,Pier Augé佩尔赫乔开启瑞士珍稀溯源之旅

溯抗衰*之源 · 享疗养之

延续63年法式经典传承,Pier Augé以先

11-19 97阅读
付款码被拍下来能付款几次

付款码被拍下来能付款几次

付款码被拍下来不能付款。因为付款码照

11-19 217阅读
1-10月全国一般公共预算收入保持平稳增长

1-10月全国一般公共预算收

央视网消息(新闻联播):财

11-19 101阅读
要在家待一个月

要在家待一个月

放假了,要在家待一个月。 我妈只有

11-19 111阅读
原来我很喜欢写小说

原来我很喜欢写小说

原来我很喜欢写小说。 直到它成为

11-19 109阅读
番薯的功效与作用

番薯的功效与作用

功效与作用通便、增强免疫力、补气血1

11-19 108阅读