红帽的下一步,解锁开源AI的无限可能 原创

8个月前 科技 62观看
摘要 “双十一”是一个非常有意义的日子,它既是全民狂欢的购物节,也是红帽的生日。今年是红帽进入中国的第20年,对于红帽而言这是一个重要的里程碑。过去20年间,开源技术在中国从无到有,从小到大,逐渐成

“双十一”是一个非常有意义的日子,它既是全民狂欢的购物节,也是红帽的生日。今年是红帽进入中国的第20年,对于红帽而言这是一个重要的里程碑。XcT喜好网-记录每日喜好的科技时尚娱乐生活

过去20年间,开源技术在中国从无到有,从小到大,逐渐成为软件行业发展的重要基石。红帽的成长同样受益于生态系统的日益丰满,客户信任红帽,正是因为其技术能够被更多厂商广泛适配。XcT喜好网-记录每日喜好的科技时尚娱乐生活

今年红帽中国依旧创下了双位数的增长,这也源于越来越多的企业接受开源技术,认识到开源的优势。虽已身披荣耀,但仍需大步向前,红帽全球副总裁兼大中华区总裁曹衡康在今年的红帽论坛上强调,我们的下一步是,解锁开源AI的无限可能。XcT喜好网-记录每日喜好的科技时尚娱乐生活

红帽的下一步,解锁开源AI的无限可能XcT喜好网-记录每日喜好的科技时尚娱乐生活

红帽全球副总裁兼大中华区总裁曹衡康XcT喜好网-记录每日喜好的科技时尚娱乐生活

以开源的方法将AI带入企业XcT喜好网-记录每日喜好的科技时尚娱乐生活

过去两年全球都在积极投入AI基础设施的建设,几个月前美国科技巨头股价集体下跌,引发了投资者对AI产业泡沫的广泛讨论,如此高昂的投入却未见成效。XcT喜好网-记录每日喜好的科技时尚娱乐生活

许多企业都在尝试使用大模型,但在生产场景即便是小问题也可能引发巨大风险,因此多数企业仍在探索如何有效启动AI应用。XcT喜好网-记录每日喜好的科技时尚娱乐生活

IDC全球研究数据显示,2024年在AI相关开发、数据和基础设施投资分配中,预测性AI占34%、GenAI占34%、解释性AI占32%。XcT喜好网-记录每日喜好的科技时尚娱乐生活

2024年红帽推出了全栈AI产品与解决方案,希望通过Linux AI(RHEL AI)和OpenShift AI,协助企业可以快速进入到AI世界,这既是初衷也是目标。XcT喜好网-记录每日喜好的科技时尚娱乐生活

基于目前企业应用模型的趋势,红帽提出了利用小模型,即专属模型,更稳定、安全地实现企业的特定需求。通过与IBM合作发起了围绕大规模对话机器人对齐方法和IBM开源Granite模型的开源社区项目InstructLab。XcT喜好网-记录每日喜好的科技时尚娱乐生活

此外,红帽还推出模型对齐工具,通过使用合成数据大幅减少对真实数据的需求,使数据量降低至原来的千分之一。这种方式不仅降低了算力成本,还大幅减少能耗,可以适应多种部署环境,可运行在本地数据中心、公有云、混合云和边缘设备上。XcT喜好网-记录每日喜好的科技时尚娱乐生活

而且红帽引入了“开放实验室”概念,与客户的顾问团队合作,共同探索企业在研发、生产、市场营销和客户支持等环节中最具效能的生成式AI应用场景,从小应用的成功起步,逐步扩展到更广大的场景。XcT喜好网-记录每日喜好的科技时尚娱乐生活

从实验到落地,企业AI应用三步曲XcT喜好网-记录每日喜好的科技时尚娱乐生活

在生成式AI时代,企业更加希望在了解其成本和收益后,再决定项目的可行性。红帽则提出了“分步实施”的策略,尝试三步走构建企业AI应用。XcT喜好网-记录每日喜好的科技时尚娱乐生活

第一步,在最小资源配置下试用开源模型和工具,比如在桌面环境下,在笔记本或工作站上,采用小数据集进行实验性训练。Podman Desktop工具为本地进行模型微调的开发者提供了桌面客户端,InstructLab可以帮助模型训练人员以较低成本实现模型对齐。XcT喜好网-记录每日喜好的科技时尚娱乐生活

第二步,通过更多算力进行扩展,红帽平台几乎可以运行在任何环境中,企业可以通过完整的合成数据生成技术进行生产级模型训练。红帽企业级Linux AI平台能够无缝开发、测试和运行适用于企业级应用的Granite模型。XcT喜好网-记录每日喜好的科技时尚娱乐生活

第三步,在更大的分布式集群环境下进行生产级模型训练,OpenShift AI支持数据的获取和准备、模型的训练和微调、模型供应、模型监控及硬件加速。XcT喜好网-记录每日喜好的科技时尚娱乐生活

红帽也积极在中国落地这一方法,首先通过市场渠道推广AI的独特功能和优势;其次赋能合作伙伴;最后通过开放实验室,与客户共同探索AI在实际场景中的应用。当客户确定适合的应用场景后,再推动产品的全面导入。XcT喜好网-记录每日喜好的科技时尚娱乐生活

曹衡康认为,一个新技术要进入市场,最快的方式就是找到成功的应用案例并加以推广。XcT喜好网-记录每日喜好的科技时尚娱乐生活

尽管红帽的AI产品自美国发布至今仅5个月,已有多个客户开始复制该成功经验。红帽大中华区解决方案架构部高级总监王慧慧介绍,中国已有一家保险公司引入红帽的AI产品,加速代码审查和合并请求的处理。此前,旧工具准确率不足95%,在生产环境中的效果大打折扣。引入红帽新AI工具后,代码审查和合并的准确率显著提升,大大提高了效率。XcT喜好网-记录每日喜好的科技时尚娱乐生活

“过去,我们通常学习国外的成功案例,而这次中国本地更快开发出了应用。”曹衡康非常自豪,因为这是亚太区第一个成功投入生产环境的AI应用。XcT喜好网-记录每日喜好的科技时尚娱乐生活

展开全文
猜你感兴趣
小米手机快速占领高端:4000-6000元份额大涨

小米手机快速占领高端:4000-6000

11月18日

11-19 105阅读
“抽象”主播为何爆火?

“抽象”主播为何爆火?

前不

11-19 108阅读
趁iPhone16的AI还没落地,国产手机卷疯了

趁iPhone16的AI还没落地,国产手机

乔布

11-19 119阅读
93亿并购,“弟弟”成了“爹”

93亿并购,“弟弟”成了“爹”

11月1

11-19 108阅读
投中的播客栏目,叫“大北窑14F”

投中的播客栏目,叫“大北窑14F”

投中

11-19 118阅读
深入人心的人生句子,精致有个性,总有一句适合你(深入人心的人生句子)

深入人心的人生句子,精致有

一、 人生没有多走的路,脚下的每

11-19 104阅读
TXT迷你七辑《The Star Chapter: SANCTUARY》进入专辑主榜"Billboard 200"(11月23日次)第2位

TXT迷你七辑《The Star Ch

17日,据美国Billboard榜单

11-19 121阅读
《神隐》澜丰帝君第几集被杀?澜丰帝君是被谁杀的?

《神隐》澜丰帝君第几集被

电视剧《神隐》在热播中,此前在预

11-19 103阅读
张云龙秀恩爱庞博秀学历,《我的主场》主打一个凡尔赛

张云龙秀恩爱庞博秀学历,《

  年末最热血的一档综艺终于在爱奇

11-19 119阅读
最美《变形金刚》女主梅根福克斯怀孕登热搜 网友谈样貌:咋成卡戴珊了...

最美《变形金刚》女主梅根

11月12日消息,知

11-19 102阅读
万代魂系高端钢普拉大展 解体匠机第三弹高达Mk-II再参展

万代魂系高端钢普拉大展

万代高端模玩魂系列展会《TAMASHII NA

11-19 117阅读
玩转无忧传奇行会系统,成就宏图霸业

玩转无忧传奇行会系统,成就

行会是无忧传奇中一个非常重要的组成部

11-19 114阅读
原神因果命运的花神诞祭主线任务攻略

原神因果命运的花神诞祭主

因果命运的花神诞祭是原神须弥地区主线

11-19 107阅读
原子之心剧院死者位置_剧院全部死者所在位置分享

原子之心剧院死者位置_剧

原子之心的剧院区域中一共存在7个死者,

11-19 110阅读
饥荒存档在哪个文件夹?饥荒存档位置一览

饥荒存档在哪个文件夹?饥

饥荒存档在哪个文件夹?饥荒游戏里面玩家

11-19 223阅读