红帽的下一步,解锁开源AI的无限可能 原创

5个月前 科技 41观看
摘要 “双十一”是一个非常有意义的日子,它既是全民狂欢的购物节,也是红帽的生日。今年是红帽进入中国的第20年,对于红帽而言这是一个重要的里程碑。过去20年间,开源技术在中国从无到有,从小到大,逐渐成

“双十一”是一个非常有意义的日子,它既是全民狂欢的购物节,也是红帽的生日。今年是红帽进入中国的第20年,对于红帽而言这是一个重要的里程碑。y8K喜好网-记录每日喜好的科技时尚娱乐生活

过去20年间,开源技术在中国从无到有,从小到大,逐渐成为软件行业发展的重要基石。红帽的成长同样受益于生态系统的日益丰满,客户信任红帽,正是因为其技术能够被更多厂商广泛适配。y8K喜好网-记录每日喜好的科技时尚娱乐生活

今年红帽中国依旧创下了双位数的增长,这也源于越来越多的企业接受开源技术,认识到开源的优势。虽已身披荣耀,但仍需大步向前,红帽全球副总裁兼大中华区总裁曹衡康在今年的红帽论坛上强调,我们的下一步是,解锁开源AI的无限可能。y8K喜好网-记录每日喜好的科技时尚娱乐生活

红帽的下一步,解锁开源AI的无限可能y8K喜好网-记录每日喜好的科技时尚娱乐生活

红帽全球副总裁兼大中华区总裁曹衡康y8K喜好网-记录每日喜好的科技时尚娱乐生活

以开源的方法将AI带入企业y8K喜好网-记录每日喜好的科技时尚娱乐生活

过去两年全球都在积极投入AI基础设施的建设,几个月前美国科技巨头股价集体下跌,引发了投资者对AI产业泡沫的广泛讨论,如此高昂的投入却未见成效。y8K喜好网-记录每日喜好的科技时尚娱乐生活

许多企业都在尝试使用大模型,但在生产场景即便是小问题也可能引发巨大风险,因此多数企业仍在探索如何有效启动AI应用。y8K喜好网-记录每日喜好的科技时尚娱乐生活

IDC全球研究数据显示,2024年在AI相关开发、数据和基础设施投资分配中,预测性AI占34%、GenAI占34%、解释性AI占32%。y8K喜好网-记录每日喜好的科技时尚娱乐生活

2024年红帽推出了全栈AI产品与解决方案,希望通过Linux AI(RHEL AI)和OpenShift AI,协助企业可以快速进入到AI世界,这既是初衷也是目标。y8K喜好网-记录每日喜好的科技时尚娱乐生活

基于目前企业应用模型的趋势,红帽提出了利用小模型,即专属模型,更稳定、安全地实现企业的特定需求。通过与IBM合作发起了围绕大规模对话机器人对齐方法和IBM开源Granite模型的开源社区项目InstructLab。y8K喜好网-记录每日喜好的科技时尚娱乐生活

此外,红帽还推出模型对齐工具,通过使用合成数据大幅减少对真实数据的需求,使数据量降低至原来的千分之一。这种方式不仅降低了算力成本,还大幅减少能耗,可以适应多种部署环境,可运行在本地数据中心、公有云、混合云和边缘设备上。y8K喜好网-记录每日喜好的科技时尚娱乐生活

而且红帽引入了“开放实验室”概念,与客户的顾问团队合作,共同探索企业在研发、生产、市场营销和客户支持等环节中最具效能的生成式AI应用场景,从小应用的成功起步,逐步扩展到更广大的场景。y8K喜好网-记录每日喜好的科技时尚娱乐生活

从实验到落地,企业AI应用三步曲y8K喜好网-记录每日喜好的科技时尚娱乐生活

在生成式AI时代,企业更加希望在了解其成本和收益后,再决定项目的可行性。红帽则提出了“分步实施”的策略,尝试三步走构建企业AI应用。y8K喜好网-记录每日喜好的科技时尚娱乐生活

第一步,在最小资源配置下试用开源模型和工具,比如在桌面环境下,在笔记本或工作站上,采用小数据集进行实验性训练。Podman Desktop工具为本地进行模型微调的开发者提供了桌面客户端,InstructLab可以帮助模型训练人员以较低成本实现模型对齐。y8K喜好网-记录每日喜好的科技时尚娱乐生活

第二步,通过更多算力进行扩展,红帽平台几乎可以运行在任何环境中,企业可以通过完整的合成数据生成技术进行生产级模型训练。红帽企业级Linux AI平台能够无缝开发、测试和运行适用于企业级应用的Granite模型。y8K喜好网-记录每日喜好的科技时尚娱乐生活

第三步,在更大的分布式集群环境下进行生产级模型训练,OpenShift AI支持数据的获取和准备、模型的训练和微调、模型供应、模型监控及硬件加速。y8K喜好网-记录每日喜好的科技时尚娱乐生活

红帽也积极在中国落地这一方法,首先通过市场渠道推广AI的独特功能和优势;其次赋能合作伙伴;最后通过开放实验室,与客户共同探索AI在实际场景中的应用。当客户确定适合的应用场景后,再推动产品的全面导入。y8K喜好网-记录每日喜好的科技时尚娱乐生活

曹衡康认为,一个新技术要进入市场,最快的方式就是找到成功的应用案例并加以推广。y8K喜好网-记录每日喜好的科技时尚娱乐生活

尽管红帽的AI产品自美国发布至今仅5个月,已有多个客户开始复制该成功经验。红帽大中华区解决方案架构部高级总监王慧慧介绍,中国已有一家保险公司引入红帽的AI产品,加速代码审查和合并请求的处理。此前,旧工具准确率不足95%,在生产环境中的效果大打折扣。引入红帽新AI工具后,代码审查和合并的准确率显著提升,大大提高了效率。y8K喜好网-记录每日喜好的科技时尚娱乐生活

“过去,我们通常学习国外的成功案例,而这次中国本地更快开发出了应用。”曹衡康非常自豪,因为这是亚太区第一个成功投入生产环境的AI应用。y8K喜好网-记录每日喜好的科技时尚娱乐生活

展开全文
猜你感兴趣
睿蓝8七座纯电MPV上市,起售价13.78万元

睿蓝8七座纯电MPV上市,起售价13.7

11-19 63阅读
93亿并购,“弟弟”成了“爹”

93亿并购,“弟弟”成了“爹”

11月1

11-19 62阅读
徐工集团CVC基金备案成功

徐工集团CVC基金备案成功

2024

11-19 63阅读
打工人,靠新中式按摩“续命”

打工人,靠新中式按摩“续命”

26岁

11-19 70阅读
“嫖娼门”王全安:前任个个赛西施,花800元睡站台女,终遭报应

“嫖娼门”王全安:前任个个

11-19 68阅读
网络电影《浴血无名·奔袭》入选“五个一工程” 海空雄鹰文化传媒再创主旋律佳作

网络电影《浴血无名·奔袭

  11月18日,中共中央宣传部公布第十

11-19 62阅读
《山水间的家》:围屋承古韵,老区展新颜!

《山水间的家》:围屋承古韵

  从赣南大地到沂蒙山区,乡土文化在

11-19 65阅读
「抖音城市生活节」长沙站完美收官!湘江河畔,邂逅长沙“秋·chill范儿”!

「抖音城市生活节」长沙站

摘要:「湘」聚江畔,在「湘当秋·

11-19 68阅读
三傻变劳拉

三傻变劳拉

跨度太大,玩家一

11-19 63阅读
《暗喻幻想: ReFantazio》发布最新宣传片 “剧情预告片2”

《暗喻幻想: ReFantazio》

《暗喻幻想: ReFantazio》发布最新宣传

11-19 69阅读
特别好评《永恒天空》明年登陆PS5 试玩Demo现已上线

特别好评《永恒天空》明年

于 2023 年 6 月发售的开放世界科幻生

11-19 70阅读
《燕云十六声》PC版不锁帧 1060可畅玩中画质

《燕云十六声》PC版不锁帧

《燕云十六声》官博发布新的文章,主要

11-19 63阅读
保卫萝卜4太空穿越4关通关攻略

保卫萝卜4太空穿越4关通关

保卫萝卜4是最新发布的游戏,相信喜欢保

11-19 66阅读
原神沙脂蛹怎么获得?原神沙脂蛹采集地点一览

原神沙脂蛹怎么获得?原神

沙脂蛹是原神游戏中须弥地区的特产之一

11-19 65阅读