成本担忧使 CIO 的 AI 战略陷入困境

6个月前 科技 37观看
摘要 不确定的结果和对生成式 AI 承诺效益缺乏信心,正成为企业采用该技术的主要障碍。根据 IDC 最近的一项调查,成本问题是另一个主要的生成式 AI 障碍,超过 1,000 名受访 IT 专业人士中有 46% 表示,

不确定的结果和对生成式 AI 承诺效益缺乏信心,正成为企业采用该技术的主要障碍。4q1喜好网-记录每日喜好的科技时尚娱乐生活

根据 IDC 最近的一项调查,成本问题是另一个主要的生成式 AI 障碍,超过 1,000 名受访 IT 专业人士中有 46% 表示,定价缺乏可预测性是在其组织中实施生成式 AI 的主要障碍。4q1喜好网-记录每日喜好的科技时尚娱乐生活

为缓解这些担忧,根据 10 月对 IT 专业人士和业务部门主管的调查,IDC 调查受访者"表示倾向于按需付费的消费模式,这与大多数需要提前承诺的供应商不同步"。4q1喜好网-记录每日喜好的科技时尚娱乐生活

TIAA 的首席运营、信息和数字官 Sastry Durvasula 坚信,基于消费的定价模式是企业 AI 战略的最佳选择。4q1喜好网-记录每日喜好的科技时尚娱乐生活

他说:"大多数组织仍在摸索其 AI 使用模式,因此承诺大量前期成本是有风险的。按需付费提供了更好的成本可见性和控制,以及根据实际使用情况进行扩展的灵活性。我们较少关注一次性的训练/微调成本,更担心管理持续的运营支出。通过这种方式,我们可以直接将成本与价值挂钩,并根据需要进行调整。"4q1喜好网-记录每日喜好的科技时尚娱乐生活

Rockwell Automation 的 CIO Chris Nardecchia 同意按需付费是 CIO 首选的定价模式。4q1喜好网-记录每日喜好的科技时尚娱乐生活

他说:"大多数企业,尤其是科技行业之外的企业,在实施能够运行高级模型的内部 AI 基础设施时面临重大障碍。虽然从零开始构建对大多数人来说是遥不可及的,但基于消费的模式允许 CIO 逐步实施 AI,并获得更可衡量的投资回报。"4q1喜好网-记录每日喜好的科技时尚娱乐生活

IT 领导者正在更好地理解供应商的生成式 AI 定价方法——但总的来说他们并不喜欢。IDC 研究副总裁兼调查作者之一 Dave McCarthy 指出,CIO 仍在处理如何最好地管理云中的意外成本,并且已经了解到,在没有历史数据的情况下估算新工作负载的成本是具有挑战性的。4q1喜好网-记录每日喜好的科技时尚娱乐生活

McCarthy 说:"由于 AI 对大多数公司来说都是新事物,这给他们的 AI 计划带来了预算挑战。更糟糕的是,许多供应商仍在尝试各种可能改变的定价模式。这种不确定性给必须在预算限制内工作的风险规避型公司带来了挑战。按需付费定价是一种通过不锁定长期合同来降低财务风险的方式。"4q1喜好网-记录每日喜好的科技时尚娱乐生活

UST 的首席 AI 架构师 Adnan Masood 说,"不可预测的定价"使得即使是 CFO 也难以管理 AI 支出。4q1喜好网-记录每日喜好的科技时尚娱乐生活

他说:"即使使用先进的数据驱动策略的 CFO 也无法完全预测的成本波动......这对这些高管必须保护的核心竞争力来说是一个巨大的威胁,可能会使其偏离轨道。"4q1喜好网-记录每日喜好的科技时尚娱乐生活

在 Masood 看来,"真正的担忧不是技术的力量,而是缺乏实时成本控制和明确的性能指标来证明大胆的 AI 投资的合理性。"4q1喜好网-记录每日喜好的科技时尚娱乐生活

值得质疑的结果,可疑的收益4q1喜好网-记录每日喜好的科技时尚娱乐生活

除了定价担忧外,IDC 发现对不良结果的担忧(51.3%)——包括无意的偏见、未经授权使用他人的知识产权或无意泄露机密信息——以及对生成式 AI 效益缺乏信心(46.1%)是采用的主要障碍。4q1喜好网-记录每日喜好的科技时尚娱乐生活

Marsh McLennan 的 CIO Paul Beswick 表示,解决方案可能是使用 SaaS 代理并追求基本的生成式 AI 用例,如自动文档摘要,而不是试图构建和训练基础模型。他补充说,这样做也可能是一种节省成本的 AI 入门方式。4q1喜好网-记录每日喜好的科技时尚娱乐生活

他说:"确实存在许多技术组织完全有能力以适中的价格轻松获取的能力。我认为更大的风险是他们被不太可能成功的事情分散注意力,或购买价格/性能权衡不好的技术。"4q1喜好网-记录每日喜好的科技时尚娱乐生活

Beswick 补充说:"除非在非常高价值和非常小众的用例中工作,否则大多数组织应避免尝试构建自己的定制生成式 AI 模型。对于大多数公司来说,我认为利用正在建立的生态系统,通过购买或租赁方式进入会获得更好的回报。"4q1喜好网-记录每日喜好的科技时尚娱乐生活

UST 的 Masood 同意模型训练的成本潜力不适合胆小的人。4q1喜好网-记录每日喜好的科技时尚娱乐生活

IT 领导者"似乎最担心失控的训练费用:一旦你启动大规模生成模型,如果没有运营透明度和强大的风险缓解策略,它可能成为无底洞,"他说。"同时,每日增量费用带来的冲击会破坏机构的合法性——如果没有强大的治理创新框架,没人愿意向董事会解释昨晚 AI 使用量激增的原因。"4q1喜好网-记录每日喜好的科技时尚娱乐生活

给定 GPU 成本,预算限制也在阻碍 AI 基础设施的建设,Rockwell 的 Nardecchia 说。他补充说,有经验的 AI 架构师和数据科学家短缺、技术复杂性和数据就绪性也是主要障碍。4q1喜好网-记录每日喜好的科技时尚娱乐生活

"基础模型需要大量清晰、结构化的数据——而大多数组织仍在与遗留系统孤岛和低质量数据作斗争。这在很大程度上是我从同行那里听到的第一大制约因素,"他说,谈到对不良结果的担忧。4q1喜好网-记录每日喜好的科技时尚娱乐生活

供应商正在通过解决定价问题和努力改善结果来克服这些障碍。例如,Microsoft 本周为 Copilot Chat 引入了基于消费的定价。而 Amazon 最近推出了旨在改善结果的 Bedrock 生成式 AI 平台的新功能。4q1喜好网-记录每日喜好的科技时尚娱乐生活

在 AWS re:Invent 大会上,Doordash 的 Chaitanya Hari 表示,Amazon Bedrock 的新知识库功能使公司能够实现从摄取到检索的整个检索增强生成 (RAG) 工作流程,而无需大量自定义数据集成或复杂的数据后端管理。4q1喜好网-记录每日喜好的科技时尚娱乐生活

"即使模型速度快且相当准确,我们如何确保它从我们提供的上下文中提取信息,而不是随意编造?我们通过多次迭代的提示工程和微调,确保我们的 AI 模型只可靠地引用我们通过 Amazon Bedrock 提供的知识库,"DoorDash 企业 AI 解决方案产品负责人 Hari 说。4q1喜好网-记录每日喜好的科技时尚娱乐生活

数据交换成本和生成式 AI 溢价4q1喜好网-记录每日喜好的科技时尚娱乐生活

IDC 的调查还揭示了阻碍生成式 AI 采用的额外定价担忧,包括与系统间数据交换相关的隐藏成本。4q1喜好网-记录每日喜好的科技时尚娱乐生活

IDC 的调查显示,大多数组织预计公共云 IaaS 将是其生成式 AI 基础设施的主要来源。但报告作者指出,许多组织可能希望将本地系统与 IaaS 结合使用以获得更大的隐私性。这种对混合生成式 AI 架构的偏好"将需要明确定义的定价模型,以考虑部署位置之间数据传输相关的成本"。4q1喜好网-记录每日喜好的科技时尚娱乐生活

IDC 和 CIO 指出,生成式 AI 服务的溢价定价是另一个 CIO 关注点。4q1喜好网-记录每日喜好的科技时尚娱乐生活

UST 的 Masood 说:"当投资回报率模糊不清时,代理式 AI(sophistical AI agents acting autonomously)的溢价成本合理地令人恐惧。"4q1喜好网-记录每日喜好的科技时尚娱乐生活

供应商最终将如何为代理式 AI 使用定价仍是一个争论和混淆的问题。例如,最近宣布 Agentforce 2.0 的 Salesforce 正在采用按对话收费的方式。该平台目前被 FedEx 用于简化运营,被 Saks Fifth Avenue 用于回答客户关于零售商品的问题。4q1喜好网-记录每日喜好的科技时尚娱乐生活

这些先进功能在一段时间内可能并非所有企业都能负担得起。根据 IDC 的调查,生成式 AI 注入服务的各种定价模式是必然的——但预计将在几年内稳定下来。4q1喜好网-记录每日喜好的科技时尚娱乐生活

克服生成式 AI 障碍4q1喜好网-记录每日喜好的科技时尚娱乐生活

虽然几乎每个公司都在考虑或实施某种形式的 AI,但很少有公司第一次就能做对,这从高失败率的 AI 试点可以看出。但事情不必如此。4q1喜好网-记录每日喜好的科技时尚娱乐生活

Alliant 智能自动化和 AI 董事总经理 Chris Stephenson 说:"CIO 和业务所有者需要采取不同的方法来实施新的 AI 驱动流程,有多种策略可以提高 AI 试点的成功率。"4q1喜好网-记录每日喜好的科技时尚娱乐生活

他补充说:"有时,即使功能理想,AI 试点也可能因为缺乏资助项目的关键利益相关者或预期使用它的员工的支持而失败。在 AI 试点开始时,项目负责人应...尽早确定项目的关键 ROI 衡量标准,向利益相关者展示项目在每个步骤的进展情况。"4q1喜好网-记录每日喜好的科技时尚娱乐生活

数据中心提供商 Digital Realty 指导 CIO 从小规模的目标试点开始证明 ROI,通过将 AI 与业务目标保持一致并使用明确的指标来展示它如何推动收入、削减成本或降低风险,从而在整个组织中建立信任和信心。4q1喜好网-记录每日喜好的科技时尚娱乐生活

Digital Realty CTO Chris Sharp 说:"我们建议企业客户保持对其整个基础设施堆栈的可见性。一个简单而有效的方法是跟踪令牌、瓦特和美元之间的关系。该模型监控 AI 部署中的令牌生产、支持基础设施所需的功率——考虑密度和容量动态——以及随时间推移相关的运营成本。"4q1喜好网-记录每日喜好的科技时尚娱乐生活

Lumiyo 的 CIO、前 Vuori 和 Red Bull 的 CIO 和 CTO Bryan Muehlberger 建议 CIO 在推进之前将所有与 AI 相关的成本——不确定的定价模型、电力成本和经济状况——纳入任何方程式。4q1喜好网-记录每日喜好的科技时尚娱乐生活

他说:"目前,芯片成本上涨、与之相关的能源消耗以及与中国的宏观经济紧张关系和供应链内部的问题[是主要担忧]。这些将在未来一到两年内对 AI 产生重大影响。即使是 OpenAI 也因这些复杂性而在部署其最新版本时遇到一些问题。"4q1喜好网-记录每日喜好的科技时尚娱乐生活

展开全文
猜你感兴趣
雷神G50 Ultra手柄预售:TMR摇杆+扳机震动,179元起

雷神G50 Ultra手柄预售:TMR摇杆+

11-19 125阅读
英伟达发布PC端Nvidia应用,取代GeForce Experience

英伟达发布PC端Nvidia应用,取代Ge

11-19 125阅读
又一百亿独角兽申请破产了

又一百亿独角兽申请破产了

近日,

11-19 147阅读
割不动贵妇,燕窝盯上男总裁

割不动贵妇,燕窝盯上男总裁

消费

11-19 141阅读
为什么说MEMS-OXC在智算场景没有未来?

为什么说MEMS-OXC在智算场景没有

智算中心是这一轮科技革命的算力

11-19 109阅读
《永夜星河》三折叠剧情,怎么「折」都有面儿

《永夜星河》三折叠剧情,怎

作者 / 郑容和编辑 / 朱   婷运营

11-19 108阅读
“资源弃子”杨幂还是被踢出了局,和嘉行解约的背后是被闺蜜插刀

“资源弃子”杨幂还是被踢

11-19 111阅读
千古玦尘凤染和是凤焰什么关系?白烁是月弥的转世吗?

千古玦尘凤染和是凤焰什么

《千古诀尘》中凤染和是凤焰什么

11-19 112阅读
腾讯的这部甜宠剧,高颜值cp让人沦陷,男二也让人心动

腾讯的这部甜宠剧,高颜值cp

2020年4月10日,甜宠剧《致我们甜甜

11-19 113阅读
最美《变形金刚》女主梅根福克斯怀孕登热搜 网友谈样貌:咋成卡戴珊了...

最美《变形金刚》女主梅根

11月12日消息,知

11-19 107阅读
20年后焕发新生 《半条命2》在线玩家人数冲上巅峰

20年后焕发新生 《半条命2

根据SteamDB的数据显示,围绕《半条命2

11-19 134阅读
重装机兵3大破坏密码大全_重装机兵3所有密码一览

重装机兵3大破坏密码大全_

大破坏密码是《重装机兵3》游戏里面用

11-19 402阅读
杀手6第一章变色龙挑战攻略巴黎挑战变色龙教程

杀手6第一章变色龙挑战攻

杀手6是Hitman系列的最新作,这是一款优

11-19 102阅读
原子之心芭蕾舞者谜题攻略_芭蕾舞者舞姿调整攻略

原子之心芭蕾舞者谜题攻略

原子之心游戏里面玩家会在剧院中碰到一

11-19 121阅读
双十一巅峰28小时超值硬件优惠盘点:2T PCIe4 SSD 599元 2K/180Hz电竞屏615元

双十一巅峰28小时超值硬件

11-19 128阅读