GPT-5摊上大问题:烧了数亿美金后OpenAI发现牛吹早了

4个月前 生活 26观看
摘要财联社12月23日讯(编辑 马兰)OpenAI的GPT项目一直是业界最为关注的话题,然而在该公司近期热火朝天的宣传之中,备受瞩目的GPT-5却消失无踪。去年11月,OpenAI首席执行官奥尔特曼曾强调,不会在2024年推出任何名为GPT-5的模型。

财联社12月23日讯(编辑 马兰)OpenAI的GPT项目一直是业界最为关注的话题,然而在该公司近期热火朝天的宣传之中,备受瞩目的GPT-5却消失无踪。xpv喜好网-记录每日喜好的科技时尚娱乐生活

去年11月,OpenAI首席执行官奥尔特曼曾强调,不会在2024年推出任何名为GPT-5的模型。但知情人士透露,OpenAI最大投资者微软曾预期在2024年年中时看到该模型。xpv喜好网-记录每日喜好的科技时尚娱乐生活

有人还称,距今为止,该项目已经筹备超过18个月,总体而言,这个代号为Orion的未来GPT-5模型的气氛已不太友好。该模型已经进行了至少两次大规模训练,每次训练都需要数月时间来处理大量数据,但每次训练后都会出现新的问题。xpv喜好网-记录每日喜好的科技时尚娱乐生活

了解该项目的人士还指出,Orion目前充其量只比OpenAI的公开模型要好一些,距离该公司所谓的“重大飞跃”还很遥远,其也无法说服投资人投入目前的巨大成本。据估计,该模型为期六个月的训练仅在计算成本方面就“烧”了约5亿美元。xpv喜好网-记录每日喜好的科技时尚娱乐生活

危险的是,OpenAI在10月的最新估值达到1570亿美元,受到了投资者的继续追捧,但分析人士指出这一估值很大程度上基于奥尔特曼的乐观预测,即GPT-5将在各类学科和任务上表现出博士水准,较目前GPT-4的高中生水平实现质的飞跃。xpv喜好网-记录每日喜好的科技时尚娱乐生活

这意味着如果GPT-5不能在一个合理的时间内给出一个合理的亮相,那么OpenAI的繁荣可能将如泡沫般被刺破,成为反噬噩梦的开始。xpv喜好网-记录每日喜好的科技时尚娱乐生活

数据“燃”尽

OpenAI原本的想法是,让GPT-5有能力解锁新的科学发现,并完成诸如预约或航班预定等类人类的决策行为,且其犯错的概率更小,或者至少对AI幻觉有所警惕。xpv喜好网-记录每日喜好的科技时尚娱乐生活

但设想是设想,内部人士透露OpenAI的预期有些过于乐观,仅在数据问题上,GPT-5就面临着难以想象的挫折。xpv喜好网-记录每日喜好的科技时尚娱乐生活

人工模型在训练过程中需要不断测试,可能持续很长一段时间。在此期间,模型将输入数万亿个单词片段,即所谓的token。而未来的人工智能模型吞噬token的数量将会是目前模型的十倍,甚至更多。xpv喜好网-记录每日喜好的科技时尚娱乐生活

GPT-4的训练就使用了大约13万亿个token,按照一千人每天协5000个单词计算,这种规模的团队在几个月才能生产十亿个token,而其花费据奥尔特曼称超过1亿美元。xpv喜好网-记录每日喜好的科技时尚娱乐生活

因此GPT-5模型的最关键问题在于:数据不足。此前的模型使用的是新闻文章、社交媒体贴文和科学论文,但研究人员透露,公共互联网上的数据已经不够,他们需要更多样且更高质量的数据,来让GPT-5变得更加强大。xpv喜好网-记录每日喜好的科技时尚娱乐生活

难以调头

OpenAI目前的解决方案是从头开始创建数据,如招聘人员编写新的软件代码或解决数学问题,以供Orion学习。这些员工之中部分是软件工程师,部分是数学家,必要时他们还需要向Orion解释自己的工作。xpv喜好网-记录每日喜好的科技时尚娱乐生活

还有一个方法是让现有的人工智能创造数据来训练Orion,比如OpenAI的o1。但研究人员又指出,用人工智能产出的数据喂给人工智能通常会引发故障或导致无意义的答案。xpv喜好网-记录每日喜好的科技时尚娱乐生活

总之,在让Orion变成名副其实的GPT-5的道路上,OpenAI已经感到心累,在实现质的飞跃之前,人工智能先倒在了量的累积上。更无奈的是,OpenAI今年持续的人才流失加深了这一困境。xpv喜好网-记录每日喜好的科技时尚娱乐生活

从首席科学家Ilya Sutskever到首席技术官Mira Murati再到上周四辞职的知名研究员Alec Radford,OpenAI的各路大神纷纷离巢,这为“难产”的GPT-5再添一层浓重的悲观色彩。xpv喜好网-记录每日喜好的科技时尚娱乐生活

迟迟看不到结果的GPT-5也难免被OpenAI内部的商业化项目,如Sora,争夺走有限的计算资源。这同时也是一种警告,即Orion没有多少从头再来的机会,因为OpenAI已经明确了其想要盈利的雄心。xpv喜好网-记录每日喜好的科技时尚娱乐生活

展开全文
猜你感兴趣
洋咖啡,为何卖不动了?

洋咖啡,为何卖不动了?

近日,有多家

11-19 62阅读
 格兰菲迪时光凝宴:于深圳云端之境,绽放风味创想

格兰菲迪时光凝宴:于深圳

深圳湾畔,云端之境,关于时光的风味创想

11-19 65阅读
滑雪季不迷路!墨迹天气为您的雪场之旅护航

滑雪季不迷路!墨迹天气为您

近年来,冰雪经济发展持续向好,滑雪逐渐

11-19 78阅读
解度欧诗漫的“流量密码”,科技力与品牌力双管齐下

解度欧诗漫的“流量密码”

在精准护肤的大趋势下,美白产品赛道竞

11-19 66阅读
 2024芭莎美妆嘉年华“美戏登场” 演绎新美学体验

2024芭莎美妆嘉年华“美

盛誉美妆行业的芭莎国际美妆嘉年华金

11-19 69阅读
 Max Mara携手女性电影人组织呈献Max Mara女性电影人未来之星®奖

Max Mara携手女性电影人

2024年10月24日(星期四),由Max Mara携手

11-19 67阅读
官宣!与章华汉草染发膏品牌大使林依轮,“依”起解锁年轻的秘密

官宣!与章华汉草染发膏品牌

10月18日,高端染发品牌章华汉草正式官

11-19 70阅读
天然草本结合自然科技,自然堂引领“0油感蓬松秀发时代”

天然草本结合自然科技,自然

9月26日,全新自然堂草本养发系列新品

11-19 71阅读
「自然呓语」— indicia标记 24冬季秀场发布

「自然呓语」— indicia标

indicia标记2024冬季系列,继续从日常

11-19 62阅读
你了解你的 基友 吗(你了解你的基友)

你了解你的 基友 吗(你了解

壳牌家族 壳牌在国内市场主要

11-19 66阅读
我的通勤搭子

我的通勤搭子

分享一下我的通勤搭子。 一辆路过

11-19 65阅读
转向灯怎么办

转向灯怎么办

学车。 转完后我问教练转向灯怎么

11-19 64阅读
我的猫

我的猫

跟我男朋友没什么感情了。 一直想

11-19 69阅读
空调开的久的话

空调开的久的话

甲:空调开的久的话,我就很心疼它。

11-19 70阅读
八角的功效与作用

八角的功效与作用

功效与作用促进肠胃蠕动、增加白细胞、

11-19 67阅读