GPT-5摊上大问题:烧了数亿美金后OpenAI发现牛吹早了

7个月前 生活 40观看
摘要财联社12月23日讯(编辑 马兰)OpenAI的GPT项目一直是业界最为关注的话题,然而在该公司近期热火朝天的宣传之中,备受瞩目的GPT-5却消失无踪。去年11月,OpenAI首席执行官奥尔特曼曾强调,不会在2024年推出任何名为GPT-5的模型。

财联社12月23日讯(编辑 马兰)OpenAI的GPT项目一直是业界最为关注的话题,然而在该公司近期热火朝天的宣传之中,备受瞩目的GPT-5却消失无踪。qkn喜好网-记录每日喜好的科技时尚娱乐生活

去年11月,OpenAI首席执行官奥尔特曼曾强调,不会在2024年推出任何名为GPT-5的模型。但知情人士透露,OpenAI最大投资者微软曾预期在2024年年中时看到该模型。qkn喜好网-记录每日喜好的科技时尚娱乐生活

有人还称,距今为止,该项目已经筹备超过18个月,总体而言,这个代号为Orion的未来GPT-5模型的气氛已不太友好。该模型已经进行了至少两次大规模训练,每次训练都需要数月时间来处理大量数据,但每次训练后都会出现新的问题。qkn喜好网-记录每日喜好的科技时尚娱乐生活

了解该项目的人士还指出,Orion目前充其量只比OpenAI的公开模型要好一些,距离该公司所谓的“重大飞跃”还很遥远,其也无法说服投资人投入目前的巨大成本。据估计,该模型为期六个月的训练仅在计算成本方面就“烧”了约5亿美元。qkn喜好网-记录每日喜好的科技时尚娱乐生活

危险的是,OpenAI在10月的最新估值达到1570亿美元,受到了投资者的继续追捧,但分析人士指出这一估值很大程度上基于奥尔特曼的乐观预测,即GPT-5将在各类学科和任务上表现出博士水准,较目前GPT-4的高中生水平实现质的飞跃。qkn喜好网-记录每日喜好的科技时尚娱乐生活

这意味着如果GPT-5不能在一个合理的时间内给出一个合理的亮相,那么OpenAI的繁荣可能将如泡沫般被刺破,成为反噬噩梦的开始。qkn喜好网-记录每日喜好的科技时尚娱乐生活

数据“燃”尽

OpenAI原本的想法是,让GPT-5有能力解锁新的科学发现,并完成诸如预约或航班预定等类人类的决策行为,且其犯错的概率更小,或者至少对AI幻觉有所警惕。qkn喜好网-记录每日喜好的科技时尚娱乐生活

但设想是设想,内部人士透露OpenAI的预期有些过于乐观,仅在数据问题上,GPT-5就面临着难以想象的挫折。qkn喜好网-记录每日喜好的科技时尚娱乐生活

人工模型在训练过程中需要不断测试,可能持续很长一段时间。在此期间,模型将输入数万亿个单词片段,即所谓的token。而未来的人工智能模型吞噬token的数量将会是目前模型的十倍,甚至更多。qkn喜好网-记录每日喜好的科技时尚娱乐生活

GPT-4的训练就使用了大约13万亿个token,按照一千人每天协5000个单词计算,这种规模的团队在几个月才能生产十亿个token,而其花费据奥尔特曼称超过1亿美元。qkn喜好网-记录每日喜好的科技时尚娱乐生活

因此GPT-5模型的最关键问题在于:数据不足。此前的模型使用的是新闻文章、社交媒体贴文和科学论文,但研究人员透露,公共互联网上的数据已经不够,他们需要更多样且更高质量的数据,来让GPT-5变得更加强大。qkn喜好网-记录每日喜好的科技时尚娱乐生活

难以调头

OpenAI目前的解决方案是从头开始创建数据,如招聘人员编写新的软件代码或解决数学问题,以供Orion学习。这些员工之中部分是软件工程师,部分是数学家,必要时他们还需要向Orion解释自己的工作。qkn喜好网-记录每日喜好的科技时尚娱乐生活

还有一个方法是让现有的人工智能创造数据来训练Orion,比如OpenAI的o1。但研究人员又指出,用人工智能产出的数据喂给人工智能通常会引发故障或导致无意义的答案。qkn喜好网-记录每日喜好的科技时尚娱乐生活

总之,在让Orion变成名副其实的GPT-5的道路上,OpenAI已经感到心累,在实现质的飞跃之前,人工智能先倒在了量的累积上。更无奈的是,OpenAI今年持续的人才流失加深了这一困境。qkn喜好网-记录每日喜好的科技时尚娱乐生活

从首席科学家Ilya Sutskever到首席技术官Mira Murati再到上周四辞职的知名研究员Alec Radford,OpenAI的各路大神纷纷离巢,这为“难产”的GPT-5再添一层浓重的悲观色彩。qkn喜好网-记录每日喜好的科技时尚娱乐生活

迟迟看不到结果的GPT-5也难免被OpenAI内部的商业化项目,如Sora,争夺走有限的计算资源。这同时也是一种警告,即Orion没有多少从头再来的机会,因为OpenAI已经明确了其想要盈利的雄心。qkn喜好网-记录每日喜好的科技时尚娱乐生活

展开全文
猜你感兴趣
特朗普还没上台,欧盟做好了“最坏打算”

特朗普还没上台,欧盟做好了

11-19 109阅读
全球买飞机最多的国家,频被恶作剧:9天120起炸弹威胁,还没有解决办法

全球买飞机最多的国家,频被

11-19 117阅读
千呼万唤始出来,华为Mate 70系列开启预订!黑科技、原生鸿蒙有望“非凡”亮相

千呼万唤始出来,华为Mate 7

《科创板日报》11月18日讯(记者 黄心怡)

11-19 114阅读
唯捷创芯:聚焦射频前端主业相关投资并购 对Q4芯片销量持乐观预期|直击股东会

唯捷创芯:聚焦射频前端主业

《科创板日报》11月18日(记者 吴旭光)近

11-19 105阅读
荣耀300系列新机相关信息现身,或主打轻薄影像

荣耀300系列新机相关信息

作为荣耀旗下针对中高端市场的产品序

11-19 109阅读
奶油色调色教程

奶油色调色教程

11-19 96阅读
「小红星」打开奢品营销新思路,助力奢品高效增长

「小红星」打开奢品营销新

【Fashion Talk】带你走入奢侈品与服

11-19 111阅读
本·谢尔顿亮相On昂跑上海派对 联结网球社群 尽释运动热爱

本·谢尔顿亮相On昂跑上海

中国上海,2024年10月2日– 今日,瑞士运

11-19 101阅读
CASETiFY iPhone 16 “够强韧,够任性” 灵感空间强势登陆上海、北京及成都

CASETiFY iPhone 16 “够

助你任性挥洒创意灵感,诠释百变个性

11-19 97阅读
爱马仕包包(爱马仕包包二手回收价格)

爱马仕包包(爱马仕包包二手

爱马仕绝对可以说是所有奢侈品包包

11-19 115阅读
抖音密友有什么权限

抖音密友有什么权限

1、好友特别关注功能 抖音密友时刻是针

11-19 112阅读
雷霆战机街机版真能赚钱吗

雷霆战机街机版真能赚钱吗

雷霆战机街机版真能赚钱。雷霆战机街机

11-19 119阅读
学车,很容易紧张

学车,很容易紧张

学车,很容易紧张。 教练让我按喇叭

11-19 112阅读
我喜欢你

我喜欢你

甲:我喜欢你。 乙:谢谢你。 甲:我真

11-19 93阅读
黑玉米的功效与作用

黑玉米的功效与作用

功效与作用提高人体免疫力、补血、减肥

11-19 95阅读