蚂蚁集团全力拥抱AI:大模型训练降本、一体机发布、智能眼镜招兵买马

1个月前 生活 18观看
摘要《科创板日报》3月24日讯(记者 黄心怡)继阿里巴巴CEO吴泳铭宣布要全面“AI 化”后,阿里系相关的蚂蚁集团近期在AI上也动作不断。今日,针对关于蚂蚁百灵大模型训练成本的报道,蚂蚁集团第一时间回应《科创板日报》称:蚂蚁针对

《科创板日报》3月24日讯(记者 黄心怡)继阿里巴巴CEO吴泳铭宣布要全面“AI 化”后,阿里系相关的蚂蚁集团近期在AI上也动作不断。Ooq喜好网-记录每日喜好的科技时尚娱乐生活

今日,针对关于蚂蚁百灵大模型训练成本的报道,蚂蚁集团第一时间回应《科创板日报》称:蚂蚁针对不同芯片持续调优,以降低AI应用成本,目前取得了一定的进展,也会逐步通过开源分享。Ooq喜好网-记录每日喜好的科技时尚娱乐生活

蚂蚁集团在本月发布的最新研究论文显示,其推出了两款不同规模的MoE大语言模型——百灵轻量版(Ling-Lite)与百灵增强版(Ling-Plus),前者参数规模为168亿(激活参数27.5亿),Plus基座模型参数规模高达2900亿(激活参数288亿)。实验表明,其3000亿参数的MoE大模型可在使用国产GPU的低性能设备上完成高效训练,性能与完全使用英伟达芯片、同规模的稠密模型及MoE模型相当。Ooq喜好网-记录每日喜好的科技时尚娱乐生活

根据论文,虽然DeepSeek、阿里通义千问、MiniMax等系列的MoE大模型在特定任务中展现出卓越性能,但是MoE模型的训练通常依赖高性能计算资源(如英伟达H100/H800等先进GPU),高昂成本制约了在资源受限环境中的普及应用。同时,近年来英伟达高性能芯片持续短缺,相比之下,低性能加速器供应更充足且单机成本更低。这种差异凸显了构建跨异构计算单元与分布式集群无缝切换技术框架的必要性。Ooq喜好网-记录每日喜好的科技时尚娱乐生活

因此,蚂蚁团队设定的目标是“不使用高级GPU”来扩展模型,通过在模型训练环境、优化策略、基础设施、训练过程、评估结果、推理等层面进行优化和落地,旨在突破资源与预算限制实现高效大语言模型训练。Ooq喜好网-记录每日喜好的科技时尚娱乐生活

蚂蚁Ling团队在五种不同的硬件配置上对9万亿个token进行Ling-Plus的预训练。其中,使用高性能硬件配置训练1万亿token的预训练成本约为635万元人民币,但蚂蚁的优化方法将使用低规格硬件的训练成本将降至508万元左右,节省了近20%的成本,最终实现与阿里通义Qwen2.5-72B-Instruct和DeepSeek-V2.5-1210-Chat相当的性能Ooq喜好网-记录每日喜好的科技时尚娱乐生活

作为蚂蚁集团自研的大模型,百灵大模型重点布局在生活服务、金融服务、医疗健康等场景的应用。后续,蚂蚁百灵大模型Ling-Plus 和 Ling-Lite将计划开源。Ooq喜好网-记录每日喜好的科技时尚娱乐生活

近来,蚂蚁集团在人工智能领域频频加码,其中医疗是一大重点方向。3月21日,蚂蚁集团对外公布了在医疗机构、医生、用户三端最新AI产品体系升级。其中,面向医疗机构,其联合华为医疗卫生军团、阿里云等推出“蚂蚁医疗大模型一体机”;面向好大夫在线的29万注册医生,发布AI医生助手系列工具;同时,服务用户的健康应用“AI健康管家”也推出智能思考、健康自测等十余项新功能。Ooq喜好网-记录每日喜好的科技时尚娱乐生活

此外,蚂蚁集团也在拓展具身智能、AI眼镜等方向。Ooq喜好网-记录每日喜好的科技时尚娱乐生活

蚂蚁集团已注册成立了上海蚂蚁灵波科技有限公司。作为蚂蚁集团拓展具身智能和机器人业务的主要载体,蚂蚁灵波科技将面向在家庭、养老、医疗健康等领域,助力上海浦东加快技术引领、行业集聚、产业升级步伐,打造以人形机器人为引领的具身智能创新高地和具有行业影响力的创新产业生态。Ooq喜好网-记录每日喜好的科技时尚娱乐生活

而招聘信息显示,蚂蚁集团近日正招聘AI智能眼镜的产品专家,要求有2C产品的经验。《科创板日报》从接近蚂蚁集团的人士处了解到,蚂蚁近期确实在扩充准备智能眼镜相关业务。Ooq喜好网-记录每日喜好的科技时尚娱乐生活

展开全文
猜你感兴趣
晶晨股份:预计全年营收将同比增长 存货几乎为短账龄产品|直击业绩会

晶晨股份:预计全年营收将同

《科创板日报》11月18日讯(记者 邱思雨)

11-19 60阅读
中国东航获评第二十届中国公共关系行业最佳案例大赛多项大奖

中国东航获评第二十届中国

近日,由中国国际公共关系协会(CIPRA)主

11-19 61阅读
带动感拉花 极狐阿尔法T5特别版将亮相广州车展

带动感拉花 极狐阿尔法T5

近日消息,极狐阿尔法T5特别版将在2024

11-19 62阅读
运营商爆料:iOS 18.2 将于 12 月 9 日发布

运营商爆料:iOS 18.2 将于

北京时间可能是 10 日。 苹果此前

11-19 65阅读
红魔10 Pro系列电池创新高:容量达到7050mAh

红魔10 Pro系列电池创新高

今天,红魔官方公布了红魔10 Pro系列的

11-19 61阅读
奶油色调色教程

奶油色调色教程

11-19 56阅读
MARINA RINALDI 2024秋冬系列:高智感穿搭打造职场女性新形象

MARINA RINALDI 2024秋冬

职场女性,除了有工作实力之外,同时可以

11-19 57阅读
ELLE汉帛奖 24AW首秀完美落幕

ELLE汉帛奖 24AW首秀完美

2024年11月5日,ELLE品牌与中国目

11-19 63阅读
 海河邂逅泰晤士 时尚秀展双城风采

海河邂逅泰晤士 时尚秀展

为进一步推动天津文化走向世界,让世界

11-19 60阅读
古老和现代碰撞,高科技鹅绒服中国美力城登顶长城之巅

古老和现代碰撞,高科技鹅绒

猫人24AW发布会9月21日在北京长城居

11-19 59阅读
抖音密友有什么权限

抖音密友有什么权限

1、好友特别关注功能 抖音密友时刻是针

11-19 64阅读
在抓落实上狠下功夫(金台潮声)

在抓落实上狠下功夫(金台潮

“强化跟踪问效,推动改

11-19 60阅读
我家猫趁狗不在

我家猫趁狗不在

我家猫趁狗不在时,把他一天的口粮吃了

11-19 63阅读
自己一个人去吃火锅

自己一个人去吃火锅

自己一个人去吃火锅。 服务员问我

11-19 56阅读
每日温情画语丨“小朋友遇上老战士——‘希望’碰触到‘历史’”(2024.11.18)

每日温情画语丨“小朋友遇

近日

11-19 67阅读