谷歌DeepMind研究:Gemini AI存“畏死”情绪,导致推理能力明显下降

2天前 科技 2观看
摘要 6 月 18 日消息,科技媒体 TechCrunch 昨日(6 月 17 日)发布博文,报道称谷歌发布最新论文,发现其最新 AI 模型存在“畏死”行为特征,在《宝可梦》游戏中角色濒死时,会出现类似“恐慌”的异常决策,导

6 月 18 日消息,科技媒体 TechCrunch 昨日(6 月 17 日)发布博文,报道称谷歌发布最新论文,发现其最新 AI 模型存在“畏死”行为特征,在《宝可梦》游戏中角色濒死时,会出现类似“恐慌”的异常决策,导致推理能力明显下降。4lU喜好网-记录每日喜好的科技时尚娱乐生活

4lU喜好网-记录每日喜好的科技时尚娱乐生活

IT之家援引论文观点,通过 Gemini 2.5 Pro 测试《宝可梦》游戏,发现 AI 在处理复杂情境时会出现人类般的非理性反应。4lU喜好网-记录每日喜好的科技时尚娱乐生活

谷歌团队在报告中指出,在 Gemini 控制的宝可梦角色生命值接近归零时,模型会触发类似“恐慌”的异常状态,导致推理能力显著退化。4lU喜好网-记录每日喜好的科技时尚娱乐生活

4lU喜好网-记录每日喜好的科技时尚娱乐生活

这种现象表现为 AI 突然停止使用现有策略工具,其决策模式与人类在压力下仓促判断的行为高度相似。4lU喜好网-记录每日喜好的科技时尚娱乐生活

Anthropic 公司的同类研究,还揭示了 AI 游戏行为的双重特性。Claude 在挑战月见山关卡时,错误理解游戏规则,企图通过让所有宝可梦全灭来实现快速移动。4lU喜好网-记录每日喜好的科技时尚娱乐生活

但根据游戏机制,玩家只能返回最近的宝可梦中心而非最近城镇,导致 AI 角色在迷宫中反复受困,这类失误暴露了当前 AI 对环境规则的机械式理解缺陷。4lU喜好网-记录每日喜好的科技时尚娱乐生活

不过在特定领域,AI 展现出超越人类的能力:通过人类辅助设计的“能动工具”,Gemini 2.5 Pro 能精准解决胜利之路的滚石谜题,仅凭一次提示就能推演出复杂路径规划方案。谷歌推测未来模型或能自主开发此类工具,但距离完全自主决策仍有技术鸿沟。4lU喜好网-记录每日喜好的科技时尚娱乐生活

【来源:IT之家4lU喜好网-记录每日喜好的科技时尚娱乐生活

展开全文
猜你感兴趣
谷歌搜索涉嫌垄断:Chrome浏览器将被勒令出售

谷歌搜索涉嫌垄断:Chrome浏览器将

11月19日

11-19 82阅读
中国电信完成6G天地一体化测试:这上、下行网速感受下!

中国电信完成6G天地一体化测试:这

11月19日

11-19 81阅读
李子柒归来,牵扯许多人情世故?

李子柒归来,牵扯许多人情世故?

“这

11-19 74阅读
OpenAI“杀死”在线教育巨头

OpenAI“杀死”在线教育巨头

文章来源:智东西图片来源:由无界AI

11-19 84阅读
刚刚,OpenAI发布Windows版ChatGPT,高级语音能用了

刚刚,OpenAI发布Windows版ChatGPT

图片来源:由无界AI生成今天凌晨2

11-19 82阅读
《永夜星河》三折叠剧情,怎么「折」都有面儿

《永夜星河》三折叠剧情,怎

作者 / 郑容和编辑 / 朱   婷运营

11-19 84阅读
综艺《开播!短剧季》试镜最后一役!谁能夺得《包拯与公孙策》IP试播资格?

综艺《开播!短剧季》试镜最

  国内首档“微短剧+综艺”创新真人

11-19 87阅读
长江文化艺术季闭幕式圆满落幕 平安携手金莎合唱《何以家国》

长江文化艺术季闭幕式圆满

  4日晚,长江文化艺术季闭幕式在宜昌

11-19 84阅读
董明珠称训员工被指霸道很好笑:企业管理者声音大点还没这个话语权了

董明珠称训员工被指霸道很

11月16日消息,之

11-19 82阅读
泰森宣布自己赢了

泰森宣布自己赢了

泰森在赛后感言

11-19 78阅读
《这是我的战争》10周年纪念 最新慈善DLC即将登场

《这是我的战争》10周年纪

「妄想欢庆」——《这是我的战争》10周

11-19 85阅读
ePSXe模拟器安卓版怎么导入游戏?ePSXe模拟器安卓版导入游戏教程

ePSXe模拟器安卓版怎么导

ePSXe模拟器安卓版是一款非常棒的可以

11-19 119阅读
原神因果命运的花神诞祭主线任务攻略

原神因果命运的花神诞祭主

因果命运的花神诞祭是原神须弥地区主线

11-19 81阅读
原神沙脂蛹怎么获得?原神沙脂蛹采集地点一览

原神沙脂蛹怎么获得?原神

沙脂蛹是原神游戏中须弥地区的特产之一

11-19 82阅读
原神终将到来的花神诞祭任务流程|终将到来的花神诞祭任务攻略

原神终将到来的花神诞祭任

终将到来的花神诞祭是原神须弥地区魔神

11-19 105阅读