0871-64605728
您当前位置:网站首页 >> 新闻资讯
麻省理工研究:生成式AI未能对世界形成连贯的理解
文章来源:IT之家  作 者:清源  上传时间:2024-12-6  浏览量:121

现如今大模型已经具备各种各样的非凡能力,不仅能吟诗作对,也可生成高效的计算机代码,这些表现让人产生了大模型似乎在“隐约理解”某些现实世界基本规律的错觉。然而,一项最新研究指出,事实可能并非如此。研究人员发现,一种流行的生成式 AI 模型能够在纽约市提供接近完美的逐步导航指引,但却并未形成真正的精确地图。

据《麻省理工科技评论》当地时间 11 月 5 日报道,麻省理工学院信息与决策系统实验室(LIDS)的主要研究者阿什 兰巴昌(Ashesh Rambachan)表示,“我们希望,大模型在语言领域的出色表现或许可以让它们在科学的其他领域大展拳脚。然而,如果想用这些技术去探索新发现,判断它们是否形成了连贯的世界观至关重要。”

研究人员发现,一种流行的生成式 AI 模型能够在纽约市提供接近完美的逐步导航指引,但却并未真正形成该城市的精确地图

尽管模型表现出卓越的导航能力,但当研究人员封闭了某些街道并设置绕行路线时,模型的表现却大幅下滑

进一步分析显示,模型隐式生成的纽约地图包含大量不存在的街道,这些街道在网格间扭曲连接,跨越相隔甚远的交叉口。

这对实际应用中的生成式 AI 模型来说可能有着重要影响 —— 一个在特定情境中表现优异的模型,可能会在环境或任务稍有变化时无法应对。

研究人员专注于一种被称为“ transformer ”的生成式 AI 模型类型,这种模型构成了 LLMs(如 GPT-4)的核心。transformer 是通过大量基于语言的数据进行训练,以预测序列中的下一个 token ,例如句子中的下一个词。

研究人员通过在纽约市地图中加入绕行路径展示了这一结果的影响,这导致所有的导航模型均无法正常运行。“让我惊讶的是,一旦我们加入绕行,模型的表现迅速恶化。如果仅关闭 1% 的街道,准确率就会从接近 100% 立刻下降到只有 67%。”

而当研究人员还原出模型生成的城市地图时,会发现这些地图看起来像一个“虚构的纽约”:数百条街道交错重叠在网格之上。地图中经常出现一些随机的跨街桥,或者以不可思议的角度交叉的街道。

编 辑:章芳

24

2022-06

芯片抢人大战:涨薪50%起 工程师比老板贵

芯片抢人大战:涨薪50%起 工程师比老板贵

23

2022-09

啃完华为又嚼苹果,手机壳之王杰美特终于“雪崩”

啃完华为又嚼苹果,手机壳之王杰美特终于“雪崩”

30

2022-12

再陷低谷,只有造车能救小米?

再陷低谷,只有造车能救小米?

30

2023-06

安卓手机误拨紧急求救电话数激增,多国安全部门呼吁用户关闭此功能

安卓手机误拨紧急求救电话数激增,多国安全部门呼吁用户关闭此功能

03

2021-06

1-4月我国互联网企业完成业务收入4676亿元 同比增长达27.8%

1-4月我国互联网企业完成业务收入4676亿元 同比增长达27.8%

29

2022-04

重磅:《2021年度中国数字阅读报告》发布,全民阅读正迎来深阅读时代

重磅:《2021年度中国数字阅读报告》发布,全民阅读正迎来深阅读时代

26

2024-07

Nordic用低功耗优势创造永远在线的物联网世界

Nordic用低功耗优势创造永远在线的物联网世界

14

2025-02

OpenAI CEO 阿尔特曼最新思考:AI 普惠与 AGI 的挑战

OpenAI CEO 阿尔特曼最新思考:AI 普惠与 AGI 的挑战
返回顶部
客服电话
0871-64605728
用微信扫一扫关注我们
请各公司推销人员注意:我单位拒绝任何方式、任何形式的电话推销,请勿拔打我单位客服热线进行电话推销,谢谢合作!
公司名称:云南昂略科技有限公司
联系地址:云南省昆明市官渡区永平路188号鑫都韵城写字楼6栋1004号
联系电话:0871-64605728、传真号码:0871-64605728
电子邮箱:19701580@qq.com
关键词:新闻资讯:麻省理工研究:生成式AI未能对世界形成连贯的理解,云南昂略科技有限公司,云南移动执法平台建设,云南智慧安防调度系统,云南头戴式安全终端,昂略科技
云南网站建设,云南网页设计,昆明网站建设,昆明网页设计  网站管理
【版权声明】本站部分内容由互联网用户自行发布,著作权或版权归原作者所有。如果侵犯到您的权益请发邮件致info@ynjwz.com,我们会第一时间进行删除并表示歉意。