图灵奖得主杨立昆：AI的逻辑推理和规划能力有限，会犯事实错误和逻辑错误
出品｜搜狐科技
(资料图片)
作者｜郑松毅
6月9日，2023智源人工智能大会在北京举办。法国当地时间凌晨四点，被誉为“世界深度学习三巨头”之一的杨立昆（Yann LeCun）在法国视频连线北京现场，发表了主题为《走向能够学习、推理和规划的大模型》的演讲，表达了对于人工智能的深度思考。
搜狐科技在智源大会现场观看了这场演讲，从杨立昆演讲时面露微笑的表情中，可以感受到杨立昆对于人工智能发展的积极乐观态度。此前在马斯克等人联名签署联名信提出人工智能发展将给人类文明带来风险时，杨立昆曾公开反驳，认为人工智能尚未发展到给人类构成严重威胁的程度。演讲中，杨立昆再次强调人工智能是可控的，他表示，“恐惧是由对潜在负面结果的预期引起的，而兴高采烈是由对积极结果的预测产生的，像这样由目标驱动的系统，我将之称为‘目标驱动的人工智能’，它会是可控的，因为我们可以通过成本函数为它设定目标，确保这些系统不会想要接管世界，相反，它会屈从于人类和安全。”
杨立昆表示，人工智能距离人类和动物的能力差距在于逻辑推理和规划，这是智能的重要特征，现在的大模型只能“本能反应”。
“如果你用一万亿或两万亿个token来训练它们，机器的性能是惊人的，但最终机器会犯事实错误、逻辑错误，它们的推理能力是有限的。”
杨立昆强调，基于自我监督的语言模型无法获得关于真实世界的知识。他认为，与人类和动物相比，机器的学习能力并不是很好。几十年来，研发系统的方式都是在用监督学习，但监督学习需要太多标签，学习任何东西都需要进行大量的尝试，强化学习的结果却不尽人意，这些系统是脆弱的，会犯愚钝和错误，且并不会真正地推理和计划。
“就像我们在演讲时，如何从一个观点表达到另一个观点，怎么解释事物，大脑里是有计划的，而不是一字一句的即兴发挥。也许在低层次上，我们在即兴发挥，但在高层次上，我们一定是在规划。所以规划的必要性是非常明显的。我的预测是，在相对短的几年内，理智的人肯定不会再使用自回归元素（自监督学习方法中的模型之一）。这些系统将很快被放弃，因为它们是无法修复的。”
他表示，为了让语言模型真正理解真实世界的知识，需要一个新的架构来取代，而这个架构就是他在一年前所发表的论文中提出的架构，“自主智能（Autonomous Intelligence）”。这是由一个配置模块控制整个系统，基于输入信息，进行预测、推理、决策的架构。其中的“世界模块”具备估计缺失信息、预测未来外界状态的能力。
谈及未来几年AI将面临的挑战，杨立昆指出三个方面，其一是学习世界的表征和预测模型；其二是学习推理，即学习如何有意识、有目的地运用思维去完成任务；最后一个挑战是如何通过将复杂任务分解成简单任务，以分层的方式运行来规划复杂的行动序列。
谈到这里，杨立昆介绍了他发表在论文中的另一个模型“世界模型（World Model）”，该模型可以想象一个场景，并根据场景预测行动结果。目的是找出一系列根据其自己的世界模型预测的行动，并最小化一系列成本的行动序列。
当杨立昆在提问环节被问及有关即将参加的一场关于AGI的地位和未来的辩论时，他表示这场辩论将围绕一个问题展开，即人工智能系统是否会对人类构成生存风险。Max Tegmark 和 Yoshua Bengio 将站在“会”的一边，认为强大的 AI 系统可能对人类构成存在风险。而杨立昆和 Melanie Mitchell 将站在“不”的一边。
“我们的观点不是说没有风险，而是说这些风险虽然存在，但很容易通过精心设计来减轻或抑制。”
杨立昆认为，超智能系统尚未被研发出来，待其被发明出后，再讨论“是否能使超智能系统对人类安全”也来得及。
责任编辑：
标签：
精彩推送
顶象发布《车企App安全研究白皮书》，剖析品牌汽车App的两大类风险-环球要闻
X 关闭
新闻快讯
- 图灵奖得主杨立昆：AI的逻辑推理和规划能力有限，会犯事实错误和逻辑错误
- 金山云美股涨7.72%
- 看热讯：特色集市、非遗演出…… “南京非遗奇妙夜”启幕！
- 斗罗：史莱克四美都美出新高度，唐三和小舞结婚一吻，也太甜了|全球独家
- 延安市人民医院顺利完成2023年医师资格实践技能陕北片区考试任务 全球新资讯
- 天天速读：直击2023中国经济传媒大会丨中国经济体制改革研究会副会长樊纲：消费需求一时难以扩大，短期内仍寄希望于投资需求
- 三星最强安卓平板即将发布，Galaxy Tab S9 Ultra 通过 FCC 认证
- 广州警方通报“一男子在女厕门口偷拍”
- 5月份CPI同比上涨0.2%_每日速讯
- 当前动态:我国做好新能源汽车下乡“大文章”
- 2023年厦门公众考古月活动圆满收官|每日速看
- 美国前总统特朗普面临37项指控
- 观热点：沈北新区气象台发布雷电黄色预警信号
- 谢晖：我们领先以后的表现，也和实力有关，不单单是心理问题
- 统治世界之战官网在哪下载 最新官方下载安装地址
- 注重文化浸润 突出素养考查——专家点评2023年上海高考英语试卷
- 小鹏G6正式开启预售 将于6月29日上市
- 环球快资讯：2023年6月9日邻苯二甲酸二辛酯价格最新行情预测
- 落点更准确！我国成功开展降落伞控制火箭残骸落区试验-今日快讯
- 环球要闻：海底捞张勇：海底捞的竞争问题不在外部，主要在内部
- 银河基金任命史平武为总经理-天天通讯
- 平均每4天售出1辆 “闲置”电动车竟为偷来的 天天即时
- 环球视讯！仿古地砖图片大全中式_仿古地砖
- 格林精密：6月8日融资买入69.14万元，融资融券余额4848.28万元
- 天涯明月刀青龙秘宝抽完要多少钱_青龙秘宝抽完要多少钱_天天报资讯
- 牡丹江市福利彩票发行中心开展“情暧学子 助力高考”志愿服务活动 播报
- 以隔海相望的形式 厦金携手放流鱼苗576万尾-关注
- 如何破解未成年人沉迷网络？来看~
- 分析人士
- big four演唱会（big four）
- 土地摊销年限是多少（土地摊销年限为50年）
- 今日讯！上海飞台北的航班_上海至台北飞机直航的位移是多少
- 反转再反转！美记分析保罗或底薪签湖人：水拉可签换德罗赞组4巨
- 前沿资讯!关于毕业祝福的句子（祝福的句子）
- 今日辟谣（2023年6月8日）-头条
- 讯息：夕阳朝乾是什么意思_夕阳朝乾的意思是
- 【全球快播报】一家基金公司三天内两只FOF募集失败 年内已有5只 反向指标再增一个？
- 针对XBB等新冠病毒的三价疫苗获批紧急使用 威斯克生物：全球首个-每日热文
- 成都到重庆多少公里开车需要多久（成都到重庆多少公里）
- 山灵 UA3 解码耳放获推 V010109 系统更新，新增多档采样率支持|环球头条
- grc是什么材料价格表（grc板材是什么材料）|全球新视野
- 养老金上调2023最新方案公布：不是人人都涨，事关你的钱袋子
- 10寸是多少厘米长宽高 10寸是多少厘米_全球热议
- 广东再发促进生育重磅文件 这一相关技术供不应求 托育产业将会继续扩大 每日速看
- 热讯：在过二十年我们来相会歌词（再过二十年我们来相会歌词）
- 突发！中国电信全省崩溃，发生了什么？利好不断，A股明天要起飞？
- 世界快播：路演现场挥洒热情，高效对接创造精彩瞬间（投融界第695期创投对接微路演成功举办）
- 加拿大央行意外加息25个基点 会成为美联储货币政策的模板吗？ 观速讯
- 如何拿第一？一汽奔腾NAT青岛节能挑战赛冠军访谈
- 小伢儿画亚残 ▏杭州市紫阳小学鲍溢凡：《魅力亚残》 每日播报