图灵奖得主杨立昆:让AI平台安全的方法是开源
(资料图片仅供参考)
·“有一些人因为害怕人工智能的结果,整体上就希望人工智能受到严格监管。因为他们说,如果任何人都能掌握人工智能,如果他们可以用人工智能做任何想做的事,那么情况可能会非常危险,所以需要严格监管人工智能。我完全不同意这种说法。”
7月6日,图灵奖得主杨立昆和地平线创始人兼CEO余凯在2023世界人工智能大会上远程对谈。
人类花了很长时间才建立起当下的伦理和治理机制。如果允许人工智能形成像人类一样的意识和智慧,人类该如何满足伦理和治理的要求?人类对人工智能的干预机制是什么?
7月6日,2023世界人工智能大会在上海开幕。2018年图灵奖得主、Meta AI基础人工智能研究院团队首席人工智能科学家杨立昆(Yann LeCun)在开幕式上表示,他完全不同意“因为任何人可用人工智能做任何事,情况可能会非常危险,所以需要严格监管人工智能”的说法。从长远来看,使人工智能平台安全、良善、实用的唯一方法就是开源。
杨立昆谈到了人工智能变得智能、可控的方法。“如果你认为达到人类水平的人工智能的方法是做更大的自回归LLM(大语言模型),然后利用多模型数据测试,那么你可能会认为,这些人工智能系统不安全。但事实上我不认为这个系统可以非常智能,我认为它们变得智能的方法也是让它们变得可控的方法,即目标驱动人工智能的理念。本质上来说,就是给它们必须满足的目标。”杨立昆表示,这些目标有些是由任务定义的目标,比如系统回答问题了吗?系统开动你的车了吗?系统清理餐桌了吗?其他目标则充当安全护栏,比如不要伤害任何人。
杨立昆认为这些人工智能系统不会通过一点一滴的渗透来欺骗或支配人类。人类可以设定迫使人工智能诚实的目标,例如迫使人工智能屈从于人类的目标,要小心那些想让它们好奇的目标,小心让它们接触到它们不应该拥有的资源。“所以我认为这些系统将是完全可控可操纵的。系统可以被设计得安全,但这并不容易。设计这些目标,让系统安全,将会是一个艰巨的工程挑战。”
但杨立昆表示,人类不必一开始就把它设计得很好,而是可以先从建立像老鼠一样聪明的系统开始,人类的目标是让它成为一只好老鼠。“我们会把它们放进沙盒或仿真环境中测试,我们要确保它们是安全的,这是很重要的问题,因为有一些人因为害怕人工智能的结果,整体上就希望人工智能受到严格监管。因为他们说,如果任何人都能掌握人工智能,如果他们可以用人工智能做任何想做的事,那么情况可能会非常危险,所以需要严格监管人工智能。我完全不同意这种说法。”
相反,杨立昆认为,从长远来看,使人工智能平台安全、良善、实用的唯一方法就是开源。未来每个人都通过人工智能助手与数字世界互动,人类所有信息都要通过这个人工智能助手,如果技术被少数公司控制,这不是一件好事。“未来人工智能系统将成为人类所有知识的宝库,训练它们的方式需要基于众多来源。因此我们将在未来看到更多的开源LLM和更多的开源人工智能系统。”
(原标题:图灵奖得主杨立昆:让AI平台安全良善实用的唯一方法是开源)
标签:
精彩推送
新闻快讯
X 关闭
X 关闭
新闻快讯
- 图灵奖得主杨立昆:让AI平台安全的方法是开源
- 【环球播资讯】XGP订阅费用今日起正式小幅上调 涨幅1至2美元
- 江苏连云港赣榆区社保大厅实现全区15镇全覆盖 世界播资讯
- 你不买我不买:英伟达RTX4080显卡首次跌破1000美元
- 环球微速讯:2023苏州三项惠老保险如何办理
- 消息称《FIFA》系列续作《EA Sports FC 24》今年 9 月 29 日发售
- SSD、内存终于要涨价了
- 谷歌披露量子计算机新突破:47年才完成的计算几秒内完成 然而商业化长路漫漫【附我国量子信息产业分析】 环球报道
- 每日播报!外媒发布全球战队实力排行:伦敦双雄前二,LNG与TES互换排名
- 晋商消费金融投诉量居榜首 曾给客户征信上传侮辱性字眼被罚
- 天天观天下!湖南长沙:花大价钱请辅导机构指导填报高考志愿,结果却是……
- 沃尔核材:连续3日融资净买入累计1659.26万元(07-05)|天天新视野
- 【全球速看料】澳门葡英文媒体大湾区参访团访深
- 重庆三峡银行5名董事辞职 此前完成大规模“引战”_全球快播报
- 即时看!火警电话为什么是12119_火警电话为什么是119
- 愿天堂没有抑郁症,祝coco李玟姐一路走好,歌迷永远缅怀您!
- 最卑微的一族(关于最卑微的一族介绍) 速看
- 前沿资讯!短短两周回撤超40%!前“公募一哥”旗下产品跌惨了,重仓AI惹祸?
- 三福百货745家店上线美团闪购 下单后最快30分钟送达
- 纸浆简评 | 谨慎看待盘面价格提升|全球快消息
- 当前焦点!龙虎防暑降温套装(剑灵龙虎套装是什么)
- 天天微资讯!推进新时代文艺事业高质量发展
- 全球微头条丨日本经济困境的根源是“资产负债表衰退”吗
- 山西2023年第一季度银行业消费投诉:晋商银行四项投诉居省内城商行首位
- 每日速递:2023年7月5日,一起早读云南!
- 世界报道:2023梁山高中志愿征集填报官网入口
- 今日要闻!暗黑破坏神4透水契约支线任务怎么完成
- 沪深股通|海航控股7月4日获外资卖出229.29万股|全球速看料
- 伤感网名男生 伤感网名男生2字
- 今年云南已累计争取96个基础教育项目
- 美元存款利率下调有何影响
- 天天热点!遗嘱到公证处公证要多久
- 全球速讯:樊姬楚国之夫人也
- 每日速递:日本战国题材《战国王朝》新预告介绍钟楼建造
- 茄味羊杂汤_关于茄味羊杂汤的简介
- 新能源汽车“内外兼修” 带热车市助力稳经济
- Uzi尽力了!EDG啃老上热搜,亚运野辅状态低迷
- 广州市召开来穗人员融合服务工作现场会_世界即时
- 70家上市公司业绩预喜:26倍预增王“报喜”当天被证监会立案
- 环球今亮点!超好听的网名女 超好听的网名女生网名英文可爱
- “二合一”光缆熔接机每根光缆提速144秒-每日短讯
- 最值得和孩子看的十部纪录片 BBC给孩子的6部人文历史纪录片
- 关于雨天女子欲跳楼嫌雨大向警察借雨衣及雨天女子欲跳楼嫌雨大向警察借雨衣详情|环球新动态
- “迎杭州亚运会趣味跑”东帝汶站热烈开跑 全球滚动
- 全球观点:男生都生理反应_男同生理反应
- 玛拉顿公主猎人单刷_玛拉顿公主_天天观热点
- 短线防风险19只股短期均线现死叉
- 广西电网公司2023年省级物资集中采购第二批公开招标中标候选人公示|天天消息
- 中秋假期太原方特开门吗?
- 网友称看消失的她时发现靠背有针,影院回应:已经报警,会加强对影院的检查-每日观察