对话图灵奖得主希发基思:模型检测暂无法“框住”人工智能系统

175次浏览

南方财经 21世纪经济报道记者吴斌 上海报道gt7速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

1979年,约瑟夫·希发基思(Joseph Sifakis)提出了通过对时序逻辑公式的计值来验证并发系统性质的思想,得到了一系列理论结果,包括对含有“可能”和“必然”模态算子的分支时序逻辑的不动点刻划。在此基础上,他进一步提出了带有“until”算子的分支时序逻辑来表达“公平性”。gt7速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

他的这些工作与卡耐基梅隆大学教授Edmund Clarke、得克萨斯大学奥斯汀分校教授Allen Emerson同时期的工作一起,为模型检测这个研究领域的创立和发展奠定了理论基础。由于对模型检测的开创性贡献,他与Clarke、Emerson分享了2007年图灵奖。gt7速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

模型检测擅长验证一个系统模型是否满足规约,我们能否将整个AI系统或其关键组件视为一个“模型”,并为其编写“永不伤害人类”或“保持公平性”这样的规约并进行验证?这条路可行吗?gt7速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

2025可持续全球领导者大会于10月16日-18日在上海市黄浦区世博园区召开,2007年图灵奖得主、Verimag实验室创始人约瑟夫·希发基思在接受21世纪经济报道记者采访时表示,目前这还不是一种可行的方法。模型检测依赖于关于系统、行为的数学模型,可以进行检验,可以运用数学来分析这种行为,但对人工智能系统暂不适用。gt7速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

模型检测暂无法“框住”人工智能系统

如今,模型检测已被应用于计算机硬件、软件、通信协议、安全认证协议等领域,取得了巨大的成功,成为分析、验证并发系统性质的最重要的技术,被Intel、IBM、微软等公司用于日常生产实践中。gt7速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

但对于人工智能系统,希发基思表示,目前无法提取数学模型,人工智能的神经网络模仿人类大脑的神经网络,而我们无法建模,不知道如何将模型检测技术应用于人工智能系统。gt7速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

在希发基思看来,模型检测暂无法“框住”人工智能系统。传统系统和基于AI的系统在可靠性方面有不可逾越的鸿沟,目前应严格应用风险管理原则,控制人工智能风险是实现社会效益的前提。gt7速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

面向未来,约瑟夫·希发基思认为,需要制定全面的以人为中心的技术愿景,明确识别人工智能当前状态的弱点,动员研究,促进国际合作,共同探索新的途径。在实现这一愿景的过程中,全球标准和法规的制定将发挥核心作用,目前达成协议的可能性很小。gt7速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

中国是发展人工智能的沃土

希发基思与中国渊源颇深,他亲自指导了六名中国留学生和博士后,这些学生已成为中国科学院软件所、浙江大学等单位的科研骨干。2017年8月开始, 他担任清华大学计算机学科顾问委员会委员。2019年1月开始,他出任南方科技大学杰出教授。gt7速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

在他担任欧盟ARTIST嵌入式系统研究联盟科学协调人期间,极力推动欧盟与中国在该领域的合作。在他领导下,该研究联盟从2006年至2011年在中国举办了六届嵌入式系统设计讲习班,邀请国际上嵌入式系统的知名专家为国内的研究生和青年学者讲课。gt7速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

此外,希发基思频繁来中国开展学术访问,在中国科学院软件所、计算所、清华大学、北京大学、西北工业大学、东北大学、哈尔滨工业大学、华东师范大学、深圳大学、华为公司等处做学术报告。gt7速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

在他看来,中国比任何其他国家都更有条件发展全面的、技术的、以人为中心的人工智能愿景,这不仅是创造最强大的人工智能,而且注重服务社会,特别是确保有效的社会治理。gt7速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

展望未来,希发基思表示,中国在整合创新方面已经很强大,需要在颠覆性创新方面迎头赶上,鼓励科研和产业之间的合作,创造创新生态系统。中国可以利用强大的工业基础,与需要日益智能的产品和服务的工业部门合作,如自主交通系统、智慧城市、智慧工厂和农场、智能电网和自主电信网络。gt7速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

本文链接:http://m.sushuapos.com/show-3-157159-0.html对话图灵奖得主希发基思:模型检测暂无法“框住”人工智能系统

声明:本网站为非营利性网站,本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

热门文章

延伸阅读

相关阅读

独家:创始人朋友圈说“为什么周六要休息”?三七互娱回应
  中新经纬1月11日电 (常涛)近日,一张三七互娱创始人、董事长李逸飞的朋友圈截图被热传。李逸飞在评论一篇文章时提到,“我们的父辈都是周六工作,为什么到我们就周六要休息,人为什么一定要周六休息?一定有人私下或者心理
2024年春节档观众满意度调查结果显示:4部影片超85分
  2024年春节档观众满意度调查结果显示:4部影片超85分  中新网北京2月18日电(记者 上官云)记者从中国电影艺术研究中心获悉,中国电影观众满意度调查?2024年春节档调查结果显示,春节档观众满意度得分85.9分,为2015年以
官方通报16个耕地调查问题典型案例
  中新经纬2月18日电 “自然资源部”微信号18日消息,自然资源部公开通报2023年度国土变更调查专项督察发现的弄虚作假和调查不认真把关不严典型问题。  据介绍,年度国土变更调查结果中的耕地数据是耕地保护和粮食安
揽人、赶工、抢订单:春节拼经济“热辣滚烫”
  长三角观察|揽人、赶工、抢订单:春节拼经济“热辣滚烫”  2月10日是正月初一,上午10点,满载工业品、电子产品和衣帽服饰的新春首列“义新欧”中欧班列从浙江义乌铁路口岸出发,驶往西班牙马德里。  在江苏昆山的华
八部影片半数撤档 春节档为何出现罕见“撤档潮”
  八部影片半数撤档 春节档为何出现罕见“撤档潮”  据猫眼专业版数据,截至昨日17时,2024春节档总票房破80亿,总人次1.62亿,总场次383.6万,全面刷新中国影史春节档纪录。然而,几家欢乐几家愁,今年春节档冷热不均,出现了罕
多部门联合开展全国数据资源调查
本报讯 记者付朝欢报道 为贯彻落实《数字中国建设整体布局规划》工作部署,摸清数据资源底数,加快数据资源开发利用,更好发挥数据要素价值,国家数据局综合司、中央网信办秘书局、工业和信息化部办公厅、

热点精选

最新推荐

您可能感兴趣