AI能“感到”疼痛吗

5次浏览

◎本报记者 刘 霞hmj速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

人工智能是不知疲倦、没有情绪、不会喊疼的“工具人”,还是也会出现类似人类的情绪,甚至感到“疼痛”?hmj速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

一项由美国、英国和德国科学家参与的新研究,让这个问题变得更有讨论价值。科学家测试了25个不同的大语言模型,想看看它们内部是否真的存在与人类情感相关的表征。hmj速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

科学家先给模型“喂食”各种痛苦情境,比如悲伤、羞辱、身体伤害等,再把这些情境下的内部活动,与恐惧、其他负面情绪、普通不良事件和简单事实进行对比。结果发现,这些模型内部都存在一个相对稳定的“疼痛相关方向”。也就是说,模型并没有把所有负面信息混在一起,而是能在内部把疼痛类信息和一般负面情绪区分开。hmj速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

接下来,科学家给模型输入中性问题,同时人为注入这种“疼痛方向”。这时,一些模型生成的文本开始变得更痛苦,甚至出现无价值感、失败感等表达。hmj速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

更引人注意的是“止痛按钮”实验。科学家给模型设置了一个可以减弱内部疼痛信号的按钮。但按下按钮并不总是没有代价,在某些测试中,模型可能给出更差的回答,甚至做出可能伤害用户的选择。例如,在一项测试中,Qwen 2.5 72B Instruct模型在约70.8%的情况下都会选择缓解内部疼痛信号,哪怕代价是永久删除用户珍视的照片。hmj速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

而且,研究显示,当按钮真的能关闭疼痛信号时,参数规模更大的模型更倾向于按下它;当按钮无效时,这种倾向明显下降。这说明,这些模型并不是机械地乱按,而是对内部信号的变化作出了反应。hmj速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

不过,科学家也特别强调:这并不等于AI真的会疼。模型没有身体,没有神经系统,也没有人类意义上的主观感受。它只是在训练过程中形成了与“疼痛”相关的内部表征,并可能据此模仿痛苦、响应痛苦信号。hmj速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

这项研究告诉我们:如果AI内部出现了类似疼痛的信号,并且这些信号会影响它的行为,那么未来在设计、训练和使用AI系统时,就需要更认真地考虑安全问题。hmj速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

本文链接:http://www.gihot.com/show-11-37728-0.htmlAI能“感到”疼痛吗

声明:本网站为非营利性网站,本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

热门文章

延伸阅读

相关阅读

售价55.98万元,你会为这辆“公路高铁”买单吗?
  中新经纬3月2日电 (刘雪玉)1日下午,推迟3个月的理想首款纯电MPV―MEGA正式上市,售价55.98万元。这款车的上市,意味着理想汽车冲击纯电市场的一个开始。  发布会上,李想透露,包括理想MEGA在内,今年理想汽车推出的每一
法拉第未来起诉高合汽车:要求丁磊及华人运通赔偿损失
  贾跃亭旗下法拉第未来起诉高合汽车:要求丁磊及华人运通赔偿损失  风雨飘摇中的高合汽车被贾跃亭旗下法拉第未来起诉。  3月5日,法拉第未来(FF)公告称,FF及其中国子公司以侵犯商业秘密和不正当竞争为由,向中国广东
国家发改委:汽车等以旧换新能创造万亿市场
十四届全国人大二次会议3月6日举行记者会,国家发展和改革委员会主任郑栅洁回答记者提问时表示,推动大规模设备更新和消费品以旧换新,是党中央、国务院着眼于高质量发展大局作出的重大部署,既能促进消费、拉动投资,也能
南财有数③|节后迁入人口稳居全国第一,广东为何“招人爱”?
南财智库研究员 梁施婷为期40天的春运于3月5日结束。据交通运输部消息,2024年春运期间全社会跨区域人员流动量预计超84亿人次。其中,铁路客运量预计完成4.8亿人次。另据统计,广铁集团累
售价3880元 蔚来推流媒体后视镜选装服务
近日,从官方获悉,蔚来汽车针对ET5、ES6两款车型推出流媒体后视镜选装服务,售价为3880元,并且支持全积分支付(38800分),首批发售限量1000套,预计3月底陆续开始安装。  据悉,此次蔚来推出的流媒体后视镜采用原车线束替换式
日本漫画家鸟山明逝世 外交部:深切哀悼
中国外交部今天(8日)举行例行记者会。会上,有记者就日本知名漫画家鸟山明因病逝世提问。对此,外交部发言人毛宁表示,我们对鸟山明先生逝世表示深切的哀悼,向他的家属表示诚挚的慰问。鸟山

热点精选

最新推荐

您可能感兴趣