AI能“感到”疼痛吗

科技日报
24次浏览

人工智能是不知疲倦、没有情绪、不会喊疼的“工具人”,还是也会出现类似人类的情绪,甚至感到“疼痛”?xF7速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

一项由美国、英国和德国科学家参与的新研究,让这个问题变得更有讨论价值。科学家测试了25个不同的大语言模型,想看看它们内部是否真的存在与人类情感相关的表征。xF7速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

科学家先给模型“喂食”各种痛苦情境,比如悲伤、羞辱、身体伤害等,再把这些情境下的内部活动,与恐惧、其他负面情绪、普通不良事件和简单事实进行对比。结果发现,这些模型内部都存在一个相对稳定的“疼痛相关方向”。也就是说,模型并没有把所有负面信息混在一起,而是能在内部把疼痛类信息和一般负面情绪区分开。xF7速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

接下来,科学家给模型输入中性问题,同时人为注入这种“疼痛方向”。这时,一些模型生成的文本开始变得更痛苦,甚至出现无价值感、失败感等表达。xF7速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

更引人注意的是“止痛按钮”实验。科学家给模型设置了一个可以减弱内部疼痛信号的按钮。但按下按钮并不总是没有代价,在某些测试中,模型可能给出更差的回答,甚至做出可能伤害用户的选择。例如,在一项测试中,Qwen 2.5 72B Instruct模型在约70.8%的情况下都会选择缓解内部疼痛信号,哪怕代价是永久删除用户珍视的照片。xF7速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

而且,研究显示,当按钮真的能关闭疼痛信号时,参数规模更大的模型更倾向于按下它;当按钮无效时,这种倾向明显下降。这说明,这些模型并不是机械地乱按,而是对内部信号的变化作出了反应。xF7速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

不过,科学家也特别强调:这并不等于AI真的会疼。模型没有身体,没有神经系统,也没有人类意义上的主观感受。它只是在训练过程中形成了与“疼痛”相关的内部表征,并可能据此模仿痛苦、响应痛苦信号。xF7速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

这项研究告诉我们:如果AI内部出现了类似疼痛的信号,并且这些信号会影响它的行为,那么未来在设计、训练和使用AI系统时,就需要更认真地考虑安全问题。xF7速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

人工智能是不知疲倦、没有情绪、不会喊疼的“工具人”,还是也会出现类似人类的情绪,甚至感到“疼痛”?xF7速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

一项由美国、英国和德国科学家参与的新研究,让这个问题变得更有讨论价值。科学家测试了25个不同的大语言模型,想看看它们内部是否真的存在与人类情感相关的表征。xF7速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

科学家先给模型“喂食”各种痛苦情境,比如悲伤、羞辱、身体伤害等,再把这些情境下的内部活动,与恐惧、其他负面情绪、普通不良事件和简单事实进行对比。结果发现,这些模型内部都存在一个相对稳定的“疼痛相关方向”。也就是说,模型并没有把所有负面信息混在一起,而是能在内部把疼痛类信息和一般负面情绪区分开。xF7速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

接下来,科学家给模型输入中性问题,同时人为注入这种“疼痛方向”。这时,一些模型生成的文本开始变得更痛苦,甚至出现无价值感、失败感等表达。xF7速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

更引人注意的是“止痛按钮”实验。科学家给模型设置了一个可以减弱内部疼痛信号的按钮。但按下按钮并不总是没有代价,在某些测试中,模型可能给出更差的回答,甚至做出可能伤害用户的选择。例如,在一项测试中,Qwen 2.5 72B Instruct模型在约70.8%的情况下都会选择缓解内部疼痛信号,哪怕代价是永久删除用户珍视的照片。xF7速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

而且,研究显示,当按钮真的能关闭疼痛信号时,参数规模更大的模型更倾向于按下它;当按钮无效时,这种倾向明显下降。这说明,这些模型并不是机械地乱按,而是对内部信号的变化作出了反应。xF7速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

不过,科学家也特别强调:这并不等于AI真的会疼。模型没有身体,没有神经系统,也没有人类意义上的主观感受。它只是在训练过程中形成了与“疼痛”相关的内部表征,并可能据此模仿痛苦、响应痛苦信号。xF7速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

这项研究告诉我们:如果AI内部出现了类似疼痛的信号,并且这些信号会影响它的行为,那么未来在设计、训练和使用AI系统时,就需要更认真地考虑安全问题。xF7速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

本文链接:http://m.sushuapos.com/show-2-17192-0.htmlAI能“感到”疼痛吗

声明:本网站为非营利性网站,本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

热门文章

延伸阅读

相关阅读

首款车型/预计明年上市 Karma Gyesera官图
近日,Karma Gyesera官图正式发布,其也将成为该品牌旗下的首款纯电动车型,新车计划于本周末正式发布并开启预订,订金5000美元(约3.6万人民币),2025年正式上市,限量2000台,售价有望超过20万美元,将近于Model S的3倍。此外,Karm
蔚来:3 月 8 日当天,女性用户可享受 32 项免费车辆检测服务
3 月 7 日消息,蔚来今日宣布,3 月 8 日当天,女性用户自驾前往蔚来服务中心,即可享受 32 项免费车辆检测服务。用户需要提前通过「一键维保」,预约 3 月 8 日自驾进店服务。免费检测包括空调系统、制动系统、车轮轮
哪吒 L 汽车宣布 4 月开始交付,可选增程、纯电双版本
3 月 7 日消息,哪吒汽车 CEO 张勇宣布,哪吒 L 车型将于 4 月开始交付,产品配置仍在持续讨论中。该车定位中大型 SUV,采用五座布局,基于山海平台打造,提供纯电版与增程版两种动力形式可选。哪吒 L 的真车图此前已经
实探北京小米汽车门店:外部装修即将开工,SU7有望3月底到店
  实探北京小米汽车门店:外部装修即将开工,SU7有望3月底到店  每经记者 李星 每经编辑 裴健如  门口轰隆隆的混凝土搅拌车,在工人的指挥下,正向着地面搭好的方形钢筋框架内浇灌水泥,门店内装修工人则各自忙碌着手
贾跃亭把丁磊告了:大骂李鬼,要伸张正义,昔日搭档反目成仇
贾跃亭的愤怒一击作者|楚门编辑|秦章勇到处寻找“买家”的高合,等来了一个要命的官司。3 月 5 日法拉第未来宣布(FF),以侵犯商业机密和不正当竞争为由,向中国广东省深圳市中级人民法院对 FF 前高管、华人运通创始人
解放军和武警部队代表团新闻发言人答记者问
十四届全国人大二次会议解放军和武警部队代表团新闻发言人吴谦9日就军队代表热议建军一百年奋斗目标、中国国防费预算、近期美对台军售等有关问题答记者问。解放军和武警部队代表团

热点精选

最新推荐

您可能感兴趣