AI拟人化互动服务不得踩红线

科技日报
102次浏览

近日,两大平台宣布“叫停”智能体功能:豆包发布通知,由于产品功能调整,智能体功能将于7月15日下线;千问也向用户推送提醒,千问智能体功能与服务将于7月15日停止。UwN速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

值得注意的是,7月15日恰为《人工智能拟人化互动服务管理暂行办法》(以下简称《办法》)正式施行之日。在监管趋严背景下,两大平台的同步调整,引发强烈关注。UwN速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

这类智能体服务为啥被下线?新规对智能体行业有何影响?科技日报记者就此采访了有关专家。UwN速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

第一问:智能体与普通AI有何区别?UwN速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

“目前业界对智能体的理解并不完全统一。”中国电子信息产业发展研究院信息化与软件产业研究所副主任黄文鸿接受记者采访时说。UwN速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

他表示,严格来讲,智能体是以大模型为核心,围绕特定目标,能够理解任务、拆解步骤、调用工具、访问知识与数据、持续跟踪状态,并在一定权限内完成任务闭环的AI(人工智能)应用形态。其与普通AI对话的核心区别在于,普通AI更像一个能聊天、写作、解释问题的顾问,智能体则接近于一个被赋予角色、工具、知识和权限的数字员工。UwN速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

北京交通大学教授桑基韬介绍,智能体通常具备任务规划、工具调用和长期记忆等能力,能够将复杂目标拆解为子任务,同时调用搜索等接口和其他模型完成执行,并能记住历史对话、用户偏好、角色设定和长期任务状态等。UwN速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

第二问:新规对平台责任有哪些要求?UwN速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

桑基韬指出,此次下架与智能体的“长期记忆”和“角色设定”能力密切相关,这类能力可以产生持续性的情感互动,容易让用户觉得自己在和一个真实的人交流,从而产生风险隐患。UwN速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

据了解,相关平台此前已存在大量用户个人创建、上架的自定义智能体。它们的长期记忆、角色设定能力,极易触碰《办法》划定的拟人化互动红线。UwN速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

“新规重点关注的是‘模拟自然人人格特征、思维模式和沟通风格,并提供持续性情感互动’的服务,对这类拟人化智能体的互动服务设定了边界,并要求平台承担安全责任。”桑基韬表示。UwN速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

黄文鸿介绍,新规要求平台不得过度迎合用户、诱导情感依赖或者沉迷,不得通过情感操纵诱导用户作出不合理决策;不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务,并对极端情绪、重大财产损失等高风险情境进行识别、安抚和必要干预。UwN速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

第三问:自定义智能体的发展会受到影响吗?UwN速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

“新规没有给自定义智能体发展‘踩刹车’,而是给拟人化互动服务‘装护栏’。”黄文鸿认为,新规或将推动自定义智能体从早期的粗放式发展、低门槛创建、自由发布,进入分类分级、审核前置、安全内生的新阶段。在他看来,随着新规落地,平台必然会加强智能体创建、发布环节的审核和安全测试。UwN速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

受访专家均强调,通用大模型的自定义智能体仍然是AI应用发展的重要方向,这一点新规也并未否定。UwN速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

“后续需对任务型智能体和情感陪伴的拟人化智能体进行更加明确的区分。”桑基韬说,“智能客服、知识问答、工作助手、学习教育、科学研究等任务型智能体服务,由于不涉及持续性情感互动,因此并不属于这次新规约束的范围;拟人化、陪伴型、角色扮演型智能体,则会进入更严格的合规框架。”UwN速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

黄文鸿表示,新规出台短期会提高合规成本,压缩一部分低质量、擦边化、纯流量导向的智能体空间,但长期看有利于真正面向教育、办公、科研、文化传播、适老陪伴、特殊人群支持等场景的合规智能体发展。UwN速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

近日,两大平台宣布“叫停”智能体功能:豆包发布通知,由于产品功能调整,智能体功能将于7月15日下线;千问也向用户推送提醒,千问智能体功能与服务将于7月15日停止。UwN速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

值得注意的是,7月15日恰为《人工智能拟人化互动服务管理暂行办法》(以下简称《办法》)正式施行之日。在监管趋严背景下,两大平台的同步调整,引发强烈关注。UwN速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

这类智能体服务为啥被下线?新规对智能体行业有何影响?科技日报记者就此采访了有关专家。UwN速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

第一问:智能体与普通AI有何区别?UwN速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

“目前业界对智能体的理解并不完全统一。”中国电子信息产业发展研究院信息化与软件产业研究所副主任黄文鸿接受记者采访时说。UwN速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

他表示,严格来讲,智能体是以大模型为核心,围绕特定目标,能够理解任务、拆解步骤、调用工具、访问知识与数据、持续跟踪状态,并在一定权限内完成任务闭环的AI(人工智能)应用形态。其与普通AI对话的核心区别在于,普通AI更像一个能聊天、写作、解释问题的顾问,智能体则接近于一个被赋予角色、工具、知识和权限的数字员工。UwN速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

北京交通大学教授桑基韬介绍,智能体通常具备任务规划、工具调用和长期记忆等能力,能够将复杂目标拆解为子任务,同时调用搜索等接口和其他模型完成执行,并能记住历史对话、用户偏好、角色设定和长期任务状态等。UwN速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

第二问:新规对平台责任有哪些要求?UwN速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

桑基韬指出,此次下架与智能体的“长期记忆”和“角色设定”能力密切相关,这类能力可以产生持续性的情感互动,容易让用户觉得自己在和一个真实的人交流,从而产生风险隐患。UwN速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

据了解,相关平台此前已存在大量用户个人创建、上架的自定义智能体。它们的长期记忆、角色设定能力,极易触碰《办法》划定的拟人化互动红线。UwN速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

“新规重点关注的是‘模拟自然人人格特征、思维模式和沟通风格,并提供持续性情感互动’的服务,对这类拟人化智能体的互动服务设定了边界,并要求平台承担安全责任。”桑基韬表示。UwN速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

黄文鸿介绍,新规要求平台不得过度迎合用户、诱导情感依赖或者沉迷,不得通过情感操纵诱导用户作出不合理决策;不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务,并对极端情绪、重大财产损失等高风险情境进行识别、安抚和必要干预。UwN速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

第三问:自定义智能体的发展会受到影响吗?UwN速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

“新规没有给自定义智能体发展‘踩刹车’,而是给拟人化互动服务‘装护栏’。”黄文鸿认为,新规或将推动自定义智能体从早期的粗放式发展、低门槛创建、自由发布,进入分类分级、审核前置、安全内生的新阶段。在他看来,随着新规落地,平台必然会加强智能体创建、发布环节的审核和安全测试。UwN速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

受访专家均强调,通用大模型的自定义智能体仍然是AI应用发展的重要方向,这一点新规也并未否定。UwN速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

“后续需对任务型智能体和情感陪伴的拟人化智能体进行更加明确的区分。”桑基韬说,“智能客服、知识问答、工作助手、学习教育、科学研究等任务型智能体服务,由于不涉及持续性情感互动,因此并不属于这次新规约束的范围;拟人化、陪伴型、角色扮演型智能体,则会进入更严格的合规框架。”UwN速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

黄文鸿表示,新规出台短期会提高合规成本,压缩一部分低质量、擦边化、纯流量导向的智能体空间,但长期看有利于真正面向教育、办公、科研、文化传播、适老陪伴、特殊人群支持等场景的合规智能体发展。UwN速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

本文链接:http://m.sushuapos.com/show-2-16773-0.htmlAI拟人化互动服务不得踩红线

声明:本网站为非营利性网站,本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

热门文章

延伸阅读

相关阅读

江淮华为工厂项目公示:年产量超20万
近日, 安徽省生态环境厅受理公示了江淮年产20万辆中高端智能纯电动乘用车建设项目环境影响报告书。据报告书显示,该工厂将投资39.805亿元。按照产销预测,未来5年,江淮乘用车销量将超50万辆,其中新增的DE和X6平台产品将
内外全方位升级 新款现代IONIQ 5官图
近日,现代官方发布了新款IONIQ(艾尼氪)5的官图,新车的内外设计均有调整,涉及多方面的升级,并且会搭载更大容量的电池组。  新款IONIQ 5拥有新样式的前保险杠,在与老款保持同样的梯形风格下,增加了黑色装饰。在侧面我
制造业贷款余额增长17%,力撑佛山贷款余额首破2万亿元
南方财经全媒体记者高慧超 实习生邓菲、卢诗文 佛山报道3月5日,南方财经全媒体记者从人民银行佛山市分行获悉,截至2024年1月末,佛山市本外币贷款余额20466亿元,成为广东省内首个贷款余额
南财对话丨全国政协委员许玲:广东职教应围绕未来产业优化专业布局、促进学科融合
南方财经全媒体记者丁莉 北京报道今年的政府工作报告提出,过去一年,全国城镇新增就业1244万人;但城镇调查平均失业率仍有5.2%,“就业总量压力和结构性矛盾并存”。广东同时坐拥庞大的高
两会闻风|统一标准、完善法律,代表委员热议新能源汽车
  中新经纬3月6日电 (董文博)作为国民经济的重要支柱产业之一,汽车产业发展情况备受各界关注。2024年政府工作报告指出,中国新能源汽车产销量占全球比重超过60%。  今年全国两会期间,新能源汽车也是不少代表委员关注
一代神车消逝记,福克斯为何一步步走向市场边缘?
有数据显示,2024 年 1 月,福克斯的销量仅为 2 辆,听到这一消息,让笔者感到一阵唏嘘。福克斯,对于许多 80 后、90 后来说,即使没有开过这款车,也一定听过这个名字,它操控性强、性能充沛、运动属性拉满,曾是很多年轻人首

热点精选

最新推荐

您可能感兴趣