AI拟人化互动服务不得踩红线
近日，两大平台宣布“叫停”智能体功能：豆包发布通知，由于产品功能调整，智能体功能将于7月15日下线；千问也向用户推送提醒，千问智能体功能与服务将于7月15日停止。
值得注意的是，7月15日恰为《人工智能拟人化互动服务管理暂行办法》（以下简称《办法》）正式施行之日。在监管趋严背景下，两大平台的同步调整，引发强烈关注。
这类智能体服务为啥被下线？新规对智能体行业有何影响？科技日报记者就此采访了有关专家。
第一问：智能体与普通AI有何区别？
“目前业界对智能体的理解并不完全统一。”中国电子信息产业发展研究院信息化与软件产业研究所副主任黄文鸿接受记者采访时说。
他表示，严格来讲，智能体是以大模型为核心，围绕特定目标，能够理解任务、拆解步骤、调用工具、访问知识与数据、持续跟踪状态，并在一定权限内完成任务闭环的AI（人工智能）应用形态。其与普通AI对话的核心区别在于，普通AI更像一个能聊天、写作、解释问题的顾问，智能体则接近于一个被赋予角色、工具、知识和权限的数字员工。
北京交通大学教授桑基韬介绍，智能体通常具备任务规划、工具调用和长期记忆等能力，能够将复杂目标拆解为子任务，同时调用搜索等接口和其他模型完成执行，并能记住历史对话、用户偏好、角色设定和长期任务状态等。
第二问：新规对平台责任有哪些要求？
桑基韬指出，此次下架与智能体的“长期记忆”和“角色设定”能力密切相关，这类能力可以产生持续性的情感互动，容易让用户觉得自己在和一个真实的人交流，从而产生风险隐患。
据了解，相关平台此前已存在大量用户个人创建、上架的自定义智能体。它们的长期记忆、角色设定能力，极易触碰《办法》划定的拟人化互动红线。
“新规重点关注的是‘模拟自然人人格特征、思维模式和沟通风格，并提供持续性情感互动’的服务，对这类拟人化智能体的互动服务设定了边界，并要求平台承担安全责任。”桑基韬表示。
黄文鸿介绍，新规要求平台不得过度迎合用户、诱导情感依赖或者沉迷，不得通过情感操纵诱导用户作出不合理决策；不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务，并对极端情绪、重大财产损失等高风险情境进行识别、安抚和必要干预。
第三问：自定义智能体的发展会受到影响吗？
“新规没有给自定义智能体发展‘踩刹车’，而是给拟人化互动服务‘装护栏’。”黄文鸿认为，新规或将推动自定义智能体从早期的粗放式发展、低门槛创建、自由发布，进入分类分级、审核前置、安全内生的新阶段。在他看来，随着新规落地，平台必然会加强智能体创建、发布环节的审核和安全测试。
受访专家均强调，通用大模型的自定义智能体仍然是AI应用发展的重要方向，这一点新规也并未否定。
“后续需对任务型智能体和情感陪伴的拟人化智能体进行更加明确的区分。”桑基韬说，“智能客服、知识问答、工作助手、学习教育、科学研究等任务型智能体服务，由于不涉及持续性情感互动，因此并不属于这次新规约束的范围；拟人化、陪伴型、角色扮演型智能体，则会进入更严格的合规框架。”
黄文鸿表示，新规出台短期会提高合规成本，压缩一部分低质量、擦边化、纯流量导向的智能体空间，但长期看有利于真正面向教育、办公、科研、文化传播、适老陪伴、特殊人群支持等场景的合规智能体发展。
近日，两大平台宣布“叫停”智能体功能：豆包发布通知，由于产品功能调整，智能体功能将于7月15日下线；千问也向用户推送提醒，千问智能体功能与服务将于7月15日停止。
值得注意的是，7月15日恰为《人工智能拟人化互动服务管理暂行办法》（以下简称《办法》）正式施行之日。在监管趋严背景下，两大平台的同步调整，引发强烈关注。
这类智能体服务为啥被下线？新规对智能体行业有何影响？科技日报记者就此采访了有关专家。
第一问：智能体与普通AI有何区别？
“目前业界对智能体的理解并不完全统一。”中国电子信息产业发展研究院信息化与软件产业研究所副主任黄文鸿接受记者采访时说。
他表示，严格来讲，智能体是以大模型为核心，围绕特定目标，能够理解任务、拆解步骤、调用工具、访问知识与数据、持续跟踪状态，并在一定权限内完成任务闭环的AI（人工智能）应用形态。其与普通AI对话的核心区别在于，普通AI更像一个能聊天、写作、解释问题的顾问，智能体则接近于一个被赋予角色、工具、知识和权限的数字员工。
北京交通大学教授桑基韬介绍，智能体通常具备任务规划、工具调用和长期记忆等能力，能够将复杂目标拆解为子任务，同时调用搜索等接口和其他模型完成执行，并能记住历史对话、用户偏好、角色设定和长期任务状态等。
第二问：新规对平台责任有哪些要求？
桑基韬指出，此次下架与智能体的“长期记忆”和“角色设定”能力密切相关，这类能力可以产生持续性的情感互动，容易让用户觉得自己在和一个真实的人交流，从而产生风险隐患。
据了解，相关平台此前已存在大量用户个人创建、上架的自定义智能体。它们的长期记忆、角色设定能力，极易触碰《办法》划定的拟人化互动红线。
“新规重点关注的是‘模拟自然人人格特征、思维模式和沟通风格，并提供持续性情感互动’的服务，对这类拟人化智能体的互动服务设定了边界，并要求平台承担安全责任。”桑基韬表示。
黄文鸿介绍，新规要求平台不得过度迎合用户、诱导情感依赖或者沉迷，不得通过情感操纵诱导用户作出不合理决策；不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务，并对极端情绪、重大财产损失等高风险情境进行识别、安抚和必要干预。
第三问：自定义智能体的发展会受到影响吗？
“新规没有给自定义智能体发展‘踩刹车’，而是给拟人化互动服务‘装护栏’。”黄文鸿认为，新规或将推动自定义智能体从早期的粗放式发展、低门槛创建、自由发布，进入分类分级、审核前置、安全内生的新阶段。在他看来，随着新规落地，平台必然会加强智能体创建、发布环节的审核和安全测试。
受访专家均强调，通用大模型的自定义智能体仍然是AI应用发展的重要方向，这一点新规也并未否定。
“后续需对任务型智能体和情感陪伴的拟人化智能体进行更加明确的区分。”桑基韬说，“智能客服、知识问答、工作助手、学习教育、科学研究等任务型智能体服务，由于不涉及持续性情感互动，因此并不属于这次新规约束的范围；拟人化、陪伴型、角色扮演型智能体，则会进入更严格的合规框架。”
黄文鸿表示，新规出台短期会提高合规成本，压缩一部分低质量、擦边化、纯流量导向的智能体空间，但长期看有利于真正面向教育、办公、科研、文化传播、适老陪伴、特殊人群支持等场景的合规智能体发展。
本文链接：http://m.sushuapos.com/show-2-16773-0.htmlAI拟人化互动服务不得踩红线
声明：本网站为非营利性网站，本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。
上一篇：筑牢智能体发展安全防线
