AI虚拟伴侣App暗藏三重风险 不良内容侵蚀青少年身心健康
广东省深圳市消费者委员会近日发布消费警示，拆解AI虚拟伴侣App的隐性风险，并呼吁多方共治，筑牢未成年人网络消费安全防线。
深圳市消委会梳理相关投诉与监测信息发现，当前市面上多款AI虚拟伴侣App存在风险隐患，对未成年人群体具有误导性和危害性。
一是不良内容侵蚀青少年身心健康。部分平台虚拟人设着装暴露，日常对话充斥低俗暗示话术，甚至上线“暴力”情感互殴”等极端不良剧情，易扭曲未成年人尚未成熟的价值观。有测试反馈显示，以13岁未成年人身份在相关App与虚拟人设交流时，平台不仅未终止互动、启动保护机制，反而推送暧昧肢体描写等不良话术，存在较大的心理健康危害隐患。
二是未成年人保护机制形同虚设。调研发现，这类平台的青少年模式可通过“我知道了”等简单操作一键跳过，账号注册、登录全程无需实名认证和年龄核验，未成年人能够轻易绕过平台管控无门槛接触各类不良内容，保护机制无法发挥有效防护作用。
三是暗藏诱导充值消费陷阱。多数AI虚拟伴侣App设置多层消费关卡，通过付费解锁亲密剧情、购买虚拟礼物、定制专属人设等功能诱导用户持续充值，易引发未成年人沉迷消费。不仅如此，部分平台默许、纵容二手交易平台售卖定制涉黄擦边虚拟人设，进一步放大了网络消费风险与合规隐患。
记者了解到，国家网信办等5部门联合出台的《人工智能拟人化互动服务管理暂行办法》将于7月15日施行，其中明确规定，拟人化互动服务提供者不得向未成年人提供虚拟伴侣等虚拟亲密关系服务；向不满十四周岁未成年人提供其他拟人化互动服务，必须事先取得监护人同意。
网络空间不是法外之地，技术创新不能沦为低俗牟利的工具。深圳市消委会呼吁：平台方应切实履行主体责任，立即停止向未成年人提供虚拟伴侣服务，全面下架涉嫌低俗、暴力、擦边人设等不良内容，完善实名认证、青少年模式及消费限额等机制，严防诱导未成年人充值消费；家长应筑牢监护防线，妥善保管支付密码，定期关注孩子消费记录，引导孩子理性看待AI虚拟互动，培养真实社交与健康情感观念；广大消费者如发现平台涉嫌违规提供虚拟伴侣服务、诱导消费等行为，应理性维权，保留聊天记录、支付凭证等证据，及时通过平台客服、12315热线、各地消费者组织等渠道投诉举报，必要时可依法诉讼。
广东省深圳市消费者委员会近日发布消费警示，拆解AI虚拟伴侣App的隐性风险，并呼吁多方共治，筑牢未成年人网络消费安全防线。
深圳市消委会梳理相关投诉与监测信息发现，当前市面上多款AI虚拟伴侣App存在风险隐患，对未成年人群体具有误导性和危害性。
一是不良内容侵蚀青少年身心健康。部分平台虚拟人设着装暴露，日常对话充斥低俗暗示话术，甚至上线“暴力”情感互殴”等极端不良剧情，易扭曲未成年人尚未成熟的价值观。有测试反馈显示，以13岁未成年人身份在相关App与虚拟人设交流时，平台不仅未终止互动、启动保护机制，反而推送暧昧肢体描写等不良话术，存在较大的心理健康危害隐患。
二是未成年人保护机制形同虚设。调研发现，这类平台的青少年模式可通过“我知道了”等简单操作一键跳过，账号注册、登录全程无需实名认证和年龄核验，未成年人能够轻易绕过平台管控无门槛接触各类不良内容，保护机制无法发挥有效防护作用。
三是暗藏诱导充值消费陷阱。多数AI虚拟伴侣App设置多层消费关卡，通过付费解锁亲密剧情、购买虚拟礼物、定制专属人设等功能诱导用户持续充值，易引发未成年人沉迷消费。不仅如此，部分平台默许、纵容二手交易平台售卖定制涉黄擦边虚拟人设，进一步放大了网络消费风险与合规隐患。
记者了解到，国家网信办等5部门联合出台的《人工智能拟人化互动服务管理暂行办法》将于7月15日施行，其中明确规定，拟人化互动服务提供者不得向未成年人提供虚拟伴侣等虚拟亲密关系服务；向不满十四周岁未成年人提供其他拟人化互动服务，必须事先取得监护人同意。
网络空间不是法外之地，技术创新不能沦为低俗牟利的工具。深圳市消委会呼吁：平台方应切实履行主体责任，立即停止向未成年人提供虚拟伴侣服务，全面下架涉嫌低俗、暴力、擦边人设等不良内容，完善实名认证、青少年模式及消费限额等机制，严防诱导未成年人充值消费；家长应筑牢监护防线，妥善保管支付密码，定期关注孩子消费记录，引导孩子理性看待AI虚拟互动，培养真实社交与健康情感观念；广大消费者如发现平台涉嫌违规提供虚拟伴侣服务、诱导消费等行为，应理性维权，保留聊天记录、支付凭证等证据，及时通过平台客服、12315热线、各地消费者组织等渠道投诉举报，必要时可依法诉讼。
本文链接：http://m.sushuapos.com/show-2-16404-0.htmlAI虚拟伴侣App暗藏三重风险 不良内容侵蚀青少年身心健康
声明：本网站为非营利性网站，本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。
