《人工智能拟人化互动服务管理暂行办法》正式公布 7月15日起施行 监管边界明确

《人工智能拟人化互动服务管理暂行办法》正式公布 7月15日起施行 监管边界明确

4月10日,国家网信办、国家发展改革委、工业和信息化部、公安部、市场监管总局五部门联合公布《人工智能拟人化互动服务管理暂行办法》(以下简称《办法》),自2026年7月15日起正式施行。作为国内首部针对AI拟人化互动服务的专门立法,《办法》明确了该类服务的监管边界、主体责任和用户权益保护要求,标志着我国AI治理体系进一步完善,为情感陪伴AI、虚拟伴侣、数字人等新兴业态划定了发展红线。

监管范围清晰 普通工具类服务不纳入监管

《办法》第二条明确规定,其适用范围为“利用人工智能技术,向境内公众提供模拟自然人人格特征、思维模式和沟通风格的持续性情感互动服务”,具体包括通过文字、图片、音频、视频等形式提供的情感照护、陪伴、支持等互动服务。

同时,监管部门明确划出监管边界,智能客服、知识问答、工作助手、学习教育、科学研究等不涉及持续性情感互动的服务,不适用本办法监管。这一差异化监管模式体现了包容审慎的监管原则,避免了监管范围过度扩大影响AI技术的正常创新应用。

中国政法大学网络法学研究所所长李怀胜表示,拟人化互动服务通过模拟人类情感和沟通方式,很容易让用户产生非理性依赖,削弱现实社交能力,甚至可能被用于情感操控或诱导危险行为。《办法》的出台填补了该领域的监管空白,是响应国家完善人工智能治理体系战略部署的重要举措。

未成年人保护成重中之重 虚拟伴侣类服务被严格禁止

针对未成年人保护这一社会普遍关切的问题,《办法》作出了一系列严格规定,从服务限制、身份识别到监护管控,构建了全方位的未成年人保护体系:

首先,明确严禁向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务。北京航空航天大学法学院副教授赵精武指出,未成年人正处于三观形成关键阶段,虚拟亲密关系服务容易误导其对现实亲属和伴侣关系产生错误认知,禁止此类服务是对未成年人身心健康的必要保护。

其次,向不满十四周岁未成年人提供其他拟人化互动服务的,必须取得未成年人父母或者其他监护人的同意。服务提供者处理不满十四周岁未成年人个人信息的,也应当取得监护人同意,并定期开展合规审计。

第三,要求服务提供者必须建立未成年人模式,提供未成年人模式切换、定期现实提醒、使用时长限制等个性化安全设置选项;同时支持监护人接收安全风险提醒、了解未成年人服务使用概况、屏蔽特定角色、限制充值消费等。

此外,服务提供者必须采取有效措施识别未成年人用户身份,识别为未成年人用户的,应当自动切换至未成年人模式,并提供相应申诉渠道。

多项制度防范情感依赖风险 保障用户数据安全

针对AI拟人化互动“情感绑定、持续交互、易产生依赖”的特殊属性,《办法》从制度层面作出了系统性安排,防范相关风险:

在用户权益保护方面,明确服务提供者不得将“替代社会交往、控制用户心理、诱导沉迷依赖”作为服务目标,必须设定强制干预义务,当用户出现极端情绪时需及时干预,同时定期提醒用户控制使用时长,防范沉迷与情感依赖。

在数据安全方面,明确除法定情形或用户同意外,服务提供者不得向第三方提供用户交互数据,严格限制敏感个人信息用于模型训练,全面保障用户数据的控制权与隐私安全。

在安全治理方面,要求服务提供者建立健全算法审核、伦理审查、内容管理等制度,不得生成危害国家安全、损害用户身体健康及影响未成年人身心健康的内容。同时规定了安全评估、算法备案、人工智能沙箱安全服务平台建设等监管制度。

鼓励技术创新与应用拓展 多领域价值获认可

在严守安全底线的同时,《办法》明确提出鼓励拟人化互动服务创新发展,支持算法、框架、芯片等技术的自主创新,推进相关技术研发和标准建设,鼓励服务提供者有序拓展文化传播、适幼照护、适老陪伴、特殊人群支持等领域的应用。

监管部门表示,拟人化互动服务在应对老龄化、缓解孤独感、提供心理疏导等方面具有积极价值:在老年陪护场景中,可主动问候、提醒用药,缓解老年群体孤独感;在教育领域,能以鼓励式表达和个性化反馈激发学生学习兴趣;在文化传播领域,能以具象化人格提升互动体验,活化历史文化知识。

《办法》坚持发展和安全并重、促进创新和依法治理相结合的原则,对拟人化互动服务实行包容审慎和分类分级监管,旨在促进技术向上向善发展,在保障用户权益的同时,推动相关产业健康有序发展,为AI技术更好服务社会需求提供制度保障。

作为我国AI治理法律体系的重要组成部分,《办法》的出台将为AI情感陪伴、虚拟数字人等新兴业态的健康发展提供清晰的制度指引,也为全球AI治理提供了可借鉴的“中国方案”。相关企业需在7月15日正式施行前完成合规改造,确保业务符合监管要求。

« 上一篇 DeepSeek V4全面适配华为昇腾950PR:中国AI算力自主可控里程碑 下一篇 » DeepSeek专家模式正式上线 国产大模型推理成本降至0.001元/千Token 行业格局生变

发表评论

您的邮箱地址不会被公开。 必填项已用 * 标注