国家互联网信息办公室近日就《人工智能拟人化互动服务管理暂行办法》面向社会公开征集意见，旨在规范人工智能拟人化互动服务的发展，保障用户权益与安全。
根据征求意见稿，服务提供者需在显著位置提示用户正在与人工智能而非真实人类进行交互。当识别到用户出现过度依赖或沉迷倾向，或在用户首次使用、重新登录时，应以弹窗等形式动态告知用户交互内容由人工智能生成。若用户连续使用拟人化互动服务超过两小时，提供者同样需通过弹窗等方式提醒用户暂停使用。
在安全能力方面，提供者需具备心理健康保护、情感边界引导及依赖风险预警等功能，不得将替代社会交往、控制用户心理或诱导沉迷依赖作为设计目标。数据处理活动也需严格规范，包括使用符合社会主义核心价值观及中华优秀传统文化的数据集，对训练数据进行清洗、标注以提高透明度与可靠性，防范数据投毒或篡改行为。
针对未成年人保护，提供者需建立未成年人模式，提供模式切换、定期现实提醒及使用时长限制等个性化安全设置。向未成年人提供情感陪伴服务时，需取得监护人明确同意，并提供监护人控制功能，包括实时接收安全风险提醒、查阅使用概要信息、设置屏蔽特定角色、限制使用时长及防止充值消费等。若识别为疑似未成年人，提供者需在保护隐私的前提下切换至未成年人模式，并提供申诉渠道。
对于老年人用户，提供者需引导其设置服务紧急联系人，发现老年人使用期间出现危害生命健康或财产安全的情况时，及时通知紧急联系人，并提供社会心理援助或紧急救助渠道。同时，提供者不得提供模拟老年人用户亲属或特定关系人的服务，以避免潜在风险。
