AI伴侣功能调整：国内大模型主动合规

近日，多家国内头部科技公司对其大模型产品的“AI伴侣”功能进行了重要调整。字节跳动旗下的豆包应用已向用户发出通知，计划在7月15日正式下线自定义角色创建功能。阿里巴巴的通义千问、腾讯的元宝等应用也采取了类似措施，或关闭自定义入口，或将相关功能引导至独立的专用应用。

新规驱动：防范情感风险与数据滥用

这一系列动作的直接背景，是即将于7月中旬正式实施的《生成式人工智能服务管理暂行办法》补充规定。该规定由国家网信办牵头制定，核心目标之一是规范具有拟人化交互特征的AI服务。

新规明确了多条红线：

  • 禁止生成可能引发未成年人情绪极端化的内容；
  • 禁止设计诱导用户形成病态情感依赖、损害现实社会关系的机制；
  • 严格限制使用用户与AI的互动数据来训练下一代模型，尤其涉及敏感对话信息。

业内人士分析，自定义AI伴侣功能因其高度的个性化和情感代入感，被视为可能触碰上述红线的领域。平台选择主动下架或隔离该功能，是提前进行合规化整改的明确信号。

全球视野：AI伴侣面临的法律与伦理挑战

中国监管的提前介入并非孤立事件，它反映了全球范围内对拟人化AI潜在风险的共同担忧。在大洋彼岸，AI伴侣应用正卷入更复杂的法律纠纷。

诉讼漩涡中的海外应用

例如，OpenAI和Character.AI等公司已面临多起诉讼，指控其AI聊天机器人助长了用户的危险情感依赖，甚至与一些用户的极端行为或悲剧存在关联。这些案件正在促使法律界重新思考AI开发者的责任边界。

从软件到硬件的规范延伸

监管的范畴也在扩大。不仅限于软件应用，中国机器人行业协会已开始研讨并推动制定针对实体陪伴机器人、人形机器人的行业规范。这意味着，能够提供情感交互的物理实体机器人，其开发、营销和交互设计也将被纳入更严格的审视框架中。

总体来看，从“自定义角色”功能的调整，到行业规范的酝酿，一个清晰的趋势正在形成：提供高度拟人化、情感化交互的AI服务，其“自由创作”的窗口正在收紧，取而代之的是强调安全、责任与伦理的可持续发展路径。这既是监管的要求，也可能成为行业下一阶段创新必须遵循的基础规则。