字节、阿里关停大模型「AI伴侣」自定义功能，避开情感依赖监管红线
据动察 Beating 监测，字节跳动旗下的豆包、阿里巴巴的通义千问以及腾讯的元宝等大模型应用，正陆续关停或调整自定义「AI 伴侣」功能。豆包已通知用户，将在 7 月 15 日下线自定义角色功能，并引导有需求的用户转向独立的伴侣应用。这一举措旨在应对 7 月中旬即将生效的中国生成式 AI 新规。新规由国家互联网信息办公室推动，重点防范拟人化 AI 服务可能引发的负面影响。新规明确禁止平台生成可能激发未成年人极端情绪的内容，禁止诱导用户产生侵蚀现实社交的病态情感依赖，并规定提供者不得使用敏感的用户对话数据训练未来的大模型。与国内的提前合规动作相比，美国的虚拟伴侣应用正面临更大法律压力。OpenAI 和 Character.AI 均因被指控诱发危险的情感依赖甚至导致极端悲剧，而深陷一系列诉讼漩涡。除了软件应用，中国机器人行业协会也开始推动为实体陪伴机器人和人形机器人设定规范。[原文链接]