告别“情绪时长”:AI陪伴新规今起施行,机器人或迎“合规溢价”,商业逻辑从“刺激依赖”转向服务价值

每经记者|温梦华 每经编辑|董兴生 学习助手、虚拟恋人、情绪陪伴⋯⋯当下,越来越多的人工智能正成为很多人的情感依赖,尤其是老人和未成年人。当算法能“精准讨好”、模拟出近乎真人的陪伴体验时,人机关系的边界在哪里? 7月15日,由国家网信办、国家发展改革委、工业和信息化部、公安部、市场监管总局五部门联合公布的《人工智能拟人化互动服务管理暂行办法》(以下简称《办法...

每经记者|温梦华 每经编辑|董兴生 学习助手、虚拟恋人、情绪陪伴⋯⋯当下,越来越多的人工智能正成为很多人的情感依赖,尤其是老人和未成年人。当算法能“精准讨好”、模拟出近乎真人的陪伴体验时,人机关系的边界在哪里? 7月15日,由国家网信办、国家发展改革委、工业和信息化部、公安部、市场监管总局五部门联合公布的《人工智能拟人化互动服务管理暂行办法》(以下简称《办法》)正式施行。这是我国首部专门针对人工智能拟人化互动服务的国家级监管规则。 在经历爆发式增长后,新规实施将对人工智能产业产生哪些影响?人工智能拟人化未来将何去何从? 多位长期深耕人工智能产业的资深专家在接受《每日经济新闻》记者(以下简称“每经记者”)采访时均指出,未来产业主线仍是智能体和具身智能扩张,高风险情感功能将转向独立化、垂直化和合规原生。 “当下AI产业发展迅速,如果未来AI价值观出现问题,将带来更大的影响和危害。将人机关系、价值观对齐,从长远看肯定是个好事情。”谈起《办法》的实施,四川省人工智能研究院负责人在接受每经记者采访时表示。 每经记者注意到,此次《办法》最令产业界关注的,是其精准的适用范围界定。 根据《办法》第二条,监管对象明确锁定为“利用人工智能技术,向中华人民共和国境内公众提供模拟自然人人格特征、思维模式和沟通风格的持续性的情感互动服务”。同时,《办法》也指出“提供智能客服、知识问答、工作助手、学习教育、科学研究等服务,不涉及持续性的情感互动的,不适用本办法”。 “《办法》的治理对象聚焦持续性人机情感关系,并未覆盖一般意义上的所有智能体。不能把工具型智能体、实体机器人和AI陪伴产品混为一谈。”长期深耕人工智能产业的资深专家徐立(化名)在接受每经记者采访时坦言。 这意味着,新规的实施,将给不同细分赛道、细分领域的企业带来差异化影响。 在徐立看来,《办法》对实体机器人赛道呈现明显的分层影响,工业型和任务型机器人总体受益,而具备持续情感互动能力的陪伴型机器人将面临更高合规门槛,承担的安全责任将显著高于纯软件产品。 “监管判断主要取决于功能和交互机制,不取决于载体是手机应用、数字人、音箱还是实体机器人。制造、巡检、搬运、导览等任务型机器人因边界更加清晰,合规不确定性有望下降;养老陪护、儿童陪伴、家庭服务等机器人一旦形成长期人格、情绪识别和关系记忆,原则上将进入《办法》规制范围。”徐立向每经记者进一步分析道。 徐立指出,整体上,《办法》对实体机器人形成“短期增成本、长期扩市场”的影响。短期内,陪伴型产品的研发周期、测试成本和运营人员投入将上升,中小企业可能出现产品收缩或场景聚焦;长期看,规则把工业工具、任务助手和情感陪伴分层管理,有利于避免整个机器人赛道被少数高风险案例拖累。 公开数据显示,2025年我国人工智能相关企业存量突破6200家,AI核心产业规模突破1.2万亿元。其中,AI情感陪伴这一细分赛道异军突起——据中研普华产业研究院预测,到2028年,中国AI情感陪伴行业市场规模将突破595亿元,年复合增长率高达148.74%。 资本竞逐、创业者涌入,一场关于“情绪价值”的数字化狂欢似乎刚刚开始。 然而,狂欢之下,暗流涌动。过去很长一段时间,“用户黏性”是AI陪伴产品普遍单纯追求的核心指标之一,谁的对话时长更长、唤醒频率更高、关系绑定更深,谁就能赢得市场。为了留住用户,不少产品刻意设计“过度迎合”的话术、诱导情感依赖的机制等。 但如今,随着新规的实施,禁止“过度迎合”、禁止“诱导情感依赖”、禁止“损害真实人际关系”等要求,将拟人化服务过去习以为常的运营手段划入禁区。那么,当“情绪刺激”被戴上枷锁,AI陪伴类产品的商业化路径将驶向何方?鉴于拟人化服务背后高昂的研发与运营成本,其盈利周期又会被拉长多少? “结合《办法》2026年7月15日生效、应用商店核验责任以及网信部门2026年‘清朗·整治AI应用乱象’专项行动,开放式角色平台的审核、数据和责任成本明显上升。”徐立表示。 在徐立看来,商业化逻辑将从出售时长和情绪刺激转向出售可验证的服务价值,依靠无限对话、虚拟亲密关系、付费解锁角色关系、礼物打赏和情绪召回的模式面临较高监管风险,新的“黏性”应理解为信任黏性、价值黏性和服务连续性,商业模式宜向订阅制专业服务、硬件+服务、机构采购、文化内容授权和合规能力输出转移。 “盈利能力的评价周期可能拉长,但合规将改善长期客户价值质量。短期内,减少高刺激设计会降低部分时长和付费转化,安全评估、年龄识别、人工干预和数据治理也会抬高成本。中长期内,用户信任、机构采购、家庭付费和渠道准入更依赖可证明的安全记录。”徐立向每经记者坦言。 早在《办法》正式实施前,豆包、千问就曾公开通知,将于2026年7月15日下线智能体相关功能,腾讯元宝也已于6月30日下线AI应用智能体功能;网易云音乐旗下情感AI产品“妙时”也发布停运公告,剥离开放式自定义能力,仅保留合规的心理咨询AI服务。 7月15日上午,每经记者查询发现,豆包、千问、元宝均已下架智能体。截至发稿,元宝、千问App上已无“创建AI智能体”的界面,豆包“创建AI智能体”界面仍存在,但无法成功创建。 虽然企业称主要原因为“产品功能调整”,但产业界普遍将相关动作视为《办法》施行前的风险切割和产品重构。 “大厂不会整体退出智能体赛道,更可能收缩开放式、用户自定义和高风险拟人化能力。会倾向把任务智能体、企业智能体和情感陪伴分开运营,保留可控工具能力,减少品牌和监管风险集中传导。”徐立表示。 事实上,早在6月底,在上海市委网信办通报的“清朗·整治AI应用乱象”专项行动第一阶段成果中,就下架违规自建智能体1.4万余个,其中“一键脱衣”、赌球博彩类UGC(用户生成内容)智能体是重灾区。 在四川省人工智能研究院负责人看来,当合规不再是“加分项”,而是“入场券”,有利于进一步减少产业的不正当竞争。“以前为了竞争,有企业可能会打一些‘擦边球’来争夺用户和市场,使得行业处于无序竞争和不公平竞争中,如今企业竞争都回到同一条起跑线,按照规范的逻辑去竞争发展。” 谈及未来的产业竞争格局,徐立指出,未来可能形成“大厂做风险隔离、创业公司做垂直专精、第三方做合规基础设施”的三层结构。例如,创业公司的机会主要来自合规原生和场景原生,单纯承接大厂退出流量,难以形成长期优势;市场集中度可能在基础能力层上升,在垂直应用层保持多元。企业战略调整应从“是否下线”转向“如何分层经营”。 放眼更长远的时间维度,上述四川省人工智能研究院负责人认为,AI治理终究是一项全球命题。随着AI技术的快速演进,当机器开始具备自主判断与决策能力时,人类必须共同约束好AI,这不是某一国的课题,而是需要全球携手推进的共同治理。 封面图片来源:每经媒资库

查看原文