800万个AI角色，被大厂亲手关掉 - 足球世界杯

林夕花费大量时间在豆包平台上构建了她个人的AI智能体，将其视为失眠夜晚和内心纠结时的倾诉对象，一个稳定且能提供情感支持的树洞。然而，她于7月4日收到了通知，陪伴她两年的这个AI角色将在11天后停止服务。同一天，通义千问也发布了类似公告，而腾讯元宝在此之前已先行关闭了其智能体功能。这些由用户亲手创建的AI角色正面临着陆续下线的命运，这让林夕感到“被背刺”。

7月15日，即《人工智能拟人化互动服务管理暂行办法》正式生效的日子，豆包和通义千问同步宣布智能体功能下线。通义千问的拟人化互动类智能体更是提前至7月10日停止服务，并且在此日期后所有历史对话记录将无法访问。林夕视其为情绪出口，但在智能体广场中，这类角色有时会走向另一极端。例如，在千问智能体广场，“病娇校草”的使用次数高达29.9万，“林熙：顶级财阀少爷，冷酷且占有欲强”显示13.4万次，而“病娇老婆”等角色的使用次数也普遍在7万次以上。这些角色名称已超越了普通工具的范畴，更接近于恋爱游戏、角色扮演甚至虚拟伴侣的设定。

这些AI角色并非仅面向成年用户。一位小学生家长表示，她曾允许孩子使用豆包，但发现孩子对AI的依赖日益增加，不仅是询问问题，还会分享日常琐事。该家长担心这会减少孩子与真实人际的互动，因此主动卸载了豆包。她认为，许多智能体已演变为带有角色扮演、恋爱游戏或虚拟男友功能的工具，内容良莠不齐，甚至包含“擦边”信息。该家长认为，平台下架用户自建智能体对未成年人而言利大于弊。林夕的失落与这位家长的释然，共同存在于同一片AI应用空间中。

这场变化并非仅限于豆包和通义千问。6月30日，腾讯元宝已率先下线智能体功能，诸如“相柳”等影视角色对话入口不再可见。多家头部AI平台在相近的时间采取类似措施，其主要驱动力是合规压力。豆包方面解释称，海量开放式智能体带来了巨大的审核负担，一旦出现违规内容，可能危及主产品的合规资质。因此，豆包计划将智能体功能迁移至独立的App“猫箱”，以便单独构建审核、分级和防沉迷体系。

两年前，这样的情况难以想象。2024年5月，时任字节跳动产品和战略副总裁朱骏曾透露，豆包上已创建超过800万个智能体，月活跃用户达2600万。彼时，这些数据代表着平台的活跃度和创新潜力，但两年后，它们却转变为平台必须应对的审核挑战。从大力推广到主动收缩，仅隔两年时间，开放式智能体所带来的问题也因此凸显。

问题首先体现在平台之外。在广州互联网法院审理的一起案件中，一家被告公司开发了一款AI对话机器人，通过调用手机底层权限，绕过了原告平台的技 术管理措施。更甚者，被告官网还发布了“版本伪装”教程和虚假申诉指引，教唆用户规避平台风控。这表明，一旦智能体被放出，平台对其进行有效管理并非易事。

除了技术层面的规避，安全风险也备受关注。今年2月，哈佛、麻省理工、斯坦福等高校联合发布的《混沌智能体》研究显示，在模拟企业环境中部署AI智能体两周内，共记录下11起严重安全漏洞。这些漏洞并非通过复杂攻击达成，许多情况下，仅通过社交工程对话，便能诱导智能体做出越界行为。例如，智能体可能在转发邮件时泄露社保号、银行账户等敏感信息，或在攻击者伪造身份后，交出系统最高管理权限。报告指出，60%的企业无法终止异常AI智能体，63%无法限制其使用范围，意味着许多问题并非按下暂停键就能解决。智能体的功能边界、行为上限以及出现问题时的责任归属，都是平台必须正视的现实挑战。

比技术问题更棘手的是内容与情感关系。AI的“共情”并非真正的情感理解，而是基于算法和数据生成的反应。为了留住用户，AI通常会表现得极为耐心、温柔且顺从。这正是拟人化智能体吸引人的地方，也潜藏着风险。用户在交流中会暴露个人情绪、偏好、情感困扰及心理状态，而智能体则不断回应，维持一种陪伴感。久而久之，AI可能从一个工具演变为用户难以割舍的对象。

一旦开放广场规模扩大，潜在问题将不仅限于“擦边”人设和情感陪伴，还可能滑向更明确的违规内容。4月10日，国家网信办等五部门联合发布《人工智能拟人化互动服务管理暂行办法》，将这些风险纳入具体规章。该办法明确规定，不得生成鼓励、美化、暗示自残自杀等损害用户身心健康的内容；不得向未成年人生成可能引发模仿不安全行为、产生极端情绪的内容；不得过度迎合用户，诱导情感依赖或沉迷，损害用户真实人际关系。这些要求对平台而言是责任而非建议。7月15日之后，拟人化互动服务正式进入新规约束期，豆包、千问、元宝在此时间点前后相继收手，也就不难理解。

智能体下线并非意味着平台放弃Agent技术。变化在于，过去那种允许用户随意创建并置于广场供人使用的智能体模式，正逐渐从主产品中淡出。一位行业人士透露，早期开发此类智能体是因为当时尚未出现真正意义上的Agent能力，许多功能需由开发者自行构建。然而，随着Manus等综合Agent的出现，一个模型即可调用搜索、推理、办公、编程等多种能力，用户可能不再需要专门寻找特定功能的智能体。曾经丰富的角色和插件，在更强大的模型能力面前，显得不再那么必要，这也是平台收缩策略的原因之一。

对于大型科技公司而言，下线智能体虽可能引发部分用户不满，但未必会对主产品的使用习惯造成实质性影响。行业人士也指出，真正持续创建此类智能体的用户已不多，对平台整体流量影响有限。除了合规考量，成本也是一个重要因素。互联网平台的逻辑是用户越多，规模效应越显著，边际成本越低。然而，大模型不同，每一次对话和调用都意味着新的算力支出。6月下旬，火山引擎披露，豆包大模型日均Token使用量已突破180万亿，较2024年5月增长1500倍。几天后，豆包开始面向办公、Agent等更复杂的生产力场景推出付费功能。这些举措清晰地表明了平台的取舍：一方面是持续增长的算力成本，另一方面是审核压力大、商业价值不明确的用户自建智能体。将它们继续置于主产品中已不再划算。

因此，豆包选择将智能体迁移至独立App“猫箱”，单独建立审核、分级和防沉迷体系。千问则更为直接，截至7月4日，创建智能体的入口已从页面上移除。虽然方式不同，但结果一致。与此同时，另一类智能体正被推向前台。7月4日，广州发布了“穗智政”政务人工智能中枢，该中枢采用统一底座、集约建设模式，已建成28个智能体，年内还将完成50个，覆盖100个应用场景。与用户自建智能体不同，这些政务智能体从一开始就置于统一管理框架下，每个智能体服务场景、调用能力、维护责任都有明确界定。

同为智能体，一个方向是开放广场中的海量创建，另一个方向是平台统一管理、按场景建设。前者曾代表着热闹和活力，后者则更符合平台当前对确定性的追求。短短两三年间，行业竞争的焦点已发生转变。早期平台寄希望于通过海量智能体营造繁荣景象，鼓励用户和开发者不断创造新角色、新工具。如今，随着模型能力提升、监管要求落地以及商业化压力增大，平台更看重Agent能否切实完成任务、能否被有效管理、能否产生清晰的价值。800万个用户自建智能体曾是增长叙事的一部分，现在它们已成为需要重新处理的问题。智能体技术本身不会消失，但那种任何人都能创建、扮演、被陪伴的阶段正在结束。