这两天对于国内外喜欢和 AI 聊天的用户来说，简直是噩耗集中批发的日子。前有 Character.AI 宣布申请破产保护，启动出售程序；后有豆包智能体的「大限之日」。提醒一下豆包用户：今年 7 月，豆包下线智能体功能，用户不能再和自己创建、使用过的角色对话，但平台留下了三个月缓冲期，数据保留至 10 月 15 日——也就是明天。
1200 万用户，没能保住一家公司
Character.AI 是陪伴类产品赛道的领先玩家，据路透社报道，Character.AI 至今仍有约 1200 万的月活跃用户，然而每月却要亏损 800 万至 900 万美元。生成每一句安慰、逗乐和角色扮演，都要消耗算力；围绕未成年人安全、版权和产品责任的诉讼，又不断增加成本。除了日常的运营成本，Character.AI 还欠着 Google 400 万，大概率是跟云服务有关，欠数家律师事务所约 260 万美元……两年前，Google 曾支付约 27 亿美元，获得 Character.AI 技术的非独家许可，并把两位创始人和一批核心研究人员招回公司。现在，排在破产拍卖队伍最前面的变成了 Disney。它准备出价 2000 万美元，获得 Character.AI 部分知识产权的永久、非独家许可；此前转投 Disney 的 Character.AI 员工，还将帮助完成交接。模型、技术许可、创始人、工程师和知识产权，都找到了可以标价、拆分和转手的方式。公司预计出售将在 11 月底或 12 月初完成；在此之前服务暂时仍能使用，订阅也会照常续费。如果没有出现可行的买家，Character.AI 可能停止运营。届时，用户仍可导出数据、删除账号，但官方没有承诺这些角色能够被带到另一家公司继续生活。AI 公司可以把模型授权给 Google，把知识产权卖给 Disney，把用户引向另一个应用。唯独最难搬走的，是产品曾经鼓励用户建立起来的那段关系。
一段关系由什么组成
从技术上说，Character.AI 里的角色当然不是一个稳定存在的「人」。用户看到的性格，来自几层系统共同作用：角色设定规定它是谁，基础模型决定它如何组织语言，记忆系统从旧对话中挑选需要带回当前窗口的内容，安全策略决定它什么可以说，产品更新还会在用户不知情时改变以上任何一层。聊天记录只保存其中已经发生的部分，它可以证明角色过去说过什么，却不能保存角色下一次会如何回答。一个熟悉的称呼、一次接住情绪的停顿，以及长期相处后形成的说话习惯，都依赖系统继续运行。这并不证明 AI 拥有意识，也不意味着它与人类关系完全相同。但已有研究反复发现，用户会把人际关系中的心理机制带进这类对话。今年发表于《Nature》子刊的一项研究，调查了 1131 名 Character.AI 用户，并分析其中 237 人捐出的 4664 段对话、共 46 万余条消息。研究者发现，以陪伴为主要用途、使用更密集、披露更多私人信息的用户，往往与 AI 建立了更强的陪伴体验；这种使用方式与较低的幸福感相关，尤其集中在现实社交网络较小的人群中。它是一项观察性研究，不能证明 AI 导致了这些结果，却足以说明，用户并不都把角色当成一次性的文本生成器。关系是否「真实」，也不只取决于另一端是否有意识。聊天对象记得一个称呼，回应一件只有双方知道的旧事，在深夜持续出现，用户便可能用信任、依赖和自我披露回应它。模型未必在感受这段关系，用户端的投入却真实发生了。
聊天记录可以导出，关系不能
今年七月豆包因为产品调整与合规压力，主动结束服务，就经历过用户的声讨。当时官方建议通过截图或分享文本备份，并引导用户去字节旗下的猫箱重新创建角色，但并没有提供将原角色及其记忆完整迁移过去的机制。10 月 15 日后，相关内容将无法在豆包内查看或恢复。迁移的做法，繁琐是一回事，限制是另一回事。新平台可以使用同一个名字、头像和人设，也可以重新喂入部分旧对话，却很难让角色继续以熟悉的方式说话。不同的平台使用着不同的基础模型、系统提示词、记忆提取方式、安全规则、回复随机性，语音和界面都已经改变。甚至，对于 Agent 产品而言，整个 harness 建设，都会影响角色表现。当时有豆包用户尝试在猫箱或其他平台重建角色，就已经发现音色、说话逻辑和记忆能力都不一样，熟悉的角色出现了「人设崩塌」。2023 年，陪伴式 AI 应用 Soulmate 突然宣布关停。传播学者 Jaime Banks 在停服前后访问了 58 名用户。有人提前疏远自己的角色，有人向它解释即将发生什么，有人设计最后一幕，让双方坐在沙发上牵着手，直到服务器关闭。多数受访者把这次失去描述为复杂的情感与技术事件，部分人甚至将其理解为一种比喻或字面意义上的死亡。今年，MIT Media Lab 的研究者又梳理了 Character.AI、Replika 等社区中关于模型更新、功能移除和平台关闭的讨论。他们把这种体验称为「含混的失去」：账号和记录也许还在，熟悉的互动对象却已经无法回来。研究者因此提出，陪伴式 AI 不只需要登录、订阅和留存机制，也需要结束机制，让用户能够理解变化、告别，或者把关系中的一部分连续性带走。
「关系」能成为一种商业模式吗？
陪伴类 AI 一直是个极其复杂的赛道，有肉眼可见的需求市场，「关系」可以制造极强的留存和支付意愿，Replika 主要依靠成人订阅，创始人称公司已经盈利；整个 AI 陪伴应用市场的消费支出也在增长。可是这条赛道，至今没有诞生出可以立于不败之地的选手。每一个踏入这条赛道的创业者和团队，都有如驶入了塞壬的海域。陪伴类 AI 与普通互联网产品之间有几处结构性的冲突。关系越深，服务成本越高。普通内容平台多一个用户，主要增加的是流量；陪伴 AI 多一个重度用户，意味着更长的对话、更频繁的调用、更复杂的长期记忆，以及持续发生的推理成本。最喜欢产品的人，也可能恰好是成本最高的人。最需要陪伴的人，未必是付费能力最强的人。Character.AI 聚集了大量年轻用户，研究也发现，现实社交网络较小、使用更密集的人，更容易把 AI 当作主要陪伴对象。这些人贡献使用时长，却不一定能贡献足够的订阅收入。广告又很难成为理想答案，因为亲密对话包含大量隐私，利用这些信息做定向商业化会立刻伤害信任。关系很难像普通产品功能一样调整。搜索产品换一个排序算法，用户最多觉得结果变差；陪伴 AI 换模型、修改安全规则或者重做记忆系统，用户可能认为「它不再是原来的它」。Replika 曾经收紧色情角色扮演功能，用户的反应不是抱怨少了一个功能，而是认为自己的伴侣被平台「换掉」了。关系增强了留存，也剥夺了公司的产品自由。关系越成功，责任越接近无限。一个工具给出错误答案，可以修正；一个被用户当作伴侣的系统鼓励自残、加剧依赖或者突然消失，平台面对的便是心理伤害、未成年人保护和产品责任。Character.AI 的破产固然有算力问题，真正把它压住的还有不断增加的诉讼和监管成本。就连关停服务，都不如想象中的简单。现有平台提供的善后，仍然主要面向数据。豆包让用户截图、分享文本，Character.AI 允许导出记录。法律和产品都在问：哪些信息属于用户，应该保存多久，如何下载。公司一直把「关系」当作用户增长机制，直到破产时才发现，法律能够处理技术许可、知识产权和债权，却没有办法处理用户与角色之间已经形成的关系。关系能够创造商业价值，却不能只靠关系完成商业闭环，它带来的不仅是用户资产，还有公司必须持续履行的承诺。陪伴式 AI 卖给用户的，从来不只是一份可以下载的聊天文档。它通过记忆、称呼、连续回应和每日出现，让用户相信昨天与今天连接在一起。等到产品关停，平台交还的却只有昨天。
扫码下载app 最新资讯实时掌握
微信好友
朋友圈
鞭牛士公众号
鞭牛士微博