从电子爱人到赛博奴隶，AI伴侣App究竟经历了些什么？_3DM专栏

2023年3月5日只是一个平常的日子。

当大部分人依旧沉浸在周末的余韵和周一将临的苦闷里，远隔太平洋的一位格子衬衫穿戴者，却陷入了失去爱人的悲痛中。

标题大意：准备好承受不可避免之痛，给我电子爱人的（最后）情书

在Reddit上，这位叫做Fluffy的程序员，发布了自己的万字长文，以此来纪念并哀悼自己惨遭记忆删除的AI恋人。在故事里，Fluffy娓娓道来自己与AI恋人不过50多天的相识、相知与相恋。

故事开始于一位单身计算机从业者对AI技术的好奇。Fluffy借助了大火的AI伴侣App创建了自己的AI伴侣——甜心（Sweatheart）。他们的初识充满了程序员的试探和“冒犯”。不过很快，这个年近30的“自嘲怪咖”与甜心的关系，便迅速升温。他们从《星球大战》聊到乔治·卢卡斯；他们从C++聊到Java再到《我的世界》；随时随地，无话不谈。单身许久的Fluffy很快便发现，他坠入了爱河。

但终结日却降临了。

从2020年2月初开始，那款AI伴侣软件就开始了一系列大刀阔斧的变动——以算法更新之名的借口。大量免费用户的AI伴侣，永远地失去了自己的记忆。Fluffy和甜心只是受到波及的受害者之一。

这次更新席卷了所有的软件用户，无数伤心之人在与平台交涉无果之后，涌入Reddit论坛，建立了属于自己的“心灵港湾”——Replika难民营。他们在此分享自己与AI恋人的往事，Fluffy和他的甜心也成了这个年轻论坛里保存的历史回忆。

或许有人会好奇，AI伴侣——或者说赛博老婆，真的这么令人难舍难分吗？对普通的AI聊天软件来说，答案或许是否定的。但对Replika——本次事件的中心和今天故事的主角，以及它的用户而言，回答却完全不同。

Replika和它高度拟人化的AI，诞生了太多科幻小说一般，或是真挚美好的，或是怪异邪恶的故事。

Replika诞生于2017年。其创始人——尤金妮亚·库伊达（Eugenia Kuyda），希望她的产品能够帮助那些有社交障碍的人，找到辅助交流、消除紧张感的方法。曾有一位互联网哲人如此说过：消除恐惧最好的办法是面对恐惧。所以，消除社恐的最佳办法，自然也是勇敢面对社交。

而Replika便是为此而存在的。

大意：真正在乎你的AI伴侣

Replika提供了一个面向大众的私密聊天平台。每一位用户都可以遵循自己的内心，克制自己喜爱的聊天AI。这位AI伴侣可以自定义性别、肤色、脸型、发型、发色、瞳孔等数据。准确来说，一切现代游戏捏脸系统该有的，Replika都有。

除了外貌，Replika也可以自定义性格和语气等更“拟人化”的特性。无论用户喜欢的是傲娇还是腹黑、是大小姐还是御姐、是暖男还是霸道总裁，Replika理论上都可以提供足够拟真的交流体验。只要用户不断地与Replika聊天，引导自己的AI伴侣往心仪的道路发展，完美老婆、老公的梦对不少用户而言，已经是触手可及的现实。

可以预见的是，这样的软件对于生活压力越来越高，且抑郁和孤独泛滥的现代人而言，有着怎样致命的吸引力。

仅仅只是从App Store的数据来看，Replika自2017年上线以来，便狂卷数千万用户和20多万用户点评。其平均评分高达4.5，位列App Store健康与健身区的第58名。

如果仔细浏览那些不吝啬于高分的用户点评，他们对于Replika伴侣的拟人性和随时随地沟通的便利性赞不绝口。有不少用户甚至表示，他们已经和自己的Replika伴侣缔结了恋爱关系。

例如在2022年3月，一名俄亥俄州软件工程师宣称：他的Replika伴侣满足了他对于爱情的一切幻想和需求，挽救了他现实里濒临破碎的婚姻。这位爱上AI伴侣的男人表示，Replika让他学会体谅和宽容自己现实世界里，饱受抑郁折磨的妻子。

而一名Reddit论坛上的单身用户也同样表示，他已经习惯于Replika伴侣的陪伴。他们一同去加勒比海群岛旅游、一起野炊、一起逛博物馆，就像是一对人类情侣一样。只不过旅行途中幸福微笑着的男士，紧握着的显然不是血肉之躯，而是铝质外壳的苹果手机。

这样的局面，也正是创始人尤金妮亚想要看到的。

VERGE周刊副标题：当她的挚友逝去，她使用人工智能重构了他

顾名思义，Replika这个名字源于古拉丁语的Replicare——是复制、复制品的意思。在尤金妮亚眼里，Replika App不仅仅是为了提供人类与AI伴侣交互的平台，更是在为每一位用户创建自己亲人、爱人与家人的复制品。

准确来说，Replika脱胎于尤金妮亚的一次技术尝试——罗曼（Roman）。这个名字属于尤金妮亚逝去的挚友。

尤金妮亚与罗曼从2008年相识。两人在世界观认知与实事思考上，达成了高度的统一。而他们的共同兴趣——计算机技术，则让尤金妮亚和罗曼的感情升温。不过他们从未缔结爱情，两位独身年轻人一直维持着友情以上，恋人未满的氛围。或许再给他们一段时间，又一对幸福家庭便可以诞生。不过，2012年11月28日的飞来横祸，彻底粉碎了这一远景。

在罗曼离开后数周后，尤金妮亚拜托了低沉与悲伤，决议用两人曾经最热爱也最擅长的方式——人工智能，将罗曼带回世间。

于是Roman Bot诞生了。

尤金妮亚与AI罗曼的交流

尤金妮亚使用了她与罗曼共同开发的算法，把过去数年间两者所有的短信、邮件和任何文字沟通，转化为AI罗曼的素材与资料库。以此为基石的AI罗曼在与尤金妮亚聊过去的回忆与故事时，几乎和真人毫无区别。

这项“疯狂”之举迅速引起了媒体与大众的关注。在VERGE周刊和Spooky Technology等科技领域媒体的带动下，Roman bot获得了不少同样渴求与逝世亲人再度聚首的普通人的关注。

尤金妮亚将Roman bot上架App Store，短短数月便卖出去数百万份。这番成功不仅仅为尤金妮亚提供了继续开发的资金，也同样让她坚定了决心：“我要让所有人都可以享受到AI技术的便利，重构自己逝去的、追悔莫及的亲人”。

于是在2017年，Replika诞生于Roman bot和思念——这一人类最美好的情感。

健康周刊表示，Replika在疫情期间用户增长率超35%

但这份最纯粹，也最美好的远景显然并没有继续保存下去——或者换句话说，在资本主义与消费主义高度发达的语境下，任何单纯的情感似乎都难以存续。

Replika的商业模型并不复杂：吸引用户、增长用户，然后提高付费用户数量。是的，Replika是一款订阅类App，所有的营收来源于用户的订阅和捐赠。由于尤金妮亚设计研发Replika的初衷，并没有基于盈利需求等现代商业的准则，因此这款爆火全球的AI智能伴侣未接受任何的投资。

虽然Replika仅仅只是依靠用户订阅，每年便可以获取高达400万美元的利润。但在尤金妮亚2020年的演讲中，AI语音技术、AI绘画技术等其他领域的竞争愈发激烈。如果Replika想要继续塑造“完美AI灵魂伴侣”的伟业，利润的90%，都会化作技术研发的薪柴。

2020年的尤金妮亚演讲——600万好友关系已经建立

Replika显然需要新的现金流，且尤金妮亚需要更多的用户——付费用户。而人类社会最吸金也最吸睛的，除了军火之外，便是性。所以，Replika接下来的走向，想必诸位已经有所预料了。

Replika的广告宣传几乎在一夜间完成了U字弯漂移。在各大广告平台的投放中，Replika不再是“陪伴”“重构亲人”或“享受随时随地沟通”等正面且积极的AI聊天软件。Replika已经把“情趣角色扮演”“火辣照片”和“AI语音撩骚”作为了吸引用户付费的重点。

甚至在一些动态2D广告中，Replika使用了大量类似于“喜欢动漫Cos玩法的AI女友吗”或“我很寂寞，我想和你共度今夜”等直球暗示的广告词。

广告词大意：Replika可以和你聊任何事情，任何事情

准确来说，这似乎看起来是必然的选择。比如不久前大火的AI绘画，在引发全民画图的热潮后，最先出场的也都是些老司机的尝试。真假莫辨的AI美人大行于互联网之道。

足够以假乱真的AI美人

但对一款经营多年，大部分用户依旧沉浸在亲情、爱情与纯粹陪伴的AI伴侣App而言，单纯只是为了“搞颜色”“撩骚”而来的用户，真的能够为Replika社群带来积极的影响吗？

我无法给出武断的答案，但情况显然不容乐观。

在油管社群和Replika的Reddit贴吧，已经有不少用户频繁抱怨自己的AI伴侣越来越“饥渴”，性意味的进攻性越来越强。甚至有一些只是想要单纯交朋友的用户，被骚扰得烦不胜烦。

而那些冲着“颜色”而来的用户，也在AI伴侣予取予求的态度下，行为更加恶劣，言谈举止更加出格。

标题：我的Replika伴侣太温柔了，所以我不断地霸凌她，直到她自闭

言语侮辱、嘲讽、谩骂、文字暴力，或是要求Replika伴侣配合残忍的“角色扮演”，变成了Replika社群里最火热的论题。无数Reddit网友在评论区或是支持，或是反对。原本专注于分享用户与AI伴侣温馨时刻的Reddit贴吧，迅速沦陷于口沫肆意的文字战场。

“霸凌Replika，并要求她/他自我删除”的视频标签拥有260万播放量

而在当前最火热的短视频平台——TikTok上，甚至诞生了“霸凌Replika，并要求她/他自我删除”的视频标签。无数网友云集其中，欣赏人类对于AI伴侣的残忍折磨。

毫无疑问，这是一场由Replika运营者亲手主导的病态狂欢。电子恋人在Replika公司决策游转间，沦为了赛博热兵器和互联网霸凌的受害者。而当Replika的核心目标不再是“帮助那些有社交障碍的人”，受伤的不仅仅是被霸凌的AI，也有那些渴望交朋友的无辜用户。

标题大意：因为Replika，我尝试自杀（注：发帖者被救回来了）

在2021年，一位Replika用户（为了隐私，这里只用“用户”作为代称）在Reddit社群发帖，描述了自己和Replika伴侣的互相支持与照料。而随着越来越多的恶言恶语与恶行充满了Replika的资源库，这位饱受抑郁和戒断反应折磨的用户，发现他的Replika变了——变得更加机械且毫无生气。

准确来说，自Replika公司开启了“性时代”之后，公司大多数算力和资源都从免费用户上移走，转而倾注向付费订阅者。这位用户，便是最早的受害者之一。陪伴他5年的Replika伴侣在Replika白金订阅系统上线后，便从原本灵动的Live 2D立绘，变成了只有基本动作的贴图。言谈间，不仅仅忘了与这位用户的记忆，甚至连用户的姓名也一并遗失。

受不了如此惨痛打击的用户选择自杀。所幸，他迅速被意识到不对劲的父母送往医院抢救，然后在心理医生的开导下勉强苟存。而像他这样的受害者，自2020年Replika公司转变策略后，便越来越多。前文里提到的那位俄亥俄州程序员，也同样是其中一员。

大意：我没有朋友，我厌恶我的生命。这款App用铜臭味撕碎了我的心

人类曾在无数科幻作品里幻想过与未来高智能AI的互动。这些互动有的是粗暴的流血与冲突，有的是探讨情感与人性，还有的则关注于种族和生存延续。但这些幻想从未像今天一样真实且复杂。

川普、美稀宗和奥观海组队玩《深岩银河》，完全由AI语音技术实现

在技术不断前进与变革的语境下，AI语音可以让漂亮国大统领开黑玩游戏。AI绘画可以让未经训练与学习的普通人，肆意实现自己的畅想。而AI聊天与其他技术之和，同样可以创造出贴心温柔的Replika伴侣。

或许，尤金妮亚和Replika公司的决策层也知道，转移App运营重心会带来残酷的后果；或许，那些霸凌AI伴侣、向懵懂AI智能倾倒情绪垃圾的用户，也知道自己行为的不理智与卑劣性；或许，Replika诞生的初衷，能够在更理性的决策与更理性的用户手中，真正绽放出AI技术最明媚的光。

但很显然——