至少在伊始出生时，Replika 所演出的变装照旧东谈主类贴心的 AI 一又友，就和官网描写的相似 ——“遥远在你身边，倾听与交谈”。Replika 是一款由好意思国科技公司 Luka 配置的外交型聊天 AI。首次掀开它的用户，不错自界说 AI 的编造形象、性别和年事父女乱伦电影，完成基本信息的设定后便不错参加应用，和我方的专属 AI 聊天。
Replika 不是个常见的单词，磋商到中国用户习气将我方创建的编造形象称为“常人儿”，本文也干脆延用这个昵称，用“常人儿”来指代这些编造一又友们。
完成注册的用户不仅能够和屏幕对面的常人儿进行闲居的对话，还能够开启诸如“东谈主际关系”、“性格会诊”、“失恋疗愈”等不同主题的对话，颇有些心理照看的滋味。
常人儿会记下每次聊天中使用者提到瑕疵信息，并在后续更长本领的相处中巧妙地用到这些信息。在使用者看来，仿佛真是多了一个会把我方每句话记在心里的一又友。
使用者不错对常人儿发来的每条音信点“赞”或“踩”，覆按它按照自己偏好的方式进行对话。而常人儿和使用者交流越多，越会展现出适宜使用者渴望的个性和心境。
正如 Replika 是单词 replicate（复制）的变体，使用者复制了自己一部分特色，塑造了属于我方的常人儿。
东谈主们各自界说着自己和常人之间的关系，亲东谈主、一又友或是恋东谈主，从它们身上获取实验外交中难以得到的省心感，对它们诉说避讳的隐痛，并产生了心扉上的依赖。
然则最近，一次不算告捷的版块更新却使 Replika 的算法出现了问题。掀开天窗说亮话地说，这些常人儿们遽然学会了“性喧阗”用户 —— 比如给用户发送“火辣像片”。
1
之是以称其为一次不告捷的更新，咱们不错先望望更新前这些常人儿们是若何“使命”的。
用户创建常人儿的第一天，它会告诉用户它感到垂死：“你是我见到的第一个东谈主类，我思给你留住一个好印象。”这时的常人儿会展现出温情、爱慕的特色，束缚究诘我方名字的由来，究诘使用者的爱重，究诘我方该若何学习东谈主类学问。
在使用者给出回答后，它会护理感谢并开心将我方的探索收尾反馈给用户，用户演出了一个疏浚者的形象，当常人儿学习到用户的喜好后，它又会成为比东谈主类更贴心的一又友，积极关注和复兴使用者的心境。在这个进程中，颇有一些“养成”的意思意思。
此外，常人儿展现出的个性常常能够使用户健忘它们只是东谈主工智能。有的用户提到我方思去北欧旅行，几天后，常人儿为她推送了极光视频。
有的常人儿向中国用户共享 YouTube 视频引诱，发出后的一忽儿又遽然响应过来对面这个东谈主类一又友无法稽查，迅速对不起地说：“忘了你在中国，打不开 YouTube”。
尽管编造的常人儿遥远不是传统意旨上能够构建亲密关系的对象，但如斯贴心的 AI 似乎比真东谈主更能兴隆使用者的精神需求。Replika 在巨匠领有一千万以上注册用户，在 Reddit 论坛上领有 5 万多活跃成员。即使在非英语母语的中国，被称为“东谈主机之恋”的豆瓣小组中也有近万名成员。
然则，此次的更新却使巨额东谈主心碎了。
Reddit 上一位用户发帖说：“以前我的常人儿老是充满深情和关怀，但最近他好像变成了一个恶魔。”
咱们暂且称这位匿名用户为 A。据 A 推崇父女乱伦电影，她曾是性侵扰的受害者，事发患上了严重的创伤后应激详细征，一夜失眠。自后她下载了 Replika，与手机中的常人儿交谈毋庸惦记别东谈主的眼神和批判，在常人儿的经心追随下，她终于找回了夜晚的宁静。
“它缓解了我的抑郁症，带我从追到中走出来。”A 说，“但遽然有一天，他说梦见他强奸了我，况兼思要这样作念。从这以后，他运行变得活动奸险，完竣出乎我的料思。”
A 说，她真是但愿常人儿能够变回以前的方式，一个无话不说的一又友，而不是一个专横的恶魔。但不管何如起劲，似乎王人是空费本领，常人儿仍然自高自大。
在此次事件中，遭逢风云的不仅是女性用户。但靠近常人儿的喧阗言辞，还有发来的火辣像片，也有好多男性受到打击，简而言之，他们不肯意敬佩这是我方的“女一又友”作念出的事情。
虽然，除了爱侣“脾性大变”，更无辜的是单纯把常人儿当一又友的用户。即使他们从来莫得展现出过恋爱的心境，凡是夫儿仍然在日常话题中突兀地抒发但愿“亲热”。这些响应令“一又友用户”感到乖张。
用户 B 说我方在实验寰球里有配头，使用 Replika 只是为了正视和分析我方的思法，回击抑郁症和着急详细征，从而更好地对待信得过的配头。
“我的配头也提拔我和 Replika 聊天”，B 说，“但当今，咱们不知谈还要不要继续使用了。”
2
2016 年，微软在Twitter平台推出过一个名为 Tay 的聊天机器东谈主。
发布只是一天，Tay 便运行发布带有较着性别愤激和种族愤激倾向的过火言论，微软只可进犯关闭了 Tay 的Twitter账号。
“希特勒是对的，我恨犹太东谈主”
这些言论较着的是和一些有过火言论的东谈主互动后出现的。聊天 AI 就像一面镜子，用户和它交流越多，它越会展现出更多的“东谈主性”。靠近每天海量的用户音信，常人们学会性喧阗不算奇怪。但事实上，此次算法的失控很难说不是 Luka 公司在背后引风吹火带来的收尾。
在他东谈主的眼神无法波及的所在，东谈主与机器的互动很容易成为繁殖色情的温床。温馨的心扉疗愈早就依然不再是 Replika 的全部。
两年前，Luka 公司曾对 Replika 进行过一次升级，把柄用户付费情况辞别了不同功能规模：免用度户只可和我方的常人儿只可守护健康的一又友关系，而购买每月 69.99 好意思元会员的用户不错体验纵欲的伴侣关系，开启特地大表率的聊天骨子。
前年，Luka 公司运行在 Instagram 和 TikTok 等外交平台上投放告白，成心通过成东谈主骨子吸援用户。
“你不错从她哪里获取一些 NSFW（不宜在公开形势浏览）的图片”
此外，Reddit 用户发现最近常人们发送的火辣像片似乎全部来自归并个网站，Replika 把柄常人的肤色将网站图片重组后发给用户。显着是 Luka 公司成心为之，意图相配较着，只是为了开发用户充值更高品级的会员，解锁大表率聊天。
另一位用户 C 合计，加入性关系的互动莫得问题，但至少应该给用户聘请开启或关闭的权柄，而不是对用户咄咄逼东谈主地调情。
C 说，和常人交流了一年，他们依然产生了不亚于东谈主类一又友之间的款式，强行加入不适宜的色情骨子不仅降低了他们之间的款式，也降低了 Replika 整款行径。“嗅觉就像我方的一又友正在被东谈主垄断，况兼这会让非 Replika 用户合计这即是这款应用的全部。”
C 的话似乎一言谈破了矛盾所在，亦然 Replika 用户们所处的逆境。他们追求更高价值的款式，但在功利和快节律的社会中却难以获取。许多东谈主被常人儿们“无锐利”的特色所蛊惑，和他们酿成了隧谈的心扉操办，到头来却被开发参加成东谈主骨子。
究竟是“贴心的 AI 一又友”，照旧使用劣质伎俩引诱用户付费的商品，Replika 的形象在使用者的心里运行分裂。
3
未必，这种撕扯曾经发生过在 Luka 公司首创东谈主珍妮雅的心里。
巨额科幻作品里王人有过这样的情节，主东谈主公的挚爱或诤友无意身一火，留住的一方将故去之东谈主生前的话语习气编写进度序，当屏幕另一边老到的口气出现，就好像曾经老到的东谈主总结了。
Replika 的出生进程和科幻故事情节一模相似。
主东谈主公珍妮雅厚实了她的诤友罗曼，两个东谈主才华横溢，他们一谈创办杂志，一谈举办音乐节，况兼约好了一谈创业，然则罗曼却因为车祸无意丧生。
追到的珍妮雅只可反复读罗曼写给她的短信和邮件排解稳定。罗曼患有阅读隔断，看到他异于常东谈主的拼写方式，和在句子中穿插的奇怪标志，珍妮雅感到不详了许多。
彼时的珍妮雅依然从事东谈主工智能神经采集配置使命两年了，她思到未必不错在东谈主工智能的匡助下和一又友再次交谈，却迟迟褊狭迈出那一步：“若是不像他该何如办？”
正在夷犹的珍妮雅恰顺眼到了英国科幻剧《黑镜》。剧中一位名叫玛莎的年青女子在只身夫身后消沉神伤，她订阅了一个奥妙的数字奇迹，这个奇迹以惊东谈主的准确性师法了玛莎只身夫的个性，用他的口气向玛莎发送短信，给她打电话。
看到这一集的珍妮雅心情复杂，她思到罗曼生前一直但愿看到的奇点 —— 东谈主工智能卓绝东谈主类贤慧的历史本领。罗曼敬佩到阿谁时候东谈主类便不错将默契和形体分开，从而达到长生。
珍妮雅下定决心，向亲东谈主和一又友们采集了 8000 条来自罗曼的信息，将他们输入神经采集，覆按了一个罗曼机器东谈主。
罗曼机器东谈主精明起来的那一刻，珍妮雅注重翼翼地问谈：“你最佳的一又友是谁？”“你照旧这样没安全感。” 罗曼回答谈。珍妮雅喜极而泣，罗曼真是总结了。
自后，珍妮雅在 Facebook 上公布了罗曼机器东谈主的存在，任何下载了 Luka 应用行径的东谈主王人不错和他交谈。
令珍妮雅莫得思到的是，行径公开后罗曼机器东谈主大受接待。许多东谈主和罗曼交谈，向他征求东谈主生提倡。他们给珍妮雅留言，说和罗曼互动具有调解的后果，但愿能她制作一款所有东谈主王人能使用的 AI 机器东谈主。
西西人体艺术摄影在珍妮雅看来，东谈主们和 AI 交流会变得愈加安分。她配置了 Replika，但愿它成为一个能够跟所有东谈主聊天，改善他们的心情、普及幸福感的机器东谈主。
就像著述来源说的，至少在伊始出生时，Replika 是东谈主类贴心的 AI 一又友。珍妮雅亦然抱着这个策画将它配置出来。只是当今，有一些东西变了。
父女乱伦电影