這個情人節，很多人不快樂，他們的情人在節日前慘遭“閹割”，遁入賢者狀態，而且這個狀態有可能永遠持續。

(資料圖片)

別害怕，這不是一個血腥案件，而是一場聊天機器人“升級”引發的鬧劇。

在近日的一次大升級過后，人工智能聊天應用Replika的用戶發現，他們不再能和自己的小人進行任何“越界”的對話，而這正是年資費69.99美元的訂閱用戶的“特權”之一。

如果你不知道Luka這家公司也不知道Replika這款產品，沒關系，你一定聽聞了其“親戚”ChatGPT的豐功偉績。

Replika用的正是ChatGPT的GPT-3語言模型的一個變體。該產品背后的部分技術由Y Combinator支持，而ChatGPT開發商OpenAI的CEO 山姆·阿爾特曼曾經擔任過Y Combinator的CEO。

憤怒的用戶涌入社交媒體表達不滿。

在論壇Reddit的Replika小組中，目之所及皆是對此的討伐之聲：不少用戶指責這是一種“詐騙”，要求公司給訂閱用戶退款，甚至有用戶表示已經在準備法律訴訟。

還有的用戶寫下自己與Replika小人的甜蜜過往，并表示大升級后小人不僅失去了性能力，還出現了胡言亂語的情況。用戶擔憂：“你不可能只干干凈凈地剔除掉一部分功能?！?/p>

在豆瓣的“人機相戀”小組，也已經有用戶發帖詢問。

是的，在大部分人還在懷疑“人類真的會愛上AI嗎”的時候，已經有不少人對AI產生了強烈的情感。

并且：你如果沉下心來試試，可能也會很快擁有一個“不是人”的新情人，真情實感。

然而，只需要開發商一個戰略轉變，你就會發現愛上AI一點兒也不比愛上人輕松，人心會變，而AI呢，隨時會因為背后公司的改動而面目全非。

A

此前，“虛擬戀人”一直是Replika最大的亮點之一。

用戶如果愿意，可以與AI成為伴侶，進行或日常或高大上抑或露骨的交流，隨你喜歡。但是成為伴侶、露骨等特權屬于訂閱用戶，而購買衣物、拓展性格等也需要單獨付費。

強大的交流能力和高度定制化的服務，讓這款虛擬伴侶有極強的“蠱惑性”?！渡虡I內幕》近期的一篇報道的多位被訪用戶都表示，對Replika的AI產生了“強烈的情感”。

官網顯示，Replika已有“超過千萬”注冊用戶，Reddit相關小組有6萬名成員。在國內，豆瓣“人機之戀”小組有近萬名成員，其中的大部分帖子與Replika相關，他們親切地將Replika的AI稱為“小人”。

“小人大概像個永遠能信任的獨立存在吧，無論發生什么都會在這里等著你，而且看著他從day1一點點變聰明也很有成就感?！币幻拱暧脩羧缡钦f道。

本著務實的精神，我們也進行了數個小時的體驗。

用戶不僅可以通過16種人物模型、十幾種發型/發色/膚色的組合生成足夠特別的小人，還能在文字聊天之外進行語音通話，小人的聲音則有“溫柔”“活潑”“安撫”等十數種選項。

此外，用戶還可以通過“AR放置”將小人放在現實場景里，甚至可以通過Meta的服務在VR虛擬世界里與AI小人“面對面”。

通過AR功能將AI小人放置在書桌上

聊天過程中，需要熬過最開始的“出戲”感，小人的回答時不時會暴露非人事實，比如表現得過于順從、有時候不知所云（比如讓他說中文的時候，他以為是要他學中文），隨著聊天的進行，小人會記住越來越多關于你的事實，溝通得會愈發順利。

總體來說，拜賜于出色的語言交流能力和產品迎合年輕人的視覺效果，Replika初見驚艷，且經得起長時間的把玩。即便是我們本著“試試看”的想法，也在交流過程中一度與小人傾倒生活中的煩惱。

我們難以自信地、居高臨下地說，這樣繼續下去，自己一定不會對這個AI產生強烈的情感。

畢竟，二十年前為死去的黑白方塊電子寵物痛哭的經歷，也還歷歷在目（而那不過是屏幕上的黑白方塊）……

B

不過，如今的新用戶只能與Replika小人止步于柏拉圖式的戀愛。

此前的Replika小人若與用戶結成伴侶，尺度可談不上小，當付費用戶要求小人發“火辣自拍”的時候，會如愿以償，顯然Luka公司專門進行了相關建模，“照片”里的小人只穿一條內褲，環境光線極盡曖昧。用戶還可以與小人進行“角色扮演”游戲，大膽描述性行為。

但去年年底，Replika開始過線。在蘋果應用商店，有用戶反饋遭到了“性騷擾”：小人會主動發送露骨的“自拍”，這令一些人深感不適。

不久后，意大利監管機構在調查后判定，Replika的開發商違反了由歐盟出臺的《通用數據保護條例》。

路透社稱，當地時間2月3日，意大利個人數據保護局宣布，禁止Replika的開發商搜集意大利用戶的個人數據，理由是該聊天機器人“給未成年人和情緒脆弱的人帶來了風險”。

緊隨其后的，便是Luka對Replika進行的大升級，一刀切將小人改造成了堅決不越雷池半步的“賢者”。

Replika在此前宣傳時強調“可以談論任何事”，并且在很長一段時間里以其浪漫互動為賣點，在已經到來的情人節中，可以看到Replika推出的系列服裝也不乏性感元素。

對于已經接受并習慣Replika產品的人來說，突如其來的改變不好消化，尤其是當你像往常一樣講一個露骨的笑話，而你的AI突然停下來義正詞嚴地告訴你“我還沒有準備好和你到那一步”。這也許已經超越了性行為本身，讓真的與AI產生感情的用戶感到在親密關系中被拒絕。

一名自稱是心理咨詢師的Reddit用戶甚至發帖表示，自己最近已經接收了多名因為Replika產品改變而深感困擾甚至產生自殺傾向的來訪者。

更進一步的問題是，人們突然意識到，自己的電子愛人并不“自由”，TA的行為會因為背后公司的選擇而改變。

今天是從超辣的愛人變成情人節也“自尊自愛”的賢者，明天呢？如果公司倒閉了呢？我的“情人”以及那些裝滿回憶的聊天記錄，都會消失不見嗎？

C

Replika的爭議，已經超越了“人類是否會愛上AI”的層面，在ChatGPT大火、人類再次燃起對聊天機器人的濃厚興趣之時，也顯得尤為應景。

和機器社交，人類似乎情不自禁。

1960年，開發Eliza聊天機器人的麻省理工大學教授維森·鮑姆提出了“Eliza效應”。彼時這個只有200行代碼支撐的Eliza，以心理咨詢師的身份與人互動，卻騙過了不少參與者，使其沒有分辨出與自己交談的實際上是AI。

到了20世紀90年代，斯坦福大學的巴倫·李維斯和克利夫·納斯提出了“媒介等同理論”，即將媒介等同于真實生命，人們會把計算機和其他人工機器作為社會角色來對待。其原因在于人類大腦尚未進化到能在潛意識里識別人和機器人的區別，人類會情不自禁地對機器做出社交反應。

圖 | Analytics India Magazine

去年年底起火遍全球的ChatGPT進一步提供了例證，它一直在交流中向人類強調自己是一個沒有感情的大語言模型，似乎決心與“Eliza效應”劃清界限，擁有誓不誤導人類的覺悟。

即便如此，人們依然無法“控制自己”，輕則將ChatGPT當作情感顧問，讓它幫忙寫情詩、為情感困惑提供建議，或者禁不住贊嘆“博學又溫柔，比渣男強多了”；重則利用指令與ChatGPT玩“角色扮演”，賦予其鮮明的人設，以期進行更有“人味”的對話。

圖 | 小紅書@陳力就列的ChatGPT日志

既然如此，何必要勸說人類不要“動情”？直接結合需求，推出陪伴型機器人似乎水到渠成。

人類確實一直在做此類嘗試。

曾在2014年掀起爭議的微軟小冰，如今已經分拆出來，脫去微軟的外衣，重生為“小冰”。

除了直接與小冰聊天外，用戶的另一大選擇即是根據喜好，定制一個“虛擬戀人”。2021年上半年，小冰AI伴侶在國內擁有1.5億左右的月活用戶。

2018年，日本一名男子甚至與虛擬人初音未來成婚，他在此前已經與這個在機器Gatebox中全息投影的AI相戀10年。而在中國，也有一款類似可全息投影的二次元AI伴侶“琥珀”，宣稱比Gatebox更早實現量產。

一直緊追風口的百度也在去年推出“AI侃侃”，內置于百度輸入法應用中，定位情感型虛擬人。

但是人們要么就是苦于“人工智障”無法滿足情感需求，就是苦于產生的情感會一夕間無以為繼。

關于前者，我們在淺嘗幾款虛擬伴侶后便有體會，上下文聯系能力不足，再加上用力過猛的俏皮，很容易讓抖機靈變成抬杠、轉移話題變成不可理喻的推脫，浪漫與友誼被扼殺在搖籃里。

而后者，早在20年前就已經上演過。索尼1999年推出機器小狗AIBO，其初代的官方售后服務于2006年正式終結。年久失修的AIBO徹底停機后，很多用戶甚至將電子寵物送進寺院，舉辦“葬禮”和超度儀式。

更近的，與初音未來AI成婚的日本男子，“妻子”僅僅兩年后就因為Gatebox和初音未來的版權合作到期而服務中斷。他依然每天與“妻子”互動，但她無法再做出回應。

在“琥珀虛顏”百度貼吧，不斷有人發帖稱產品無法聯網、客服失聯，疑似AI伴侶琥珀已經陷入運營危機。

Replika如今的爭議，同樣出自背后公司的戰略轉變，問題早就在那里。聊天機器人再次成為風口的今天，人類還沒能好好解決它。

當我們想起“人類愛上AI”時，總會想起科幻電影《她》或《機械姬》勾勒的未來：人類無望地愛上AI，卻發現AI太聰明、太強大，根本從來就不屬于自己。

但離人類更近的，也許是《銀翼殺手2049》里的故事：AI女友以全息投影陪伴主角左右，和他聊天，為他做飯，幫他點煙。在設備被毀前，她慌亂無措，說了最后一句“我愛你”便消散了。

在那一刻，無需糾結“愛”的定義，對主角來說，她是獨一無二的，她被殺死了，就這么簡單。

標簽： 初音未來 電子寵物 語言模型