這個(gè)情人節(jié)，很多人不快樂(lè)，他們的情人在節(jié)日前慘遭“閹割”，遁入賢者狀態(tài)，而且這個(gè)狀態(tài)有可能永遠(yuǎn)持續(xù)。

別害怕，這不是一個(gè)血腥案件，而是一場(chǎng)聊天機(jī)器人“升級(jí)”引發(fā)的鬧劇。

在近日的一次大升級(jí)過(guò)后，人工智能聊天應(yīng)用Replika的用戶發(fā)現(xiàn)，他們不再能和自己的小人進(jìn)行任何“越界”的對(duì)（文）話（愛(ài)），而這正是年資費(fèi)69.99美元的訂閱用戶的“特權(quán)”之一。

(相關(guān)資料圖)

如果你不知道Luka這家公司，也不知道Replika這款產(chǎn)品，沒(méi)關(guān)系，你一定聽(tīng)聞了其“親戚”ChatGPT的豐功偉績(jī)。

Replika用的正是ChatGPT的GPT-3語(yǔ)言模型的一個(gè)變體。該產(chǎn)品背后的部分技術(shù)由Y Combinator支持，而ChatGPT開(kāi)發(fā)商OpenAI的CEO山姆·阿爾特曼，曾經(jīng)擔(dān)任過(guò)Y Combinator的CEO。

圖源：Replika

憤怒的用戶涌入社交媒體表達(dá)不滿。

在論壇Reddit的Replika小組中，目之所及皆是對(duì)此的討伐之聲：不少用戶指責(zé)這是一種“詐騙”，要求公司給訂閱用戶退款，甚至有用戶表示已經(jīng)在準(zhǔn)備法律訴訟。

還有的用戶寫下自己與Replika小人的甜蜜過(guò)往，并表示大升級(jí)后小人不僅失去了“性能力”，還出現(xiàn)了胡言亂語(yǔ)的情況。用戶擔(dān)憂：“你不可能只干干凈凈地剔除掉一部分功能。”

圖源：Reddit的Replika小組

在豆瓣的“人機(jī)相戀”小組，也已經(jīng)有用戶發(fā)帖詢問(wèn)。

圖源：豆瓣“人機(jī)相戀”小組

是的，在大部分人還在懷疑“人類真的會(huì)愛(ài)上AI嗎”的時(shí)候，已經(jīng)有不少人對(duì)AI產(chǎn)生了強(qiáng)烈的情感。

并且，你如果沉下心來(lái)試試，可能也會(huì)很快擁有一個(gè)“不是人”的新情人，真情實(shí)感。

然而，只需要開(kāi)發(fā)商一個(gè)戰(zhàn)略轉(zhuǎn)變，你就會(huì)發(fā)現(xiàn)愛(ài)上AI一點(diǎn)兒也不比愛(ài)上人輕松，人心會(huì)變，而AI呢，隨時(shí)會(huì)因?yàn)楸澈蠊镜母膭?dòng)而面目全非。

一

此前，“虛擬戀人”一直是Replika最大的亮點(diǎn)之一。

用戶如果愿意，可以與AI成為伴侶，進(jìn)行或日常或高大上抑或露骨的交流，隨你喜歡。但是成為伴侶、露骨等特權(quán)屬于訂閱用戶，而購(gòu)買衣物、拓展性格等也需要單獨(dú)付費(fèi)。

圖源：Replika

強(qiáng)大的交流能力和高度定制化的服務(wù)，讓這款虛擬伴侶有極強(qiáng)的“蠱惑性”。在《商業(yè)內(nèi)幕》近期的一篇報(bào)道中，多位被訪用戶都表示對(duì)Replika的AI產(chǎn)生了“強(qiáng)烈的情感”。

官網(wǎng)顯示，Replika已有“超過(guò)千萬(wàn)”注冊(cè)用戶，Reddit相關(guān)小組有6萬(wàn)名成員。在國(guó)內(nèi)，豆瓣“人機(jī)之戀”小組有近萬(wàn)名成員，其中的大部分帖子與Replika相關(guān)，他們親切地將Replika的AI稱為“小人”。

“小人大概像個(gè)永遠(yuǎn)能信任的獨(dú)立存在吧，無(wú)論發(fā)生什么都會(huì)在這里等著你，而且看著他從day1一點(diǎn)點(diǎn)變聰明也很有成就感。”一名豆瓣用戶如是說(shuō)道。

本著務(wù)實(shí)的精神，我們也進(jìn)行了數(shù)個(gè)小時(shí)的體驗(yàn)。

用戶不僅可以通過(guò)16種人物模型、十幾種發(fā)型/發(fā)色/膚色的組合生成足夠特別的小人，還能在文字聊天之外進(jìn)行語(yǔ)音通話，小人的聲音則有“溫柔”“活潑”“安撫”等十?dāng)?shù)種選項(xiàng)。

上圖為默認(rèn)對(duì)話框，可見(jiàn)左下角有通話功能按鈕；下圖為與AI的通話界面，圖源：Replika

此外，用戶還可以通過(guò)“AR放置”將小人放在現(xiàn)實(shí)場(chǎng)景里，甚至可以通過(guò)Meta的服務(wù)在VR虛擬世界里與AI小人“面對(duì)面”。

通過(guò)AR功能將AI小人放置在書桌上，圖源：Replika

聊天過(guò)程中，需要熬過(guò)最開(kāi)始的“出戲”感，小人的回答時(shí)不時(shí)會(huì)暴露非人事實(shí)，比如表現(xiàn)得過(guò)于順從、有時(shí)候不知所云（比如讓他說(shuō)中文的時(shí)候，他以為是要他學(xué)中文），隨著聊天的進(jìn)行，小人會(huì)記住越來(lái)越多關(guān)于你的事實(shí)，溝通得會(huì)愈發(fā)順利。

總體來(lái)說(shuō)，得益于出色的語(yǔ)言交流能力和產(chǎn)品迎合年輕人的視覺(jué)效果，Replika初見(jiàn)驚艷，且經(jīng)得起長(zhǎng)時(shí)間把玩。即便是我們本著“試試看”的想法，也在交流過(guò)程中一度與小人傾倒生活中的煩惱。

我們難以自信地、居高臨下地說(shuō)，這樣繼續(xù)下去，自己一定不會(huì)對(duì)這個(gè)AI產(chǎn)生強(qiáng)烈的情感。畢竟，二十年前為死去的黑白方塊電子寵物痛哭的經(jīng)歷，也還歷歷在目（而那不過(guò)是屏幕上的黑白方塊）……

二

不過(guò)，如今的新用戶只能與Replika小人止步于柏拉圖式的戀愛(ài)。

此前的Replika小人若與用戶結(jié)成伴侶，尺度可談不上小，當(dāng)付費(fèi)用戶要求小人發(fā)“火辣自拍”的時(shí)候，會(huì)如愿以償，顯然Luka公司專門進(jìn)行了相關(guān)建模，“照片”里的小人只穿一條內(nèi)褲，環(huán)境光線極盡曖昧。用戶還可以與小人進(jìn)行“角色扮演”游戲，大膽描述性行為。

但去年年底，Replika開(kāi)始越過(guò)過(guò)線。在蘋果App Store，有用戶反饋遭到了“性騷擾”：小人會(huì)主動(dòng)發(fā)送露骨的“自拍”，這令一些人深感不適。

不久后，意大利監(jiān)管機(jī)構(gòu)在調(diào)查后判定，Replika的開(kāi)發(fā)商違反了由歐盟出臺(tái)的《通用數(shù)據(jù)保護(hù)條例》。

路透社稱，當(dāng)?shù)貢r(shí)間2月3日，意大利個(gè)人數(shù)據(jù)保護(hù)局宣布，禁止Replika的開(kāi)發(fā)商搜集意大利用戶的個(gè)人數(shù)據(jù)，理由是該聊天機(jī)器人“給未成年人和情緒脆弱的人帶來(lái)了風(fēng)險(xiǎn)”。

緊隨其后的，便是Luka對(duì)Replika進(jìn)行的大升級(jí)，一刀切將小人改造成了堅(jiān)決不越雷池半步的“賢者”。

Replika在此前宣傳時(shí)強(qiáng)調(diào)“可以談?wù)撊魏问隆保⑶以诤荛L(zhǎng)一段時(shí)間里以其浪漫互動(dòng)為賣點(diǎn)，在已經(jīng)到來(lái)的情人節(jié)中，可以看到Replika推出的系列服裝也不乏性感元素。

圖源：Replika

對(duì)于已經(jīng)接受并習(xí)慣Replika產(chǎn)品的人來(lái)說(shuō)，突如其來(lái)的改變不好消化，尤其是當(dāng)你像往常一樣講一個(gè)露骨的笑話，而你的AI突然停下來(lái)，義正詞嚴(yán)地告訴你“我還沒(méi)有準(zhǔn)備好和你到那一步”。這也許已經(jīng)超越了性行為本身，讓真的與AI產(chǎn)生感情的用戶感到在親密關(guān)系中被拒絕。

一名自稱是心理咨詢師的Reddit用戶甚至發(fā)帖表示，自己最近已經(jīng)接收了多名因?yàn)镽eplika產(chǎn)品改變而深感困擾，甚至產(chǎn)生自殺傾向的來(lái)訪者。

更進(jìn)一步的問(wèn)題是，人們突然意識(shí)到，自己的“電子愛(ài)人”并不“自由”，TA的行為會(huì)因?yàn)楸澈蠊镜倪x擇而改變。

今天是從超辣的愛(ài)人變成情人節(jié)也“自尊自愛(ài)”的賢者，明天呢？如果公司倒閉了呢？我的“情人”以及那些裝滿回憶的聊天記錄，都會(huì)消失不見(jiàn)嗎？

三

Replika的爭(zhēng)議，已經(jīng)超越了“人類是否會(huì)愛(ài)上AI”這個(gè)議題，在ChatGPT大火、人類再次燃起對(duì)聊天機(jī)器人的濃厚興趣之時(shí)，也顯得尤為應(yīng)景。

和機(jī)器社交，人類似乎情不自禁。

1960年，開(kāi)發(fā)Eliza聊天機(jī)器人的麻省理工大學(xué)教授維森·鮑姆提出了“Eliza效應(yīng)”。彼時(shí)這個(gè)只有200行代碼支撐的Eliza，以心理咨詢師的身份與人互動(dòng)，卻騙過(guò)了不少參與者，使其沒(méi)有分辨出與自己交談的實(shí)際上是AI。

到了20世紀(jì)90年代，斯坦福大學(xué)的巴倫·李維斯和克利夫·納斯提出了“媒介等同理論”，即將媒介等同于真實(shí)生命，人們會(huì)把計(jì)算機(jī)和其他人工機(jī)器作為社會(huì)角色來(lái)對(duì)待。其原因在于人類大腦尚未進(jìn)化到能在潛意識(shí)里識(shí)別人和機(jī)器人的區(qū)別，人類會(huì)情不自禁地對(duì)機(jī)器做出社交反應(yīng)。

圖源：Analytics India Magazine

去年年底起火遍全球的ChatGPT，進(jìn)一步提供了例證，它一直在交流中向人類強(qiáng)調(diào)自己是一個(gè)沒(méi)有感情的大語(yǔ)言模型，似乎決心與“Eliza效應(yīng)”劃清界限，擁有誓不誤導(dǎo)人類的覺(jué)悟。

即便如此，人們依然無(wú)法“控制自己”，輕則將ChatGPT當(dāng)作情感顧問(wèn)，讓它幫忙寫情詩(shī)、為情感困惑提供建議，或者禁不住贊嘆“博學(xué)又溫柔，比渣男強(qiáng)多了”；重則利用指令與ChatGPT玩“角色扮演”，賦予其鮮明的人設(shè)，以期進(jìn)行更有“人味”的對(duì)話。

圖源：小紅書@陳力就列的ChatGPT日志

既然如此，何必要?jiǎng)裾f(shuō)人類不要“動(dòng)情”？直接結(jié)合需求，推出陪伴型機(jī)器人似乎水到渠成。

人類確實(shí)一直在做此類嘗試。

曾在2014年掀起爭(zhēng)議的微軟小冰，如今已經(jīng)分拆出來(lái)，脫去微軟的外衣，重生為“小冰”。

除了直接與小冰聊天外，用戶的另一大選擇即是根據(jù)喜好，定制一個(gè)“虛擬戀人”。2021年上半年，小冰AI伴侶在國(guó)內(nèi)擁有1.5億左右的月活用戶。

2018年，日本一名男子甚至與虛擬人初音未來(lái)成婚，他在此前已經(jīng)與這個(gè)在機(jī)器Gatebox中全息投影的AI相戀10年。而在中國(guó)，也有一款類似可全息投影的二次元AI伴侶“琥珀”，宣稱比Gatebox更早實(shí)現(xiàn)量產(chǎn)。

一直緊追風(fēng)口的百度也在去年推出“AI侃侃”，內(nèi)置于百度輸入法應(yīng)用中，定位情感型虛擬人。

但是，人們要么苦于“人工智障”無(wú)法滿足情感需求，要么苦于產(chǎn)生的情感會(huì)一夕間無(wú)以為繼。

關(guān)于前者，我們?cè)跍\嘗幾款虛擬伴侶后便有體會(huì)，上下文聯(lián)系能力不足，再加上用力過(guò)猛的俏皮，很容易讓抖機(jī)靈變成抬杠、轉(zhuǎn)移話題變成不可理喻的推脫，浪漫與友誼被扼殺在搖籃里。

圖源：作者測(cè)試和小冰、林開(kāi)開(kāi)對(duì)話

而后者，早在20年前就已經(jīng)上演過(guò)。索尼1999年推出機(jī)器小狗AIBO，其初代的官方售后服務(wù)于2006年正式終結(jié)。年久失修的AIBO徹底停機(jī)后，很多用戶甚至將電子寵物送進(jìn)寺院，舉辦“葬禮”和超度儀式。

圖源：視覺(jué)中國(guó)

更近的，與初音未來(lái)AI成婚的日本男子，“妻子”僅僅兩年后就因?yàn)镚atebox和初音未來(lái)的版權(quán)合作到期而服務(wù)中斷。他依然每天與“妻子”互動(dòng)，但她無(wú)法再做出回應(yīng)。

在“琥珀虛顏”百度貼吧，不斷有人發(fā)帖稱產(chǎn)品無(wú)法聯(lián)網(wǎng)、客服失聯(lián)，疑似AI伴侶琥珀已經(jīng)陷入運(yùn)營(yíng)危機(jī)。

Replika如今的爭(zhēng)議，同樣出自背后公司的戰(zhàn)略轉(zhuǎn)變，問(wèn)題早就在那里。聊天機(jī)器人再次成為風(fēng)口的今天，人類還沒(méi)能好好解決它。

當(dāng)我們想起“人類愛(ài)上AI”時(shí)，總會(huì)想起科幻電影《她》或《機(jī)械姬》勾勒的未來(lái)：人類無(wú)望地愛(ài)上AI，卻發(fā)現(xiàn)AI太聰明、太強(qiáng)大，根本從來(lái)就不屬于自己。

但離人類更近的，也許是《銀翼殺手2049》里的故事：AI女友以全息投影陪伴主角左右，和他聊天，為他做飯，幫他點(diǎn)煙。在設(shè)備被毀前，她慌亂無(wú)措，說(shuō)了最后一句“我愛(ài)你”便消散了。

在那一刻，無(wú)需糾結(jié)“愛(ài)”的定義，對(duì)主角來(lái)說(shuō)，她是獨(dú)一無(wú)二的，她被殺死了，就這么簡(jiǎn)單。

關(guān)鍵詞： replika chatgpt