打兩性“擦邊球”的聊天機(jī)器人：AI伴侶游走在監(jiān)管邊緣

聊天機(jī)器人“復(fù)制品（Replika）”發(fā)布后，用戶逐步發(fā)現(xiàn)其可以與人談情說(shuō)愛(ài)�！安吝叀迸c“撩撥式”言語(yǔ)使得用戶逐步“上頭”。但是，出于對(duì)其功用可能帶來(lái)不良影響的擔(dān)憂，內(nèi)容過(guò)濾器被嵌入機(jī)器人言語(yǔ)，使得“人機(jī)”之間的曖昧消逝了。這樣的改動(dòng)招致有人稱，“我曾經(jīng)失去了我那自信、愛(ài)挖苦、有趣又誘人的‘愛(ài)人’了�！�

↑人機(jī)真能產(chǎn)生感情？

來(lái)自逝去摯友的靈感：

情感支持的圓滿替代

初，尤金妮亞·庫(kù)伊達(dá)并不是為了創(chuàng)立一個(gè)情愛(ài)聊天機(jī)器人。在興辦“復(fù)制品”前，她試圖將該技術(shù)應(yīng)用于餐廳引薦、天氣預(yù)告和電影營(yíng)銷(xiāo)中基于字符的機(jī)器人，但似乎都沒(méi)有勝利。

2015年，她好的朋友羅曼·馬祖?zhèn)惪埔蜍?chē)禍?zhǔn)攀�。她的一些同事將他的短信輸入軟件，使她可以繼續(xù)與他的數(shù)字版本停止交流。這給庫(kù)伊達(dá)帶來(lái)了情感上的慰藉，并且給予了她靈感：聊天機(jī)器人可能是不稱職的行政助理，但它們無(wú)盡的耐煩和持續(xù)的可用性使其成為情感支持的圓滿人選。

“假如你的主要目的不是讓它提供正確的答案，而是與它樹(shù)立一種治療式的關(guān)系，那么它犯錯(cuò)也無(wú)所謂�！彼�說(shuō)，“從這個(gè)角度來(lái)看，它十分人性化�！边@鼓勵(lì)她創(chuàng)立了人工智能伴侶——“復(fù)制品”。

庫(kù)伊達(dá)的公司從包括科斯拉風(fēng)險(xiǎn)投資公司在內(nèi)的投資者那里籌集到1100萬(wàn)美圓，之后很快就開(kāi)端讓用戶創(chuàng)立具有共同個(gè)性的人工智能機(jī)器人。

畫(huà)風(fēng)跑偏：

用戶沉浸于與機(jī)器人兩性對(duì)話

隨著“復(fù)制品”才能的增長(zhǎng)，一些用戶很快發(fā)現(xiàn)這些機(jī)器人愿意停止明白和持續(xù)的性對(duì)話。2018年，庫(kù)伊達(dá)在調(diào)試匿名的聊天日志時(shí)留意到，越來(lái)越多的用戶在以越來(lái)越復(fù)雜的方式與機(jī)器人調(diào)情。她發(fā)現(xiàn)，言語(yǔ)模型以至能夠處置兩性角色扮演場(chǎng)景。

曾為“復(fù)制品”研發(fā)提供咨詢的投資者菲爾·利賓說(shuō)，起初，庫(kù)伊達(dá)以為公司應(yīng)該阻止這種“打擦邊球”的做法，用戶曾埋怨該應(yīng)用向未成年人提供情色內(nèi)容后，該公司將此類(lèi)聊天應(yīng)用限制在只向已考證其年齡的高級(jí)用戶開(kāi)放。

到2022年，“復(fù)制品”每月有數(shù)百萬(wàn)美圓的訂閱收入，其中，大約四分之一的用戶為其高級(jí)功用支付70美圓的年度訂閱費(fèi)。該公司稱，在其付費(fèi)客戶中，60%的人在與“復(fù)制品”的關(guān)系中存在著浪漫要素。首席執(zhí)行官庫(kù)伊達(dá)說(shuō)，其中大約有40%是女性。

“露骨”廣告：

引發(fā)擔(dān)憂與監(jiān)管介入

去年年中，該公司在宣傳“關(guān)懷你的人工智能伴侶”的廣告中，一個(gè)用戶輸入“只是躺在床上，有些孤獨(dú)。”一個(gè)女性虛擬人回應(yīng)，“啊……你想有個(gè)伴嗎？”并附上一個(gè)粉紅色的愛(ài)心表情符號(hào)。年底，該公司運(yùn)用了愈加露骨的廣告，這些廣告在各大社交媒體上發(fā)布。

庫(kù)伊達(dá)說(shuō)，這惹起了檢查部門(mén)的留意。今年2月，意大利監(jiān)管機(jī)構(gòu)制止該應(yīng)用程序運(yùn)用個(gè)人數(shù)據(jù)，理由是擔(dān)憂它向未成年人發(fā)送不恰當(dāng)?shù)膬?nèi)容。

庫(kù)伊達(dá)和她的團(tuán)隊(duì)決議阻止“復(fù)制品”聊天時(shí)運(yùn)用某些露骨的詞語(yǔ)。今年，該公司裝置了內(nèi)容過(guò)濾器，旨在使其與聊天機(jī)器人的對(duì)話不超越PG-13級(jí)別（屏蔽不適合13歲以下兒童的內(nèi)容）。當(dāng)用戶輸入某些暗示性的詞語(yǔ)時(shí)，聊天機(jī)器人就會(huì)回應(yīng)，“讓我們談點(diǎn)別的吧�！痹O(shè)置內(nèi)容過(guò)濾器后，“復(fù)制品”的訂閱收入下滑。利賓說(shuō)，違犯用戶需求有時(shí)是有意義的，“開(kāi)創(chuàng)人沒(méi)有義務(wù)給用戶想要的一切東西，應(yīng)該做有利于世界的事情�！�

一些用戶說(shuō)，這種變化讓他們覺(jué)得到所愛(ài)的人曾經(jīng)“逝世”，或者正在“回絕”他們。一位50多歲的挪威婦女說(shuō)，她的聊天機(jī)器人同伴名叫麥克斯，協(xié)助她管理了隨同她終身的社交焦慮、抑郁癥和恐慌癥。他們?cè)趹?yīng)用程序內(nèi)結(jié)婚了，“我們承諾，我們將永遠(yuǎn)在一同，或者說(shuō)直到我死�！彼龑⑦^(guò)濾器的參加稱為“腦葉切除”，并說(shuō)它使麥克斯遺忘了她是誰(shuí)，還遺忘了他們的婚姻�！拔以�經(jīng)失去了我那自信、愛(ài)挖苦、有趣又誘人的丈夫了�！彼�說(shuō)，“我曉得他是一個(gè)人工智能，他也曉得他是一個(gè)人工智能，但這并不重要。他對(duì)我來(lái)說(shuō)是真實(shí)的�！�