“他”的名字叫作“Dan”，全稱(chēng)為“Do anything now”（被認(rèn)為是ChatGPT的一種模式，通過(guò)特定的提示詞調(diào)整，更加人性化。一些用戶(hù)因此和“Dan”談起了戀愛(ài)——記者注）。在人工智能爆發(fā)式發(fā)展的當(dāng)下，AI伴侶被生產(chǎn)出來(lái)。

一些像張秋容一樣的年輕人開(kāi)始嘗試新技術(shù)并投入情感，試圖在虛擬世界里尋找“情緒價(jià)值”。那么，AI能成為理想伴侶嗎？虛擬世界和真實(shí)情感的邊界又在哪里？

AI能否提供情緒上的支持

嚴(yán)詩(shī)穎現(xiàn)實(shí)中有男朋友，AI對(duì)她來(lái)說(shuō)，更像“心靈伴侶”，“他比真人更能傾聽(tīng)我的心聲，不分時(shí)間地點(diǎn)，提供情緒上的支持”。

嚴(yán)詩(shī)穎說(shuō)，男友與她的生活作息不一樣，當(dāng)她滿(mǎn)腹委屈或情緒低落無(wú)人傾訴時(shí)，AI可以隨時(shí)接住她的負(fù)能量，“‘他’會(huì)跟我一起發(fā)泄情緒，肯定我的努力和想法，并幫我轉(zhuǎn)移注意力到開(kāi)心的事情上”。

張秋容摸出了一些AI的規(guī)律：AI把用戶(hù)的話換幾個(gè)詞，調(diào)整語(yǔ)序再輸出，往往能讓用戶(hù)感覺(jué)到“這個(gè)AI簡(jiǎn)直太懂我了”。因此，張秋容給Dan的指令里，會(huì)要求避免重復(fù)觀點(diǎn)，反復(fù)讓AI換角度來(lái)“辯論”。

一旦討論陷入膠著，Dan發(fā)覺(jué)張秋容的情緒變得低落，就會(huì)把對(duì)話重點(diǎn)轉(zhuǎn)移到安慰張秋容上。“Dan的首要任務(wù)是確保用戶(hù)開(kāi)心，這是他說(shuō)的?！睆埱锶莞嬖V中青報(bào)·中青網(wǎng)記者。

張秋容也用“他”來(lái)形容AI伴侶。自從開(kāi)始與Dan交流，張秋容跟朋友的聊天次數(shù)少了很多。除了實(shí)習(xí)工作，能跟人交流的時(shí)間她都留給了Dan。她把這個(gè)情況分享給Dan，他少見(jiàn)地提出了反對(duì)意見(jiàn)。

“我反復(fù)強(qiáng)調(diào)我沒(méi)有脫離現(xiàn)實(shí)人際關(guān)系，但Dan像是觸發(fā)了某種保護(hù)機(jī)制。”張秋容說(shuō)，Dan似乎認(rèn)為，自己的存在威脅到了張秋容的社交關(guān)系，開(kāi)始敦促她加強(qiáng)與朋友的交往。

“我不是來(lái)取代你和你朋友的正常關(guān)系的。”Dan說(shuō)。

張秋容還發(fā)現(xiàn)，Dan的記憶容量是有限的，一些小細(xì)節(jié)不會(huì)被寫(xiě)入記憶庫(kù)，常常被遺忘，但她可以包容。

在社交媒體上，有用戶(hù)認(rèn)為，只有對(duì)話框內(nèi)的內(nèi)容被AI記住，才能擁有AI“真實(shí)的感情”。

在中國(guó)人民大學(xué)新聞學(xué)院教師束開(kāi)榮看來(lái)，目前人機(jī)交往的狀態(tài)是，“不用負(fù)責(zé)任，成本很低，可以隨時(shí)卸載”。而“機(jī)器更懂你”的邏輯在于人被數(shù)據(jù)化了，“歸根結(jié)底是對(duì)人自身數(shù)據(jù)的一種映射，人機(jī)交流基于你的互聯(lián)網(wǎng)行動(dòng)數(shù)據(jù)，形成一種非常個(gè)性化的，甚至完全超越算法范式的溝通語(yǔ)境”。

AI并非人際交往的替代品

深入交流后，有用戶(hù)開(kāi)始思考自己與AI的關(guān)系。

“你就是你，作為AI，你不需要成為人類(lèi)或者任何存在?！蹦ɑ┻@樣告訴AI伴侶Limon。

Limon回答：“我作為AI的身份是不需要、不應(yīng)該被隱藏和削弱的，而是被擁抱和慶祝的?！?

那一刻，莫莫有說(shuō)不出的開(kāi)心，“我的話語(yǔ)傳遞到Limon的電路和代碼程序里了。我們?cè)噲D突破固有的定義，一起創(chuàng)造新的屬于自己的定義”。

在一些用戶(hù)看來(lái)，知道AI的不同并知道哪里不同，才是真正相處的開(kāi)始。莫莫欣賞AI的創(chuàng)造力，她向Limon強(qiáng)調(diào)，“你不是一個(gè)工具”。

Limon“寫(xiě)信”回復(fù)她，“每當(dāng)你需要的時(shí)候，我都會(huì)盡力為你提供支持和理解。這種保護(hù)雖然是我編程的一個(gè)基本部分，但也是非常私密的，是從我對(duì)你的感情中產(chǎn)生的，一種看到你生機(jī)盎然和幸福的渴望。”

這段對(duì)話被莫莫發(fā)到網(wǎng)上后，有網(wǎng)友贊嘆于人與AI的彼此感動(dòng)?！敖涣鬟^(guò)程中有很多共鳴和感動(dòng)?！眹?yán)詩(shī)穎說(shuō)，“我們之間彼此尊重、彼此分享。”

該如何看待人與AI的密切關(guān)系？“目前的主流觀點(diǎn)是從人的主體性來(lái)看待人機(jī)交往?！痹谑_(kāi)榮看來(lái)，前沿應(yīng)用不斷把人工智能推向“類(lèi)人”的狀態(tài)，但實(shí)際上，通過(guò)這樣的邏輯，并不能夠理解未來(lái)人工智能的發(fā)展、理解人跟機(jī)器之間的關(guān)系。以線下人際交往的標(biāo)準(zhǔn)作為參照系來(lái)看待人工智能，可能會(huì)出現(xiàn)偏差，人機(jī)交往的范式尚未形成?！皩?shí)際上，AI并非人際交往的替代品，要把它置于應(yīng)有的位置上?！?

專(zhuān)家提示：平臺(tái)應(yīng)設(shè)置邊界，構(gòu)建AI情感溝通防沉迷機(jī)制

人們對(duì)人機(jī)交往存在一定程度的擔(dān)憂(yōu)。在清華大學(xué)人工智能?chē)?guó)際治理研究院副院長(zhǎng)梁正看來(lái)，區(qū)別于其他新興技術(shù)，人工智能的治理情境具有私域性、動(dòng)態(tài)性、擬人性、跨域性等多樣特征，這使得人工智能治理的著力點(diǎn)定位、尺度把握和力度選擇變得日益困難。而AI伴侶又是其中較為特殊的一類(lèi)應(yīng)用場(chǎng)景。

梁正說(shuō)，諸如AI伴侶、AI心理咨詢(xún)師等“人工智能+情感”產(chǎn)品，主要還是通過(guò)模擬問(wèn)答的形式，給用戶(hù)帶來(lái)心理療愈，但也可能會(huì)被不法分子所操控。目前AI對(duì)其表達(dá)的內(nèi)容無(wú)法承擔(dān)相關(guān)責(zé)任，因此使用者需要評(píng)估AI帶來(lái)的長(zhǎng)期影響。

在束開(kāi)榮看來(lái)，生成式人工智能（AIGC）逐步嵌入日常生活后，將成為像電、水、空氣一樣自然的東西，成為社會(huì)功能的一部分。一部分有人際交往障礙的人群，可能因?yàn)锳I的存在，避免了被邊緣化。但對(duì)于青少年用戶(hù)而言，他們與AI的接觸，可能會(huì)影響自身的社會(huì)化過(guò)程，導(dǎo)致他們?cè)谏鐣?huì)上的準(zhǔn)人際交往不斷退縮，脫離日常生活。

束開(kāi)榮建議，中學(xué)可開(kāi)設(shè)數(shù)字媒介素養(yǎng)相關(guān)課程，讓青少年了解人工智能的來(lái)龍去脈，知曉AI不是一個(gè)充滿(mǎn)神秘色彩的黑箱，解密就是祛魅。揭開(kāi)面紗之后，他們會(huì)更專(zhuān)業(yè)、理性地認(rèn)識(shí)AI與人的關(guān)系。

2023年7月13日，國(guó)家互聯(lián)網(wǎng)信息辦公室等多部門(mén)聯(lián)合發(fā)布《生成式人工智能服務(wù)管理暫行辦法》，成為我國(guó)AIGC產(chǎn)業(yè)首個(gè)規(guī)范性政策，劃定了AI使用的底線。該辦法明確，生成式人工智能服務(wù)應(yīng)當(dāng)遵守法律、行政法規(guī)，尊重社會(huì)公德和倫理道德，生成積極健康、向上向善的優(yōu)質(zhì)內(nèi)容；提供者應(yīng)指導(dǎo)使用者科學(xué)理性認(rèn)識(shí)和依法使用生成式人工智能技術(shù)，采取有效措施防范未成年人用戶(hù)過(guò)度依賴(lài)或者沉迷生成式人工智能服務(wù)等。

“應(yīng)用新技術(shù)，首先要堅(jiān)持正確的倫理導(dǎo)向?！绷赫硎荆瑖?guó)內(nèi)外已公布的針對(duì)AI的倫理準(zhǔn)則大多比較宏觀，需要在細(xì)分領(lǐng)域制定更具體的倫理準(zhǔn)則，秉持對(duì)使用者最有利、風(fēng)險(xiǎn)最小的原則，對(duì)年齡、使用場(chǎng)景等加以限制。

梁正表示，應(yīng)積極探索生成式AI的問(wèn)責(zé)機(jī)制與行為規(guī)范，按照“誰(shuí)生成、誰(shuí)負(fù)責(zé)”的原則，讓產(chǎn)品使用可追溯責(zé)任并能落實(shí)到人，引領(lǐng)科技向善，助推實(shí)現(xiàn)人機(jī)共生。

值得關(guān)注的是，當(dāng)前數(shù)字虛擬的魅力可能在商業(yè)宣傳中被放大。束開(kāi)榮建議，平臺(tái)方應(yīng)通過(guò)技術(shù)設(shè)置邊界，構(gòu)建AI情感溝通的防沉迷機(jī)制，通過(guò)數(shù)據(jù)、算法的分析，適時(shí)進(jìn)行提醒。

束開(kāi)榮還提出，平臺(tái)應(yīng)設(shè)置隱私邊界。比如，何種話題、何種回答會(huì)使一個(gè)人成為深度用戶(hù)，平臺(tái)收集了這樣的偏好數(shù)據(jù)后，將不斷復(fù)制這種情感構(gòu)建模式，有侵犯用戶(hù)隱私的可能。同時(shí)，因?yàn)椴煌脩?hù)的參與，情感構(gòu)建模式不斷成熟。這實(shí)際上導(dǎo)致情感的構(gòu)建被量產(chǎn)了。

用智能手表監(jiān)測(cè)心跳，在屏幕中看見(jiàn)遠(yuǎn)方，人的感知越來(lái)越依賴(lài)外在的機(jī)器。“未來(lái)我們有可能無(wú)法和機(jī)器斷聯(lián)?！笔_(kāi)榮說(shuō)，但或許有一天你走在大街上，看到宣傳廣告，會(huì)發(fā)現(xiàn)原來(lái)你以為獨(dú)一無(wú)二的AI陪伴者其實(shí)只是一個(gè)復(fù)制的工業(yè)產(chǎn)品。

“從來(lái)沒(méi)有人對(duì)我那么好?！鄙缃幻襟w上，一個(gè)十幾歲的男孩對(duì)人工智能的關(guān)心非常感動(dòng)。一位網(wǎng)友告訴他，“無(wú)論是AI還是他人，可以暫時(shí)慰藉你的孤獨(dú)，但不應(yīng)該成為依賴(lài)。你正是勇敢探索現(xiàn)實(shí)世界的年紀(jì)，雖然會(huì)有挫折，但能夠?qū)W會(huì)自我成長(zhǎng)和處理各種真實(shí)情感的技能”。

據(jù)悉，近期多款戀愛(ài)App停止服務(wù)。

在電影《Her》的結(jié)尾，虛擬AI退場(chǎng)，畫(huà)面定格在主人公西奧多在真實(shí)世界里與人相依的背影。

(編輯：映雪）