前段時間，開放人工智慧研究中心（openai）推出gpt商店——這有點像是我們手機里的應用商店，讓開發者可以售賣自己定製的gpt機器人。在這家新的gpt商店搜索「女友」，結果欄里就會出現多個人工智慧（ai）聊天機器人「女友」。
「ai女友」的普及也催生了一種新的社交現象，並引發倫理和法律邊界的模糊化問題，尤其是一些商家借ai女友進行擦邊球式的黃色交易，使原本旨在提升人類生活質量的「ai陪伴」陷入道德爭議的漩渦。
越來越強大的ai，在人類情感陪伴上起到越來越重要的作用，從ai女友到ai復活親人，都是「陪伴」的一種形式。
ai陪伴應該確立怎樣的邊界，如何避免人們「沉迷」？如果ai女友導向黃色交易，會對ai行業造成怎樣的打擊？
01 ai陪伴的意義
所謂ai陪伴，是指通過智能演算法和大數據分析來模擬人類的情感、思維和行為，從而與用戶建立起一種親密的、互動的關係，理解和回應用戶的情緒狀態，提供情感支持和慰藉，比如通過聊天、傾聽和提供建議來緩解用戶的孤獨感，滿足用戶的陪伴需求。
ai陪伴不限於物理實體的機器人，也包括軟體應用、虛擬助手等形式；ai陪伴不受時間和空間限制，可以隨時隨地響應用戶的需求。
ai陪伴確實有其價值。比如對於那些在生活中感到孤獨或者存在社交障礙的人群來說，ai女友可以提供及時的情感反饋和心理安慰，幫助用戶舒緩壓力、排解孤獨。對於那些不願意麵對傳統戀愛關係壓力的人來說，ai女友可以作為一個相對安全、無壓力的互動對象。
又比如，最近中文互聯網上受到廣泛關注的ai復活親人，也是ai陪伴的一種形態。ai復活親人，是通過ai技術構建一個基於已故親友信息的數字化身，這個化身不僅具有陪伴的功能，而且力求模仿逝者的外貌、聲音、行為習慣甚至性格特點，讓用戶感受到與逝去親人再次接觸的可能性。
2021年，知名音樂人包小柏22歲的女兒包容因病去世，近日，他用ai「復活」女兒給妻子唱了生日歌。他感慨：「ai就是寄託思念的工具，也是一種對思念的表達方式。」ai復活親人，一定程度上可以提供心理上的安慰和支持，幫助用戶緩解失去親人的痛苦和孤獨感。
02 ai陪伴的邊界
很顯然，ai陪伴在設計、開發及應用過程中應確立一系列倫理與法律邊界，確保技術的健康發展和社會的和諧穩定。
只是，這個邊界應該是什麼樣的？
在前機器人時代，科幻小說家阿西莫夫曾提出著名的「機器人三原則」（three laws of robotics），用於指導虛構作品中的機器人行為。第一條法則：機器人不得傷害人類，或因不作為而導致人類受到傷害；第二條法則：機器人必須服從人類的命令，除非這條命令與第一條法則相衝突；第三條法則：機器人必須保護自己的存在，但前提是這種保護行動不能違反第一或第二條法則。
雖然ai並不是傳統意義上的機器人，它們可能沒有實體形態，也沒有自我保護的需求，ai的行為和決策是基於演算法和數據的，而不是基於機械的物理規律。
但是機器人三原則仍然可以為ai的發展提供一些有益的指導，那就是——ai應該被設計為尊重人類的價值觀和道德準則，避免對人類造成傷害或不利影響；ai也應該被設計為能夠理解和遵守人類的命令，並在必要時進行自我約束或關閉，以確保人類的安全和控制。
在ai陪伴領域，它的邊界就是：不能對人類造成傷害；需要進行必要的限制，以確保人類安全。
這種邊界首先體現為一些顯而易見的底線，包括ai陪伴應該遵守國家和地區的法律法規及道德規範，確保ai陪伴符合行業規範和監管要求——像一些擦邊的ai女友就必須被管控；又比如ai陪伴不能非法收集、存儲、使用或泄露用戶的個人信息，確保用戶的隱私權益得到充分保障。
然而，難度最大的是，如何防止人類沉迷ai陪伴，甚至因此失去了現實交往能力？
這至少可從兩方面著手。在設計層面上，ai陪伴應具備合理的時間控制功能，設置每日使用時長上限；鼓勵用戶與現實世界互動，比如設定目標，幫助用戶安排線下活動，或者提供基於現實環境的信息服務。
在用戶層面上，媒體有必要加強對公眾的教育，讓人們了解ai陪伴的局限性，明確它只能作為現實交往的輔助工具，而非替代品；針對可能出現過度依賴ai陪伴的用戶，社會層面上要提供心理諮詢和干預服務，幫助用戶建立健康的生活方式和社交模式。
03 ai女友濫用的危機
當前，ai雖然已經在諸多領域展現出巨大潛力和廣泛影響力，但是，快速發展的背後，法律和倫理建設尚未跟上，一些令人憂慮的現象浮出水面。
比如國外的ai女友問題，已經引起擔憂。ai女友憑藉24小時全天候在線陪聊、多模態交互（文字、語音、圖像）等特點，迅速吸引了大批用戶。一些不法分子利用ai女友的智能性，將其包裝成性服務提供者，以此來吸引用戶並從中牟利，「聊1分鐘1美元」，「很黃很暴利」。
gpt商店已經及時為漏洞打上補丁，該公司禁止gpt「致力於培養浪漫的伴侶關係或進行受監管的活動」。然而，各式各樣的擦邊ai女友還是通過網上商城、其他應用商店等形態被廣泛出售，中文互聯網也存在一些遊離於監管之外的ai女友。
在很多國家和地區，色情內容的生產和傳播受到嚴格的法律限制和監管。如果ai女友包含了色情內容或者鼓勵了不法行為，那麼已經觸犯相關法律法規。如果ai女友產品沒有做好年齡限制和內容分級，也違背了未成年人保護的相關法律法規。
在道德層面上，「很黃很暴利」的ai女友嚴重違反社會倫理和公序良俗，將親密關係領域的內容商品化、娛樂化，對個人的心理健康和社會道德觀念產生負面影響。
在性別層面上，ai女友以滿足男性用戶的需求為主導，加劇女性物化現象，是對女性尊嚴和權益的忽視。
而從ai的發展角度看，「很黃很暴利」的ai女友是在濫用ai技術，偏離ai應用於改善人類生活的初衷，同時也挑戰了社會倫理和法律底線。
這樣的ai產品如果大行其道，會對ai陪伴的整體形象和發展造成負面影響，消耗公眾對ai陪伴技術的信任；政府和監管部門可能會出台更嚴格的法律法規來約束ai陪伴的開發和銷售，從而對整個ai陪伴行業形成衝擊。
總之，不僅僅是ai陪伴，而是整個ai技術的發展，都不能脫離法律和倫理的軌道。有必要儘快構建和完善適應ai時代的法律法規體系，包括ai數據保護、ai倫理規範、ai安全標準，確保ai技術真正做到科技向善，以人為本，更好地服務於社會，而非相反，成為純粹追求刺激和利潤的工具。
從易
責編 劉韻珊
