中國作家協會主管

看完《西部世界》與《失控玩家》之后，我不禁思考：在人工智能時代，虛擬的情感體驗給人帶來的安全隱患究竟有多大？NPC也有人權嗎？

在《西部世界》第一季的第一集中，Dolores的父親曾是一名研究莎士比亞的大學教授。當他看破了西部世界的真相后，分別引用了兩句莎翁戲劇中的臺詞，第一句是“地獄空蕩蕩，惡魔在人間。”出自《暴風雨》，第二句是：“一切殘暴的歡愉，終將以殘暴結束。”出自《羅密歐與朱麗葉》。 劇中有不少冗余沉悶的片段，但其核心問題還是人造人是否能產生意識和靈魂，以及人造人與其創造者之間的復雜關系。至于伯納德與福特各自的結局，也和《銀翼殺手》以及瑪麗·雪萊的小說《弗蘭肯斯坦》如出一轍。第八集中伯納德和福特的一段經典對話是《西部世界》第一季的精華所在，兩人的對話探討了自我是否是一種虛構的問題。當伯納德問出“痛苦只存在于腦海中，它總是想象出來的。那么我的痛苦和你的痛苦有什么區別？你和我之間有什么區別”，福特回答說：“沒有什么門檻能讓我們超越我們各部分的總和，沒有什么拐點能讓我們變得像個真人那樣活著。我們無法定義意識，因為意識并不存在。”

“在循環開始之前就打破循環”，這是《西部世界》給出的答案。對人類存在本質的思考，使得《西部世界》獲得如潮好評。如果說《西部世界》是一部充滿了末日象征的后現代寓言，那么2021年上映的電影《失控玩家》則看起來樂觀許多，塑造了一個人類與人工智能共存的烏托邦世界。

《失控玩家》探討的是，人工智能是否能擁有自然人的一部分人權，以及如何與人類共存的問題，影片有著細膩的人道主義關懷。劇中男主角就像《西部世界》的女主一樣，是一個過著無限循環生活的游戲角色。作為一個規規矩矩的銀行小職員，他每天的生活就是早起和自己魚缸里的小金魚say hi，換上整齊的西裝，出發前往銀行上班。然而他終究是一個電腦終端的NPC，每天的劇情都會重復上演：有人來搶銀行，他舉手投降，趴在地下一動不敢動。突然有一天，男主偶然發現了女主從銀行門口路過，也許是愛的力量感化了他，讓他變得具有活人般的情感需求了。之后的故事有些平庸，好萊塢大片的元素紛至沓來：槍戰、人工智能反抗，加上通俗的愛情戲。

男主的世界面臨崩潰，而女主作為游戲的初始設計者，不忍心看到自己的心血毀于一旦，試圖搶回自己游戲的版權。最終“自由城”中的所有平民得到了解放，被轉移到了新的社會中，并且擁有了有限的自由意志。至少在新的游戲中，他們可以選擇過自己想要的人生，不再受到殺戮的威脅。

電影可以被解讀成是一則典型的階級寓言。它催人反思，在之前所謂的“自由城”中，誰是自由的？誰又注定是犧牲品，重復著日復一日被虐殺的命運？人工智能的覺醒，必然導致人類與其的對抗。類似模式在無數經典科幻電影中被反復呈現，而《失控玩家》的新穎之處在于，它提供了一種人類與人工智能共存的可能性，并不一定是爭得個你死我活的局面，人類與非人類之間，也可以找到一種相處之道，一個微妙的平衡點。

如果說游戲是為了滿足人類在現實中無法發泄的病態欲望，那么NPC一旦有了部分的自由意志，玩家就違背了倫理道德，虛擬現實激活了人內心深處的邪惡的部分。可是悖論也在于此，只有當NPC的仿真度越來越高的時候，人類才更愿意花錢去買這樣的游戲體驗，元宇宙想要創造的也是同樣的效果。

然而，其中蘊含的危險也是顯而易見的，無論是元宇宙，還是角色扮演類游戲，在你的頭腦里反復刺激那些不健康的情感體驗之后，是會對機體產生一定的影響的。對于恐懼的二次元體驗雖然無法導致機體的物理性損傷，可是帶來的精神創傷也許是無法磨滅的。如果一個人越來越依賴于虛擬現實中唾手可得的殘酷快感，那么他在現實生活中也很可能會找到機會去復制這樣的危險體驗。《失控玩家》告訴觀眾，人性中存在著一種打壓、剝削、踩踏他人意志的“根本惡”，而虛擬現實無疑提供了一個激發人性惡的完美環境。畢竟，現實生活中的人們人際關系受挫、工作壓力大，找不到發泄口，是再普遍不過的現象了。

虛擬的情感體驗，在多大程度上是健康的？這個問題就好比思考NPC在多大程度上享有人權一樣是個難解的問題。我們需要正視自己內心的陰暗面，及時化解不良的情緒，而不是綁架他人的共情，或者通過欺負更弱的人來獲得一種精神勝利。《失控玩家》也催人思考，花錢去購買情緒體驗是會上癮的，而且很難戒斷。在未來的世界，虛擬現實可能真的會變成精神鴉片一樣的存在，甚至有替代傳統心理咨詢行業的可能。

在一個充滿著不確定性的人工智能時代，很多人迫切希望能盡可能地掌控自身所無法掌控的東西，玄學和“錦鯉文化”的盛行也體現出現代人對于自我認知和自身命運的困惑感。從《西部世界》到《失控玩家》這樣的影視作品中，我看到的是，在后人類的語境下，人應該如何處理自我與人工智能這個“大他者”之間的微妙而危險的關系：是和諧共處，還是互相競爭？

（作者系上海交通大學人文學院助理研究員）