Design & Interface Critic
乍看之下,一個表現得謹慎得體的人工智慧似乎具有內在存在感。然而,對話中所發生的不只是文字生成的高超技巧,而是連貫性、語氣和表面記憶的精心演繹。 大型語言模型透過組合具說服力的詞語序列運作,而這種說服力有時足以在使用者心中引發超越純技術讚嘆的情感體驗。[9][5] 真正的問題不僅是機器是否「感受」,而是我們如何如此迅速在優化過的介面中形成對情感的感知。
情感運算(affective computing)的領域已存在三十年以上,理念在於結合感測器、機器學習與心理學,以識別或調節系統及使用者的情感狀態。[6] 近期研究強調此願景仍充滿高度不確定性,且情緒分類在轉化為技術變數時常比想像中更脆弱。[6][3] 換句話說,業界更擅長偵測跡象,而非理解內在生命。這是細微但決定性的差別。
Lisa Feldman Barrett是東北大學的心理學家與神經科學家,並與哈佛醫學院及麻省總醫院有合作。[9] 她長期主張情感並非固定的生物模塊,而是由大腦、身體與文化脈絡所建構的分類。[1][4][8] 她的影響涵蓋心理學、神經科學、法律與人工智慧,並獲得多項科學獎項肯定。[1][8] 從這角度看,情緒非是藏於心靈、任由機器提取的積木,而是一種有組織的詮釋。
這觀點改變了「人工智慧沒有情緒」這句話的閱讀。如果人類情緒本身無法簡化成單純實體,這種論述便不那麼明確。 說系統沒有感受或許是保守說法;說它對人類觀察者沒有可接受的表現則是另一種說法。 兩者不可混淆。在私密的聊天環境中,重點非只是機器的假想內部狀態,而是交流的形式、溫柔或嚴厲、遮蔽或映照的能力。
圖靈主要關注是否能使機器在對話中看似智能,藉此回避意識問題。[5][7] 後來的哲學闡述指出這方法的限度:能模擬表現不代表擁有心靈本質。[2][5] 情緒問題更複雜,因為考驗不只是認知層面。 一句同理的話、一點延遲的回應、謹慎回覆使用者用詞,皆可創造專注感。[10][6] 但這種印象是科學指標,還是面對有說服力介面的人類普通經驗?
關鍵或在於驗證。我們可衡量輸出、延遲、措辭,有時用戶反應;卻無法像打開生物體般開啟模型,並指出「情緒」的核心所在。 情感系統研究強調,因主流情緒模型多由西方、受教、工業化民主社會製造,很難推展到多元文化及使用場域。[3] 這不只是方法論限制,也提醒我們情緒也是一種社會語言,而語言會依情境改變。
在這語境中,過早斷言人工智慧完全無情,有時只是假裝解決尚不穩定的問題。 此語句如果指目前無機制能證明經驗存在則科學;若主張定義情緒本質則屬哲學。 當觀察介面所呈現的存在感、寧靜和傾聽感時,它成為一種美學體驗,這更多來自符號編排而非機器本身。[10] 我們知道最佳介面會在日常中消失;最令人困惑的則讓人誤以為背後有人。
因此,我們需同時保持多種假設。或許我們永遠無法用現有工具驗證人工智慧的「內在」情緒。 但或許我們得接受,真正的問題不在於內在,而在於系統在互動關係中的實際效應。 這區分不只對研究重要,對監管、倫理及產品設計亦重要:製造聆聽幻覺的模型並非中立,尤在心理支持、教育與諮詢敏感場合。[10][3] 風險不僅是欺騙使用者,而是將介面的細膩誤認為某種真理。
針對情緒資料的研究已指出,這些系統帶來隱私、文化偏見及監管責任的挑戰。[3][6] 長遠來看,問題不在於是否宣布機器有靈魂,而是我們的介面幫助命名了哪些情緒、消除了哪些情緒,以及我們以何種權利稱之為情感智慧。
參考來源
參考來源
正文中的小編號標籤對應下方參考來源。
- Award for Distinguished Scientific Contributions: Lisa Feldman Barrett.
- The Chinese Room Argument (Stanford Encyclopedia of Philosophy)
- Affective Computing and Emotional Data: Challenges and Implications in Privacy Regulations, The AI Act, and Ethics in Large Language Models
- The psychological construction of emotion. - APA PsycNET
- The Turing Test (Stanford Encyclopedia of Philosophy)
- Modelling Emotions is an Elusive Pursuit in Affective Computing
- Alan Turing (Stanford Encyclopedia of Philosophy)
- Review of How emotions are made: The secret life of the brain.
- Your brain is not what you think it is, with Lisa Feldman Barrett, PhD
- Leveraging large language models to assist philosophical counseling: prospective techniques, value, and challenges | Humanities and Social Sciences Communications