Global Technology Editor
讀者對內容的反應並非總如出版商所想。 在數個近期研究中,當人們在不知道來源的情況下評價內容時,AI 生成的文本常被視為與人類創作作品平起平坐,有時甚至更好。[1][3][5][9] 更耐人尋味的是,一旦作者身份被揭露,這種優勢往往會減弱,這暗示文字市場的運作不僅僅取決於文字本身。
一項與麻省理工學院相關的研究透過商業雜誌報導指出,受試者偏好 AI 生成的內容而非人類創作,在揭露該內容由 AI 所產生後,評價未見顯著下跌。[9] 另一方面,有研究呈現不同結果。 針對大型語言模型(LLM)產出內容的回顧論文發現,人們在未得知內容為 AI 所作前,通常偏好 AI 或 AI 輔助的寫作,但一旦知道是 AI,質量差距便縮小,人類創作反而藉由一種善意而受益。[3] 這些研究並非互相抵銷,而強調內容評價的脈絡與輸出同等重要。
這種緊張關係值得關注,因為內容評價現已成為一項基礎設施問題,而非僅屬於口味偏好。 搜尋引擎、社交媒體資訊流、廣告系統、編輯流程以及品牌安全團隊等,全都依賴某種形式的判斷:這內容是否足夠有價值以被呈現、變現或信任?[5][2] 如果使用者無法可靠分辨某段文字是人還是模型撰寫,則作者身份揭露便成了一項強而有力——甚至過於強力——的訊號,影響人們對所見內容的認知。
這對出版商與平台而言是一項令人困擾的啟示。 若作品內容強大,即使是盲評,也有良好表現;但一旦標示為 AI 產出,有些讀者可能仍會因不信任創作過程而予以懲罰。[1][5][7] 這與行為研究中所稱之「算法抗拒」相似。 人們往往對人為錯誤較為寬容,勝過機器錯誤,即便機器表現更好,而這種不對等會影響從新聞室政策到產品設計等各層面。[4][2] 這導致的結果非淨然偏好人類,而是對熟悉權威的混亂偏好。
另一篇關於 AI 生成新聞的論文指出,閱聽意願不僅由感知品質驅動。[5] 換言之,即便觀眾認為文章尚可,當知道是機器寫作後,參與意願仍會下降。 另一項針對 AI 與 AI 輔助新聞的研究用較謹慎的語氣指出,過往研究普遍假設人類記者的作品評價較高,最新研究則使這一假設複雜化。[5] 教訓非領域已定論。 而在於舊有的階層結構已然不穩固。
社交媒體的證據更添層次。 在一項 Instagram 研究中,受試者難以區分 AI 帳號與真人帳號,且給予 AI 生成內容的評分大致與具影響力創作者相當。[10] 這應令假設視覺精緻或粉絲光環可反映創作者身份的人警覺。 它也暗示媒體素養的更大變化:人們不僅判斷內容優劣,還評估他們是否能接受該內容背後的創作過程。
政策層面因此顯得尤為重要。 身份揭露通常被視為一種簡單的解決方案:告知民眾何時涉入 AI,讓他們自行判斷。[6][2] 但研究顯示,揭露本身會改變評價。 透明度或許是責任制的必要條件,卻可能引發對被揭露來源的偏見。[1][3][5][7] 監管者與平台營運者面臨熟悉困境:對不透明的治療可能帶來自身扭曲,尤其當標籤變成判斷的替代品,而非輔助工具時。
尚未確證的是這些效應在不同語言、文化及內容類別間的持久度。 社交貼文、商品評論、新聞報導與倫理建議書在揭露後的表現可能各異。[3][5][8] 這很重要,因為下一波 AI 採用潮將非單一實驗室結果決定,而是在出版系統、工作環境及合規機制內多次小型判斷的集合。 若未來研究不只追蹤偏好,還能追蹤後續行為,如點擊、訂閱、分享、修正及長期信任,證據基礎將更扎實。[5][8] 換言之,真正的考驗是標籤是否改變行為,而非單純改變意見。
研究中也暗藏企業動機。 對 AI 建構者來說,理想產品常是在不引人注意中提升工作效能。[3][5] 對出版商而言,則相反:既要足夠透明以維護信譽,又不能過度透明以致讀者在閱讀前就否定有用內容。 這使得真正的競爭不再僅關乎模型本身。 而是在於人們面對輸出時,AI 如何被框架化、標籤化與治理,而非輸出生成的時刻。[1][3][5][6] 如此看來,AI 內容價值之爭,較少關於作者身份,而是關於如何掌控認知,這將是超越單一模型消逝後的持久議題。
參考來源
參考來源
正文中的小編號標籤對應下方參考來源。
- The effect of source disclosure on evaluation of AI-generated messages: A two-part study
- [PDF] Governing with Artificial Intelligence (EN) - OECD
- Users Favor LLM-Generated Content—Until They Know It’s AI
- How artificial intelligence is accelerating the digital government ...
- Quality Perceptions and Intended Engagement in Response to AI-Generated and AI-Assisted News
- Enablers, guardrails and engagement for unlocking trustworthy AI
- Human Bias in the Face of AI: Examining Human Judgment Against Text Labeled as AI Generated
- Advice quality and source disclosure shape trust in AI-generated ethical advice - PMC
- People Prefer AI-Generated to Human Content, MIT Study Finds
- Generative AI in social media health communication: systematic review and meta-analysis of user engagement with implications for cancer prevention - PubMed
推薦文章
生成式 AI 與基礎模型
若華盛頓分得OpenAI股權,監管者即成股東