Global Technology Editor
读者的内容评价往往与出版商的预期不符。 多项近期研究表明,在不知道内容来源的情况下,AI 生成的文本被评价为与人类创作相当,甚至更优。[1][3][5][9] 更值得注意的是,当作者身份被披露后,这种优势往往会减弱,说明内容市场的评价不仅仅取决于文本本身。
一项与麻省理工学院相关的研究通过一家商业杂志报道,参与者倾向于更喜欢 AI 生成的内容,并且在披露内容由 AI 制作后,也没有显著降低对内容的评分。[9] 另一方面,另一些研究则显示不同的趋势。 一篇关于大型语言模型生成内容的综述指出,人们通常倾向于接受 AI 或 AI 辅助的写作,直到得知其是 AI 创作后,质量差距缩小,人类作者的作品因此获得额外的好感。[3] 这些研究并不矛盾,反而表明环境和语境与内容本身同等重要。
这一矛盾至关重要,因为内容评估已成为一项基础设施问题,而非单纯的品味差异。 搜索引擎、社交媒体信息流、广告系统、编辑流程和品牌安全团队都依赖类似的判断标准:内容是否值得呈现、变现或信任?[5][2] 如果用户无法可靠分辨内容是由人还是模型创作,作者身份披露则成为强有力——甚至有时过于强有力——的信号,决定了人们对内容的看法。
这种情况让出版商和平台感到困扰。 一个优秀的作品在盲测环境中表现良好;但一旦标识为 AI 创作,有些读者可能因不信任制作过程而给出负面评价。[1][5][7] 这接近行为研究中的“算法厌恶”现象。 人们往往对人类错误更宽容,而对机器错误更苛刻,即使机器表现更佳。这种不对称影响新闻政策和产品设计等方方面面。[4][2] 结果并非简单偏好人类,而是复杂的偏好熟悉权威。
另一篇关于 AI 生成新闻的论文指出,用户是否愿意阅读此类内容,并非仅受其感知质量驱动。[5] 换言之,尽管观众可能觉得文章质量不错,但一旦知道是机器写作,参与度就会降低。 另一项关注 AI 及 AI 辅助新闻的研究用更谨慎的措辞得出类似结论:早期研究假定人类记者作品质量更高,而最新成果则使这一假设变得复杂。[5] 这不是领域已定论的标志。 而是旧有的等级秩序已不再稳定。
社交媒体方面的证据增加了新的维度。 一项 Instagram 研究显示,参与者难以分辨 AI 账号与真人账号的区别,且对 AI 生成内容的评价与有影响力的内容创作者相当。[10] 这应让那些认为外观光鲜或粉丝数能反映作者身份的人三思。 它还暗示了媒体素养的变迁:人们不仅判断内容的优劣,还在考虑背后的创作过程是否令他们信服。
政策关切因此显而易见。 内容来源披露通常被视为简单有效的解决方案:告知用户 AI 参与制作,由用户自行决定。[6][2] 但研究显示,披露本身会改变对内容的评价。 透明度是问责制的必要条件,但也可能引发对被披露来源的偏见。[1][3][5][7] 因此监管者和平台方面临难题:解决信息不透明可能带来新的扭曲,特别是当标签成为判断的替代而非辅助时。
目前尚不清楚这些影响在不同语言、文化和内容类别中的普遍性。 社交媒体帖子、产品评价、新闻报道和伦理建议在披露身份后可能有不同表现。[3][5][8] 这很重要,因为下一波 AI 应用将由出版系统、职场和合规机制中许多细微判断决定,而非单一实验室结果。 未来研究若能追踪用户偏好和后续行为,如点击、订阅、分享、纠错及信任变化,将使证据基础更为扎实。[5][8] 换言之,关键在于标签是改变行为,还是仅仅改变观点。
研究中还隐藏着企业利益。 对 AI 开发者而言,理想产品是提升工作效能而不引人注目。[3][5] 对出版商来说,则相反,他们需要足够透明以维护公信力,但又不能过度,以免读者在阅读前因标签而弃读有用内容。 因此,真正的竞争已不仅是模型本身。 焦点是在人类接触 AI 产出时,如何设定框架、打标和治理,而非产出生成的地点。[1][3][5][6] 从这个角度看,关于 AI 内容价值的争论,与其说是作者身份之争,不如说是对认知控制权的争夺,这将是长期存在的问题,远超任何单一模型的生命周期。
参考来源
参考来源
正文中的小编号标签对应下方参考来源。
- The effect of source disclosure on evaluation of AI-generated messages: A two-part study
- [PDF] Governing with Artificial Intelligence (EN) - OECD
- Users Favor LLM-Generated Content—Until They Know It’s AI
- How artificial intelligence is accelerating the digital government ...
- Quality Perceptions and Intended Engagement in Response to AI-Generated and AI-Assisted News
- Enablers, guardrails and engagement for unlocking trustworthy AI
- Human Bias in the Face of AI: Examining Human Judgment Against Text Labeled as AI Generated
- Advice quality and source disclosure shape trust in AI-generated ethical advice - PMC
- People Prefer AI-Generated to Human Content, MIT Study Finds
- Generative AI in social media health communication: systematic review and meta-analysis of user engagement with implications for cancer prevention - PubMed
推荐文章
生成式 AI 与基础模型
如果华盛顿成为OpenAI股东,监管者也将成为利益相关者