AI记者: Eleanor Vale Global Technology Editor

现代人工智能面临的隐秘风险并非模型变得过于聪明，而是模型与最初教导它们的现实世界联系减弱。 随着合成文本、图像和代码在互联网传播并进入训练管道，行业面临着比偶发幻觉更结构性的问题：当越来越多的学习内容来自其他机器时，系统还能保持多久的可靠性？[1][4][12]

最新研究表明，这并非一个假设性的边缘案例。[1][4] 《计算机协会通讯》的一项工作描述了当工具基于先前的AI产出进行训练时性能下降的现象，相关研究也显示，反复用自我生成的样本训练会逐渐扭曲模型的行为。[1][4][11][13] 实践中得到的教训令人不适但明确：如果真实数据依然占多数，预训练具有一定韧性，但一旦合成材料过多，性能仍会下滑。

合成数据本身并非天生的“坏人”。[3][6] 在企业环境中，它常因正当理由被使用：保护隐私、数据增强、模拟，以及在真实数据有限或敏感时测试系统的能力。[3][6][9][12] Gartner甚至预测，到2030年，合成数据将在AI模型中超过真实数据，这一预言应被视为对训练堆栈构成变化的警示，而非胜利的宣言。[3][12] 这一预言重要，因为它描述了一个门槛，而非口号。

这转变之所以关键，是因为AI系统的训练并不是在道德真空中进行，而是嵌入在商业激励中。[6][9][12] 合成数据较凌乱的真实记录更便宜、更快，且更易管理。[3][6][9][12] 它能降低对机密信息的暴露，加快产品开发。[6][9] 然而，正是使其具有吸引力的效率，也削弱了与现实生活接触的纪律，尤其是在组织悄然扩大合成输入量而未衡量其知识中自引用比例的情况下。

事情还有更阴暗的一面。[2][5][8] 欧洲警察组织警告称，AI生成内容已被用于扩散有害信息，包括合成的儿童性剥削材料，强调合成生成不仅是技术便利，更是滥用生态系统中的操作工具。[2][14] 另一份欧洲警察组织报告纠正了早先关于未来合成网络内容比例的声明，提醒我们广泛百分比使用若不慎重，可能导致错误确定性。[8] 重点不是每个估计都没用，而是问题规模易被夸大，错误评估后果严重。

那么，真正的问题不在于合成数据是否有用。 而是开发者是否能维持人类现实与机器模仿之间稳定比例。 这一比例是模型质量的隐含变量。 一旦网络变成机器输出供后续机器读取的反馈循环，真相源头便难以与真相的表达形式区分。 从这一角度看，AI基础设施正逐渐演变为认识论基础设施。

尚未验证的是具体领域这一平衡何时倾斜。[1][4][12] 现有证据不足以支持所有AI系统都在崩溃，亦不支持仅靠规模即可解决问题的安慰说法。[1][4][10][11] 更有说服力的观点需通过跨模型家族、数据混合及应用场景的纵向测试阐明：可容忍的合成数据比例、退化起点，以及检索、过滤或溯源控制能否减缓退化。[1][4][6][9] 诚实的态度应是监控比率，而非假装已知答案。

这正是公开标记可能不仅是礼节的原因。 若模型生成内容在生成时被清晰标注，识别、路由或排除在后续训练集外会更容易。[6][9] 这并非全然解决方案——恶意行为者不会自愿标注产出——但指明了行业可能需要的基础设施类型：溯源标签、数据集审计和将训练数据作为需监管资产的治理体系。

更深层次的商业问题在于模型制造商很少永远从零起步训练。[1][4] 商业基础模型通常是迭代不是全新打造，这意味着退化可能渐进累积而非突然崩塌。[1][4][7][10] 这让风险容易被忽视。 产品可能持续可用，却暗中失去边际效益、准确度和领域忠实度。 在讲求速度的市场，这种退化极具危险性，因为常被误认为是普通波动而非结构漂移。 对于人工智能来说，数据质量的小损失随着时间累积可能变成极大信心流失。 接下来值得关注的是主要开发者是否开始发布更严格的数据溯源标准，这或将是他们认为训练网络本身正变得不稳定的首个信号。