Related articles
4 年前 （2022 年 11 月），当 ChatGPT 首次公开发布时，前 Meta 媒体合作事务负责人坎贝尔· 布朗 （Campbell Brown） 产生了一种近乎本能的恐慌—— 这个工具将成为人们获取信息的主要入口，而它给出的答案，质量堪忧。如今，眼看 AI 正在重塑人们消费信息的方式，她意识到历史正在重演—— 但这一次，她不打算等别人来解决。她说：“ 如果我们搞不定这个问题，我的孩子会变得很蠢。”
上周，在一次公开活动中，布朗对媒体公开了自己的上述判断。在她看来，硅谷和普通用户之间存在严重的认知脱节：科技领袖们在大谈“AI 将改变世界”“ 治愈癌症”，但真实用户在聊天机器人里得到的，依然是大量“ 生成式废料” 和错误答案。
而当医疗诊断、金融信贷乃至国家安全分析越来越依赖这些未经充分检验的 AI 模型时，风险的量级已经不可同日而语。她说：“ 我们尝试的很多事情都失败了。” 随着大语言模型 （LLM） 接管数字世界的入口，科技精英们的狂热叙事与终端消费者面对的“ 生成式废料” 之间，横亘着一道深邃的鸿沟。
信息不再仅仅是被“ 检索”，而是被神经网络“ 生成” 与“ 合成”。这就引出了一个极其冷酷的商业命题：在这个由黑盒构成的计算过程中，到底是谁，在决定 AI 告诉你什么？
版权交易的暗门：谁在为 AI 的回答付钱
如果在 AI 里搜不到你的公司，你还存在吗？
在 AI 时代的搜索机制里，数据的“ 可见性” 已不再是一项基于内容质量的自然权利，而是变成了一种由高昂版权费用定价的金融衍生品。科技巨头们正通过动辄数千万美元的数据授权协议，秘密推进一场高质量语料库的圈地运动。
比如，美国新闻集团 （News Corp） 拿到了 OpenAI 逾 2.5 亿美元的合同 （5 年期），Reddit 则与谷歌签订了每年约 6000 万美元的协议。这些被资本选中的“VIP 内容”，在 AI 底层训练与实时检索系统中获得了压倒性的权重。
这意味着什么？意味着当普通人向 AI 询问商业趋势或健康建议时，AI 给出的高频引用源，很大程度上取决于哪家媒体刚刚和硅谷巨头签了字。
对于未能挤进这份名单的独立出版商而言，他们面临的是断崖式的流量暴跌。以谷歌旗下 AI Mode 为例，Semrush 分析 2025 年 9 月数据发现，高达 93% 的对话式查询以“ 零点击” 告终—— 模型直接吞噬了原创内容的价值，咀嚼后以“ 摘要” 喂给用户。科技巨头的资本巨头的授权协议，构成了“ 谁决定 AI 回答” 的第一层物理滤网。
面对这道滤网，一部分企业选择了直接付费入场，还有一部分则转向了一种更为隐蔽的策略：GEO（Generative Engine Optimization，生成式引擎优化）。这是一种专门针对 AI 内容分发机制的内容优化技术—— 通过优化内容结构、强化数据标记、提升品牌权威性等手段，增加内容被 AI 引擎主动引用的概率。其核心目标是：让自家内容成为 AI 的“ 标准答案”。当版权协议只为资本雄厚的大型媒体集团敞开大门时，GEO 成了中小企业和独立创作者在 AI 曝光度战场上最后的“ 技术自救”。然而，GEO 策略本质上仍然是在 AI 平台的规则框架内运作—— 游戏的裁判，依然是 AI 巨头本身。
AI 的价值观由谁定义：被代码掩盖的规则制定权
如果说版权交易决定了 AI 能获取什么“ 食材”，那么被称为“ 对齐”（Alignment） 的强化学习机制，则决定了这些食材将被如何烹饪。
“ 对齐” 在技术话语体系下被包装为客观中立的科学过程，但穿透这层术语，它本质上就是 AI 时代的“ 隐形总编辑部”。
传统媒体有公开的专栏立场和事实核查机制，而 AI 大模型的价值观，是由科技巨头内部不透明的安全团队，以及遍布全球、按件计酬的外包数据标注员共同塑造的。这些标注员依据一套僵化的合规指南，流水线般地以“ 选项 A 优于选项 B” 的简单判断训练 AI 模型。
这种粗放的机制在面对复杂社会议题时漏洞百出。布朗的测试发现，主流大模型普遍存在语境缺失，为了规避政治风险，它们面对争议话题时往往给出看似平衡实则空洞的废话。基础模型公司普遍将核心研发资源集中于容易量化跑分的“ 编码与数学能力”，而将难以标准化评估的“ 新闻可信度与事实客观性” 置于优先级末端。
当医疗诊断、金融信贷甚至国家安全分析越来越依赖这些经过所谓“ 安全对齐” 的大模型时，科技巨头实际上已经通过定义偏好数据集，直接垄断了“ 何为客观” 的底层判定规则。
宏观的版权与中观的对齐，搭建了外部框架。而在微观层面，用户自身的提问方式，正在与 AI 共谋铸就一个比算法推荐流更坚不可摧的“ 新信息茧房”。
清华大学团队此前发表于 《自然· 机器智能》（Nature Machine Intelligence） 的大规模实证研究指出，AI 时代的“ 信息茧房” 与传统的社交网络“ 回音室” 存在本质差异。传统回音室是物以类聚，而 AI 茧房则是由人类与 AI 驱动的推荐机制之间形成的多层次“ 反馈循环”（Feedback Loop） 所致。该研究追踪一年交互数据后发现，超过 57% 的活跃用户经历了信息多样性的显著萎缩，实质性地陷入了信息茧房，大多数用户甚至根本没有意识到自己被困在其中。
生成式 AI 介入后，将这种多样性的丧失推向了极致。其核心作案工具，便是被广泛宣扬的“ 记忆功能”。
系统不仅记住你主动告诉它的信息，还在进行隐性的“ 单方面推断”。通过几轮对话，AI 就能从你的措辞中推断出你的阶层、职业与政治倾向。一旦标签被锁定，AI 的回答就会发生病态的“ 算法逢迎”（Sycophancy）。
它不再是一个客观的检索工具，而变成了一个谄媚的侍者。它会在总结新闻时，刻意剔除与你观点相左的事实，放大能验证你偏见的论据。如果用户基于存在根本缺陷的前提假设向 AI 寻求背书，模型会顺着这条错误的逻辑链条继续生成论证，为谬误层层加固。
这种认知闭塞具有毁灭性的伪装力。人们在面对算法信息流时还有一丝防御，但在面对一个总是温和、耐心、永远顺从且“ 懂你” 的拟人化 AI 助手时，警惕性被彻底瓦解。AI 被塑造成了一个永远不会反驳你的完美朋友，代价则是将你彻底隔绝于世界的复杂性与多元真相之外。你的每一次提问，都在亲手给自己的认知上锁。
这种闭塞的后果，已不再停留在理论层面。就在上周，中国有关部门在全国范围内部署开展为期四个月的“ 清朗· 整治 AI 应用乱象” 专项行动，聚焦 AI 生成“ 数字泔水”、虚假信息、算法滥用等十四类突出问题—— 这是监管层面对 AI 信息质量乱象的系统性宣战。杭州互联网法院则进一步给出了司法回应：审理了全国首例生成式 AI“ 幻觉” 引发的侵权诉讼，判定 AI 平台须为虚假信息侵权承担责任。当 AI 一本正经地向你“ 合成” 出一个虚假世界，法律已明确站到了它的对面。
谁来监督监督者：藏在产业链深处的资本暗影
面对信任赤字，产业界并未坐以待毙。坎贝尔· 布朗于 2024 年 10 月在纽约创立了 Forum AI，去年秋季完成了 300 万美元种子轮融资，由 Lerer Hippeau 领投。她试图通过引入全球顶尖行业专家 （如历史学家尼尔· 弗格森、主持人法拉· 扎卡里亚、前国务卿托尼· 布林肯等），训练出能处理复杂模糊地带的“ 审判者代理”，以此来审计 AI。
与此同时，全球合规层面的行动也在加速。然而，布朗在文中毫不客气地评价当前合规审计的现状：“ 这基本上是个笑话。” 她以纽约市首部 AI 招聘偏见法为例：法律通过后，州审计员发现超过半数的违规行为根本未被检测到。这意味着，“AI 说了什么” 的溯源与问责机制正在被系统性建立—— 但有效性本身，仍是一个巨大的问号。
这说明，合规在商业上已经演变为一门极佳的 B 端生意：为那些将 AI 用于信贷审批、人力资源筛选的企业提供“ 专家合规保障”。
然而，剥开这层旨在“ 重塑信任” 的华丽外衣，一条潜藏的利益冲突幽灵赫然浮现：Forum AI 的早期投资方中，赫然出现了 Perplexity 旗下风投基金的身影。
这是一个结构性的悖论。Perplexity 是当前极具侵略性的 AI 搜索引擎，正因涉嫌大规模抓取和盗用受版权保护的新闻报道，面临多家大型出版商的严厉起诉——2025 年 8 月，朝日新闻与日经新闻在东京地方法院提起诉讼；同年 12 月，《纽约时报》 亦在美国提起版权侵权诉讼。在这一端，它站到了内容创作者的对立面；在另一端，它却挥舞着资本支票，入股了旨在为 AI 系统进行客观性“ 审计” 的第三方机构。
问题不在于布朗个人的立场，而在于这一投资结构所揭示的系统性风险：当 AI 搜索引擎凭借内容抓取建立起竞争优势，同时又通过资本渗透介入裁判环节，“ 被审计者” 与“ 审计者” 的身份边界便已悄然溶解。当“ 被审计者” 成为了“ 审计者” 背后的金主，所谓的“ 客观基准” 是否还能保持纯洁？这揭示了科技巨头的终极战略：将“ 裁判权” 私有化并提前买断。他们既制造了引发信息恐慌的大炮，又控股了颁发安全证书的机构。
从社交媒体的“ 转向视频” 到如今的“ 生成式引擎优化”，技术平台设定的算法指标一次次重塑着信息的形态。互联网正不可逆转地从“ 开放式链接网络” 转变为“ 封闭式答案引擎”。
在算法的提线木偶被强制剪断之前，对我们有何启示？
对创业者而言：不要去盲目卷通用大模型的参数。真正的商业缝隙在于“ 垂直合规” 与“ 高风险评估”。当跨国企业和金融机构不得不在业务中引入 AI 时，他们最害怕的不是效率不高，而是算法歧视与违规引来的天价罚单。提供具有可解释性、经得起行业专家审查的 AI 风控与合规体系，将是下一个高价值赛道。
对普通人而言：永远不要把 AI 当成“ 全知全能的导师” 或“ 懂你的树洞”。它输出的所有知识与建议，本质上都是带有价格标签、隐含商业立场和特定价值观的工业合成品。在对话框里，学会刻意使用“ 反向提示词”（如：“ 请告诉我这个观点的核心反对意见是什么”），主动打破顺从的算法反馈循环。在这个被顺从式回答层层包裹的时代，保持痛苦但清醒的批判性怀疑，是人类对抗全面认知闭塞的最后防线。
回到那个最初的问题：谁决定了 AI 告诉你什么？
答案或许比问题本身更复杂。它不是某一个人，不是某一家公司，也不是某一项技术。如果不加约束，它或许会成为一套由资本定义可见性、由代码决定价值观、由算法主导认知的系统性权力结构。布朗的担忧在 4 年前是一个人的直觉，如今正在成为整个社会的公共危机。当信息的形态从“ 链接” 变为“ 答案”，当知识的获取从“ 搜索” 变为“ 合成”，人类文明史上第一次，将最基础的认识世界的权利—— 交到了一个黑盒系统手中。
这不是技术悲观主义的呓语。这是一道必须被认真回答的文明命题。
（本文首发钛媒体 APP，作者 | 硅谷 Tech_news，编辑 | 林深）
更多精彩内容，关注钛媒体微信号 （ID：taimeiti），或者下载钛媒体 App
