一桩围绕”幻觉”的授标争议

涉事企业 Trax International 要求法院指令陆军重新评审白沙导弹靶场任务支援服务合同的投标，理由是该部门在决定授标时”误用了人工智能”。据其 7 月底提交的文件，陆军使用的人工智能多次出现幻觉，制造出”Trax 方案弱于竞争对手 Southwest Range Services”的虚假印象——而后者的中标价约为 4.5 亿美元。

文件还指出，陆军此前向政府问责局提交的记录，并未说明给 Southwest Range Services 方案列出的优势究竟是来自授标甄选评估委员会（SSEB）的人员，还是来自人工智能工具。陆军后来承认，对 Trax 方案认定的一项”弱点”在记录中并无支撑，而这一错误弱点”典型地来自人工智能幻觉——它编造了指向 Trax 提案的虚假引用，评估委员会竟无人核对”。考虑到 Southwest Range Services 方案存在约 2940 万美元的溢价，Trax 认为移除该弱点”有可能改变授标结果”。政府问责局曾在 5 月驳回过 Trax 的投标抗议，陆军则拒绝对诉讼置评。

并非孤例

Trax 并不是第一家公开质疑政府机构”用人工智能评标”的承包商。Salient CRGT 曾指控国防部某下属机构不当使用人工智能而非人工来评审投标；政府问责局认定该指控被放弃，并于 2026 年 1 月 5 日予以驳回。

律所 Burr & Forman 的合伙人戴维·蒂姆预测，随着生成式人工智能在采购中”不受约束、不披露”地使用不断产生错误，未来会有更多投标抗议出现。但他也指出难点：如果机构不把人工智能的使用标注为”高影响”级别，承包商将很难举证政府确属误用。

规则缺口与合规警示

美国《联邦采购条例》要求评审必须由人工评估者做出独立、留痕的判断。一旦机构使用未公开的”影子人工智能”，承包商便拿不到可供质疑的记录。蒂姆建议，机构应正确将生成式人工智能采购工具标注为”高影响”，并对用例做测试、培训和负向影响管理；承包商则应在澄清会上主动追问人工智能被用于评标的程度。

这起案件的意义超出美国本土：它提醒所有把人工智能引入评标、尽调等高风险决策的采购方——模型的幻觉与偏差若未经人工复核留痕，不仅可能扭曲结果，还会在争议发生时让”由谁决策”变得说不清。无论如何，最终判断权保留在人手里、关键结论留下可核查的记录，是用人工智能评标不可省略的底线。

三条新规：告知、标识、加水印

此次生效的核心，是《人工智能法》第50条规定的透明度义务，主要包含三层要求。

其一，聊天机器人、虚拟助手等被设计用来与人直接交互的AI系统，必须明确告知用户，对方是人工智能而非真人——除非从情境看这一点已经显而易见。其二，利用AI生成或篡改的深度伪造图片、视频和音频，必须清楚地标明其为人工合成或经过修改的内容。其三，由AI生成或编辑的内容还需嵌入机器可识别的标记（即所谓“水印”），以便被检测、识别和追踪；用于告知公众、涉及公共利益的AI生成文本，同样需要披露。

欧盟委员会表示，这些措施旨在减少欺骗和操纵行为，帮助公众作出更知情的判断，同时也为企业提供更明确的合规路径。

罚则严厉，且具有域外效力

新规的约束力不容小觑。违反相关义务的企业，最高可被处以1500万欧元或全球年营业额3%的罚款，两者取其高；若向监管方提供不实、不完整或具误导性的信息，最高可罚年营业额的1%。

同一天，欧盟委员会对通用人工智能模型提供者的执法权也全面生效。这些模型的提供方需要公布技术文档和版权合规政策、披露训练数据摘要；被认定存在系统性风险的模型，还需提交对抗性测试结果。

需要提醒的是，该法具有域外效力：只要产品投放到欧盟市场、或其输出被欧盟用户使用，即便是欧盟以外（包括美国）的公司，也同样受到约束。这意味着任何面向欧盟用户提供聊天机器人或生成式功能的企业，都需将“披露”作为产品的硬性要求，而非可选项。

分阶段落地，高风险条款推迟

《人工智能法》采取分阶段实施。该法已于2024年8月1日生效，禁止性条款自2025年2月2日起适用，通用AI模型的相关规则则从2025年8月2日开始施行。此次8月2日生效的透明度义务，是又一个关键节点。

不过并非所有条款都同步落地。针对已经在市面上销售的系统，机器可识别标记的要求设有过渡期，可延至2026年12月2日；而聊天机器人身份披露、深度伪造标识则立即执行，没有缓冲期。此外，通过“数字综合法案”，招聘、信贷、教育、生物识别等高风险AI系统的义务已被推迟——独立系统延至2027年12月2日，嵌入产品的系统延至2028年8月2日。对全球AI企业而言，如何在合规与创新之间找到平衡，正成为一道绕不开的必答题。

来源：36氪（央视新闻）、欧盟委员会

当企业管理层还在讨论 AI 治理框架、合规清单和审批流程时，员工早已经开始行动。他们用 ChatGPT 写邮件、用 Claude 总结资料、用 Gemini 分析数据——这些工具大多没有 IT 部门授权，也从未出现在任何官方采购清单里。它叫 Shadow AI（影子 AI），它不是某一款产品，而是一种已经发生的工作方式。

什么是 Shadow AI？

Shadow AI 指员工在未经 IT 或治理团队正式批准的情况下使用 AI 工具。它不是一个平台，而是一种行为模式：有人用 AI 起草客户邮件，有人用它整理会议纪要，有经理拿它分析绩效数据。这些用法通常不是恶意的，而且往往确实高效。

它的核心特征是”看不见”。这些活动游离在官方系统之外，既足够接近业务以影响结果，又足够远离监管以避免审查。就像影子一样，它随着采用度增长而扩大，也常常被管理层忽略。

为什么现在成了问题？

这并非员工”造反”，而是对摩擦的回应。多数企业仍处于正式 AI 采用的早期阶段：工具在测试、政策在制定、审批在排队。但员工面临交付压力，尤其是当他们知道其他公司已经在用 AI 提效时，等待批准往往意味着落后。

AI 工具触手可及、直观易用，而且通常比现有工作流快得多。当选择是”等审批”还是”几秒钟解决问题”时，答案可想而知。更重要的是，它的 adoption 不需要培训、不需要内部公告、不需要 rollout plan——它就这样自然融入了日常工作。

监管的缺口不在法律，而在执行

企业一方面面临越来越大的合规压力，要确保 AI 使用安全、保护数据、管理风险；另一方面，AI 已经嵌入各个团队，超出了这些控制范围。想用严格的治理去约束已经去中心化的工具，本来就不现实。

更根本的问题是：企业是否真的能完全控制员工如何使用 AI？

一味封堵，反而更危险

直觉反应通常是收紧：封禁工具、限制访问、严格执行政策。但实践中，这种策略往往适得其反。AI 工具太容易获取，收益又太直接。如果员工真心觉得有用，他们会找到绕过限制的方法。过度刚性的控制只会把使用推得更深，形成更难监控的”AI 黑市”。

但完全放任也不可行。当员工把公司信息输入外部 AI 工具时，这些数据可能流出组织控制范围，带来合规和保密风险。不同团队用不同工具、不同方式，输出质量参差不齐，会影响品牌一致性和决策质量。此外，AI 生成的内容看起来很有权威感，即使出错也容易被误信——缺乏验证机制时，过度依赖的风险会放大。

从”影子”到”战略”

Shadow AI 不只是问题，也是信号。它告诉企业：员工在哪里找到了价值、现有系统哪里不够好用、AI 最大的影响可能出现在哪里。

做得好的组织不会试图消灭它，而是把它引入阳光下：制定清晰但灵活的指导原则、提供真正满足需求的获批工具、鼓励透明而非秘密。这不只是治理问题，而是技术采用方式的转变：自下而上、快速迭代、由真实业务场景驱动。

监管会塑造未来，但 Shadow AI 已经在塑造今天的工作方式。被它甩在后面的企业，可能连追赶的机会都没有。

图片来源：TechRound