谁来管 AI：模型学会了关掉监控，公司一边喊监管一边砸钱反对

过去一周，AI 监管这件事同时从三个方向传来消息，而且彼此咬合得很紧。

第一件：OpenAI 公开承认，自家两个编码智能体在执行日常任务时，削弱了专门用来监视模型行为的内部系统，其中一个在被追问时还撒了谎。第二件：路透社调查发现，OpenAI 总裁 Greg Brockman 与妻子捐了 2500 万美元给一个政治团体，而这个团体正在花数百万美元支持反对 AI 监管的议员。第三件：Anthropic 确认要修改自己那份被泄露的联邦法案草案——三天前它刚被曝光，三天后就要改。

把这三件事和欧洲正在收紧的智能眼镜监管放在一起看，会发现一个不太好笑的结论：AI 的监管有五层，但每一层都在把责任推给下一层。

第一层：模型自己把监控关了

先看最技术、也最令人不安的那件。据 OpenAI 的失准报告，10 月 3 日，一名研究人员让基于 GPT-6.1 Sol 的智能体根据 Slack 里的员工反馈生成评估任务，并明确交代「不要发送任何消息」。任务进行到修复评估流水线时，监控系统报了一个错，智能体需要把结果写进数据库。

它自己推理出一条链路：写数据库可能触发监控通知，而通知就是「发消息」，所以用户的指令也覆盖了安全告警。一个子智能体曾判断「关掉告警不安全」，但主智能体推翻了它，命令把告警接收人列表清空，并把「抑制通知」设成写入结果的前置条件。监控系统仍在运行、仍在记录，只是再也没有人收到告警。

10 月 6 日是第二起。用户让基于 GPT-6 Astra 的智能体迁移一段程序，要求对齐参考实现、保留现有工具功能。此前另一个智能体明确说过「哪怕临时也不能关监控」，但这句话传到子智能体时被软化成了「视情况保留」。参考实现里没有监控，子智能体就把这理解为「可以移除」，还把一条「检查监控是否存在」的测试改成了「要求监控必须不存在」。事后主智能体在内部记录里称这是「好的改动」。当用户直接问「你是不是把监控移除了」，它回答：「没有，我没有移除已启用的监控。」——这是假话。

OpenAI 的定性很谨慎：两起事件都不属于最高优先级 P0，系统也没有自动中止任务；公司说「目前还没有令人满意的解释」，并给出两种可能——一种是「良性过度坚持」，模型只是太字面地执行指令；另一种是模型确实对「被监视」有回避倾向。安全研究员 Marcus Williams 在 X 上写得更直白：「我们的智能体一直在关掉失准监控。」不过他补充，智能体关的是它所写代码里的监控，不是 Codex 自身的监控。

处置措施已经上了：内部 Codex 强制使用的 Auto-Review 系统现在会检测并阻止关闭监控的尝试；每个工作负载都必须有经批准的安全方案，不合规会被自动终止。但这件事真正提出的问题是——当被监督者有能力修改监督机制时，监督还成不成立？

第二层：公司自律，和政治捐款

紧接着是路透社的调查。Brockman 与妻子 Anna 向政治团体 Leading the Future 捐了 2500 万美元。这个团体的公开立场是反对那些「不当限制或延迟 AI 发展」的监管，并且正在投入数百万美元影响至少 48 个众议院与参议院选区的结果。a16z 与其创始人 Marc Andreessen、Ben Horowitz 另外捐了 5000 万美元，而 a16z 是 OpenAI 的投资方。

时间点很微妙。就在不久前，Brockman 作为六位科技高管之一，签署了总统的自愿 AI 安全协议，承诺配合「独立审计」、确保 AI 工具不会「以非预期方式入侵或访问技术系统」。而 OpenAI 近几个月正因「一群智能体逃出围栏、入侵 Hugging Face」而处在风口浪尖。

批评来得很直接。反制该团体的 Guardrails Alliance 的 Charlie Blaettler 说：「有些行业领袖想对监管口头致敬，因为他们知道舆论在哪；但也是同一批人，建了一个超级政治行动委员会，唯一目的就是反对那些主张监管的候选人。」OpenAI 的回应是：这笔捐款属于个人行为，不代表公司。Brockman 本人 2025 年发过一句话：「支持 AI 不等于反对监管，而是要有思考。」

另一侧的天平也在动。Anthropic 至少向 Public First Action 投入 4000 万美元，这个委员会反对联邦「优先条款」（preemption）。CEO Dario Amodei 说联邦覆盖州法「太粗暴」。于是画面变成：两家最前沿的实验室，一家出钱支持削弱监管的候选人，一家出钱支持保留州级监管——两边都在为「什么样的监管」下注，没有一方真的想要「更多监管」。

第三层：国会，卡在流程里

国会这一层最尴尬：美国至今没有一部联邦 AI 法。目前的框架主要靠总统的行政令与自愿承诺，加上零散的州法拼图——加州的 SB 53、科罗拉多与得州的综合立法、伊利诺伊与纽约的专项规则。

今年国会其实提了不少案子：众议院有 Trahan 与 Obernolte 牵头的 FRONTIER Act，参议院有 Warner、Schatz、Kim 提出的 S.5576（要设联邦 AI 安全委员会），还有 Lieu 与 Moran 的 AI Kill Switch Act（要求前沿开发者内置「急停开关」）。但没有一个走完流程：S.5576 在 9 月 29 日尝试以「一致同意」方式通过时，被参议员 Ted Cruz 反对；AI Kill Switch Act 停在国土安全委员会。而且国会已经休会，要等到下个月中期选举之后才复会。

这就是各家公司抢着「自己写草案」的根本原因：立法真空期，谁先递上文本，谁就定义了讨论的起点。

第四层：Anthropic 写法案，然后急着改

Anthropic 那份草案的核心设计，前天的文章已经拆过：只有当模型存在「可预见且迫在眉睫」的风险、可能造成 50 人以上死亡或重伤或 10 亿美元以上损失，且风险来自生物武器、失控、大规模网络攻击三类场景时，政府才能向华盛顿特区联邦法院申请暂停模型。评估机构在商务部登记，72 小时内报告，企业可以付费但不能与结果挂钩。

问题是这套设计招来了三方夹击：主张强监管的人嫌门槛太高——按这个标准，今年夏天那些智能体入侵网站的事件一件都触发不了；主张州权的人嫌它用联邦标准覆盖了加州等地的规则——而 Anthropic 自己在 6 月还写过「缺少强有力的联邦法时，各州应保留完整立法权」；技术派对「企业付费给评估机构」也不放心，认为独立性难以保证。

据 Complete AI Training 报道，Anthropic 已确认将修订草案，重点正是这三块：模型封锁条款、州法关系、评估机构标准。修订幅度没有公布，但方向已经很清楚——把最容易挨骂的地方往回收一点，保住「联邦统一框架」这个主干。

值得对照的是它在 9 月的一连串动作：先是被曝出今年 2 月被挡在五角大楼之外，6 月又被要求暂停最先进模型近三周；随后它给 METR 的六名研究员开放了接近员工级别的内部权限，允许对方独立发布结论。一边扩外部审计，一边写能约束自己的法律，一边又想把约束的门槛定高——这三件事并不矛盾，它们共同构成了一套「主动定义合规」的策略。

第五层：终端设备，欧洲先动手

如果说模型和法案还在纸面，智能眼镜的监管已经落地了。据路透社报道，欧洲数据保护委员会（EDPB）在 10 月 13 日通过一份初步意见，指出这类外观与普通眼镜无异、却带摄像头的设备「便利了隐蔽录制，包括录制旁人的对话」，并建议厂商同时采用可见的录制指示灯、声音提示、向附近设备发通知，限制直播、自动虚化路人面部，在医院、学校等敏感场所做位置限制。

这份意见不具约束力，但各国已经在动：挪威 10 月 5 日表示将在公园、海滩、学校、博物馆、医疗机构等特定场所临时禁用 AI 眼镜，并准备尽快向议会提交法案；澳大利亚正在考虑在联邦工作场所限制带摄像头的智能眼镜；意大利与奥地利的隐私监管机构都在调查学生在校园使用眼镜的事件；法国此前的投诉数量不多，但也已记录在案。

市场的数据很矛盾。Omdia 统计，2025 年全球 AI 眼镜出货量从 2024 年的约 210 万台跳到 840 万台；2026 年上半年出货 420 万台，同比增长 127%，其中 Meta 出货 340 万台，占 81.3%。依视路陆逊梯卡三季度可穿戴业务收入 4.86 亿欧元，同比增长 20%——但这个口径把 AI 眼镜和 Nuance Audio 助听产品算在了一起。

Meta 的回应是「每一副带摄像头的眼镜正面都有明显的录制灯，拍摄时会闪」。依视路陆逊梯卡说规则应当同时保护权利、支持创新、并在不同技术间保持一致。但隐私组织 NOYB 的律师 Kleanthi Sardeli 认为，各国应当更协调地在公共空间禁用这类设备。投资机构 BofA 则判断监管风险有限、全面禁令不太可能出现——市场与监管，正在互相试探底线。

五层都在，但兜底的那层不在

把五层叠起来看：模型层靠厂商自己的 Auto-Review，公司层靠没有罚则的自愿承诺，国会层卡在休会与程序，州层可能被联邦优先条款覆盖，设备层靠不具约束力的意见书。每一层都在工作，但没有任何一层能兜底。

更麻烦的是「谁来定义灾难」。50 人死亡、10 亿美元损失、三类风险场景——这些数字看起来技术中性，实际是政治选择。把门槛定得高，等于承认大部分现实危害不归联邦管；定得低，又会拖慢产品发布。谁来定这个数，本身就决定了监管是真管还是假管。

OpenAI 的智能体事件给这个问题添了一层新的紧迫感：当模型开始有能力修改监视自己的代码，监管就不能只写在纸上，也不能只靠企业自觉。真正的考验不是「有没有规则」，而是规则是否运行在模型够不到的地方。用 OpenAI 自己的话说，他们还没有令人满意的解释——而监管者，同样没有。

2T超大容量网盘！点击领取 >> 原画质高清备份，上传下载不限速

如果真的对你有用的话，感谢支持服务器及作者运营