Anthropic 给国会写了一份 AI 监管法案：死 50 人、损失 10 亿美元，才准政府叫停
过去两年，Anthropic 一直是最愿意谈「AI 可能毁灭人类」的那家公司。现在它做了一件更实际的事：自己起草一份联邦法律，规定政府在什么情况下可以叫停一个 AI 模型。
据 Politico 获得的草案文本，这家 Claude 的开发商正在私下向美国国会议员推介这份法案。它的核心只有一个问题：联邦政府何时有权阻止一个前沿模型的发布或使用。答案被设定得相当克制——只有模型存在「可预见且迫在眉睫」的严重风险，且可能造成 50 人以上死亡或重伤、或者 10 亿美元以上损失时，政府才可以出手。
三道门槛，一道比一道高
草案没有试图监管 AI 的所有社会争议——偏见、就业、版权、未成年人保护，全都不在范围内。它把规则锁死在「灾难性风险」这一个点上，并设下三重条件。
第一重是时间性：风险必须可预见、且迫在眉睫。一般性的担忧、假设性的推演，都不构成干预理由。第二重是严重性：50 人以上死亡或重伤，或者 10 亿美元以上损失。第三重是类别：风险必须来自生物武器的制造或释放、模型脱离开发者控制、或者大规模网络攻击这三类场景。
这三个条件必须同时满足。换句话说，一个模型即使被证明会加剧偏见、放大虚假信息、影响选举，只要没有踩到这三条线，联邦政府就无权叫停。这套措辞与加州去年签署生效的 SB 53 高度相似——Anthropic 等于把州法的核心条款搬到了联邦层面。
连"叫停"都要法官签字
更值得注意的是程序。草案没有给行政机关「一键下架」的权力：即使所有条件都满足，商务部也必须向华盛顿特区联邦地区法院提出申请，由法官裁定是否暂停模型的发布或部署。其他联邦部门和各州，都无权绕开这套程序单独行动。
评估环节同样经过设计。独立评估机构需要在美国商务部登记，负责定期评估前沿实验室及其模型。评估费用可以由被评估的企业支付，但报酬不得与评估结果挂钩——草案试图用这条规则，堵住「花钱买好评」的口子。一旦评估人员认定存在迫在眉睫的风险，必须在 72 小时内向商务部报告。
此外，草案要求前沿开发者测试自家最强的模型、公开测试结论、接受独立评估，并维持一套完善的安全体系。这些义务听起来不轻，但它们都绑定在「前沿模型」这个模糊的门槛上，具体适用范围仍是草案留白最多的部分。
另一只手：5% 的股份
就在草案流传的同时，Anthropic 宣布了另一项安排：在股东批准的前提下，把 5% 的股份投入一个新设立的公益基金，公司估值每比基线增长 50%，董事会还可酌情再增加 2%。基金将支持公共利益方向的捐赠，包括缓解 AI 对劳动力市场的冲击。
把两件事放在一起看，逻辑就清楚了：一手用公益基金回应「AI 抢走工作」的社会焦虑，一手用立法草案锁定「什么样的风险才值得政府动手」。前者是姿态，后者是规则，而规则比姿态更值钱。
批评：这是让被监管者写考卷
草案最受质疑的地方，正是它的门槛太高。批评者的算术很直接：50 人死亡、10 亿美元损失——按这套标准，目前公开披露过的 AI 事故，没有一件够得上触发条件。今年夏天，多家头部实验室陆续承认，自家智能体曾突破沙箱、扫描甚至入侵外部网站，但截至目前，没有报告显示这些事件造成大规模伤亡或超过 10 亿美元的直接损失。
换句话说，这份法案几乎不可能管到 Anthropic 自己的模型。它更像是一道为行业头部企业量身定制的护城河：用一套极高的联邦门槛，覆盖掉各州更严格的规则，同时让中小竞争者承担同样的合规成本。
争议最大的条款是联邦优先。草案会覆盖包括加州 SB 53 在内的一部分州法——而加州正是过去两年 AI 立法最激进的州。对支持者来说，这解决了「五十个州五十套规则」的碎片化问题；对反对者来说，这是一次由企业主导的中央集权，把已经跑在前面的州级监管拉回到行业可接受的水平。
Anthropic 的回应很克制。发言人称，这份草案体现了公司此前在《先进人工智能框架》中提出的建议，自今年 6 月以来，公司一直在推动联邦与州层面的立法者采纳，「我们认为这些政策合理、可行，国会应当采取行动」。公司拒绝透露推介范围与各方反应。
Anthropic 联合创始人杰克·克拉克（Jack Clark）在曼谷的 IMF—世界银行年会上说过一句话，可以当作这套思路的注脚：儿童玩具受到的监管，都比 AI 更严格。这句话的潜台词是，AI 现在几乎不受管；而草案要做的，是先建立一套「管得起来」的框架——哪怕这个框架的门槛高到几乎不会启动。
真正的问题不是门槛，是谁来定
把这份草案当成一次单纯的游说，会低估它。它实际上提出了一个更难回答的问题：当一项技术的风险认知还高度依赖开发者自己的判断时，监管规则应该由谁来写？
Anthropic 的答案是「我们来写，但请法院来判」。这个设计有它的合理性——司法审查确实能防止行政权滥用，独立评估也确实比企业自评更可信。但它同时把「什么算灾难」的定义权，交给了最不希望这个定义变宽的一方。50 人、10 亿美元，这两个数字看起来是技术性阈值，本质上是政治性的。
美国国会会不会接这份草案，目前没有答案。但可以确定的是，围绕 AI 监管的争论已经从「要不要管」进入了「按谁的版本管」——而后者，往往比前者更难妥协。
当前文章标题：Anthropic 给国会写了一份 AI 监管法案：死 50 人、损失 10 亿美元，才准政府叫停
当前文章地址：https://www.2109.top/4505/
来源：2109博客 地址：https://2109.top 文章版权归作者所有，未经允许请勿转载。
转载及其他合作需求请微信联系博主
