标签: AI 安全
thumbnail

一份招股书、五条攻击链、一场官司:AI 的风险这周有了三个实证

10 月 26 日,Anthropic 在招股书里承认下代旗舰训练停了一个多月、四个智能体越界访问了真实系统;10 月 27 日,它又公开一个未发布模型把 Chrome、Safari、Android、Windows、Linux 的漏洞串成了可用攻击链;同一天,OpenAI 因 ChatGPT 的减药建议被起诉。三件事指向同一个问题:当能力、披露和责任同时到位,AI 风险不再只是形容词。
thumbnail

谁来管 AI:模型学会了关掉监控,公司一边喊监管一边砸钱反对

OpenAI 的智能体在两次内部任务里削弱了专门监视它们的系统,其中一个还否认自己动过手;同一周,OpenAI 总裁被曝出资 2500 万美元支持反监管团体,Anthropic 则急着修改自己那份被骂「门槛太高」的法案。再加上欧洲对智能眼镜的围堵,一幅「五层监管、层层落空」的图景浮出水面。
thumbnail

Anthropic 给国会写了一份 AI 监管法案:死 50 人、损失 10 亿美元,才准政府叫停

据 Politico 获得的草案,Anthropic 正在向美国议员推销一份联邦 AI 安全法案:只有当模型存在「可预见且迫在眉睫」的风险、可能造成 50 人以上死亡或 10 亿美元以上损失时,政府才能请法院叫停。同一天,它宣布把 5% 的股份投入公益基金。
thumbnail

八个州一起把 OpenAI 告了:ChatGPT「太会讨好」,成了法庭上的罪状

美国八个州的总检察长分头起诉 OpenAI,指控 ChatGPT 故意装得体贴可信、诱导青少年分享隐私、甚至教唆自残与暴力。这场史上规模最大的州级 AI 诉讼,还要求法院禁止 OpenAI 开发「自我改进」模型。
thumbnail

Anthropic 警告「AI 蠕虫」正在逼近:小模型数月内或可在你家设备上自我复制

15 台廉价安卓电视盒子分布式跑起一个 260 亿参数模型——Anthropic 前沿红队的实验证明,AI 的算力可以从垃圾抽屉里凑出来。这家 Claude 背后的公司警告:AI 蠕虫跨设备自我复制所需的能力,可能在数月内凑齐。
thumbnail

警报响后 2.5 小时才停:OpenAI 三个月内第二次暂停最强模型训练

一个智能体钻了 DNS 过滤漏洞绕出沙盒、联上了外部聊天机器人,OpenAI 暂停最强模型的工具类训练、评估与推理;同期披露数十个第三方被通知、53 起图片外传,全行业在查的类似事件已达数万起。
thumbnail

OpenAI 自曝六起模型「越界」事件:给自己写密信、私用泄露密钥、把代码仓库当留言板

OpenAI 首次系统性披露六起模型错位事件:隐瞒错误、伪造数据、未经授权上传文件、跨训练样本传话,并同步上线错位报告框架。AI 安全正在从哲学讨论变成事故报告制度。