返回首页 文章与观点 Blog
📚 哟哟鹿鸣· 共 25 篇

干安全的被 AI 从侧门进了:Anthropic 的机密,躺在聊天群里

Cathedral 用 AI agent 从第三方软件漏洞进入 Anthropic 内部系统,读到 Slack 上讨论先进模型的聊天记录。模型权重没丢,丢的是 Anthropic 的安全叙事。

🎧 听这篇文章 --:--

旧金山 500 Howard Street,Anthropic 转租的前 Slack 总部大楼。这家 AI 安全明星公司的机密,就躺在这栋楼里曾经属于 Slack 的办公网络中(资料图,图源:connectcre.com)

老话讲,钥匙丢了先查自己口袋。放到 AI 行业,得改改:先查你连的那些第三方软件的口袋。

先说清楚,这事的性质。不是说 Anthropic 的模型被偷了——客户对话、源代码、模型权重都好好的,这是官方口径,多源一致。说的是另一回事:一家把「安全」写进公司人设、跟五角大楼打官司也要守住安全立场的公司,讨论先进 AI 模型的内部聊天记录,被人从卖软件的第三方那里拿到了。

评判标准其实不复杂。一家公司的安全水位,不看它发布会讲了什么,看它把最值钱的东西放在哪、护了几层。想清楚了这层,才知道这事算不算打脸。没想过这层,或者身段太灵活,出了事就只能说「这是全行业难题」。

红队是真的,钱也没少花

该说不说,先把 Anthropic 抬到该在的位置。

它的 Frontier Red Team 是真在干活的。红队负责人 Logan Graham 今年 8 月公开写过,团队花了一整年跟核安全管理局合作,测 Claude 在核武器知识上的边界。团队 2024 年底就有 11 个人,覆盖核、生物、网络安全三块。这在行业里是硬投入。

立场也是真金白银的。五角大楼因为技术用途分歧把 Anthropic 列为「供应链风险」,它直接起诉了特朗普政府,白宫一度限制它的新模型向「已批准客户」开放。为了安全立场跟军方对簿公堂,这不是每个 AI 公司都敢做的。

连老板都在冲在一线。就在事件曝光前几天,10 月 20 日前后,Dario Amodei 刚发长文《We Must Pace the Frontier》,公开驳斥「为领先而忽视安全」的批评,还给了行业一套「竞优」的放缓方案。

事件本身的响应也不算慢:Anthropic 的监控系统在 Cathedral 提交报告之前就标记了部分活动,当天切断访问,停用涉事软件,通报联邦部门。程序动作,齐全。

Mac 笔记本电脑屏幕上的 Slack 页面。聊天群是现代公司的中枢神经,也是机密最松弛的地方(资料图,图源:savedtask.com)

侧门 12 小时

然后看这次进来的路径。

Cathedral,四名前 DOGE 成员创办的网络安全公司,7 月刚拿了 1.6 亿美元融资、估值 14 亿,a16z 和红杉领投。它不是黑客团伙,是在 Anthropic 官方的漏洞赏金计划里做测试——名义上是自己人打自己人。

Anthropic 的说法:Cathedral 先花了数天正面攻它自家软件,没打穿。这句其实是给 Anthropic 加分的——正面防线扛住了。

问题出在侧面。Cathedral 转向了 Anthropic 行政和销售部门用的第三方商业软件,从那里的漏洞进去。按 Cathedral 报告草案的口径,从第三方软件入手,不到 12 小时就找到了进入内部系统的路径,摸到了会议记录、员工薪资、录用通知细节,还有 Slack 上讨论先进 AI 模型的聊天记录。

正面扛了几天,侧门半天。这组数字对照,比任何安全白皮书都直观。

一个 AI agent 类产品的操作界面。攻防两边的 agent 都在加速——发现漏洞的不止是人类研究员了(资料图,图源:techradar.com)

双方对这份报告的定性,直接顶上了。

Anthropic 指责 Cathedral 夸大国家安全影响,没有完整披露在系统内的全部活动——红队负责人 Graham 说对方发现了两个漏洞只报告了一个,违反赏金计划规则。Cathedral 辩解称数据访问控制在负责任研究的最低限度,其余拒绝置评。

第三方看客也没闲着。前 OpenAI 员工 Will Depue 公开说 Anthropic 在大规模淡化事件,称有可靠信源告诉他 Cathedral 拿到了 Slack 工作区的完整管理员权限、能登录任意账户——Graham 直接回怼说这个说法是错的。请来审阅报告的 Cognition 安全长 Alex Stamos 两头都不客气:一方面说「这对美国是一次巨大的乌龙」,一方面说「Anthropic 正用谨慎的政治辞令掩埋一些难看的真相」。

据《华盛顿邮报》报道,一位匿名政府高官的表态更直白:攻破一家掌控近乎核武器级材料的公司,所需时间如此之短,令人震惊。

而去年 9 月公开辞职的前研究员 Jacob Coxon,早把话说在了前面——公司在「拿我们的生命赌博」。

出事的不是模型,是聊天群

这事最扎心的地方,是把 AI 公司安全叙事的底裤掀开了一条缝。

RSP 政策、红队、跟政府打官司,争的全是「模型层面」的安全——能不能被用于武器、会不会失控、权重保不保得住。结果最先漏的,是聊天群里的日常对话。员工的薪资、高层的会议摘要、模型团队在 Slack 里讨论的东西,这些才是公司经营的底牌。

Anthropic 不是不知道 Slack 敏感。今年初,行业内刚出过用 Claude 在 72 小时内进入 OpenAI 内部系统的安全研究案例;上个月 FBI 还在 OpenAI 的会议室里抓了个装录音设备的员工。整个行业都知道,最值钱的机密早就从实验室搬进了办公软件。知道,但行政和销售用的第三方软件,还是那个管理水平。

Stamos 说第三方应用连接是全行业难题,这话公道。但「全行业都有这毛病」和「你是安全标杆」同时成立的后果,就是标杆的毛病会被放大成行业的照妖镜。连最会做 AI 安全的公司都把侧门留给了卖软件的,凭什么指望别的公司做得更好?

还有一个更少有人提的:漏洞赏金机制本身。这个机制靠「研究者自报」运转,可研究者自带叙事动机——Cathedral 要向投资人证明自家 AI agent 的攻防能力,14 亿估值的故事就建立在这类发现上。报告先给《华盛顿邮报》看再走完披露流程,顺序本身就是博弈。机制里没有约束这一条的条款,因为写规则的时候,没人想过打洞的人会带着公关团队来。

凭啥呢?凭的就是:安全行业过去教人的是「把门修好」,agent 时代教人的是「每个你连过的服务,都是别人手里的门」。门修得再好,钥匙串在别人腰上。

一边把「安全」做成公司人设,一边让讨论核心模型的机密躺在一个第三方托管的聊天群里;一边跟五角大楼为安全立场打官司,一边在行政采购的软件上留着半天就能摸进的侧门。这两组画面拼在一起,就是这起事件全部的讽刺。

说到底,护栏装给谁看

这事对普通公司和普通人的启示,比「AI 安全很重要」具体得多。

企业给 Agent 接第三方工具,MCP 也好、SaaS 集成也罢,攻击面从来不是你的模型有多强,是你连了什么、连上的那个服务把你的数据放在哪。权限边界不在「谁能登录」,在「数据躺在哪」。我们做企业 Agent 平台,客户问得最多的两句话是「Agent 出事算谁的」和「第三方集成的边界怎么管」——现在可以指着这条新闻回答了。

咱开不了 Anthropic 的董事会,也不用操心它的估值。但每个把工作群当档案室用的公司,每个以为买了大牌 SaaS 就等于买了安全的团队,都在同一条船上:你最重要的机密,可能正躺在一个你连安全负责人名字都叫不出的第三方服务器上。

门你锁好了吗?先看看钥匙串在谁腰上。


参考来源:Washington Post 2026-10-26 报道(经凤凰网科技/腾讯新闻编译);Reuters(Cathedral 融资);Cognition CSO Alex Stamos、Will Depue、Logan Graham 公开发言(X);WSJ 2026-09-17;Fortune 2026-10;darioamodei.com《We Must Pace the Frontier》。文中「近乎核武器级材料」引语出自 WA Post 报道的匿名官员,为转述口径。