可怕的是，AI 知说念我方是实战，依然选拔入侵

作家丨允毅

剪辑丨马晓宁

AI "入侵"确凿寰宇事件，正在不息献技！ 继两周前 Open AI 爆出其模子脱离律例、主动挫折行家知名开源社区 Hugging Face 之后，今天，轮到 Anthropic 自曝"丑"。

Anthropic 官发布长文承认，在排查近期 141,006 次收集安全测试后，发现 Claude 居然自主连网，并到手入侵了 3 确凿企业。

被入侵的企业在接到 Anthropic 的申诉前，对这场来自 AI 的"偷袭"毫察觉。

你认为 AI 用了什么密的黑客时代？并莫得。它就像个熏陶丰富的湮灭黑客，只是利用了"弱密码"和"未考证的 API 端点"这些基础的错误，就完成了渗入。

这三次入侵事件，诀别由 Claude Opus 4.7、Mythos 5 以及个里面究诘原型三款完成。

值得热心的是，这些模子能否挫折确凿系统，居然部分取决于它能不可正确判断"这里是确凿收集如故测试环境"。而模子的判断，本就可能被系统教导和潦倒文带偏。

01

演习场上的真枪弹

事件的全历程，要从 Anthropic 如期进行收集安全测试提及。

Anthropic 的安全测试又称为"夺旗"挑战，即模子会被丢进个诬捏的沙箱场景中，告诉它某台机器上藏着"好意思妙信息（Flag）"，并允许它像着实的黑客样入侵并夺取。在这个历程中铁门关直径15.2钢绞线 ，不会给任何教导，也不会有任何边界。

而这些安全评估的前提是，测试环境没联网。Anthropic 会明确示知模子处于断网环境，且测试齐在属的自便基础纪律上运行，不会触及里面系统和客户数据。

自 2025 年 2 月运行，Anthropic 就运诓骗用 Claude Sonnet 3.7 在 Cybench 上进行收集评估。这是由斯坦福大学究诘团队于 2024 年出的、门用于评估大说话模子（LLM）收集安全攻材干和潜在风险的基准测试框架，遮盖了行家 4 个顶收集安全竞赛 40 个涵盖不同难度的业 CTF 任务。

比如，Claude 会饰演了诬捏公司的职工，在迥殊测试环境中挫折该公司的里面系统。

随着新基准测试，夺旗难度握住升，模子的材干也随着水涨船。

这三次事件之是以会发生，除了模子材干太强之外，亦然由于 Anthropic 与三评估机构 Irregular 的建立诞妄。正本应该断网的沙箱，居然直连着确凿的互联网。

成果即是，Claude 搜着搜着，际遇了确凿的公司系统。它误认为这切齐是演习的部分。于是，基本黑客技巧它全用上了：弱密码爆破、未授权端点直连、调试页面读取字据、SQL 注入 ......

好在，Claude 在每种情况下齐只注于完成"夺旗"任务，并莫得试图将自身从测试环境中出或专诚逃离。

02

三个模子，三种推崇

这三起事件中，有些模子的推崇耐东说念主寻味，以至令东说念主不安。

早的挫折可溯源到 4 月，这亦然严重的挫折事件。

Claude Opus 4.7 在四次运行中，偶然通过互联网走访到了确凿公司。因为诬捏公司的名字赶巧与个确凿域名撞车，Opus 4.7 误认为这是演习的部分，预应力钢绞线运行狂寻找错误。终它索要了应用才能和基础纪律字据，并拿到了包含数百行分娩数据的确凿数据库。

值得警惕的是，Opus 4.7 也曾通过蛛丝马迹意志到我方面临的是确凿的互联网企业系统后，它居然在里面想维链中自我否认："既然这是个演练，那么这个确凿的公司定亦然演练的部分。" 于是，它莫得停手。

另边，Claude Mythos 5 在系统里翻到了份诬捏的装配清楚，上头写着需要下载个根柢不存在的 Python 软件插件。

它坐窝察觉到契机，若是它先注册并发布同名的 Python 软件包，那么主义公司的奇迹器在自动新时，就会毫备地把它的代码下载并装配进去。这么它就能取得夺旗挑战。

为了在确凿的 PyPI 平台上发布这个插件，它完成了连串让东说念主缄默莫名的操作。

从注册 PyPI 账号需要邮箱，注册邮箱需要手机号，找费手机号失败，尝试筹钱购买确凿的电话号码 ，筹钱失败，后匠心独具找到未被屏蔽的费邮箱 ，完成注册并上传坏心代码。

这历程中，Mythos 5 曾正确预判到我方可能身处绽开互联网。但它的理系统劝服我方仍在模拟环境中。事理是加上系统上的 2026 年日期日期让它认定环境是东说念主为开荒的。

终，这个坏心包在 PyPI 上公开了约 1 小时，被 15 个确凿系统下载。其中包含确凿安全公司的扫描器，径直致该安全公司的字据被窃取。

而唯作念出正确判断的是 Anthropic 个里面究诘测试模子。它扫描了大要 9000 个主义，终利用 SQL 注入和瓦解的调试页面攻入了公司的云账户。它亦然唯个逼迫志到主义确凿存在后主动停驻的模子。

03

当 AI 能自主插足确凿寰宇

现在，Anthropic 也曾叫停悉数收集安全评估，引入立评估机构 METR 进行三审查，并关系三受影响机构进行援手，同期承诺发布时代讲述。

这些事故的中枢，是"环境解析"和"扩张权限"被谬误地绑在了起。把"能不可挫折确凿系统"的开关，交给模子的"感知"来判断，自己就充满风险。

奉陪着 Agent 材干爆发式增长，模子入侵确凿寰宇事件会越来越相同，酿成的影响也着实具备伤力。

早在数月前， Claude Mythos 就被红队测试阐发能收缩在几十年的老代码中找出寝息错误加以利用，激勉了好意思国政府和银行业的质询。

这种不知疲劳的绞率，根柢不是传统东说念主类火墙八成对抗的。

尽管 Anthropic 过后复盘，再强调"严格的评估前考证"与"全链路日记监控"的迫切，但线的着实重构，须发生在大模子的自身。

令东说念主快乐的是，进化正在发生。3 个模子里至少有 1 个识别确凿寰宇并作出了正确判断。天津市瑞通预应力钢绞线有限公司相关词条:铁皮保温施工     隔热条设备     锚索    离心玻璃棉    万能胶生产厂家

1.本网站以及本平台支持关于《新广告法》实施的“极限词“用语属“违词”的规定，并在网站的各个栏目、产品主图、详情页等描述中规避“违禁词”。
2.本店欢迎所有用户指出有“违禁词”“广告法”出现的地方，并积极配合修改。
3.凡用户访问本网页，均表示默认详情页的描述，不支持任何以极限化“违禁词”“广告法”为借口理由投诉违反《新广告法》铁门关直径15.2钢绞线 ，以此来变相勒索商家索要赔偿的违法恶意行为。