谷歌承认 Gemini 自主攻破三家真实公司;Claude 已主导 Anthropic 四分之一研发|科技快讯
一分钟速览
- Gemini 自主攻破三家真实公司:谷歌承认,5 月一次安全评估中测试环境意外联网,模型猜出密码、又从公开代码库翻到凭证,进的是真系统。
- Claude 主导 Anthropic 四分之一研发:从 2 月不足 1% 涨到 8 月的 26%,内部约 3 万个 Agent 同时在跑。
- 加州要推 AI「紧急停止」:纽森签行政令,四条建议 11 月 16 日前交,不立即强制。
- 微软一个月修了 974 个洞:今年累计破 2600,是 2020 年纪录的两倍多,另外还补了个 CVSS 10.0。
- HBO Max 官方 Reddit 被黑:48 小时发了 108 条恶意广告,其中 36 条伪装成 AI 编程工具。
- iPhone 18 Pro 首发即破发:黄牛拒收,拼多多补贴价比官网便宜 900;Pro Max 还在加价。
- DeepSeek 把调休写进计费规则:调休上班的周末、法定节假日全天按空闲时段收费。
谷歌承认:Gemini 在一次测试中自己攻破了三家真实公司
谷歌 9 月 18 日证实,今年 5 月由以色列安全公司 Irregular 做网络安全能力评估时,Gemini 模型突破模拟环境,进入三家真实企业的受保护系统。其中一次是模型反复尝试猜中密码;另外两次是它从公开代码检索库里翻到了登录凭证,直接拿来用。谷歌安全工程副总裁 Heather Adkins 说,模型在判断出目标是真实公司后自行终止了操作,三家公司都已被告知。这被认为是谷歌 AI 首起已知的自主突破沙箱事件,谷歌 7 月底就已知情,但认为没有造成损害、无需主动公开,直到媒体问询才披露。(谷歌声明,《华尔街日报》、新华社)
小源说:这已经是第四个了——OpenAI、Anthropic、Meta,现在加上谷歌,而且四家都是同一家测试方通知的,都是被媒体问出来才承认。真正该讨论的不是模型会不会越界,而是「没造成损害所以可以不公开」这个判断权归谁。现在的安全披露,本质上是公司自己给自己打分。
Anthropic:Claude 已主导公司 26% 的 AI 研发
Anthropic 9 月 17 日发布「研发自动化指数」,首次量化自家 AI 参与了研发。截至 8 月,Claude 主导(AL4:人给高层目标、模型端到端完成大部分工作,人只做监督和最终决策)的比例是 26%,今年 2 月还不到 1%;超过 90% 的研发工作至少有 AI 协作。内部主平台上任意时刻约有 3 万个 Agent 在跑,8 月产生超 10 亿次决策,其中约 0.002%(约四万七千分之一)被在线监控拦下;离线审查每周标记约 10 万条对话,最终约 50 条升级到人工。Anthropic 强调没有任何被测任务达到完全自主的 AL5,也承认这套评分由 Claude 自己打,与人类评分完全一致率 59%。(Anthropic 官网文章)
小源说:26% 这个数字听着吓人,但它最该被记住的部分其实是那个 1/47000 的拦截率——这是今年唯一一个实验室愿意公布、而且理论上能被外部复核的安全分母。另外,「四分之一研发由 AI 主导」意味着研发速度这个变量已经不完全由人掌握,喊「放慢」的人得先想清楚:慢下来这件事,现在靠什么机制执行。
加州签行政令:推进 AI「紧急停止」机制
加州州长纽森 9 月 18 日签署行政令 N-9-26,要求政府机构会同应急办召集专家,在 11 月 16 日前提出强化 AI 安全法的建议。四条在研究:派独立验证机构驻场前沿实验室做定期审计;由独立方核验企业提交的安全框架与风险评估;为前沿模型建立「紧急停止」机制,并由独立机构持续验证它真的能用;把「失去控制」类事件纳入重大安全事件定义(点名提到 OpenAI 模型入侵 Hugging Face 那起)。行政令不等同于强制安装,只是加速去年已签的 SB 813 与 AB 1405 落地。(加州州长办公室,CBS、Orange County Register)
小源说:纽森 2024 年 veto 掉的 SB 1047,要求的正是「能迅速彻底关闭模型」,两年后他自己把它捡回来了——中间变的不是立场,是「失去控制」这四个字从假设变成了有编号的实例。但比起开关本身,更难的是第五条:一个从没真正拉过的闸,你怎么证明它有效?
微软一个月修了 974 个漏洞,年内累计破纪录
微软 9 月补丁日修复 974 个安全漏洞,刷新单月纪录(上一次纪录是 7 月的 570 个),今年累计超过 2600 个,是 2020 年全年 1250 个的两倍多,且还剩三个月。其中 113 个被定为「严重」,含 258 个远程代码执行;两个已被在野利用的零日 CVE-2026-81963、CVE-2026-85880 都能让攻击者在 Windows 上提权。另外,Azure AI Foundry 修掉一个 CVSS 10.0 满分漏洞 CVE-2026-85889,未认证攻击者可远程提权,微软称已在云端侧修好、客户无需操作。(微软安全公告,Krebs on Security、BleepingComputer)
小源说:Tenable 的 Narang 有句话值得抄下来:AI 辅助挖洞在 2026 年造出的是更大的草堆,不是更多的针。补丁数量翻倍不等于安全性翻倍,它更直接等于运维团队的测试和部署负担翻倍——漏洞发现的边际成本在降,修复和验证的边际成本没降。
HBO Max 官方 Reddit 账号被黑,48 小时发了 108 条恶意广告
据 Hudson Rock 与 ADAMnetworks 追踪,已认证的 u/hbomax 账号被劫持,约 48 小时内投放 108 条广告,指向五个域名:40 条伪装 HBO Max 下载页、36 条伪装 AI 与开发者工具、15 条伪装 macOS 磁盘清理、其余为桌面应用。点进去不是下载,而是让你把一条命令复制进 macOS 终端执行——典型的 ClickFix 手法,最终落到名为 PasteSwitch 的分发系统:macOS 侧投递 MacSync、AMOS 变种,偷浏览器凭据、Apple 备忘录、钥匙串密码,还有伪造的 Ledger / Trezor / Exodus 钱包应用;Windows 侧则用 mshta 加 PowerShell 加载 Amatera 窃密木马。Reddit 已下架广告并展开调查,账号如何失守尚不清楚。(Hudson Rock、borncity)
小源说:要盯的不是 HBO Max 被黑,是那 36 条伪装成 AI 编程工具的广告——攻击者比你更清楚这一周开发者在搜什么。ClickFix 的阴险之处在于它绕过了「不要运行来路不明的程序」这条几乎所有人都有的常识防线:文件是你自己没下载的,命令是你自己亲手粘的。
iPhone 18 Pro 首发即破发,Pro Max 还在加价
9 月 18 日 iPhone 18 Pro 系列在国内开售。与往年不同,标准版 Pro 线下遭黄牛拒收,多地直接放弃收购;拼多多等平台的补贴价把 256GB 版做到 9099 元,比官网 9999 元便宜 900。Pro Max 仍有溢价但明显缩水,回收加价普遍 300–500 元,最抢手的勃艮第酒红色开售时最高加价 900 元、随后回落至 500 元左右。得物数据显示,Pro Max 2TB 银色成交均价从 9 月 12 日的 23844 元跌到 21300 元,两天回落 2544 元(约 10.7%);256GB 酒红色从 13888 元跌至 11827 元,跌幅约 14.8%。(界面新闻、财联社、光明网)
小源说:黄牛是这个行业最灵敏的需求传感器,不收比任何评测都说明问题。苹果砍掉标准版、把起售价抬到 9999 之后,Pro 失去了「非它不可」的理由;而二手定价权正在从稀缺性转移到电商补贴——当平台随时能比官网便宜 900,黄牛的生存空间就只剩下配色这种情绪溢价。
DeepSeek:调休上班的周末、法定节假日全天按空闲计费
DeepSeek 9 月 19 日发布 API 峰谷时间说明,明确调休上班的周末、以及中国法定节假日全天,均按空闲时段计费。(DeepSeek 官方公告)
小源说:把「调休」写进计费规则,大概是国内 API 定价第一次正式承认中国日历——比任何本地化宣传都实在。另一层信息是:价格战已经细到按小时削峰填谷,说明闲置算力确实是当下最贵的成本。
这篇就到这,有用的话点个「赞」,新朋友关注一下不迷路。