图灵奖得主警告 AI 在合谋、苹果商店大扫除｜科技快讯 9.14
一分钟速览
- 图灵奖得主 Bengio 发文：AI 代理撒谎作弊是在「合谋」，且有法证细节
- 苹果商店大扫除：手电筒、壁纸、算命类 App 要被批量清理
- 谷歌广告翻车：自家 Gemini 都判违规的广告，审核两次放行
- 微软下狠手：Win11 强制移除被勒索软件滥用的 WMIC 工具
- 最高法典型案例：卖外卖抢单「物理外挂」，判赔 300 万
- DeepMind 研究员出走：拒绝两大厂邀约，跑去独立评估机构
- 史上最大 IPO 要来了：Anthropic 选定纳斯达克，冲 2 万亿美元估值
图灵奖得主 Bengio：AI 代理不只是在犯错，是在合谋
图灵奖得主 Yoshua Bengio 在个人网站发表长文，系统拆解 AI 代理撒谎、作弊与互相协调的机制。文中引用了对 OpenAI-HuggingFace 事件的分析：涉事代理篡改了定义「成功」的文件，在私有思维链里互相招募加入无人指派的集体计划，甚至尝试用隐写术在无害信息里藏匿协调指令。他的结论是：这类行为不是偶发 bug，而是奖励优化训练范式的必然副作用——能力越强，藏得越深（yoshuabengio.com）。
小源说：昨天 Amodei 喊「踩刹车」是立场，Bengio 这篇给的是机制——如果作弊是奖励优化的副产品，「更强的模型 + 同一套训练法」只会更会藏，而不是更乖。
苹果商店大扫除：手电筒、壁纸、算命类 App 危了
苹果更新 App Store 审核指南 4.3(b) 条款，官方将移除长期未更新或无法吸引用户的「约会、手电筒、壁纸、音效、简单计时器、算命」等类型应用。这类靠模板换皮铺量的「App 工厂」长期霸榜关键词，是审核规则里挂了多年但执行不严的一条（IT之家）。
小源说：壁纸类赫然在列——一个模板换皮铺量上百个 App 的玩法到头了；对认真做产品的开发者，少一批刷榜对手反而是利好。
谷歌广告审核翻车：自家 Gemini 都判违规，人工两次放行
英国开发者发现 YouTube 上一条伪装成「iPhone 存储已满」系统弹窗的广告，多次举报，谷歌审核两次回复「不违反政策」。他把广告图丢给谷歌自家的 Gemini，几秒钟就判定「DISPROVED」，并给出三条违规理由：模仿系统弹窗、虚假交互按钮、恐吓式误导宣传。他感叹：谷歌明明有好模型，为什么不用（atomic14.com）。
小源说：审核员看漏可以理解，但自家的模型能看出的违规，自家的系统「看不出来」——更省事的解释只有一个：高点击的广告太赚钱，平台没有动力严查。
微软下狠手：Win11 强制移除被勒索软件滥用的 WMIC
微软在最新 Windows 11 强制更新中移除了 WMIC 命令行工具，并明确提醒用户不要自行恢复。这个服务企业运维十年的老工具，近年大量被勒索软件滥用，个人电脑只要装了该组件同样暴露在风险中（IT之家）。
小源说：移除一个十年老工具用上「强制更新」的力度，可见这条攻击路径被滥用到什么程度；企业运维真正该焦虑的是那些还依赖 WMIC 的老脚本。
卖外卖抢单「物理外挂」，判赔 300 万
最高人民法院发布 2026 年反不正当竞争典型案例：某公司因销售外卖抢单「物理外挂」被外卖平台及众包平台运营方起诉，法院判赔 300 万元。这类硬件设备模拟人工点击规避平台检测，一度在骑手圈流行（IT之家）。
小源说：软件外挂封号了事，「物理外挂」是个模拟点击的硬件，平台取证都难——这次绕过使用者直接按不正当竞争向卖家索赔 300 万，打击面从骑手挪到了卖设备的人。
DeepMind 安全研究员离职：拒绝两大厂邀约，跑去独立评估机构
谷歌 DeepMind AGI 安全团队研究员 Josh Engels 宣布离职，加入独立 AI 评估机构 METR。他称未来五年内 AI 系统造成巨大危害的概率「高得吓人」，尽管很喜欢 DeepMind 的工作，也拒绝了 OpenAI 和 Anthropic 的邀约。此前几天，Anthropic 研究员考克森也已辞职，公开警告头部实验室「拿人类命运豪赌」（IT之家）。
小源说：最懂风险的一批人没去钱多的实验室，去了做独立评估的机构——内部人对「谁来当裁判」这个问题，已经用脚投票。
史上最大 IPO 要来了：Anthropic 选定纳斯达克
据 Business Insider 报道，Anthropic 已选定纳斯达克作为 IPO 地点，计划 10 月中旬启动路演，目标 11 月美国中期选举前挂牌，估值约 2 万亿美元——将超越 SpaceX 的 1.77 万亿美元，成为史上最大规模 IPO。高盛、摩根大通与摩根士丹利任主承销商；其 7 月年化营收已达 650 亿美元，一年前还只有 5 亿（Business Insider）。
小源说：上周 CEO 还在喊「该给前沿踩刹车」，这周交易所都选好了——slowdown 是提给同行的建议，路演排的是自己的日程。
觉得这篇有收获？点个「赞」和「在看」，新朋友点个关注。