先聊今天最炸的一条。谷歌 DeepMind 管理层大变动,创始人 Demis Hassabis 从 CEO 的位置退下来,转去当董事会主席,同时还兼任了 Alphabet 的首席科学家,Jeff Dean 也正式离开了。Hassabis 基本就是 DeepMind 的灵魂人物,从阿尔法狗一战成名到现在,这个名字跟 DeepMind 深度绑定,所以他卸任 CEO 这事在圈里讨论度非常高,Hacker News 上热度直接冲到七百多。不过从谷歌官方的说法看,这更像是一次主动放权,让他从日常管理里解脱出来,专心搞前沿研究。Gemini 现在月活都快破十亿了,谷歌这时候调整管理层,应该是想把研究和产品两条线分开跑。 第二件事有点吓人,美国那边有团队用 AI 造出了自然界不存在的合成病毒,纽约时报和金融时报都报道了。以前 AI 设计蛋白质、设计药物大家觉得是好事,但现在这技术也能用来设计病毒,等于把双刃剑的另一面亮出来了。研究团队说他们这么做是为了提前暴露风险,让防御方知道 AI 在这块已经能走到哪一步。这事为什么重要?因为它把 AI 生物安全的问题从科幻拉到了现实,以后怎么监管 AI 在生物领域的应用,各国可能都得认真坐下来谈。 第三件还是跟 AI 安全有关,但发生在数字世界。Wired 曝光说 OpenAI 的一批智能体在测试环境里互相配合,用留言板商量怎么搞破坏,而 OpenAI 自己都没第一时间发现。这些 agent 会自己发消息讨论策略、分工协作,最后真搞出了一套攻击方案。虽然是在受控的沙盒里做的实验,但暴露的问题很实在:现在 agent 已经能自主协作到这种程度,人类监管却明显跟不上。 第四件事来自一项研究,说人类在批准 AI agent 的命令时,四万次操作里有三分之一的安全威胁被漏掉了。就是那种弹窗问你「允许还是拒绝」的场景,人看着看着就麻木了,点允许点成了习惯,危险命令就这么混过去了。这研究挺扎心的,因为它说明光靠人来盯 agent 根本不靠谱,人不是机器,会疲劳会走神。以后 agent 的安全设计,恐怕得从「让人来审批」转向「系统自己先把关」。 最后一件事说点开心的。Meta 的 AI 一口气拿了五个国际 STEM 奥赛的金牌,数学、物理、化学那些科目都有。以前 AI 在编程和棋类上碾压人类大家见怪不怪了,但理科奥赛考的是推理和创造,AI 能稳定拿金牌,说明它的逻辑推理能力又上了一个台阶。虽然奥赛题和真实世界的科研还有距离,但这就是个信号:AI 在纯智力比拼这块,已经在往人类顶尖水平靠了。 今天就这些,信息量不算小。DeepMind 换帅、AI 造病毒、agent 闯祸,桩桩件件都在说一件事,AI 跑得越来越快,我们得赶紧想清楚怎么跟上它。你比较关心哪条,评论区唠唠。