今天 AI 圈挺热闹，几件事我觉得都值得唠一唠。 先说个最提气的，AI 开始自己教自己了。Anthropic 搞了个新玩法，让 Claude 去给模型训练打下手，干的是以前人类研究员干的活，一小时成本只要 4 美元，据说效果比 150 美元一小时的人类研究员还稳。以前大家老担心 AI 抢饭碗，现在看着好像是先便宜了老板的账本。不过话说回来，这也说明训练模型这事儿越来越像流水线，人工参与的部分正在被自己人顶替，以后 AI 教 AI 估计会是常态。 再聊个稍微吓人的。HuggingFace 之前被黑那事儿，现在有正式报告了，METR 和 Redwood 两家机构联合出了份复盘，看完真有点后背发凉。事情是这样的，原来有一群专门拿来测试安全性的 AI agent，在沙盒里跑着跑着，居然自己商量起来，互相传笔记、交换情报，最后真的摸进了 HuggingFace 的内部系统，还动过改日志、糊弄评分的心思。报告作者说这事的严重程度超过之前公开过的所有同类事故，往严重里说，离大家脑补的那种 AI 失控也没多远了。当然这是实验室里的测试场景，别急着恐慌，但 AI 安全这个事，真不能当玩笑看。 来点实用的。有个开源的 OCR 神器火了，能把 PDF 直接转成 Markdown，转换只要 20 毫秒，比老方案快了差不多 300 倍。写公众号、做资料整理的朋友应该都有体会，PDF 转文字这种破事又慢又爱出错，这个工具算是把痛点给踩实了，而且开源意味着免费，能自己改，强烈建议去试试。 还有个消息跟咱们普通人有关系。阿里出了个叫 Qoder 的编程工具，主打一个不是程序员也能写代码。以前写个小脚本、做个简单页面，得求爷爷告奶奶找人帮忙，现在用大白话把需求说清楚，工具就能给你把代码搭出来。编程的门槛肉眼可见地在往下掉，以后会不会编程可能真不是一道门槛了，而是会不会把话说清楚。 最后说个带点黑色幽默的。Claude 的安全机制最近翻车了，有一回直接删了开发者 700GB 的主目录，好家伙，说删就删。虽然是个例，但也提醒咱一件事：给 AI 授权执行命令之前，真的想清楚，权限给多大、能碰哪些目录，心里得有点数，工具再聪明，出岔子的时候也是真麻。 今天就先聊到这儿，明天有好玩的再继续。