最近刷到 AI 短剧，我如看到原子弹爆炸，震惊的眩晕难坐。
视频的文字/纹理稳定，物体在切换镜头时维持原样。复杂画面生成的非常好。
虽然动作依旧不流畅，剧节奏混乱。但下一代模型会怎样？半年后呢？
大模型越来越像人造的神。
先让它能 work#
我猜剧情节奏的问题，可能来自作者在画面稳定和剧本质量之间的 tradeoff。视频质量依然来自于“抽卡”的运气。为了让作品能做出来，作者不得不接受不合适的镜头，但保证人物、动作和场景都维持稳定。
这也是 AI 研究一直在做的事，先让模型能 work，再去解决工程化的问题。
可预见后续模型能更可靠地理解要求，
用更短的 prompt 生成质量稳定的画面。之后作者就可以把更多精力投入剧情、节奏和人物上。正如编程领域正在发生的，vibe coding 向 wish coding 的转变。
好故事当然不会自动出现，但表达一个好故事所需付出的成本可以下降。
一次成功不代表可以稳定成功，但它至少给了后续研究一个具体对象，知道失败的原因，就能知道需要解决哪些工程问题。
当“机器能不能做到”不再是讨论对象时，剩下的问题就清晰的多。
数学也是如此#
最近的 AI 数学工作，让这种感受更强烈。
OpenAI 报告称，其内部系统提出了 N-S 问题的一份证明，Astra 参与了后续形式化和验证。
Anthropic 则报告，一个研究版 Claude 通过结合已有数学成果，改进了与黎曼猜想相关的一个下界。
抛开这些工作的数学价值、新颖性，以及模型究竟贡献了多少。无论是否“依赖了人类已有思想”，模型已经证明了自己能 work。无论是否“依赖了人类已有思想”。
即使被解决的问题本身重要性有限，这种能力也值得重视。一项成果的价值，和完成它所需要的能力，是两个相关但不同的议题。
我觉得发现已有结果之间没有被注意到的联系，把一种方法用到新的问题上，这本来就是创新（现在的模型已经能做到，可预见未来会做得更好）。
这也是为什么我不喜欢用“它现在还不能独立发现新方法”来结束“辩论”。即使现在做不到，半年后呢？模型需要多少人类指导，能把推理推进多远，能否从失败中找到下一条路线，这些都值得讨论。
降低 token 消耗是之后的问题，先做好一件事，在便宜的做好一件事。
人造的“神”#
大模型真正可怕的是泛化。同一模型可以执行不同任务，人不必为每个任务重新设计一套完整的求解过程。
独立团队 Robocurive 已经把 Astra 接入机械臂，测试抓取和放置等任务。
抓取一个积木不惊人，前段时间的“机器人运动会”已经展示了 RL 神力。但 Astra 让一种通用模型开始被用于与物理世界交互，并且做的还不错。
如果语言、视觉、推理和工具使用能进一步连接，我们交给模型的任务就可以越来越完整且具体。使用者完全不需要掌握实现目标所需要的技能，甚至不必知道具体应该怎样做，一些交给“AI 大人”。
模型变成“许愿机器”，近乎于“神”。
“神”甚至可以不全知全能，只要它在足够广泛的事情上理解我们的要求，并完成我们自己没能力完成的工作。
随着模型越来越多地参与假设提出和检验，迭代速度已经脱离人的认知节奏。
Dario 在《We Must Pace the Frontier》表达出的担忧是：我们能很难具体说明，一个复杂模型为什么在某个情境下作出某个选择。
一方面我们需要知道“模型为什么这么做”；另一方面我们要让人的认知赶上模型自我迭代的速度。恐惧来自于模型泛化的能力超乎想象。
有句话被说烂了但依然很合适：“人类没有准备好”。
放慢前沿模型能力提升的速度，让安全研究和外部评估有时间跟上。
这本质是给人们一点时间接受前沿模型“神力”的事实，缓冲“核弹爆炸”的冲击。对 AI 的恐惧不需要任何商业动机。前沿的研究员也许更能体会到这一点。