pre-astra的时代和我(们)的未来The Pre-Astra Era and Our Future

“学过机器学习就对ai没什么感觉了”

在b站上看到一条发布于2025年1月的评论:“ai对数学来说其实只是在用暴力的方式拟合一个函数,一个给定输入可以得到预期输出的函数,虽然有的时候看起来很厉害但也只是拟合的结果,但我不知道为什么有那么多人的眼中ai是那么的科幻,还见过有些宁愿相信ai也不相信事实的人。”

说的非常对,但就是在这样一次次张量运算、一层层残差流中的表征变换,以及 attention 在 token 之间不断重新编织关系之中:从 DeepSeek-R1 第一次引入的长程推理模型,到2026年可以说有点AGI味道的Astra,Scaling law 再次证明,智能(注意并不是智慧)可能只是计算、数据与参数规模不断堆叠之后,某种能力跨过阈值时自然涌现出来的结果。

而最后会抵达何处,scaling law的斜率能更陡峭吗?拉普拉斯妖?亦或是像阿西莫夫说的那样人类最终创造出了predicting machine,但是没有算力去compute。就算去问一个frontier lab的研究员,答案可能也是不知道。

~/timeline: 2024.09 → 2026.09
  1. 2024.09o1推理时搜索
  2. 2025.01DeepSeek-R1开源长程推理
  3. 2025.11Gemini 3 Pro原生多模态
  4. 2026.06Claude Fable 5极致的代码与复杂工程能力(价格)
  5. 2026.09GPT-6 Astra有点 AGI 味道

不得不说这个时代是尤其有趣的,有一种上世纪冷战的时候美苏争霸的感觉,只不过这次的主角换成了 generative ai。技术迭代的周期从年缩短到月甚至到现在缩短到周,如果有人每周醒来一次,那宣称 sota 的模型可能每周都不一样。

但这个时代对很多人来说也是非常迷茫的,搞 ai 的兄弟终于把所有人的工作都给干了(在可预见的未来 RSI 非常有可能实现),经济本来就在下行周期,动荡不断;这种工业革命式的割裂留下的是严重的文化落后,制度落后。

事实上,现在的前沿智能是非常非常昂贵的。如果通过 api billing 的方式调用 claude-fable5(medium),一个 10min 左右的 agent task 消耗超过 20 USD;如果想在本地 serve DeepSeek-v4-flash,一台 m5ultra(512) / 两台 dgx spark 的价格在 10w 左右。我完全能想象一个前沿智能被巨型公司 / 本身就获取了生产资料的个体所垄断的未来。

当然有可能有人说现在 qwen3.8-27b 在 benchmark 上已经超过 opus4.6,但是 vllm / mlx / sglang 等等框架的学习也是要付出时间和智力成本的。

更重要的是,从前他们想要获得只有智能才能得到的结果,比如说生产力、知识……,都要么雇佣受过良好教育的学生 / 有丰富实践经验的求职者,工薪阶级得以存在,社会得以流动。然而未来可能只要向 aws / azure / Google cloud 购买算力,向 frontier lab 购买模型的使用权就可以了。

”fuck the world and make impact”

但也没有那么那么悲观吧,对于一个持有斯多葛主义 / 中国道家态度的人来说,这个时代似乎还不错,如果有一个想法可以很快地去验证,个体的生产力也得到了极大的解放。

具体来说,对于喜欢技术的人来说这个时代或许还不错,每天都有新玩具可以玩,可以在服务器上部署一些之前需要啃几周甚至几月的《web-dev从入门到精通》才能部署的项目(btw 这个 blog 就是纯 vibe 的,甚至服务器运维也是完整的靠 agent 通过 azure cli 实现的);可以通过 pi / dsh 完整的定制一个属于自己的 coding agent;甚至也有人做了自己的 Linux 发行版获得了百万美金的 funding(omarchyos)(虽然我还是喜欢 macOS)。对于一个足够有能力的人配上前沿的智能,ta 对人类能做出的贡献是指数级增长的。如果人类在没有 ai 的时代就能发现相对论,造出原子弹,那现在又有什么是不可能的呢?

我是那个“足够有能力的人”吗?可能在数学上是可以拟合出一个函数来计算每个人的“能力值”的,but who knows。我很喜欢一位 OpenAI 研究员在一个 podcast中展现的态度:make impact(【B站播客视频】)。

虽然把我的 thinking effort 调整到 max 我也考不上清华更别说姚班,可能到最后也 make 不了像他们一样的 impact,又或者站在一个更宏观的视角自己觉得 make 的 impact 可能本质上啥也不是。但我觉得我还是想这样做,这就是小登不知天高地厚没有被工作和现实洗去锐气的表现吧。

写于大一->大二,想看看明年,4年,10年后回来看看有什么感觉。

written by Bukowskiiiiii