科学进步实际上很大程度依赖于实打实的实验结果，而不仅仅是理论智力｜AI 自我提升不会突然“起飞”，而是逐渐加速的过程
作者：Jason Wei
如今，我们还没有实现真正意义上的AI自我提升（AI智能体自己训练自己），但一旦实现，这绝对会是一个改变世界的重大突破。不过，与GPT-4刚出现时人们的想象相比，我们现在变得更有智慧，也看得更清楚：AI的自我提升不会是一次“突如其来的飞跃”，而是一个缓慢而持续的过程，可能需要多年甚至十年。
一、自我提升能力不是一蹴而就的
AI的自我提升并不是一个开关，不可能一夜之间从“无法实现”变成“完美掌握”。
举个简单的例子：
- 假设未来GPT-5开始尝试训练GPT-6，这当然令人兴奋。
- 但最初几次训练，可能效率极低，既费时间又费算力，甚至还远远比不上人类研究者的效率。
- 只有经过无数次的反复尝试与优化，GPT-5才会逐渐掌握如何更高效地训练GPT-6，并最终超过人类研究员的表现。
也就是说，AI自我提升会是一个循序渐进的过程，不会突然出现巨大飞跃。
二、自我提升在不同领域难度各不相同
AI智能体的能力提升并不会立刻扩散到所有领域，不同领域自我提升的难度存在明显差距。简单来说，有些能力相对容易提升，有些却非常困难。
- 最简单的层面：比如AI在降低明显的“幻觉”（胡乱编造内容）或改善语言风格方面，可能最早实现自我提升，因为这些问题比较容易定位和解决。
- 中等难度领域：例如数学和编程，虽然稍微复杂，但由于已经有明确的方法和丰富的数据资源来支持提升，也比较容易逐步改善。
- 极端困难领域：比如掌握极为稀少的语言，像美洲原住民语言之一的特林吉特语（全球只有约500人使用），自我提升就难得多，因为目前AI还缺乏解决这类极低资源问题的有效手段，只能依靠缓慢地收集和积累更多数据。
因此，不同领域的AI自我提升速度会呈现明显差异，不可能一次性遍地开花。
三、科学进步最终受限于现实世界实验
最后一点可能稍有争议，但也非常重要：科学与技术的进步往往受到现实实验速度的限制，而不仅仅取决于理论智力或对已有知识的掌握。
有人可能认为：
- 只要掌握所有生物学理论，就能找到癌症的治疗方案；
- 只要读遍所有机器学习的论文，就能设计出完美的GPT-10。
但现实并非如此。如果理论知识本身就能解决问题，那么理论最丰富、读论文最多的人应该已经成为AI领域的领袖了。然而实际上，AI乃至大部分科学领域目前最成功的研究者，往往都是那些注重实际实验的实证主义研究者。
也就是说，即便AI拥有超出人类数倍的智力，它设计的实验可能确实比人类优秀两倍、五倍甚至更多，但最终还是要受到实验速度的限制。实验总是需要时间来进行，这意味着再聪明的AI也不能立即获得所有的成果。
总结与洞见
总而言之，AI自我提升的前景虽然令人振奋，但现实情况比我们最初想象的更为复杂：
- AI的自我提升不会是非黑即白，而是逐步累积、慢慢提高效率的过程；
- 不同领域的提升难度不一，进步速度也会不同；
- 即使AI再聪明，也最终要面对实验进度和现实限制，不可能瞬间取得突破性飞跃。
因此，我们看到的更可能是一场缓慢、持续的加速进程，而不是科幻作品中描绘的“快速起飞”。
感谢你耐心读完我的这些思考，希望能给你带来新的视角与洞见。
来源：https://x.com/_jasonwei/status/1939762496757539297