新智元报道
编辑：定慧 好困
【新智元导读】他曾是Ilya的亲信，因揭露OpenAI安全隐患被解雇，却在短短6个月内以47%回报打造出管理规模15亿美元的基金。作为AI安全激进派，他在165页论文《Situational Awareness》中预测2027年将迎来AGI，并呼吁建立「AI版曼哈顿计划」。
如果一个人身上有如下标签：
Ilya的亲信
一名因为警告OpenAI AGI安全却被OpenAI开除的员工
一名认为「AI版曼哈顿计划」是极其必要的AGI安全信徒
写过一份165页的AI论文宣扬2027年AGI即将到来
Ilya的亲信
一名因为警告OpenAI AGI安全却被OpenAI开除的员工
展开剩余92%一名认为「AI版曼哈顿计划」是极其必要的AGI安全信徒
写过一份165页的AI论文宣扬2027年AGI即将到来
他会在离开OpenAI后做什么？
正常人大概率会借势去成立自己的AI公司，然后融资一波，看着情况上市，或者被科技巨头收购。
但真实答案是他去「炒股投资」了，并在6个月内取得47%的回报，还筹集了15亿美元。
这位名叫Leopold Aschenbrenner的23岁德国青年此前没有任何金融行业经历。
但是他的基金战绩却超过了一众金融领域的专业投资者，在今年（2025）上半年扣除费用后获得了47%的收益。
此前他曾经还放出豪言：
在旧金山（硅谷），只有差不多200人真正理解AI领域在发生什么。
尽管Leopold没有任何金融背景，但靠着他在AI领域KOL的地位，他还是说服了很多人。
基金的支持者包括支付公司Stripe的创始人Patrick Collison和John Collison兄弟，以及近期被Meta招募负责AI业务的Daniel Gross和Nat Friedman。
Leopold在一次采访曾说
我比任何在纽约管理资金的人都拥有 更多的态势感知能力，我在投资上肯定会做得很好。
态势（情境）感知，是什么？
靠着这个能看到AI趋势从而赚钱吗？
态势感知是Leopold写的一篇165页的论文《Situational Awareness: The Decade Ahead》。
为何要写「这么长」的论文，还要从一年前说起。
2024年4月，Leopold被OpenAI以安全为由开除；开除后不久，6月，他就发表了这篇文章。
而Leopold所在的部门正是Ilya所领导的超级对齐部门，他也是Ilya的支持者，这或许就是作为Ilya拥趸的代价。
而在这篇「鸿篇巨著」中，开篇部分Leopold就特地表示这篇论文是献给Ilya的，可见对其的崇拜之心。
不久之后，世界将会觉醒
2023年，年仅21岁的德国青年Leopold踏入旧金山OpenAI总部的大门。
怀揣AI安全理想，他加入OpenAI超级对齐（Superalignment）团队。
该团队由Ilya Sutskever和Jan Leike领导，目标是在四年内解决超级智能的对齐问题。
Leopold自视为「AGI守护者」，提醒公司关注潜在AI安全风险。
不久后，他注意到公司安全薄弱。一次黑客入侵未被公开披露，更让他忧虑关键算法被其他对手窃取。
与此同时，奥特曼主导的产品节奏越来越快，内部安全文化却逐渐被挤压。
出于责任感，Leopold写下措辞严厉的安全备忘录，直言OpenAI防护「极度不足」。
他绕过上级，直接将备忘录递交董事会，引发高层与董事会的紧张。
随后，他遭到HR警告，尤其因他在Altman被罢免风波中没有签署支持复职的请愿，被视作「不够忠诚」。（看来老美那边也玩站队的游戏）
2024年初，他整理了一份关于AGI安全措施的头脑风暴文档，并请三位学者反馈。
他坚称文档无机密，仅含公开信息，但公司仍以「泄露内部资料」为由展开调查，并翻出他此前的「董事会越级」旧账。
最终在2024年4月，Leopold被OpenAI解雇，理由是「泄密且不配合调查」。
Leopold并未沉寂。
2024年6月，他发表165页「巨著」《Situational Awareness》，预测2027年前后或将出现AGI，2030年迈向超级智能，他呼吁建立「AI版曼哈顿计划」，并把此书献给Ilya Sutskever。
耐人寻味的是，就在Leopold被解雇后不久，Ilya与Jan相继离开OpenAI。
AGI「奇点」预计就在2027年
在2024年发表的这篇论文中，Leopold认为，到2027年，大模型将能够完成AI研究人员或工程师的工作。
他的论据也很简洁直观——你只需要画出过去4年GPT模型有效计算量的增长曲线，再延伸到4年后，就可以得出这个结论。
当时，Scaling Law看起来正在碰壁，但Leopold提醒我们——往后退一步，看看AI已经走了多远。
直觉上，可以将模型能力类比为人类的智能水平，从而衡量AI能力的进步：
从2019年学龄前儿童水平的GPT-2，到2023年聪明高中生水平的GPT-4，OpenAI只用了4年。
用4年从学龄前读到高中，是人类智力发展速度的3倍不止。
GPT-2只能写出一个半连贯的段落，几乎不能顺利地从1数到5。
在文章总结任务中，生成的结果只比随机选3个句子稍微好一点。
GPT-3能生成更长、逻辑更一致的段落，具备了少样本学习能力，还可以完成一些基本的算术或代码任务。
GPT-4则同时在逻辑和语言方面，获得了重大突破。
理科能力上：能深入思考并推理数学问题，并胜任从编写复杂代码到迭代调试的高级编程任务。
文科能力上：能在更长的文本中保持逻辑和内容的一致性，并能轻松驾驭和探讨各类复杂话题。
理科能力上：能深入思考并推理数学问题，并胜任从编写复杂代码到迭代调试的高级编程任务。
文科能力上：能在更长的文本中保持逻辑和内容的一致性，并能轻松驾驭和探讨各类复杂话题。
在包括AP和SAT在内的几乎所有基准测试中，得分已经超越了绝大多数的高中生。
算力规模
在摩尔定律鼎盛期，算力每10年才增长1-1.5个数量级（OOM）；而如今AI硬件的年增长率达到0.6个数量级，速度是过去的5倍还多。
以GPT系列为例，GPT-2到GPT-3实现了设备的过渡，从较小的实验设备变成了数据中心，一年内增长了2个OOM。
GPT-4延续了这种戏剧性增长，而且从OpenAI囤积芯片的动作来看，这个增长速度会逐渐演变为长期趋势。
Aschenbrenner预估，「在这个十年结束之前，将有数万亿美元投入到GPU、数据中心和电力建设中。为支持AI的发展，美国至少将电力生产提高数十个百分点」。
随着AI产品收入的快速增长，谷歌、微软等公司在2026年左右的年收入可能达到1000亿美元。
这将进一步刺激资本，到2027年，每年的AI投资总额可能超过1T美元。
时间线再拉远，到2028年，单个训练集群就需要耗资千亿美元，比一个国际空间站还贵。
而到本世纪末，一个集群就能吞掉1T美元，每年产出上亿个GPU，AI所需电力占美国发电总量的百分比，将从现在的不到5%上升到20%。
算法效率
对算力的疯狂投资带来的惊人收益是非常明显的，但算法进步的驱动力很可能被严重低估了。
以MATH基准测试为例，从Minerva到Gemini 1.5 Flash，准确率在50%处的推理效率提高了将近3个OOM，也就是1000倍的效率提升。
虽然推理效率不等同于训练效率，但这个趋势可以表明，大量的算法进步是可行的，而且正在发生。
从长期趋势来看，算法进展的速度也相当一致，因此很容易根据趋势线做出预测。
回顾2012年-2021年期间ImageNet上的公开算法研究，可以发现，训练相同性能模型的计算成本以近乎一致的速度下降，每年减少约0.5个OOM，而且每种模型架构都是如此。
虽然LLM的团队一般不会公开算法效率相关的数据，但根据EpochAI的估算，2012年-2023年期间，每年算法效率的收益也约为0.5个OOM，也就是在8年时间里提升了1万倍。
解开收益
所谓「解开收益」（unhobbling gains），是指某些情况下模型的原始能力被阻碍了，而通过简单的算法改进可以解锁和释放这些潜在能力。
虽然它也是一种算法改进，但不仅仅是在已有范式内提升训练效果，而是跳出训练范式，带来模型能力和实用价值的跃升。
值得一提的是，这种提升虽然更难量化，但收益却十分可观：
RLHF能让小模型达到百倍于其的大模型的效果
CoT能为推理任务带来超10倍的有效算力提升
增加上下文长度（从2k到1M+）能解锁大量全新应用
后训练则是GPT-4发布后性能大幅改进的主要原因
RLHF能让小模型达到百倍于其的大模型的效果
CoT能为推理任务带来超10倍的有效算力提升
增加上下文长度（从2k到1M+）能解锁大量全新应用
后训练则是GPT-4发布后性能大幅改进的主要原因
EpochAI的研究表明，这类技术普遍能带来5-30倍的等效算力收益。
METR同样发现，在智能体任务中，GPT-4基础模型的性能仅为5%，经过后训练能达到20%，再结合工具和框架后，性能可跃升至近40%。
与算力和算法效率带来的单一维度的扩展不同，「解开收益」能够解锁模型能力的巨大可能性，带来「阶梯式」的进步。
想象一下，如果AI可以使用电脑，有长期记忆，能针对一个问题进行长期思考和推理，而且具备了入职新公司所需的上下文长度，它会有多么强悍的能力？
算力、算法效率、「解开收益」叠加
2027年，AI将取代所有认知工作。
综合考虑算力、算法效率与解开收益这三个方面的叠加，GPT模型从第2代到第4代，大致经历了4.5-6个OOM的有效计算扩展。
此外，从基本模型到聊天机器人，相当于约2个OOM的「解开收益」。
基于这个发展速度，数一数OOM，未来4年我们可以期待什么？
首先，随着计算效率提高，迭代速度会越来越快。假设GPT-4训练花了3个月的时间，到2027年，领先的AI实验室将能够在一分钟内训练一个GPT-4级别的模型。
而且，由于「解开收益」的存在，我们不能仅仅是想象一个非常聪明的ChatGPT，还需要把它看成一个非常智能的、能独立工作的Agent。
到2027年，这些AI系统基本上能够自动化所有认知工作，或者说是所有可以远程进行的工作。但是作者同时也提醒道，这其中有很大的误差范围。
如果「解开收益」逐渐停滞，或者算法的进展没能解决数据耗尽的问题，就会推迟AGI的来临时间。
但也有可能，「解开收益」释放了模型更大的潜能，让AGI的实现时间比2027年更早。
AGI守护者，还是激进者？
让我们回到Leopold的身上。
在2024年的一次采访中，Leopold就认为英伟达的数据中心收入将从每季度几十亿美元增长到每季度250亿美元。
现实也印证了他的说法。
英伟达的2025财年第二季度的数据中心收入就已经超过262亿美元。
2026财年第二季度更是直逼411亿美元，Leopold还是保守了。
但不论怎么样，Leopold将自己的那篇引发热议的「态势感知」文章转化为有史以来增长最快的对冲基金之一。
发布于：北京市盛鹏配资提示：文章来自网络，不代表本站观点。
