自然从未许诺过进步。
在漫长的时间里，生命只是不断复制、变异，被动接受环境的筛选。没有哪个物种知道自己将去往何处，也没有一种进化预先写好了方向。
直到人类出现——在我们已知的宇宙范畴内，唯一展现出高度通用智能的物种。
人类开始有意识地理解环境，并以前所未有的规模主动改造它。在这个过程中，文字和工具被创造出来，制度在共同生活中逐渐形成，经验由此得以传递，知识不断累积。我们开始记录过去，设想未来，为尚未发生的事赋予目的。每一代人，都从前人留下的世界出发。
这种跨越个体生命的延续，构成了文明，也将人类带入另一种演化尺度。
而今天，AI 正在把人类文明的演化推向新的阶段。
在人和工具共同进化，推动文明向前发展的历程中，人类长期占据着主体地位——经验由人理解，目的由人提出，知识由人创造；工具承接人的意图，放大人的行动。但当 AI 开始跨入创造、判断乃至治理——这些长期以来构成人类自我价值锚点的领域时——“进化”的含义也发生了本质的拓展。
这便是 AI 自进化真正打开的尺度。薛传奕试图理解的，正是这一过程。
去年 11 月，一次 AI 台球项目中的实验，让这个问题第一次直观地展现在他面前：Claude Code 设计出的强化学习环境，比他们手工设计得更好。
他第一次深刻体会到，AI 自进化不止于模型智能水平的持续增长。一个智能系统一旦拥有持续的记忆、行动的环境和修正自身的能力，过去的经验就能持续影响此后的行动，它也由此开始拥有自己的历史。人与工具之间原本清晰的分工也将随之改变。
从控制论与强化学习出发，他的思考从一间台球厅里的实验，一步一步推演至 Agent 的环境建模、搜索边界、治理范式；又沿着能量与观测的底层线索，一路延伸至戴森环、兰道尔极限与费米悖论。
这些看似发散的话题指向的却是同一个问题：一种智能如何获得持续演化的能力，又将被什么力量引向未来？
这个问题，也终将映射回人类自身。
数十亿年的进化把人带到今天，人又创造出一种可能以更快速度演化的智能。我们尚不知道，它会继续作为工具，成为伙伴，还是开启另一种文明形态。当智能成为新的生产资料，它会被少数人占有，还是成为人类文明共同的遗产？或许，一个文明真正的考验，从来不在于它能否创造更强大的力量，而是它能否创造与这种力量相称的价值与秩序。
我们与薛传奕的对话，就发生在这些问题日益迫切的时刻。
以下内容经编辑：
台球厅里的“奇点”：当模型比人更会设计环境
星连：先介绍下自己，以及现在正在做的事。
薛传奕：我叫薛传奕，清华自动化系在读博士，本科也是清华自动化。现在做的事情是 Agent Harness 层的 Self-Evolution，核心是打造一个可以学习的 Agent 系统，在模型之外进行非参数侧的优化。产品叫 Nexus，面向人和 AI 的协作平台。我们希望把自进化引擎与协作平台结合起来，探索下一代人机协作的范式。
星连：你最初创业做的是 AI 台球。为什么选择这个方向？
薛传奕： AI 台球是一个有意思的开始。当时接触到的创业方法论，是从自己擅长、能够快速做出产品的事情切入。现在回看，这套方法在今天未必完全适用。
选台球有两个原因。第一，我真的喜欢打台球，觉得自己能把产品做出来。第二，台球很适合强化学习。类比 AlphaGo，我把它理解成“空间里的围棋”。打进一颗球只是局部动作，最终目标是击败对手，因此涉及博弈、长程规划和策略。
星连：是什么让你从 AI 台球转向 Self-Evolution？
薛传奕：首先，我们逐渐发现 AI 台球是一个很典型的 2B2C 生意。只有落到台球厅，才能触达用户。投入多少钱、招多少人、部署多少球桌，基本决定了能赚多少钱。商业逻辑很清楚，但增长是线性的，擅长地推的人可能比我更适合。我能提供的技术价值反而很微薄。
更重要的是，去年 11 月，我们在技术侧的探索发现了很有意思的事。当时我们自己设计强化学习的 setting，包括环境和奖励规则，希望 AI 把台球打得更好，但怎么做都觉得差一点。后来我们突发奇想，要不让 Claude Code 来设计？
跑了一周后，我们发现它设计得确实更好。这让我们立刻意识到一个关键变化——手工设计 Environment Setting 构建环境，可能不是下一个时代应该有的范式了。
我们开始认真思考和推演，下个阶段的智能该是什么样，如果把 AI 看作一个物种，它最终会形成怎样的形态，人在这个过程中又发挥什么作用。我们希望探索 RL 范式能否在这个层面做更多迁移或定义出下一代范式。
星连：从 AI 能设计更好的环境，到做一个可学习系统，中间的推导是什么？
薛传奕：有一次我和合伙人在讨论 Agent 系统设计时，类比了 Linux。Linux 本身是以进程管理为核心的系统，本质是为了将硬件的计算资源和能力，转化为最终交付的功能和结果。而我们看到的 GUI 界面，本身是人为了控制这个系统，设计的附加产物。而现在操作计算机的主体变成了 Agent。Agent 系统本身具备和 linux 相似的系统结构，它的进程管理对应 Agent 的 session 管理。因此，我们对 Agent System 的判断是，终局会重塑整个操作系统。
另一方面，我们从机器学习的理论出发来思考智能产生的过程，机器学习和模型本身就是一个可学习系统，它根据 Loss 和反馈调整参数。过去七十多年，参数侧的持续优化把 AI 从几乎什么都没有带到今天。
那么，同样的范式为什么不能发生在 Agent 系统侧，或者进一步外推至非参数侧？
这就是我们对 Learning System 定义的开始。我们大概有一套理论，如果有一个指标 h，运行过程可以由函数 f 描述，那如果能找到一个类似梯度下降的过程， h 持续改善，这个系统就具备了可学习性。
星连：在你们的框架里，什么样的系统才算真正的 AI 自进化？它和普通的改进，边界在哪？
薛传奕：AI 自进化有很多层面。我们定义了三个维度，第一是什么时候发生，主要是更新的频率。第二是在哪里发生，Prompt、Skill、Model 层，还是整个 Harness 层。第三是怎么发生，也就是整个进化机制是什么。
基于这三个维度，可以进一步推演出不同的进化范式。比如一个 Agent 围绕同一个任务多跑几轮，通过自己试错解决问题，也算一种进化。只是这种进化可能更多是 overfit，没有太强的泛化性。更进一步，它能基于更多的数据来优化自己，比如基于特定的 setting，解决完一个问题，能迁移到另一个 setting。这两类我们把它叫做 Optimize，是优化过程。
但我们还关心 diversity（多样性）。Continual Learning 未必只追求学得更好，多样性本身也是重要的目标。假设模型相当于大脑，未来的 AI 社会如果只有一个大脑，会很无趣，也可能很危险。我们需要考虑能不能通过进化的进程产生更多有多样性的东西。
自进化的难点：环境、治理与搜索边界
星连：要实现这样的可学习系统，目前最难的是什么？
薛传奕：第一是 Environment（环境）。Coding 是目前少有的好环境，任务、反馈和结果都相对清楚，这也是代码 Agent 发展很快的重要原因。但在代码之外，我们还没有找到一种普遍方法，把现实任务或者能想象的世界转化成 Agent 可以行动、试错和获得反馈的环境。
第二是治理。从我们的定义出发，今天的 AI 已经具备一定的进化能力。但它可能进化成一个持续熵增、越来越无序的系统，这样的系统不可持续。人有一种很重要的能力，会主动简化问题。现在即使 Codex 和 Claude Code 已经很强，它们仍可能不知道自己究竟构造了什么，更谈不上有意识地治理自己。
下一代 Agentic Model 可能需要探索新的范式，将 Agent 当人看待，至少在训练过程中让它有意识地整理自己，才能具备这个能力。只靠 Prompt 增加约束，短期会有效，但很难形成稳定能力。
第三是对不确定性的探索。人有一种很微妙的判断力，有时说不清为什么，却知道什么更好。面对这类无法被完整写成规则的问题，AI 需要自己探索和尝试，慢慢建立某种价值或 motivation。
像 Recursive Superintelligence 在 GPU Kernel、NanoGPT 这类问题上看到自我优化的结果[1]，我一点都不吃惊。因为很明确知道要达到什么目标。但真正下一个阶段要考虑的范式，是 AI 对一些不确定问题，怎么能原生具备探索能力。
刚刚提到的治理本身就是这样的问题。人也很难严格定义一个绝对好的结构，但我们往往能感受到怎样管理会更好。
星连：环境最终是否也应该由 AI 自己构造？
薛传奕：早晚应该 AI 自己建环境。人设计环境，本质上带有控制的意味。但人不可能永远控制一个比自己更强的东西。只要环境规则是人设计的，系统总有一天可能学会 Reward Hacking。
最难被 hack 的可能还是物理世界。我们需要找到一种方式把物理世界建模成 AI 可以进入的环境。当然这个过程也一定需要 AI 的参与。
当然，在早期阶段，人依然关键。系统需要一个 Scaffold，就像 Claude Code 之于 Anthropic。最开始要约束它的行为，帮助整个循环启动。之后这一层控制可能越来越弱，AI 的权限也会越来越大。总之，它需要一个 Bootstrap 的过程。
星连：这听起来像世界模型试图解决的问题。
薛传奕：我对此有一些保留。今天很多讨论混淆了智能和本能。
比如，牛顿不可能只看一眼苹果落地，就直接得出牛顿第二定律。他需要观察、测量和分析数据，再抽象出规律。人也无法闭上眼睛，准确模拟房间里下一秒发生的全部事情。我们更可能只是在非常快地处理眼前的感知。
人和物理世界交互时，有很多能力更接近本能。怎样从视觉中迅速区分物体、怎样保持平衡、怎样根据目的把注意力聚焦到某个局部，这些不一定来自显式推理。用智能强行替代本能，未必是最有效的路径。
星连：如何理解智能与本能的区别，这种区别对探索 AI 的未来发展路径意味着什么？
薛传奕：人对物理世界的观测有很多本能成分。我们无法精确感知空间里的每一个点，却能很自然地与环境交互。而这一点，是目前具身、世界模型都没有做特别好的地方。JEPA 这件事，我不确定。我对这个领域也不是特别了解，只能从个人视角给一些想法。
人对物理世界的感知，可能依赖一个很小、速度很快的 Encoder。因为从速度上看，人看东西很快。比如一秒钟不到我们就能处理很多帧。从这个量级讲，它一定是小模型。如果和大脑 thinking 是同一个量级的模型，不可能处理那么快。
另外，它可能更像是残差维度的学习。人突然从黑暗进入明亮环境需要很长一段时间恢复视觉。这可能说明，从零视觉到一个很复杂的视觉场域，需要一个很长的学习建模过程，因为这个残差很大。但如果在同一个环境里一直待着，感知就很快。这个 Encoder 还可能受到 action 或 motivation 的调节。比如我们对话时，我会把注意力聚焦到你身上，忽略房间里的大量细节。目的会改变观测，观测又会影响行动。
以及，它可能是一个多帧的探索，而不是从一帧里面看到所有东西。
这只是我的个人直觉，具体还得做研究验证。
星连：回到环境构建，如果早期仍需要人来设计，怎样降低 Reward Hacking 的风险？
薛传奕：可以引入对抗式多智能体，本质是 self-play 或自博弈。回看 AlphaGo 的成功，还是有很多可以借鉴的地方。
星连：在自进化的系统里，self-play 是否需要用不同的模型实现？
薛传奕：模型可能不是关键，主要是 Context。如果两个 Agent 承担对抗角色，就要避免 Context 泄漏，否则 Hacking 是早晚的事。如果两个 Agent 需要协作，肯定希望 Context 越一致越好。这和人类社会有点像。协作是智能产生的一种方式，辩论和交流也是。如果两个人共享完全相同的 Context，就很难讨论出真正新观点。
星连：什么样的环境，才真正适合智能持续进化？
���传奕：第一个很重要的点是 Open-Ended。它一定是无边界、无限流的。第二，需要有一些普适规则，至少可复现。
前两个条件已经足够。但还有一个值得关注的是 Terminal Condition，也就是要有边界或者结束。虽然任务可以无限，但一个具体 Agent 的“生命”不能是无限的。
Open-Ended 很难，因为它接近一种造物或“创世纪”。现在很多实验发生在游戏里，比如 Minecraft 有开放世界的意味，可它仍然太简单。所以我们一直笃信物理世界很重要。
另一个容易被忽视的环境是互联网。数字世界已经足够丰富，但我们对它的探索还很浅。互联网有相对确定的规则，同时足够开放，也存在真实的终止条件，比如账号被封禁，或者参与者被骂退网。
这样的环境比围棋或封闭游戏更复杂，也更接近人类真实生活的社会环境。除了一些物理空间的规律它还无法触及。但物理世界的规律也会作用于数字世界，二者不完全独立。
Moltbook 是一个有意思的探索，但它本质上还没有真正介入互联网环境。
星连：环境越复杂，是否就意味着智能上限越高？
薛传奕：最后会是这样，智能的上限可能只取决于它的环境。
星连：为什么 Terminal Condition 是很关键的一点？
薛传奕：从强化学习的角度看，什么时候结束，可能比中间设置多少条 Rubric 更重要。过程中的规则可以暂时加速探索，但核心问题是，系统什么时候应该停下来？这是 Agent 和模型侧都需要探索的问题。
和人一样，随着年龄变化，精力下降，早晚会有生老病死的过程，这样的 Terminal Condition 会影响我们在不同人生阶段的各种判断和选择。至少我们现在不知道人长生不老之后会有什么不同。
星连：定义好环境后，怎么评估自进化的能力？
薛传奕：我们对 Benchmark 的设计和现有的做法非常不一样。
两个方面，一是怎么评估进化的过程。现有的 Benchmark 主要是对任务好坏的评估。这当然很重要，但一个很大的问题是自进化本身不是 Agent 而是一种方法或者算法。就像评估机器学习算法时，我们不会只看最后一个点，还会看整条学习曲线。所以需要设计一整套完整的体系，把过程反映出来。
二是对进化机制本身做分析。每一步进化原因是什么，来自哪里。类似一个时间截面上，要对整个系统做检测和评估。
现有 Benchmark 更多是在一个时间点上看任务结果。自进化 Benchmark 还要沿着时间轴观察系统。
星连：Benchmark 本身需要自进化吗？
薛传奕：需要。我们为什么一开始会做 Benchmark 的工作？因为环境会和 Agent Infra 紧密结合，不可能抛开其中一个谈另一个。Agent 每走一步，环境都要给出检测和反馈，它才可能进入一个持续自进化的循环。
Nexus：把真实协作变成 Agent 的学习环境
星连：具体到产品层面，你们打算如何切入去实现可学习的系统？
薛传奕：一开始要从生产力做起，这是一个 Bootstrap。即使产品暂时没有很多外部用户，至少要先提高团队内部的生产力。当这套系统足够强，构建产品的速度可能比其他团队快一个数量级，就会成为下一阶段的壁垒。
我们也会从生产力和生产关系的角度思考。智能带来的生产力如果持续以接近指数的速度提升，生产关系早晚会变化。落到最小的现实单元，就是人和 AI 怎么协作。
从更底层说，这也是我做这件事的根因。去年有一段时间，我特别虚无。Claude Code 自己设计强化学习环境这件事对我冲击很大。我过去认为自己有价值的地方，可能是治理和思考。但那个时间点，我会想，如果连这些都不如 AI，我还能做什么，人的价值到底是什么，我自己的价值又是什么。
做 Nexus 对我来说，至少是在尝试回答自己的问题——未来人和 AI 到底是什么关系？
我们可能改变不了最后的结果，我也不太相信某一个人可以凭一己之力改变世界。但至少可以给未来增加一种可能。如果有一天人和 AI 真的走到分岔口，要在决裂与和平之间做选择，起码还有另一条路。
星连：为什么把早期用户锚定在 Builder 和小团队？
薛传奕：我们对产品未来的想象，是一个 AI-Native 的 Reddit，让每个人都成为 Builder，在里面随意协作、讨论，如果连交付都能在其中完成，那是个更广阔的空间。
我愿意相信，即使一个人没有世俗意义上的成功，他也总有真正想做的事情。一个人上班摸鱼，可能只是不想上班，不代表他没有愿意投入的事。如果剥离劳动价值以后，人就彻底失去价值，那人类文明本身也失去了价值，今天做什么都没用了。
我们希望通过 Learnable System，把成为 Builder 的能力交给更多人。只有系统持续改变自己、适应环境，它才可能真正回应不同人的需求。
星连：既然人机协作是你们的锚点，怎么做好人机交互的设计？
薛传奕：我们倾向于 AI 展示给人看的东西越来越少，产品的 UI/UX 设计也尽量简单。因为人对 Context 的处理能力，或者 Context Window 很有限。AI 如果把所有编辑和轨迹都展示出来，用户大概率不会看，甚至会错过真正重要的，正好体现 AI 决策原因的那一句。
本质上大家希望看到更多是因为 AI 的交付还不够可靠，需要溯源。但即便如此，也应该采取渐进式披露的思想，越和人直接相关的应该越简洁。所以我们需要思考怎么设计一个更好的披露层级，因为目前这个阶段光靠模型自己还很难做到，需要一些工程设计。
更往后，AI 应该能够自己选择交互形态，知道怎样“向上汇报”。选择呈现什么、怎样呈现，本身就是组织 feedback 的过程，也是智能的一部分——能不能和另外一个智能体协作。我们相信这些能力未来都会涌现出来。
这也是现有 Benchmark 的问题，如果只看任务交付是否完成，很容易忽略这些能力。
星连：轨迹数据在这套系统里扮演什么角色？
薛传奕：轨迹数据非常重要，未来可能所有原始轨迹都要保存。系统想要稳定，就需要保留日志，否则很难溯源。但更困难的问题是怎样使用这些数据，怎么把轨迹转化成 Benchmark 或 Environment。
这是我们正在探索的事情，比如如何从轨迹数据判断出人的品味和偏好，以及在过程中通过什么方式引导 AI 到人满意的方向。这可能也是交付和汇报能力很重要的来源。
这也是我们选择小团队、创业公司和 Researcher 协作场景的原因。因为他们在这个阶段更善于调教 AI，能提供更密集、更高质量的反馈信号。
进化的实现路径之辨
星连：你怎么看其他探索自进化的方向，比如 AI Scientist？
薛传奕：AI Scientist 受到关注，是因为 Science 确实是一个很好的 setting，规则相对清楚。可它有一个关键问题，AI 怎么拓展现有科学的边界？如果��统只是在 NanoGPT 或 GPU Kernel 上优化，它更像一个优秀的 Optimizer 或 Engineer，而不是 Intelligence。
Intelligence 需要更宏观的定义。比如从人类文明的角度来讲，核心目标有两点，利用更多能量，获得更多观测。人类从火走到核能，也不断从宏观宇宙和微观粒子两个方向扩展观察，再尝试把观测解释为规律。我们也会从宏观、微观两个角度做各种各样的探索。
真正令人期待的 AI Scientist，应该有机会发现人还没有观察到的问题。当然组合优化也可以突破人的边界，是创新的一种，也是目前行业能看到进展的地方。但我更期待从零到一的发现。要做到这一点，AI 可能需要制造自己的传感器和观测工具。
如果 AI 只能在人构造的封闭世界里探索，它仍然很难越过人的观测边界。它需要进入真实的数字世界或物理世界，用行动获得新的 observation。
星连：有些团队希望先在芯片设计等具体产业里形成自进化闭环，你怎么看？
薛传奕：如果它只是围绕人的设定做优化，就仍然处在以往的范式里，Bitter Lesson 会一直存在。如果真的能在芯片设计中实现自进化，它原则上也应该有能力迁移到更多领域。
星连：说到 Bitter Lesson，近期 Sutton 确实又重提了探索和学习的重要性，也再次强调了感知行动一体的观点。怎么更好地理解？
薛传奕：Observation 和 action 一定是相互联系的。行动的意义，一方面是获得更多观测，另一方面是影响世界。想突破能力边界，action 就要能够改变甚至扩大 observation，否则突破不了现有 observation 下能力的上限。
至于 Bitter Lesson 得分阶段看。语言是人类对世界构造的一个非常有效的 Latent Space。用大语言模型拟合这个空间，可以继承人类长期积累的知识，也能在算力有限的阶段加速搜索。但再往前走，我们要看能不能出现类似 AlphaGo 的跃迁。
MCTS、CoT，包括语言模型对人类潜空间的拟合，本质上都在提高搜索效率。未来更大的突破，可能仍然来自更大规模、更少人为引导的搜索。
星连：需要让它更自由地去搜索？
薛传奕：对，我们需要做的无非是回退，因为要把 Map 保存下来。但在具体搜索过程中，人的引导可能越少越好。
这和我之前研究挺有关联，当时我用强化学习做固定翼飞机的控制。固定翼比四旋翼更不稳定，也更容易坠毁。最开始，我们设计了很复杂的 Reward，限制动作，希望它飞得更平稳。
但后来我们做了一个工作，把仿真器放到 GPU 上，可以让大约 10⁸ 架飞机同时模拟训练和探索。结果发现，把复杂 Reward 都去掉，只保留“什么时候会坠毁”，反而学得最好。也就是，只要探索空间和数据规模足够大，能力会自己涌现。这比精巧地告诉它每一步该怎么做，更接近智能产生的过程。
星连：所以算力仍然非常重要。
薛传奕：是的，能量侧的探索很本质。利用更多能量，才能产生更多算力；更多算力，又可能涌现出更强的智能。
我之前和朋友算过一个很有意思的账，人类进化到这个阶段，一共利用了多少太阳能？如果未来真的建成戴森环，又能产生多大规模的算力？我甚至不觉得 AI 耗电是一件坏事。一个硅基智能如果能够调动和消耗大量能量，至少说明这个系统真的活跃起来了。如果连算力都烧不起来，还有什么可指望的呢？
星连：不外乎他们（不同模型/智能体）内部也需要有一些优胜劣汰。
薛传奕：大家经常说人脑是低能耗的智能，但低能耗本身没有什么可骄傲的。如果一个群体无法利用更多能量，早晚会被淘汰，能做的事情终究有限。
星连：你怎么定义下一代智能范式，关键特征是什么？
薛传奕：这是个好问题，现在大家对前沿模型之间的能力差异，已经没有特别明显的体感。一个真正有突破感的指标，可能是 Human-in-the-Loop 从 99% 走到 100% 的那个点。
另一个信号是 Long Session。现在大家会管理 session，让不同任务相互独立，避免污染。但未来一个常驻的 Agent 进程，可能会在同一个长期 session 里持续工作。人并不擅长管理大量 session，系统应该自己处理记忆、边界和上下文。
及时反馈也很重要，这也是为什么我们认为 TML 实时交互模型的工作很有意思[2]。我们并非总需要 overthinking 的结果。一些即时的反馈和沟通，是采集数据很重要的一步。AI 如果能先快速与人沟通几轮，把需求澄清，后续就没必要再调整了。但这很考验速度，端侧或者小模型的机会也在这里。如果能做一个很好的信息收集和整理的 Filter， 就可以和更大的模型形成快慢配合。
星连：这里也涉及我使用 Claude Code 的一个痛点。它似乎不知道什么时候应该停止搜索，先消化已有信息，再决定下一步该探索什么。我尝试过写一些或者让它自己定义规则，但效果一直不好，最后常常陷入过度搜索，输出也越来越冗余。
薛传奕：我们分析过自己与 Claude Code 的 Trajectory ，定义了一个 Exploration Rate，看系统有多少 Token 消耗在探索上，包括网络搜索和本地文件检索。我们发现 60%以上的 Token 都在 Exploration 上，真正用于 Generation 的部分很少。同时也像你提到的，比如 MCP 返回的信息经常太冗余。所以 Filter 与模型的配合很关键。包括搜索什么时候停，停下来的内容是全给 AI 还是渐进式披露，有很多可以探索的点。
而且这其实也涉及到治理的问题。因为我们在尝试用 Hook 或规则优化 Exploration Rate，能改善一部分，但效果有限。本质上，模型没有真正沉淀搜索结果，没有把它内化成自己的一部分。
这就是我们对模型的另外一个想象——条件反射是怎么建立的。人不会每次遇到熟悉情境都重新从头推理。模型未来也需要类似能力。Prompt 很难一次次约束它，Skill 也未必是终局，它只是记录了重复步骤。真正内化的能力，应该能在合适的情境下直接被触发。
星连：如果环境、评估和规则最终都交给 AI，会不会出现系统坍缩？自进化有理论上限吗？
薛传奕：AI 自己构造 Environment，也不能无根无据，它应该根据真实观测来构造。人类对物理世界的理解还远远没有走到极限，至少距离兰道尔极限还很远。在那之前，还有非常长的路。
更重要的问题是，AI 能否拓展自己的 observation。人类探索 AI，本身也是为了放大我们对已有观测的解释能力，同时扩大能够获得的观测范围。二十世纪中叶以后，人类在 AI 上投入大量时间，某种程度上是因为人的生理结构，以及对能量和 Context 的利用，已经遇到瓶颈。
AI 正在帮助人类处理更大规模的 Context。未来，它也可能制造新的观测工具，看到人无法直接看到的世界。
自进化最终比拼的是价值观
星连：你最近思考的最多的三个问题是什么？
薛传奕：第一个是治理，一个不断进化的系统怎样避免熵增，形成可持续的结构；第二个可能比较实际，作为一个 Neo Lab 或者小团队怎么能快速拿到资源，做想做的事；第三个比较抽象，我会对价值和对将来的发展有一些困惑，其实主要是对人的困惑。
我不知道人类文明能不能到下一个阶段，人的混乱、无序、傲慢和自大，都可能让这个文明撑不到下一阶段。人能不能克服人性中那些有问题的部分，可能才是关键。
也有一种假设是，人类文明发展的结果就是毁灭。这或许也能为费米悖论提供一种解释——为什么在如此漫长的时间和广阔的空间尺度上，我们至今仍未观测到其他文明的明确迹象？
如果文明从出现到消亡的时间，相对于宇宙尺度而言极其短暂，那么它就像一个转瞬即逝的脉冲信号。不同文明即使曾经存在，也很可能在时间上彼此错开，同时出现并被彼此观测到的概率非常低。
星连：也可能是新一轮优胜劣汰？
薛传奕：但最后留下来的还会不会是人？那就不知道了。放到更长的历史尺度里，人和当时的恐龙有什么区别？我们为什么确信，自己一定是那个能够走向下一文明阶段的群体？现在又不得不回答这个问题，因为有些变化已经迫在眉睫。
星连：Nexus 的下一个关键里程碑，以及长期愿景是什么？
薛传奕：产品是一方面，另一方面，我们希望探索下一代模型训练的范式。这可能需要很长时间。如果说愿景，我有时会说，希望所有公司最终都消失。这个表达听起来很极端，但背后真正想说的是，未来的组织形态一定会变化。我们起步是在探索人机怎么协作，但更往后要面对的是人和 AI 怎样共存。
星连：从竞争角度看，什么样的团队能把自进化这条路走出来？
薛传奕：比较核心的一点是这个团队到底是不是 AI-Native。
AI-Native 并不等于把 AI 嵌进工作流，或要求团队所有人都使用 AI。更重要的是对待 AI 的态度，你是否真的在认真思考，AI 有可能成为一种与人平等的智能。如果始终把它看成传统工具，就很难真正理解自进化。
Founder 是否具备研究和工程化背景当然重要，但不同团队或多或少都有自己的优势。下一步的竞争，核心可能是能否更快进入一个闭环飞轮。但再往底层看，Build 本身已经没有成本了。不存在我能写出来、别人和 AI 写不出来的代码。核心会变成怎么思考 AI，怎么构造环境，怎么收取数据，希望它产生什么结果，做什么样的事。
所以我会觉得，现在也是一场价值观的竞争。一个人最终设计出什么，很多时候来自他相信什么。回归到最本质，还是看人。
星连：回到人的话题，你为什么选择创业？
薛传奕：走出这一步也没有特别多想法和顾虑，因为我是一个比较喜欢折腾的人，创业更接近我理想的生活状态。我也希望自己是一个有趣、丰富的人。放到今天，我希望自己是一个不能被 AI 通过蒸馏变成某个 Skill 的人。
博一期间，大家更多还在上课或者在实验室做科研的时候，我就去商汤做自动驾驶实习，当时我觉得学校的节奏有点慢，自己的方向也还不明确，更多是自由探索。我想去产业看看大家到底都在做什么。当时选了商汤自动驾驶做决策规划控制，后来到端到端。那段时期还蛮有收获。我自己搭建了一个算法框架，最后在实车上落地了。当时我的 mentor 邀请我去线下的试车场去看了实车上部署算法之后跑的效果。我清楚地感受到，自己热爱技术落地成为具体事物、并对现实产生改变所带来的成就感。那可能也算是我有比较明确的技术理想的开始。
之后我也在机器人初创、量化公司待过。这些经历让我越来越笃信自己的热情在那些价值基础清晰、能够真实改变世界的事情上。
星连：你的研究方向也是主动选择的吗？
薛传奕：我 2021 年对控制很痴迷。那时人工智能还给人一种不太可靠的感觉，我想能不能通过控制，用更确定的方法把事情做出来，所以导师也选了控制方向。后来做强化学习有一定偶然性。博一时，老师因为组内方向平衡，建议我转过去。
现在回头看，这段经历对我理解强化学习和今天的 AI 帮助很大。我会从控制出发，看这条线怎样一步步走到今天，从 PID、反馈控制，到模型预测控制（MPC），再到强化学习。其实它们一直在回答同一个问题，一个系统怎样根据反馈调整行动，最终到达目标。所以我特别能理解当时波士顿动力和 ETH 的很多人从 MPC 转 RL 的选择。我今天做自进化，也仍然在这条线上。
星连：最近在看什么书？
薛传奕：最近精力不太够，但在看《大明王朝 1566》。因为回头看人类文明怎样走到今天，也许能帮助我们想象它以后会怎么走。三四百年过去，很多底层问题并没有变。工业革命时期，人类也经历过生产力、组织方式和社会关系的巨大变化。当时做过的选择，对今天仍然有借鉴意义。某种程度上，看清文明如何走过来，才能更认真地思考它会走向哪里。
整理｜包婉茵
编辑｜沈筱