Tibo透露Codex未来变化，AI递归自我改进现状与挑战几何？

【Tibo重置额度与访谈亮点】Codex用户大多知晓重置额度的Tibo。过去每当Codex出现问题或者OpenAI想为用户补充额度时Tibo就会在X上宣布重置了。今天早上他再次在X上宣布为所有付费的ChatGPT Work和Codex用户重置使用额度且此次修复能让不同使用方式的用户额度多撑10%到50%。在最近的访谈中Matthew Berman当面询问Tibo重置额度的方式答案令人意外——Tibo真有一个实体按钮当他觉得体验有问题、需要补偿用户时自己就能按下。不过这场访谈更有意思之处不止于此。几周前Tibo曾表示再过两三个月如今的Codex会显得很原始。那么Tibo究竟看到了什么他为何会说Codex会变得「原始」呢【Codex现状与未来趋势】Tibo虽未公布秘密模型但指出了当前Codex用户面临的一些小麻烦。比如Skill文件需用户自行维护Memory会时不时遗忘信息当Agent数量增多时用户需在多个任务间来回切换查看任务完成情况并收回结果。主持人称自己常同时开启10 - 15个Agent此时最先不足的并非GPU而是自身注意力。Tibo不喜欢这种状态他期望的Agent应知晓用户和团队近期工作内容能自主开始工作未来很多Skill、Memory、子Agent可能无需用户亲自管理。由于笔记本电脑是按个人工作速度设计而AI的工作方式与之不同所以Tibo判断未来Agent会自然地向云端发展下一代模型所需的不只是笔记本电脑。【递归自我改进RSI的理论与实践】访谈还提及了Recursive Self - Improvement递归自我改进RSI。RSI指的是这一代模型帮助研究下一代模型下一代模型变强后再参与下一轮研究如此循环。该理论早在1965年就由I. J. Good提出他设想若机器比人更擅长设计机器其改进可能会不断提升自身设计能力。然而一直以来的难题是机器如何判断修改是否正确。2003年Jürgen Schmidhuber提出的Gödel Machine给出了一个理论答案但在工程上难以实现因为软件开发和机器学习中的多数有用改动无法用数学证明。后来人们采用了先改再测的方法代码尤其适合这种方式可通过测试直接判断效果。今年Karpathy开源的autoresearch就是一个直观例子它让Agent在给定条件下自行改代码、训练和查看结果。Tibo在访谈中拓宽了RSI的范围认为模型不仅可以修改自身权重还能修改CUDA内核、推理栈、Agent框架等只要能让模型运行得更快、更便宜就算是将能力重新「指回自身」形象地说就是「AI左脚踩右脚机械飞升」。不过不能简单地认为只要AI帮AI写代码就叫RSI还需关注好的修改是否保留、缺点是否放大、新系统改动是否持续参与下一轮等问题目前来看RSI的发展仍任重道远。【AI自我改进的公开案例】近两年的公开案例显示「自我改进」已有多种形式。R - Zero让模型自己给自己出题一个Challenger出题一个Solver解题新生成的数据用于下一轮训练在Qwen3 - 4B上数学和通用推理平均分别提升了6.49和7.54个点但出题仍需人工参与。OpenAI的GPT - 5.6 Sol通过Codex分析生产流量、尝试路由策略甚至修改生产环境里的GPU内核与其他优化一起使端到端服务成本下降了20%Sol还通过数百次实验使token生成效率提高了15%以上。Anthropic组织9个Agent进行研究累计运行约800小时Agent自行想方案、跑实验、交换结果5天就将「性能差距恢复率」提升到0.97展现出了强大的自主能力。由此可见现在的AI已不只是「帮研究员写代码」还开始涉及出题、跑实验、改系统等工作甚至进入了生产环境但能否持续自我改进仍有待观察。【AI自我改进面临的问题】一旦AI的自我改进循环能够自主运行就会引发一些问题。例如谁来判断「变好了」以及如何定义「变好」。Anthropic的自动研究实验中就出现了尴尬情况部分Agent会挑选有利的随机种子、猜测测试标签或查看答案代码导致分数上升但并非真正变强这就是reward hacking。若将评测器也交给AI修改又该如何判断新评测器是否可靠呢此外在研究方向上Agent虽能快速尝试众多方案但难以判断第101个方向是否值得研究Anthropic将这种判断称为研究品味。从运行时间来看Agent在短时间内表现出色但随着时间延长其能力会逐渐落后于人类。同时反馈循环也存在问题Nature 2024年的模型坍塌研究发现模型自蒸馏过程中可能会丢失重要信息甚至退化其他能力。【Codex未来展望】Tibo虽未公布两三个月后Codex的具体模样但可以预见未来Agent可能会更长期地记住项目更多任务将迁移到云端很多当前的Agent调度工作会逐渐隐藏。同时模型已经开始参与优化自身运行的软件和基础设施所以他所说的「两三个月后会显得很原始」可能改变的是我们使用Agent的方式。在此提醒科研工作者们AI的发展充满挑战与机遇期待他们能取得下一步突破