GPU 调度栈开源与框架层精炼：AI 基础设施的两个新落点｜2026年10月20日

AI 基础设施的改动今天集中落在两处一是调度NVIDIA 把完整的 Run:ai 平台以 Apache 2.0 协议开源GPU 调度、配额与工作负载管理可以自托管二是框架Google 开源 Harness²把智能体的改进对象从模型权重移到 8 个可编辑的框架文件。两件事的共同前提是模型本身不动收益来自工程侧的可配置性。对开发者而言这意味着可优化的对象变多需要读的配置文件也变多。Run:ai 全量开源GPU 调度栈拆成四个可独立采用的模块据 MarkTechPostNVIDIA 已将完整的 NVIDIA Run:ai 平台作为开源软件发布源代码以 Apache 2.0 协议在 GitHub 上线生产级 GPU 调度、配额与工作负载管理交到开发者手中该版本同时使 Run:ai 成为 NVIDIA DSX AI Factory 平台的组成部分。平台团队因此可以检查、分叉并自托管整套技术栈无需购买付费订阅[① MarkTechPost]。拆分为 4 个可独立采用的模块KAI Scheduler 是 Kubernetes 原生调度引擎采用 Apache 2.0 协议并属 CNCF 沙箱项目覆盖成组调度、基于时间的公平份额、拓扑感知、装箱与 DRA 支持GPU Fractioning Operator 把 CUDA 13.4 原生 GPU 分片引入 Kubernetes由 CUDA 驱动对每个工作负载强制执行硬性内存上限NVIDIA 已退役其较早的专有分片方案[① MarkTechPost]。控制平面与集群服务构成另外两块前者负责工作负载提交、资源管理与监控后者部署在每个 Kubernetes 集群上并增加 GPU 感知调度。交付形态是单仓库包含控制平面、集群服务、安装器、命令行工具与 MCP 服务器本地开发构建约 50 个 Go 服务可运行在搭载 NVIDIA GPU 的 Kubernetes 或 OpenShift 集群上本地开发可在 macOS 或 Linux 上以 8 块模拟 Tesla-A10 GPU 运行无需真实 GPU[① MarkTechPost]。下面的伪代码仅按公开摘要梳理模块职责不含任何实际接口名。# 以下为根据公开摘要信息对Run:ai 模块划分的理解示意 # 具体实现请查阅NVIDIA官方技术文档 控制平面: 接收工作负载提交请求 维护资源配额与占用视图 汇总各集群上报的监控数据 集群服务(每个Kubernetes集群部署一份): 接收控制平面下发的工作负载 由KAI调度器按成组调度/时间公平份额/拓扑感知/装箱/DRA做出放置决策 由GPU分片算子在驱动层为每个工作负载设置硬性内存上限 访问入口: 网页界面 / 命令行 / REST接口 / 面向AI助手的MCP服务器⚠️ 以上伪代码为根据公开信息对该技术逻辑的初步理解示意具体实现请以官方文档为准。边界同样要读清楚NVIDIA 未公布该版本的平台级基准测试相关 Model Streamer 在 Azure 的 8 台 NVIDIA H100 虚拟机上将模型加载速度提升 3 至 6 倍但这是相邻组件的数据而非平台成绩社区版不提供 NVIDIA 企业级支持Linux 本地构建需要 16 GB 内存与 100 GB 磁盘空间[① MarkTechPost]。开源换来的可见性同时把运维责任完整转移给使用方。Harness²把改进对象从权重移到框架层文件据 MarkTechPostGoogle Cloud AI Research 开源的 Harness² 是一个在部署阶段精炼智能体框架层的递归增强框架本身不含模型参数可训练参数为 0提供 8 个可编辑组件版本号 0.1.0运行环境为装有 Python 3.12 或 3.13 与 uv 的 Linux模型调用通过 Vertex AI 完成GPU 要求未披露[① MarkTechPost]。8 个组件以文件形式挂载分别是系统提示词、护栏、记忆、工具指引、子智能体、技能、脚本与插件中间件覆盖上下文构建、工具接口、任务分派以及工具循环内的行为其文件划分在此前智能体框架工程工作的 7 文件切分基础上增加 1 个组件。框架运行两个相互关联的递归层级任务级递归采用对比式的提议、探查与组合步骤智能体先用基础框架运行一次任务随后由编辑器提出 2 个候选方案其中不变候选针对规划等通用智能体失败模式[① MarkTechPost]。量化结果如下仅 1 次精炼步骤即在全部 3 个基准上改善了全部 4 组模型与框架组合最佳情形为 OpenCode 下的 GLM-5 在 WorkBuddy-Bench 上从 64.2 升至 75.7提升 11.5 分最弱情形为 Codex 下的 GLM-5 在 JobBench 上从 23.6 升至 24.8仅提升 1.2 分[① MarkTechPost]。该框架面向开放世界任务在未见过的情形下到达且没有校验器判断答案是否正确研究团队据此指出多数自我改进方法依赖标签或测试用例而该框架设计为在缺少二者时仍可运作。数据层零训练表格预测与多模态数据平台据 MarkTechPostNVIDIA 的新库结构化数据模型把面向表格的多个预训练基础模型统一到同一个 PyTorch 接口之下用于单表的 TabICLv2 与 KumoTabular以及用于整个关系型数据库的 KumoRelational。三者均通过上下文学习作答给定一组带标签的行与需要预测的行模型在一次前向计算中返回概率或完整的预测分布全程不进行训练[① MarkTechPost]。教程的路径值得开发者注意从该库的类型化表格张量开始将两个表格模型与经过训练的 scikit-learn 基线作比较在多次查询间复用已编码的上下文从回归任务中读取校准后的预测区间并扩展到二十个类别最后构建一个三表的小型商店数据库直接据此预测客户活跃度[① MarkTechPost]。流程示意如下仅为职责层面的理解不含实际接口。# 以下为根据公开摘要信息对NVIDIA结构化数据模型上下文学习流程的理解示意 # 具体实现请查阅NVIDIA官方技术文档 输入: 带标签的历史行(特征列 目标列) 待预测行(仅特征列) 一次前向: 以全部带标签行作为上下文 为每个待预测行输出概率或完整预测分布 回归任务返回校准后的预测区间 需要留意的配置项: 预处理配方可能丢弃时间戳列与文本列 解释器存在两个已知陷阱 关系型模型有一个决定其是否诚实的参数⚠️ 以上伪代码为根据公开信息对该技术逻辑的初步理解示意具体实现请以官方文档为准。不训练并不等于不需要工程判断。该库的价值在于把表格预测从训练流程转为上下文配置代价是预测质量依赖所给的带标签行若预处理配方丢掉时间戳与文本列模型的输入就已经失真[① MarkTechPost]。对数据团队而言先验证上下文质量再谈模型选择是更稳妥的顺序。多模态数据一侧是同一取向。据 MarkTechPostVoxel51 3.0 把搜索、数据整理、标注与评估整合到同一系统面向使用机器人、车辆与工厂传感器数据训练模型的团队新增 Voxel51 Agent、数据溯源层与免费自助访问。Voxel51 Agent 随附 45 个以上 MCP 工具、80 个以上算子与 18 个开源技能既可托管在 app.voxel51.com 网页应用运行也可在云端、混合、本地与物理隔离环境中自托管未披露本地 GPU 要求[① MarkTechPost]。三项核心能力分别是时间序列多模态支持团队可在同一条时间线上查看多路传感器流并用分段级嵌入定位长时录制中的具体时刻统一标注覆盖二维、三维、视频与多模态数据包含自动质检、标注员指标与人机协同复核智能体标注由视觉语言模型依据自然语言指令与示例生成标签[① MarkTechPost]。支持的模态包括 MCAP、图像、视频、三维点云、网格、DICOM、NIfTI、地理空间数据与音频。检索侧是持久化混合索引自动索引数据集并计算嵌入因此搜索从第一天即可用语义检索可找到视觉或语义相似的时刻即使没有共享标签词法与结构化查询可处理精确词项、时间戳、传感器字段与元数据嵌入与结构化字段保持原生形态在检索时合并[① MarkTechPost]。免费档含每月 3 万次推理请求与 30 个计算小时但上限为 3 个数据集、每个 1 万样本与 20GB 存储官方未发布产品基准测试而是引用自身调研数据。Timestral2.09 亿参数把时间序列预测搬上 CPU据 MarkTechPostMistral AI 发布首个时间序列基础模型家族 Timestral含 4 个零样本预测模型参数量分别为 500 万、2800 万、1.23 亿与 2.09 亿均为稠密结构上下文最长 32768 个时间步最大模型在 GIFT-Eval、TIME 与 fev-bench 三个基准的预训练零样本模型排名中位列第一推理不需要 GPU开发者可获得开放权重与推理代码[① MarkTechPost]。工程参数决定了部署方式2.09 亿参数权重在 fp32 精度下为 837MB每个模型对每个时间步输出 21 个分位数可联合预测多变量目标并接受仅历史、已知未来与类别型协变量单次前向最多预测 1024 步更长跨度则以分块滚动方式把前一分块的中位数回灌为上下文[① MarkTechPost]。架构为因果式分块 Transformer具备时间注意力与变量注意力2.09 亿版本使用 24 层、嵌入维度 768每个分块覆盖 32 个时间步并包含解耦跨度预测DHF。优势幅度需要按原文尺度理解。Mistral 自报的测试显示fev-bench 的 SQL 技能得分为 50.39高于 TimesFM-3 的 48.99GIFT-Eval 的 MASE 指标为 0.658仅以 0.003 领先 t0-gamma 的 0.661[① MarkTechPost]。对需要在自有服务器上做预测的团队权重体积与无需 GPU 这两点比排名更具决策价值但若场景与这三个基准差异较大仍应自行验证。评估权限与资本动作METR 的员工级访问与 Disney 的招聘据 Ars Technica 报道Anthropic 已向外部评估方授予「员工级访问权限」用于评估其模型风险非营利机构 METR 曾与 OpenAI、Anthropic、Google 和 Meta 等领先实验室合作目前已在 Claude 开发方的办公室内派驻团队可使用其硬件与内部系统[② Ars Technica]。让第三方评估方发挥更大作用是各实验室为回应外界对更强 AI 系统可能威胁经济、网络安全与人类整体安全的担忧而提出的主要具体举措之一。资本侧同日也有动作。据 TechCrunchDisney 已同意聘用 Character.AI 的大部分员工相关申报文件显示获得工作机会的员工中「绝大多数」已接受聘用该交易属于「掩护马」竞价其他公司仍可能提出更高报价[③ TechCrunch]。这条信息的技术含义有限但它提示团队与能力的重组可以和模型、框架的更新同时发生。趋势判断趋势一算力管理层从「购买编排」转向「自行运维」。支撑来自 Run:ai 的 4 模块拆分与 Apache 2.0 开源社区版不提供企业级支持、Linux 本地构建需 16 GB 内存与 100 GB 磁盘空间说明能力下放的同时责任也下放[① MarkTechPost]。同一方向也出现在 Voxel51 的自托管选项上其 Agent 可在云端、混合、本地与物理隔离环境中运行免费档则以数据集数量与存储设限[① MarkTechPost]。趋势二改进对象从权重转向配置收益呈组合依赖。Harness² 的可训练参数为 0仅 1 次精炼即在 3 个基准上改善 4 组组合但幅度从 11.5 分到 1.2 分不等[① MarkTechPost]NVIDIA 结构化数据模型同样不改权重质量取决于上下文提供的带标签行[① MarkTechPost]。两条路径都说明配置的收益必须按组合实测无法用单一峰值分数代替。趋势三小体量专用模型的部署门槛持续下降。Timestral 以 2.09 亿参数、837MB 权重与无需 GPU 的推理进入标准服务器Mistral 同时提供开放权重与推理代码[① MarkTechPost]Voxel51 则把智能体能力打包为 45 个以上 MCP 工具与 18 个开源技能降低团队自建流程的成本[① MarkTechPost]。两者的共同点是把能力做小、做细再嵌入既有流程。结尾今日的技术侧变化可以概括为一句话可优化的地方变多了但每一处都需要按组合实测。调度栈可以自托管、框架层可以精炼、表格与传感器数据可以绕开训练、时间序列模型可以跑在 CPU 上这些选项的共同代价是配置与运维的复杂度上升。后续值得关注两点一是自托管调度栈在缺少企业级支持时的稳定性实践二是「员工级」评估权限的具体边界与结果发布机制。前者决定开源能否进入生产后者决定外部监督能否持续。【资讯来源】本文综合整理自 MarkTechPost、Ars Technica、TechCrunch 等公开信息源。 ① MarkTechPost, 2026年10月18日 16:15 北京时间 / 2026年10月18日 01:15 美西时间 ② Ars Technica, 2026年10月19日 00:25 北京时间 / 10月18日 09:25 美西时间 ③ TechCrunch, 2026年10月19日 00:30 北京时间 / 10月18日 09:30 美西时间【免责声明】 本日报为AI行业每日公开信息汇总整理仅供读者快速了解行业动态不构成任何投资建议。所有信息均来源于公开渠道本账号不对其准确性、完整性和时效性作出任何保证。AI行业技术与政策变化迅速内容发布后可能发生更新请以官方最新信息为准。据此作出的任何决策全部风险自担。© 2026 林伽一 · AI科技日报#GPU调度 #Kubernetes #开源框架 #表格预测 #时间序列模型