深度学习任务分类：监督信号与输出形态决定模型选型

最近有朋友拿着一个数据集来问我字段就这些标签也是现成的到底该用深度学习里的哪一类模型这个问题其实很典型——很多人把注意力放在模型结构上却忽略了最底层的问题我手上这个任务本质上属于什么任务类型。深度学习任务分类不是教科书里枯燥的一章理论它决定了你接下来选什么网络结构、用什么损失函数、看什么评价指标甚至决定你这个项目从一开始就跑偏还是走对。这个系列的第一篇我想把深度学习里最常见的任务类型整体捋一遍每一类都配实例讲清背后的建模思路。不管你是刚入门的新手还是从传统机器学习转过来的开发者只要能把任务分类这张地图刻在脑子里后面看模型、选方案都会有方向感得多。1. 深度学习任务分类的两把尺子监督信号与输出形态深度学习的任务五花八门分类、回归、聚类、检测、分割、生成、强化学习名词一大堆。但剥开外壳看本质我觉得判断一个任务属于哪一类只需要拿两把尺子去量。第一把尺子是我叫作监督信号的东西训练的时候模型靠什么反馈来调整自己。如果每个训练样本都带一个标签模型预测结果直接和这个标签比那就是监督学习如果数据没有标签模型要从数据本身的结构里找规律那就是无监督学习如果模型靠环境给的奖励信号来试错那就是强化学习。这个反馈信号的类型直接决定了训练循环长什么样这也是所有任务分类里最硬的分界线。第二把尺子是模型的输出形态预测出来的是一个数、一个类别、一个向量、一张图还是一串动作。形态不一样模型最后一层结构、损失函数、评价指标全部跟着变。比如同样是有标签的训练数据输出是连续的数值就是回归任务输出是离散的类别就是分类任务输出是一个个边界框和类别组合就是目标检测任务。这两把尺子叠在一起几乎所有深度学习任务都能对号入座。任务大类监督信号典型输出形态代表任务监督学习人工标注的标签标量/类别/边界框/掩码分类、回归、检测、分割无监督学习数据本身聚类簇/低维向量/重建结果聚类、降维、自编码、对比学习自监督学习从数据中构造的信号变换后的类别/向量旋转预测、遮挡恢复、对比学习生成式学习数据分布本身图像/文本/音频等新样本GAN、扩散模型、语言模型强化学习环境反馈的奖励动作序列/策略分布游戏AI、机器人控制有人会问自监督学习算无监督吗严格来说它属于无监督的范畴但机制不太一样——它是自己给自己造标签比如把一张图旋转90度让模型预测旋转角度。现在大模型领域很多工作都靠这个套路所以单独拎出来后面会细说。2. 判别式任务分类、回归与结构化预测管住输出长什么样判别式任务是工业界最常用的一类深度学习应用核心逻辑很简单给定输入直接预测它的属性或者结果。这类任务的关键就是标签是人工定义好的模型只需学一个从输入到输出的映射。2.1 分类任务类别是离散的输出是一个概率分布分类任务是最基础、最典型的判别式任务。文本情感判断、图片识别、故障诊断、垃圾邮件过滤全是分类。它的核心设定是预先定义好有限个类别每个样本只属于其中一个或者多个模型输出每个类别的概率最终取概率最大的类别作为预测结果。以文本情感二分类为例输入是一句话标签是0负面或1正面。实际建模时输入变成向量句子先分词再通过嵌入层映射成一串向量模型中间层抽特征可以用双向循环网络也可以用Transformer结构把句子压缩成一个语义向量最后一层重要接一个输出维度为2的全连接层再接Softmax把两个实数变成和为1的概率分布损失函数用交叉熵衡量预测分布和真实标签的差异评价指标常用准确率、F1值尤其类别不平衡时优先看F1。这里有个容易被新手忽略的点分类模型的输出是概率分布不是类别编号。有些框架里看起来模型直接输出了一个数字实际上是它对每个类别的概率做了argmax。你如果直接拿一个类别编号的整数作为监督信号让模型做回归式拟合虽然也能跑出一个模型但概率语义就丢了模型对边界样本的置信度也没法体现。2.2 回归任务输出连续数值损失函数逻辑完全不同回归任务和分类看起来很像都是输入到输出的映射但输出从离散类别变成了连续数值。房价预测、气温预测、销量估计、年龄估计都是回归。这类任务的关键是输出的数值有远近关系——预测错误3万比错误1万严重得多所以模型要学习的是数值近似而不是类别判定。回归任务建模时最后一层通常是一个没有激活函数的全连接层输出维度为1损失函数用均方误差MSE或平均绝对误差MAE前者对大误差惩罚更狠后者对离群值更鲁棒评价指标用均方根误差RMSE、R²等看预测值和真实值的拟合程度。实际中我见过不少人把回归问题硬当成分类问题处理比如预测年龄有人把它分箱变成0-10岁、10-20岁……几个类别去做分类。这种做法在某些特殊场景下偶尔有用但它有三个代价一是类别边界处会出现阶梯误差明明真实年龄21岁模型输出区间20-30岁和30-40岁在分类指标上差异是一样的非常不合理二是类别间的排序信息没被利用三是类别不均衡问题很容易出现。除非有明确业务需求比如做个年龄段推荐否则老老实实做回归是更稳的选择。2.3 结构化预测任务检测、分割、多标签分类的共性还有一些判别式任务输出的不是单个标签而是一组有结构的结果这类我把它们归为结构化预测。它们本质上仍然是监督信号驱动但复杂在输出的组织形式上。目标检测就是一个典型输入一张图输出是若干个物体框类别置信度。和普通分类比它多了两个难题——一张图里可能有多个物体而且数量不定物体位置用矩形框坐标表示需要模型既做定位又做分类。所以检测模型通常有两条分支一条回归框坐标一条分类框内物体类别。损失函数也是两部分相加常见的Smooth L1损失管定位交叉熵管分类。语义分割则更精细输出的不是框而是每个像素的类别掩码。一个512×512的图输出就是512×512的类别矩阵。由于输出本身保留了空间结构所以分割模型常用编码器-解码器结构解码部分逐渐把下采样后的特征图还原回原分辨率。多标签分类也是容易被忽视的结构化任务一篇文档可能同时属于科技和医疗两个类别模型要输出多个独立的二分类概率每个类别算一次Sigmoid而不是做一个多类Softmax。这两个概念——多分类和多标签分类——经常被混用。多分类是N选1多标签是每个类别独立判断0或1损失函数一个是Softmax交叉熵一个是多个Sigmoid二值交叉熵千万别用错。2.4 判别任务建模前先想清楚这三个问题判别式任务看似简单但翻车率一点都不低。我总结了三个高频问题建任何判别模型前都值得过一遍样本是否平衡。正负样本差距太大时模型容易把所有样本都猜成大类别准确率还特别高。这时候要先做类别重加权、过采样/欠采样或者改用Focal Loss这类针对难样本设计的损失函数。但注意类别不平衡不是必须做数据增强的理由先看评价指标再下结论。多标签和多分类是否分清了。如果你业务里一个样本本来就归属多个类别结果你用了Softmax模型大概率会在两个相关性高的类别之间摇摆——因为它们不是互斥关系Softmax的总和为1约束会强行压抑其中一个。这是结构设计错误不是训练技巧能救回来的。数据增强要贴合语义。图像分类里做随机裁剪、翻转很合理但文本分类里做随机词语删除、近义词替换是有风险的语义可能被破坏。回归任务里做Label Smoothing这类操作也容易把真实分布扰乱。增强策略不是万能药得先想清楚这个增强有没有改变样本的真实标签。3. 无监督与自监督任务抽掉人工标签让模型自己找规律深度学习的监督能力再强也绕不开一个现实瓶颈高质量标注数据太贵了很多场景根本没有标签甚至标签本身的定义都说不清。无监督和自监督任务解决的就是这个问题它们的目标不是预测某个答案而是发现数据内部的结构。3.1 聚类任务数据没有标签让它自己成堆聚类是传统机器学习就有的经典任务深度学习让它有了新玩法。给定一批用户行为数据没有用户属于哪类的标签我们希望模型自动发现数据中有几个堆每个堆里的样本互相像堆和堆之间差异明显。这个思路常用于用户分群、异常检测、文档主题挖掘。传统K-Means在低维结构化数据上挺好用但拿原始图像、原始文本直接算欧氏距离效果很差因为高维原始空间里的距离不代表语义距离。所以深度聚类的做法通常是分段走先用一个无监督预训练过的神经网络把高维数据压成低维向量再在低维空间里做聚类。换句话说深度学习在这里扮演的是特征提取器的角色聚类算法本身还在。聚类问题有个所有人都绕不开的痛点怎么评价结果。分类有准确率回归有误差但聚类没有标准答案。实践中常用轮廓系数、聚类纯度这类内部指标或者结合业务做人工抽样验证。我的建议是聚类结果一定要落到业务上检验比如用户聚类完看看每个簇的平均消费、活跃度是否有区分度有区分度才有说服力。3.2 自编码器与表征学习学会把数据压缩再还原自编码器是我刚接触深度学习时觉得最奇妙的模型之一。它的想法很简单把输入压缩成一个很短的向量编码再从短向量努力还原出原来的输入解码。训练时没有人工标签监督信号就是输入本身——输入和输出对比计算重建误差。如果模型能很好地还原输入说明那个短向量已经抓住了数据的核心信息。打个比方一篇文章几千字你让它概括成五句话然后从这五句话尽量还原原文这五句话必然要保留最关键的语义信息。自编码器学到的短向量就是这类压缩后的表示可以拿去做可视化、做特征、做异常检测。在异常检测场景里模型只见过正常样本想还原异常样本时会很吃力、重建误差大利用这个误差就能找出异常点。如今纯粹的经典自编码器在工业落地里越来越少见了但它作为一种思想被保留在大量新模型里。比如对比学习框架、掩码语言模型本质上都是从数据的一部分预测另一部分或复原被破坏的部分只是监督信号的构造复杂得多。3.3 自监督对比学习让模型自己造老师自监督学习的核心思想是我前面提到的自己给自己造标签。最近几年它成了大模型训练的基石比如把一句话随机遮住几个词让模型预测被遮住的词是什么把一张图转成灰度图让模型预测原图的颜色把一段视频的关键帧抽掉让模型预测缺失帧的内容。这类任务里最值得一提的套路是对比学习。它构造样本对同一张图做两次不同增强比如随机裁剪、旋转、加噪声得到两个视角它们本质上是同一个物体所以视为正样本对不同图片视为负样本对。训练目标是让模型把正样本对的特征拉近把负样本对的特征推开。这样学出来的特征提取器即使下游没有标签也能做到猫的两种增强版本特征很近猫和桌子特征很远。自监督在实际项目里最典型的用法是预训练先在大量无标注数据上做自监督训练学一个不错的特征提取器然后带着这些参数去下游做小样本分类或者目标检测往往比随机初始化效果好得多。我自己做过一个实验同一批标注样本只有几千张直接用随机初始化的模型训练F1只有0.82左右换用自监督预训练的特征做初始化F1能提到0.91。这差距不是调参能补回来的。3.4 无监督学习的效果怎么量化无监督的无标准答案属性让很多人觉得无法客观评价。但做工程的人不能这么想。我的经验是分三条路并行内在指标聚类轮廓系数、自编码重建误差、对比学习特征空间里的正负样本距离差距下游任务验证把学到的表征接到一个简单的下游分类模型上看F1或者准确率这是目前最能说明问题的做法人工抽检几百个样本人眼去看聚类的结果是否合理、重建的图是否清晰。尤其第二条业界管它叫评估表征质量的下游迁移。你装的特征提取器好不好不要只看损失曲线丢到一个标准测试集上跑一遍才踏实。这也是为什么文章里的预训练模型都提到效果刷到多少分——那其实是在下游任务上做的评测。4. 生成式任务与强化学习换一个目标函数框架监督和无监督任务再怎么不同背后都有一个共同点模型是在听指令做输出。但深度学习里还有另外两类任务它们的建模目标和前面完全不同一个是生成新样本一个是做序列决策。4.1 生成式任务学的不是映射是数据分布本身分类模型学会的是这张图里有没有猫生成模型要学的是猫长什么样——它要能凭空画出一张猫的图片或者写出一段和训练语料风格一致的文本。目标从判别边界变成了概率分布两者差异巨大。生成式建模有两条主流路线。一条是自回归路线一个词一个词地生成每一步都基于前面已经生成的词来预测下一个词语言模型就是典型。另一条是扩散路线或叫去噪路线训练时把真实图片逐步加上噪声直到变成纯噪声推理时反过来从纯噪声一步步去噪还原成图片。这类模型输出是像素矩阵评价方式很特别很难说一张图对或错只能从整体分布上判断它是否和真实图接近所以常用FID、IS这种统计距离指标或者靠人眼主观评测。我最初接触生成模型时最大的感受是它的训练要比判别式任务脆得多。判别式模型损失下降通常很稳定而生成对抗网络训练时生成器和判别器像两个在拔河的选手一不小心就一方碾压另一方。现在的扩散模型稳定性好了很多但计算开销又上来了。做生成任务前一定要算好算力预算这是个吃资源的大户。4.2 强化学习任务目标是动作序列不是单一预测结果强化学习和前面所有任务都不太一样。前面不管是监督还是无监督模型在单个样本上做一个预测就够了强化学习里模型智能体要连续地和环境互动每次根据当前状态选择一个动作环境返回下一个状态和一个奖励信号模型的目标是让长期累计奖励最大化。举几个典型例子玩棋类游戏、控制机器人手臂抓取物体、推荐系统里的在线决策、甚至对话系统里根据用户反馈调整回复策略。它的训练信号来自环境反馈而不是数据集的标注。这个延迟反馈问题是强化学习和监督学习的根本差异。游戏里你走错一步可能要等到几十步之后才输这时怎么知道是哪一步导致的强化学习要解决的核心就是信用分配问题所以它常用价值函数或策略梯度这类机制而不是普通的反向传播。工程上做强化学习项目我最大的建议是先跑通一个极简模拟环境再考虑上复杂环境。一来复杂环境训练时间长排错成本高二来奖励函数设计本身就是容易出错的地方——奖励信号太稀疏智能体根本学不到东西奖励信号设计不当还可能学出钻空子的行为在模拟器里疯狂刷分但实际毫无用处。4.3 四类任务放在一起看决策前先做排除法深度学习任务分类这个图景到这里已经有比较完整的样子了。我经常用的一个思考方式是排除法先看有没有人工标签有标签走监督判别路线没有标签但有明确类别结构走无监督聚类或表征路线如果目标是要创造新的内容走生成式路线如果问题本身是一个环境互动的序列决策问题就走强化学习路线。任务类别训练信号典型损失/优化目标常用评价方式典型落地场景监督判别人工标签交叉熵、MSE准确率、F1、RMSE风控、推荐、质检无监督/自监督数据本身或自造标签重建误差、对比损失聚类纯度、下游任务指标预训练、异常检测、搜广推生成式数据分布对抗损失、去噪损失FID、人工评测图像生成、文本生成强化学习环境奖励策略梯度、时序差分累计奖励、胜率游戏、控制、对话决策这张表我建议打印或者存下来选型的时候先对着它做排除通常能砍掉一半错误选项。5. 从任务类型到工程落地建模前先回答好三个问题前面的章节都在讲任务类型长什么样最后一个部分我想讲落地的时候怎么用这套分类认知去指导实操。不管是大模型项目还是传统深度学习项目动手写第一行代码之前先回答好三个问题能省下后面几周调参的功夫。5.1 第一步定死输出空间和监督信号拿到需求后先别急着选网络结构而是先明确输入什么形态输出什么形态训练时拿什么做反馈。比如一个智能运维项目需求是预测服务器磁盘什么时候会满你要先判断输出是一个具体的时间点数还是未来7天内是否告警的类别前者是回归后者是分类。判断的标准不是哪个模型好用而是业务真正需要什么——如果做自动扩容预案回归的时间点数更直接如果做告警推送分类更实用。还要把监督信号写清楚写成一个可以直接执行的语句给定过去7天的监控序列预测未来24小时磁盘使用率峰值用MSE作为损失函数以命中率评估报警准确度。这句话里面已经有任务类型回归、输入规格7天序列、输出规格未来24小时的数值、损失函数、评价指标。把这个框架写出来后面所有模型选择都是填空。5.2 第二步评价指标必须和业务目标对齐这个坑我踩得太深了。以前做分类任务模型准确率跑到97%业务方却说没用后来才发现问题在于正样本只占2%模型把所有样本全预测成负样本就有98%的准确率。评价指标选错了模型做出来就是废的。正确做法是训练前就想好业务里犯哪种错代价更高垃圾邮件里漏掉一封重要邮件比多拦截一封普通邮件严重得多那就应该看召回率或者用带权重的F值医疗筛查里宁可多查也不能漏查指标就要偏向召回。回归任务同理预测高估值导致超卖预测低估值导致库存积压两种误差的代价完全不一样此时单纯看MSE是不够的可以在损失函数里给两种方向的误差设不同的权重。评价指标不是训练完再看的是在任务定义时就要定好的。5.3 第三步判断做端到端还是拆解成多阶段有时候一个问题看着是A任务但实际上拆开后才发现是B加C。比如自动驾驶车辆检测障碍物表面是目标检测但工程上往往要先做车道线分割、再做障碍物检测、再做路径规划每个阶段任务类型不一样。这并不是技术上的倒退而是工程上的可靠性考虑——每个阶段可以单独验证、单独回退出问题时更容易定位。如果业务里有明确的中间产物比如先抽取关键词再做情感分析我建议拆开来做每个子任务独立建模、独立评估。如果中间产物定义不清或者信息损失严重端到端模型就更有优势。判断的核心标准只有一句中间结果是否可解释、可接口、可单独优化。拆与不拆不以模型复杂度为理由而以业务可靠性和可维护性为理由。以上就是深度学习任务分类与示例一的完整梳理。我自己带项目时最喜欢画一张小小的决策卡输入是什么、输出是什么、监督信号从哪来、用哪个损失、用什么指标、端到端还是多阶段。这张卡一填完我心里基本就有谱了。下一篇我会挑一个最常见的任务类型展开一个完整的落地案例从数据清洗到模型部署把每一步的思路走一遍。如果你在填决策卡的时候卡在哪一格欢迎在评论区对照着聊。