大模型和普通程序到底哪不一样？从 if-else 到参数拟合

大模型和普通程序到底哪不一样从 if-else 到参数拟合计算器永远算对、AI 修图偶尔抽风——都是软件底层逻辑却天差地别。本文用一张六维对比表 一段可运行 softmax demo讲清确定性程序和概率性模型的本质区别。适合想搞懂模型为什么像人又不可控的你。一、背景 / 为什么需要它你日常用的软件分两类死脑筋型计算器、日历提醒、税表计算——输入定了输出永远定11 绝不会突然变 3。有点灵性型AI 修图、智能翻译、聊天机器人——同一个问题问两遍答案可能不太一样。表面都是代码底层却是两套完全不同的哲学。搞不清这个区别你就没法判断哪些活该交给模型哪些活必须死死攥在规则手里也理解不了后面要讲的幻觉参数为什么会出现。二、核心概念 / 两种哲学普通程序人写规则照章办事算个税你就把税率表、起征点、扣除项全写成if-else判垃圾邮件就列关键词规则。逻辑全摊在明面上哪里错了一行行 debug。好处是可预测、可解释缺点是没写到的场景一律不会世界一变你就得回去改代码。模型人给例子它自己悟规律模型不靠人写规则而是喂成千上万例子让它从数据里总结规律压成那一大堆参数权重。大语言模型没人告诉它主谓宾怎么排它读了海量文本后自己学会了下一个词最可能是什么。你问它它是在用学到的概率猜最合适的回答不是查数据库。这就解释了它为什么像人——和你一样从经验里归纳而不是照本宣科。再补一个工程视角的差别普通程序的正确是被保证的代码逻辑确定模型的正确是被统计的在训练分布内大概率对。所以模型特别怕分布外输入——你问个它从没见过类型的怪问题程序会按规则报错模型却可能硬编一个听起来合理的答案。这也是后面幻觉专题要深挖的点。一句话收住普通程序是确定性的同输入同输出模型是概率性的给最可能的好答案不是唯一正确答案。落到选型上给个口诀凡是规则能写清、错了要追责的交给程序凡是说不清规则、但人一眼能判断的交给模型。比如订单金额算没算错必须程序这张图里有没有猫适合模型。把口诀反过来用八成的 AI 翻车都能提前避开。输入普通程序大模型人写死的 if-else 规则确定输出: 永远一样海量数据训出的参数概率输出: 最可能的回答三、动手实操用 numpy 看概率性光说抽象跑段代码感受模型的概率输出和程序的确定输出差在哪。3.1 环境与版本Python 3.11numpy1.26只用到基础运算无需 GPU3.2 关键代码importnumpyasnpdefsoftmax(logits):把模型原始的打分(logits)转成概率分布和为1每个值代表选它的把握enp.exp(logits-np.max(logits))# 减最大值防止指数溢出returne/e.sum()# 假设这是模型对下一句该接哪句话的三种候选的原始打分logitsnp.array([2.1,0.5,1.3])probssoftmax(logits)print(概率分布:,np.round(probs,3))print(最可能的一个:,probs.argmax(), 概率:,round(probs.max(),3))# 普通程序怎么干同样的事它根本不会猜直接写死规则defrule_program():return固定回复你好# 永远一样没有概率print(程序固定输出:,rule_program())前置说明logits是模型内部对候选答案的倾向分softmax 把它压成 0~1 且加起来等于 1 的概率。预期结果概率分布: [0.595 0.116 0.289] 最可能的一个: 0 概率: 0.595 程序固定输出: 固定回复你好模型给的是60% 选 A、29% 选 C的概率每次采样可能不同程序永远吐同一句。这就是概率性 vs 确定性最直白的差别。四、常见坑 / 避坑清单以为模型能取代程序错。程序胜在精确、可解释算账、校验、流程控制模型胜在模糊、泛化识图、翻译、抓重点。靠谱系统往往是模型打头阵理解程序在后面兜底控制。把模型当数据库查模型是按概率生成答案不是从记忆里检索。所以它既能答对也会一本正经胡说幻觉因为记的是分布不是事实。忽略黑盒风险模型怎么得出结论人常看不穿。上生产前必须加校验层和兜底逻辑别把关键决策直接甩给模型。用模型做容不得半点模糊的活凡是涉及钱、合规、安全的精确判断优先规则程序模型只做辅助。五、总结普通程序 人写规则、确定性、可解释模型 数据学规律、概率性、能泛化。模型像人是因为它从经验归纳而非照本宣科。两者是互补不是替代各用所长工程上常组合使用。模型的软肋是幻觉 黑盒生产环境必须加程序兜底。理解这一层才能判断这活该交给谁。最后以上就是本文的全部内容希望对你有帮助。这个系列我会顺着「基础认知 → 模型原理 → 工具协议 MCP → 智能体 Agent → 检索增强 RAG」的顺序在 CSDN 专栏《AI基础知识分享》里一篇篇写下去。想系统跟、不漏更新的点一下关注就行新文会直接推给你。