机器学习基础认知
一句话:机器学习(Machine Learning,ML)就是不再由人写规则,而是让电脑从数据里自己找规律。
本文用大白话梳理:机器学习的几种学习方式、常见算法、深度学习的几种网络结构,以及它们和今天的大模型是什么关系。
整理时间:2026 年 11 月。
一、总体关系
人工智能(Artificial Intelligence,AI):让机器表现得聪明
└─ 机器学习(Machine Learning,ML):让机器从数据里自己学
├─ 按“怎么学”分:监督学习 / 无监督学习 / 自监督学习 / 半监督学习 / 强化学习
└─ 按“用什么模型”分:传统机器学习 / 深度学习(Deep Learning,DL)
└─ DNN、CNN、RNN、Transformer……
└─ 大模型(LLM)
两个维度可以自由组合,例如“深度学习 + 强化学习”就是深度强化学习(Deep Reinforcement Learning,DRL),AlphaGo 就是这种。
二、为什么需要机器学习
传统编程:人把规则写死。判断垃圾邮件时,写“标题含‘中奖’就算垃圾”……规则写不完,骗子一换说法就失效。
机器学习:给电脑看一万封标好“是/不是垃圾”的邮件,让它自己总结规律。
| 传统编程 | 机器学习 | |
|---|---|---|
| 输入 | 规则 + 数据 | 数据 + 答案(或反馈) |
| 输出 | 答案 | 规则(模型) |
| 规则从哪来 | 人写 | 从数据里学 |
三、五种学习方式
3.1 监督学习(Supervised Learning):有老师教
做法:每条数据都配标准答案(标签,Label),模型学习“输入 → 答案”的对应关系。
比喻:学生做练习册,每道题后面都有答案,做完对照、改正。
两类典型任务:
| 任务 | 英文 | 输出 | 例子 |
|---|---|---|---|
| 分类 | Classification | 类别 | 垃圾邮件识别、猫狗识别、贷款违约判断 |
| 回归 | Regression | 数值 | 房价预测、销量预测、家庭年消费预测 |
常见算法:
| 算法 | 英文 / 缩写 | 一句话理解 |
|---|---|---|
| 线性回归 | Linear Regression | 画一条最贴合数据的直线来预测数值 |
| 逻辑回归 | Logistic Regression | 名字叫回归,其实做分类;输出属于某类的概率 |
| 决策树 | Decision Tree | 一连串“是/否”问题,像流程图一样做判断 |
| 随机森林 | Random Forest | 很多棵决策树投票,比单棵更稳 |
| 梯度提升树 | Gradient Boosting Decision Tree,GBDT;常用实现 XGBoost、LightGBM | 一棵接一棵地种树,每棵专门纠正前面的错误;表格数据上的“王者” |
| 支持向量机 | Support Vector Machine,SVM | 找一条离两类数据都尽量远的分界线 |
| K 近邻 | K-Nearest Neighbors,KNN | 看离你最近的 K 个邻居是什么类,你就是什么类 |
| 朴素贝叶斯 | Naive Bayes | 用概率公式算属于各类的可能性;早期垃圾邮件过滤常用 |
优点:目标明确、效果好、好评估。 缺点:需要大量人工标注,又贵又慢。
3.2 无监督学习(Unsupervised Learning):没老师,自己找规律
做法:只给数据,不给答案,让模型自己发现结构。
比喻:给你一堆没分类的照片,你自己按相似程度分成几堆。
典型任务与算法:
| 任务 | 英文 | 例子 | 常见算法 |
|---|---|---|---|
| 聚类 | Clustering | 把用户按消费习惯分成几群 | K 均值(K-Means)、层次聚类(Hierarchical Clustering)、DBSCAN |
| 降维 | Dimensionality Reduction | 把几十个指标压缩成几个核心维度,方便分析和画图 | 主成分分析(Principal Component Analysis,PCA)、t-SNE、UMAP |
| 异常检测 | Anomaly Detection | 发现盗刷、设备故障 | 孤立森林(Isolation Forest) |
| 关联规则 | Association Rule | “买尿布的人常买啤酒” | Apriori |
例:港大 S²-MAS 论文用 PCA 检查 5 亿份合成画像里收入、支出、资产、负债如何共同变化,就是无监督学习的典型用法。
优点:不需要标注,能发现人没想到的规律。 缺点:结果难评估,“分得好不好”往往要人来判断。
3.3 自监督学习(Self-Supervised Learning,SSL):自己给自己出题
做法:把数据藏一部分让模型猜,被藏的部分就是答案。不用人标注,却有了几乎无限的练习题。
严格说它是无监督学习的一种,但因为太重要,现在常单独列出。今天所有大模型的预训练都靠它。
| 出题方式 | 英文 / 缩写 | 做法 | 代表 |
|---|---|---|---|
| 猜下一个词 | Next-Token Prediction,NTP;也叫自回归(Autoregressive) | 看前文,猜下一个词 | GPT、Claude、Qwen |
| 完形填空 | Masked Language Modeling,MLM | 遮住句中一些词,让模型填回去 | BERT、ModernBERT |
| 拼图还原 | Masked Image Modeling,MIM | 遮掉图片大部分,让模型补全 | MAE(Masked Autoencoder) |
| 找配对 | Contrastive Learning(对比学习) | 判断哪段文字配哪张图 | CLIP(Contrastive Language-Image Pre-training) |
| 去噪还原 | Diffusion Model(扩散模型) | 给图片加噪再学着一步步去噪 | 主流 AI 画图、视频生成模型 |
3.4 半监督学习(Semi-Supervised Learning):少量答案 + 大量无答案
做法:先用少量有标注的数据学个大概,再利用大量没标注的数据进一步提升。
比喻:老师只讲了几道例题,剩下的大量习题你自己举一反三。
典型做法:伪标签(Pseudo-Labeling)——让模型给无标注数据打上“猜测的答案”,挑出把握大的再拿来训练。
适合:标注很贵、但原始数据很多的场景,如医学影像。
3.5 强化学习(Reinforcement Learning,RL):靠试错和奖惩
做法:不给标准答案,让模型在环境里自己尝试,做得好给奖励,做得差扣分,目标是让总奖励最大。
比喻:训练小狗——坐下就给零食,乱咬就批评,试多了它自己就知道该怎么做。
核心概念:
| 概念 | 英文 | 含义 | 下棋的例子 |
|---|---|---|---|
| 智能体 | Agent | 做决定的那一方 | 下棋的 AI |
| 环境 | Environment | 智能体所处的世界 | 棋盘和对手 |
| 状态 | State | 当前局面 | 现在的棋局 |
| 动作 | Action | 智能体能做的选择 | 下在哪一格 |
| 奖励 | Reward | 环境给的反馈 | 赢了 +1,输了 −1 |
| 策略 | Policy | 在什么状态下做什么动作的规则 | 下棋的思路 |
数学上常用马尔可夫决策过程(Markov Decision Process,MDP)来描述这套框架。
常见算法:
| 算法 | 英文 / 缩写 | 一句话理解 |
|---|---|---|
| Q 学习 | Q-Learning | 给每个“状态 + 动作”打分,学会挑分最高的动作 |
| 深度 Q 网络 | Deep Q-Network,DQN | 用神经网络代替打分表;DeepMind 用它玩 Atari 游戏超过人类 |
| 策略梯度 | Policy Gradient | 直接调整策略,让带来高奖励的动作更常出现 |
| 演员-评论家 | Actor-Critic | 一个负责做动作(演员),一个负责评价(评论家) |
| 近端策略优化 | Proximal Policy Optimization,PPO | 稳定好用的策略优化算法;大模型 RLHF 常用 |
| 组相对策略优化 | Group Relative Policy Optimization,GRPO | DeepSeek 提出,大模型推理训练常用 |
和监督学习的区别:
| 监督学习 | 强化学习 | |
|---|---|---|
| 反馈 | 每道题都有标准答案 | 只有“好 / 不好”的奖惩 |
| 反馈时机 | 立即 | 常常很晚(下完整盘棋才知道输赢) |
| 数据来源 | 事先准备好 | 模型自己和环境互动产生 |
代表成果:AlphaGo(2016 年击败李世石)、AlphaGo Zero(不看人类棋谱,自我对弈练成)、大模型的推理能力训练。
3.6 五种方式对比
| 学习方式 | 有没有答案 | 比喻 | 典型用途 |
|---|---|---|---|
| 监督学习 | 有,人工标注 | 做带答案的练习册 | 分类、预测 |
| 无监督学习 | 没有 | 自己把东西分堆 | 聚类、降维、异常检测 |
| 自监督学习 | 有,从数据里自动挖出 | 自己给自己出题 | 大模型预训练 |
| 半监督学习 | 少量有,大量没有 | 看几道例题再举一反三 | 标注昂贵的场景 |
| 强化学习 | 没有答案,只有奖惩 | 训练小狗 | 下棋、机器人、大模型推理 |
四、深度学习(Deep Learning,DL):用多层神经网络来学
4.1 和传统机器学习的区别
传统机器学习需要人先挑好“特征”(Feature):识别猫,要专家告诉电脑“看耳朵、看胡须”,挑不好效果就差。这一步叫特征工程(Feature Engineering)。
深度学习连“看什么”都自己学:原始图片丢进去,第一层学会看边缘,第二层组合成眼睛耳朵,再往上认出猫脸。
| 传统机器学习 | 深度学习 | |
|---|---|---|
| 特征 | 人工挑选 | 自动学习 |
| 数据需求 | 少量到中等 | 大量 |
| 算力需求 | 低,CPU 即可 | 高,需要 GPU |
| 擅长 | 表格数据(风控、推荐、预测) | 图像、语音、文字 |
| 可解释性 | 较好 | 较差(“黑箱”) |
注意:深度学习没有让传统方法过时。表格数据上,GBDT 类方法至今经常比深度学习更好用。
4.2 为什么 2012 年前后爆发
- 数据多了:互联网带来海量图片和文字;
- 显卡强了:GPU(Graphics Processing Unit,图形处理器)特别适合神经网络的并行计算;
- 方法成熟了:训练深层网络的技巧越来越多。
2012 年,一个卷积神经网络(AlexNet)在图像识别比赛 ImageNet 中大幅领先,深度学习从此席卷各领域。
4.3 神经网络(Neural Network)是什么
- Neural:神经的。名字来自最初的灵感——模仿人脑神经元(Neuron)相互连接、传递信号。
- 每个小计算单元把上一层传来的数字加权求和,经过激活函数(Activation Function)处理后传给下一层。
- 现在的人工神经网络和真实大脑已差得很远,“神经”更多是历史名称。
4.4 几种主要网络结构
| 结构 | 英文 / 缩写 | 怎么处理信息 | 擅长 | 现在的地位 |
|---|---|---|---|---|
| 深度神经网络 / 多层感知机 | Deep Neural Network,DNN;Multi-Layer Perceptron,MLP | 一层层往下传,每层全连接 | 表格数据 | 基础零件,藏在所有大模型里(Transformer 的前馈网络就是它) |
| 卷积神经网络 | Convolutional Neural Network,CNN | 小窗口在图上逐块扫描 | 图像 | 图像领域仍常用 |
| 循环神经网络 | Recurrent Neural Network,RNN | 逐个读,带着“记忆”往后传 | 文字、语音、时间序列 | 文字领域基本被 Transformer 取代 |
| 长短期记忆网络 | Long Short-Term Memory,LSTM | RNN 改良版,用“门”控制记什么、忘什么 | 同上 | 同上 |
| 门控循环单元 | Gated Recurrent Unit,GRU | LSTM 的简化版 | 同上 | 同上 |
| Transformer | Transformer(变换器,无缩写) | 所有词同时互相看(自注意力,Self-Attention) | 几乎什么都行 | 当今主流,所有大模型的底子 |
| 混合专家 | Mixture of Experts,MoE | 把网络拆成很多“专家”,每次只激活几个 | 超大模型 | 顶级大模型的主流做法 |
| 状态空间模型 | State Space Model,SSM;代表 Mamba | 借鉴 RNN“边读边更新记忆”的思路 | 超长序列 | 新兴方向,常与 Transformer 混合使用 |
发展脉络:先有 DNN → 看图发明 CNN,读文字发明 RNN → RNN 又慢又健忘 → 2017 年 Transformer 用“所有词同时互相看”取代 RNN → 一路做大,成为今天的大模型。
五、模型是怎么“学会”的
不管哪种学习方式、哪种网络,训练的底层流程都差不多:
| 步骤 | 英文 | 说明 |
|---|---|---|
| 1. 前向计算 | Forward Pass | 输入数据,模型给出预测 |
| 2. 计算损失 | Loss Function(损失函数) | 衡量预测和答案差多远 |
| 3. 反向传播 | Backpropagation,简称 Backprop | 倒推每个参数对误差“负多少责任” |
| 4. 更新参数 | Gradient Descent(梯度下降) | 把每个参数往“误差更小”的方向调一点;常用 SGD(Stochastic Gradient Descent,随机梯度下降)、Adam 优化器 |
| 5. 重复 | — | 成千上万次,直到效果稳定 |
常见术语:
| 术语 | 英文 | 含义 |
|---|---|---|
| 参数 | Parameter | 模型里要学的数字;“70 亿参数”指有 70 亿个这样的数字 |
| 超参数 | Hyperparameter | 训练前人为设定的配置,如学习率、批大小 |
| 学习率 | Learning Rate | 每次调整参数的步子大小 |
| 批大小 | Batch Size | 每次用多少条数据算一次更新 |
| 轮次 | Epoch | 把全部训练数据完整过一遍算一轮 |
| 训练集 / 验证集 / 测试集 | Training / Validation / Test Set | 分别用于学习、调参、最终考试;三者不能混用 |
| 过拟合 | Overfitting | 死记硬背训练题,换题就不会 |
| 欠拟合 | Underfitting | 学得太浅,连训练题都做不好 |
| 正则化 | Regularization | 防止过拟合的各种手段,如 Dropout(随机丢弃部分神经元) |
六、怎么评估模型好不好
6.1 分类任务
| 指标 | 英文 | 含义 |
|---|---|---|
| 准确率 | Accuracy | 预测对的比例 |
| 精确率 | Precision | 预测为“是”的里面,真的是“是”的比例 |
| 召回率 | Recall | 真的是“是”的里面,被找出来的比例 |
| F1 值 | F1 Score | 精确率和召回率的综合 |
| 宏平均 F1 | Macro-F1 | 每个类别的 F1 等权平均,能暴露“只会猜常见类别”的问题 |
例:港大 YN-mini(S²-MAS)准确率 74.55%,宏平均 F1 只有 38.37%。差距大说明模型可能偏向常见选项——只看准确率会被误导。
6.2 回归任务
| 指标 | 英文 / 缩写 | 含义 |
|---|---|---|
| 平均绝对误差 | Mean Absolute Error,MAE | 预测值和真实值平均差多少 |
| 均方根误差 | Root Mean Square Error,RMSE | 对大误差更敏感 |
例:港大用 9B 模型预测家庭年消费,MAE 为 51,312 元,而真实均值约 99,301 元,误差约为均值的一半。
6.3 分布类任务(模拟人的选择时特别需要)
| 指标 | 英文 / 缩写 | 含义 |
|---|---|---|
| KL 散度 | Kullback-Leibler Divergence | 两个概率分布差多远 |
| JS 距离 | Jensen-Shannon Divergence | KL 的对称版本,更常用于比较 |
七、和今天的大模型连起来
大模型把这些全用上了:
| 阶段 | 用到的学习方式 | 说明 |
|---|---|---|
| 预训练(Pre-Training) | 深度学习 + 自监督学习 | 用 Transformer 读几万亿个词,猜下一个词 |
| 监督微调(SFT) | 深度学习 + 监督学习 | 用人写的标准答案教它怎么回答 |
| 偏好对齐(RLHF / DPO) | 深度学习 + 强化学习 / 偏好学习 | 学哪种回答更好 |
| 推理训练(RLVR) | 深度学习 + 强化学习 | 做能判对错的题,练出推理能力 |
大模型的多重身份:
- 技术归属:AI → 机器学习 → 深度学习 → Transformer
- 能力类型:生成式 AI(Generative AI);生成内容也叫 AIGC(AI-Generated Content)
- 地位:基础模型(Foundation Model)
- 领域:起步于自然语言处理(Natural Language Processing,NLP),现已扩展为多模态大模型(Multimodal Large Model)
- 用法:越来越多地作为智能体(Agent)的大脑
八、发展简史
| 时间 | 事件 |
|---|---|
| 1950 年代 | “人工智能”概念提出;感知机(Perceptron)诞生,最早的神经网络 |
| 1980 年代 | 反向传播算法普及,多层神经网络可训练 |
| 1990–2000 年代 | SVM、决策树、随机森林等传统机器学习方法成为主流 |
| 1997 年 | LSTM 提出 |
| 2012 年 | AlexNet(CNN)赢得 ImageNet 比赛,深度学习爆发 |
| 2013–2015 年 | DQN 玩 Atari 游戏超越人类,深度强化学习兴起 |
| 2016 年 | AlphaGo 击败李世石 |
| 2017 年 | Transformer 论文《Attention Is All You Need》发表 |
| 2018 年 | BERT(完形填空式)、GPT(猜下一个词式)相继出现 |
| 2022 年 | ChatGPT 发布,大模型进入大众视野 |
| 2024–2026 年 | 推理模型、MoE、多模态、智能体成为主流方向 |
九、一句话总结
- 机器学习:让电脑从数据里自己学规律。
- 监督学习:有答案,照着学。
- 无监督学习:没答案,自己找结构。
- 自监督学习:自己给自己出题,大模型预训练靠它。
- 强化学习:没答案,靠试错和奖惩。
- 深度学习:用多层神经网络学,连“看什么”都自己学。
- 大模型:用 Transformer 搭的超大深度学习模型,自监督预训练 + 监督微调 + 强化学习后训练的产物。
十、术语速查
| 缩写 / 术语 | 英文全称 | 中文 |
|---|---|---|
| AI | Artificial Intelligence | 人工智能 |
| ML | Machine Learning | 机器学习 |
| DL | Deep Learning | 深度学习 |
| SSL | Self-Supervised Learning | 自监督学习 |
| RL | Reinforcement Learning | 强化学习 |
| DRL | Deep Reinforcement Learning | 深度强化学习 |
| MDP | Markov Decision Process | 马尔可夫决策过程 |
| DQN | Deep Q-Network | 深度 Q 网络 |
| PPO | Proximal Policy Optimization | 近端策略优化 |
| GRPO | Group Relative Policy Optimization | 组相对策略优化 |
| GBDT | Gradient Boosting Decision Tree | 梯度提升决策树 |
| SVM | Support Vector Machine | 支持向量机 |
| KNN | K-Nearest Neighbors | K 近邻 |
| PCA | Principal Component Analysis | 主成分分析 |
| DNN | Deep Neural Network | 深度神经网络 |
| MLP | Multi-Layer Perceptron | 多层感知机 |
| CNN | Convolutional Neural Network | 卷积神经网络 |
| RNN | Recurrent Neural Network | 循环神经网络 |
| LSTM | Long Short-Term Memory | 长短期记忆网络 |
| GRU | Gated Recurrent Unit | 门控循环单元 |
| MoE | Mixture of Experts | 混合专家 |
| SSM | State Space Model | 状态空间模型 |
| NTP | Next-Token Prediction | 下一个词预测 |
| MLM | Masked Language Modeling | 掩码语言建模(完形填空) |
| MIM | Masked Image Modeling | 掩码图像建模 |
| MAE(模型) | Masked Autoencoder | 掩码自编码器 |
| CLIP | Contrastive Language-Image Pre-training | 对比式图文预训练 |
| SGD | Stochastic Gradient Descent | 随机梯度下降 |
| GPU | Graphics Processing Unit | 图形处理器 |
| MAE(指标) | Mean Absolute Error | 平均绝对误差 |
| RMSE | Root Mean Square Error | 均方根误差 |
| NLP | Natural Language Processing | 自然语言处理 |
| LLM | Large Language Model | 大语言模型 |
| AIGC | AI-Generated Content | AI 生成内容 |
十一、文中提到的原始论文
想深入某个概念,可以从这些原始论文读起:
学习方式与算法
- 随机森林:Breiman, Random Forests, 2001(doi)
- XGBoost:XGBoost: A Scalable Tree Boosting System, 2016(1603.02754)
- UMAP:Uniform Manifold Approximation and Projection, 2018(1802.03426)
- DQN:Playing Atari with Deep Reinforcement Learning, 2013(1312.5602);Human-level control through deep RL, Nature 2015(doi)
- PPO:Proximal Policy Optimization Algorithms, 2017(1707.06347)
- GRPO:DeepSeekMath, 2024(2402.03300)
- AlphaGo:Mastering the game of Go with deep neural networks and tree search, Nature 2016(doi)
- AlphaGo Zero:Mastering the game of Go without human knowledge, Nature 2017(doi)
自监督学习
- GPT:Improving Language Understanding by Generative Pre-Training, 2018(PDF)
- BERT:2018(1810.04805);ModernBERT:2024(2412.13663)
- MAE:Masked Autoencoders Are Scalable Vision Learners, 2021(2111.06377)
- CLIP:Learning Transferable Visual Models From Natural Language Supervision, 2021(2103.00020)
- 扩散模型:Denoising Diffusion Probabilistic Models, 2020(2006.11239)
网络结构与训练
- 反向传播:Rumelhart, Hinton, Williams, Learning representations by back-propagating errors, Nature 1986(doi)
- LSTM:Hochreiter, Schmidhuber, Long Short-Term Memory, 1997(doi)
- GRU:Cho et al., 2014(1406.1078)
- AlexNet:ImageNet Classification with Deep Convolutional Neural Networks, 2012(NeurIPS)
- Transformer:Attention Is All You Need, 2017(1706.03762)
- MoE:Outrageously Large Neural Networks: The Sparsely-Gated Mixture-of-Experts Layer, 2017(1701.06538)
- Mamba:Linear-Time Sequence Modeling with Selective State Spaces, 2023(2312.00752)
- Adam:A Method for Stochastic Optimization, 2014(1412.6980)
- Dropout:Srivastava et al., JMLR 2014(JMLR)
文中案例
- S²-MAS:A Society-Scale Multi-Agent Simulation Framework with a 500-Million-Persona Resource, 2026(2610.27746)