← 全部知识

机器学习基础认知

更新于

一句话:机器学习(Machine Learning,ML)就是不再由人写规则,而是让电脑从数据里自己找规律。

本文用大白话梳理:机器学习的几种学习方式、常见算法、深度学习的几种网络结构,以及它们和今天的大模型是什么关系。

整理时间:2026 年 11 月。


一、总体关系

人工智能(Artificial Intelligence,AI):让机器表现得聪明
 └─ 机器学习(Machine Learning,ML):让机器从数据里自己学
      ├─ 按“怎么学”分:监督学习 / 无监督学习 / 自监督学习 / 半监督学习 / 强化学习
      └─ 按“用什么模型”分:传统机器学习 / 深度学习(Deep Learning,DL)
                                          └─ DNN、CNN、RNN、Transformer……
                                                              └─ 大模型(LLM)

两个维度可以自由组合,例如“深度学习 + 强化学习”就是深度强化学习(Deep Reinforcement Learning,DRL),AlphaGo 就是这种。


二、为什么需要机器学习

传统编程:人把规则写死。判断垃圾邮件时,写“标题含‘中奖’就算垃圾”……规则写不完,骗子一换说法就失效。

机器学习:给电脑看一万封标好“是/不是垃圾”的邮件,让它自己总结规律。

传统编程 机器学习
输入 规则 + 数据 数据 + 答案(或反馈)
输出 答案 规则(模型)
规则从哪来 人写 从数据里学

三、五种学习方式

3.1 监督学习(Supervised Learning):有老师教

做法:每条数据都配标准答案(标签,Label),模型学习“输入 → 答案”的对应关系。

比喻:学生做练习册,每道题后面都有答案,做完对照、改正。

两类典型任务:

任务 英文 输出 例子
分类 Classification 类别 垃圾邮件识别、猫狗识别、贷款违约判断
回归 Regression 数值 房价预测、销量预测、家庭年消费预测

常见算法:

算法 英文 / 缩写 一句话理解
线性回归 Linear Regression 画一条最贴合数据的直线来预测数值
逻辑回归 Logistic Regression 名字叫回归,其实做分类;输出属于某类的概率
决策树 Decision Tree 一连串“是/否”问题,像流程图一样做判断
随机森林 Random Forest 很多棵决策树投票,比单棵更稳
梯度提升树 Gradient Boosting Decision Tree,GBDT;常用实现 XGBoost、LightGBM 一棵接一棵地种树,每棵专门纠正前面的错误;表格数据上的“王者”
支持向量机 Support Vector Machine,SVM 找一条离两类数据都尽量远的分界线
K 近邻 K-Nearest Neighbors,KNN 看离你最近的 K 个邻居是什么类,你就是什么类
朴素贝叶斯 Naive Bayes 用概率公式算属于各类的可能性;早期垃圾邮件过滤常用

优点:目标明确、效果好、好评估。 缺点:需要大量人工标注,又贵又慢。


3.2 无监督学习(Unsupervised Learning):没老师,自己找规律

做法:只给数据,不给答案,让模型自己发现结构。

比喻:给你一堆没分类的照片,你自己按相似程度分成几堆。

典型任务与算法:

任务 英文 例子 常见算法
聚类 Clustering 把用户按消费习惯分成几群 K 均值(K-Means)、层次聚类(Hierarchical Clustering)、DBSCAN
降维 Dimensionality Reduction 把几十个指标压缩成几个核心维度,方便分析和画图 主成分分析(Principal Component Analysis,PCA)、t-SNE、UMAP
异常检测 Anomaly Detection 发现盗刷、设备故障 孤立森林(Isolation Forest)
关联规则 Association Rule “买尿布的人常买啤酒” Apriori

例:港大 S²-MAS 论文用 PCA 检查 5 亿份合成画像里收入、支出、资产、负债如何共同变化,就是无监督学习的典型用法。

优点:不需要标注,能发现人没想到的规律。 缺点:结果难评估,“分得好不好”往往要人来判断。


3.3 自监督学习(Self-Supervised Learning,SSL):自己给自己出题

做法:把数据藏一部分让模型猜,被藏的部分就是答案。不用人标注,却有了几乎无限的练习题。

严格说它是无监督学习的一种,但因为太重要,现在常单独列出。今天所有大模型的预训练都靠它。

出题方式 英文 / 缩写 做法 代表
猜下一个词 Next-Token Prediction,NTP;也叫自回归(Autoregressive) 看前文,猜下一个词 GPT、Claude、Qwen
完形填空 Masked Language Modeling,MLM 遮住句中一些词,让模型填回去 BERT、ModernBERT
拼图还原 Masked Image Modeling,MIM 遮掉图片大部分,让模型补全 MAE(Masked Autoencoder)
找配对 Contrastive Learning(对比学习) 判断哪段文字配哪张图 CLIP(Contrastive Language-Image Pre-training)
去噪还原 Diffusion Model(扩散模型) 给图片加噪再学着一步步去噪 主流 AI 画图、视频生成模型

3.4 半监督学习(Semi-Supervised Learning):少量答案 + 大量无答案

做法:先用少量有标注的数据学个大概,再利用大量没标注的数据进一步提升。

比喻:老师只讲了几道例题,剩下的大量习题你自己举一反三。

典型做法:伪标签(Pseudo-Labeling)——让模型给无标注数据打上“猜测的答案”,挑出把握大的再拿来训练。

适合:标注很贵、但原始数据很多的场景,如医学影像。


3.5 强化学习(Reinforcement Learning,RL):靠试错和奖惩

做法:不给标准答案,让模型在环境里自己尝试,做得好给奖励,做得差扣分,目标是让总奖励最大。

比喻:训练小狗——坐下就给零食,乱咬就批评,试多了它自己就知道该怎么做。

核心概念:

概念 英文 含义 下棋的例子
智能体 Agent 做决定的那一方 下棋的 AI
环境 Environment 智能体所处的世界 棋盘和对手
状态 State 当前局面 现在的棋局
动作 Action 智能体能做的选择 下在哪一格
奖励 Reward 环境给的反馈 赢了 +1,输了 −1
策略 Policy 在什么状态下做什么动作的规则 下棋的思路

数学上常用马尔可夫决策过程(Markov Decision Process,MDP)来描述这套框架。

常见算法:

算法 英文 / 缩写 一句话理解
Q 学习 Q-Learning 给每个“状态 + 动作”打分,学会挑分最高的动作
深度 Q 网络 Deep Q-Network,DQN 用神经网络代替打分表;DeepMind 用它玩 Atari 游戏超过人类
策略梯度 Policy Gradient 直接调整策略,让带来高奖励的动作更常出现
演员-评论家 Actor-Critic 一个负责做动作(演员),一个负责评价(评论家)
近端策略优化 Proximal Policy Optimization,PPO 稳定好用的策略优化算法;大模型 RLHF 常用
组相对策略优化 Group Relative Policy Optimization,GRPO DeepSeek 提出,大模型推理训练常用

和监督学习的区别:

监督学习 强化学习
反馈 每道题都有标准答案 只有“好 / 不好”的奖惩
反馈时机 立即 常常很晚(下完整盘棋才知道输赢)
数据来源 事先准备好 模型自己和环境互动产生

代表成果:AlphaGo(2016 年击败李世石)、AlphaGo Zero(不看人类棋谱,自我对弈练成)、大模型的推理能力训练。


3.6 五种方式对比

学习方式 有没有答案 比喻 典型用途
监督学习 有,人工标注 做带答案的练习册 分类、预测
无监督学习 没有 自己把东西分堆 聚类、降维、异常检测
自监督学习 有,从数据里自动挖出 自己给自己出题 大模型预训练
半监督学习 少量有,大量没有 看几道例题再举一反三 标注昂贵的场景
强化学习 没有答案,只有奖惩 训练小狗 下棋、机器人、大模型推理

四、深度学习(Deep Learning,DL):用多层神经网络来学

4.1 和传统机器学习的区别

传统机器学习需要人先挑好“特征”(Feature):识别猫,要专家告诉电脑“看耳朵、看胡须”,挑不好效果就差。这一步叫特征工程(Feature Engineering)。

深度学习连“看什么”都自己学:原始图片丢进去,第一层学会看边缘,第二层组合成眼睛耳朵,再往上认出猫脸。

传统机器学习 深度学习
特征 人工挑选 自动学习
数据需求 少量到中等 大量
算力需求 低,CPU 即可 高,需要 GPU
擅长 表格数据(风控、推荐、预测) 图像、语音、文字
可解释性 较好 较差(“黑箱”)

注意:深度学习没有让传统方法过时。表格数据上,GBDT 类方法至今经常比深度学习更好用。

4.2 为什么 2012 年前后爆发

  1. 数据多了:互联网带来海量图片和文字;
  2. 显卡强了:GPU(Graphics Processing Unit,图形处理器)特别适合神经网络的并行计算;
  3. 方法成熟了:训练深层网络的技巧越来越多。

2012 年,一个卷积神经网络(AlexNet)在图像识别比赛 ImageNet 中大幅领先,深度学习从此席卷各领域。

4.3 神经网络(Neural Network)是什么

  • Neural:神经的。名字来自最初的灵感——模仿人脑神经元(Neuron)相互连接、传递信号。
  • 每个小计算单元把上一层传来的数字加权求和,经过激活函数(Activation Function)处理后传给下一层。
  • 现在的人工神经网络和真实大脑已差得很远,“神经”更多是历史名称。

4.4 几种主要网络结构

结构 英文 / 缩写 怎么处理信息 擅长 现在的地位
深度神经网络 / 多层感知机 Deep Neural Network,DNN;Multi-Layer Perceptron,MLP 一层层往下传,每层全连接 表格数据 基础零件,藏在所有大模型里(Transformer 的前馈网络就是它)
卷积神经网络 Convolutional Neural Network,CNN 小窗口在图上逐块扫描 图像 图像领域仍常用
循环神经网络 Recurrent Neural Network,RNN 逐个读,带着“记忆”往后传 文字、语音、时间序列 文字领域基本被 Transformer 取代
长短期记忆网络 Long Short-Term Memory,LSTM RNN 改良版,用“门”控制记什么、忘什么 同上 同上
门控循环单元 Gated Recurrent Unit,GRU LSTM 的简化版 同上 同上
Transformer Transformer(变换器,无缩写) 所有词同时互相看(自注意力,Self-Attention) 几乎什么都行 当今主流,所有大模型的底子
混合专家 Mixture of Experts,MoE 把网络拆成很多“专家”,每次只激活几个 超大模型 顶级大模型的主流做法
状态空间模型 State Space Model,SSM;代表 Mamba 借鉴 RNN“边读边更新记忆”的思路 超长序列 新兴方向,常与 Transformer 混合使用

发展脉络:先有 DNN → 看图发明 CNN,读文字发明 RNN → RNN 又慢又健忘 → 2017 年 Transformer 用“所有词同时互相看”取代 RNN → 一路做大,成为今天的大模型。


五、模型是怎么“学会”的

不管哪种学习方式、哪种网络,训练的底层流程都差不多:

步骤 英文 说明
1. 前向计算 Forward Pass 输入数据,模型给出预测
2. 计算损失 Loss Function(损失函数) 衡量预测和答案差多远
3. 反向传播 Backpropagation,简称 Backprop 倒推每个参数对误差“负多少责任”
4. 更新参数 Gradient Descent(梯度下降) 把每个参数往“误差更小”的方向调一点;常用 SGD(Stochastic Gradient Descent,随机梯度下降)、Adam 优化器
5. 重复 — 成千上万次,直到效果稳定

常见术语:

术语 英文 含义
参数 Parameter 模型里要学的数字;“70 亿参数”指有 70 亿个这样的数字
超参数 Hyperparameter 训练前人为设定的配置,如学习率、批大小
学习率 Learning Rate 每次调整参数的步子大小
批大小 Batch Size 每次用多少条数据算一次更新
轮次 Epoch 把全部训练数据完整过一遍算一轮
训练集 / 验证集 / 测试集 Training / Validation / Test Set 分别用于学习、调参、最终考试;三者不能混用
过拟合 Overfitting 死记硬背训练题,换题就不会
欠拟合 Underfitting 学得太浅,连训练题都做不好
正则化 Regularization 防止过拟合的各种手段,如 Dropout(随机丢弃部分神经元)

六、怎么评估模型好不好

6.1 分类任务

指标 英文 含义
准确率 Accuracy 预测对的比例
精确率 Precision 预测为“是”的里面,真的是“是”的比例
召回率 Recall 真的是“是”的里面,被找出来的比例
F1 值 F1 Score 精确率和召回率的综合
宏平均 F1 Macro-F1 每个类别的 F1 等权平均,能暴露“只会猜常见类别”的问题

例:港大 YN-mini(S²-MAS)准确率 74.55%,宏平均 F1 只有 38.37%。差距大说明模型可能偏向常见选项——只看准确率会被误导。

6.2 回归任务

指标 英文 / 缩写 含义
平均绝对误差 Mean Absolute Error,MAE 预测值和真实值平均差多少
均方根误差 Root Mean Square Error,RMSE 对大误差更敏感

例:港大用 9B 模型预测家庭年消费,MAE 为 51,312 元,而真实均值约 99,301 元,误差约为均值的一半。

6.3 分布类任务(模拟人的选择时特别需要)

指标 英文 / 缩写 含义
KL 散度 Kullback-Leibler Divergence 两个概率分布差多远
JS 距离 Jensen-Shannon Divergence KL 的对称版本,更常用于比较

七、和今天的大模型连起来

大模型把这些全用上了:

阶段 用到的学习方式 说明
预训练(Pre-Training) 深度学习 + 自监督学习 用 Transformer 读几万亿个词,猜下一个词
监督微调(SFT) 深度学习 + 监督学习 用人写的标准答案教它怎么回答
偏好对齐(RLHF / DPO) 深度学习 + 强化学习 / 偏好学习 学哪种回答更好
推理训练(RLVR) 深度学习 + 强化学习 做能判对错的题,练出推理能力

大模型的多重身份:

  • 技术归属:AI → 机器学习 → 深度学习 → Transformer
  • 能力类型:生成式 AI(Generative AI);生成内容也叫 AIGC(AI-Generated Content)
  • 地位:基础模型(Foundation Model)
  • 领域:起步于自然语言处理(Natural Language Processing,NLP),现已扩展为多模态大模型(Multimodal Large Model)
  • 用法:越来越多地作为智能体(Agent)的大脑

八、发展简史

时间 事件
1950 年代 “人工智能”概念提出;感知机(Perceptron)诞生,最早的神经网络
1980 年代 反向传播算法普及,多层神经网络可训练
1990–2000 年代 SVM、决策树、随机森林等传统机器学习方法成为主流
1997 年 LSTM 提出
2012 年 AlexNet(CNN)赢得 ImageNet 比赛,深度学习爆发
2013–2015 年 DQN 玩 Atari 游戏超越人类,深度强化学习兴起
2016 年 AlphaGo 击败李世石
2017 年 Transformer 论文《Attention Is All You Need》发表
2018 年 BERT(完形填空式)、GPT(猜下一个词式)相继出现
2022 年 ChatGPT 发布,大模型进入大众视野
2024–2026 年 推理模型、MoE、多模态、智能体成为主流方向

九、一句话总结

  • 机器学习:让电脑从数据里自己学规律。
  • 监督学习:有答案,照着学。
  • 无监督学习:没答案,自己找结构。
  • 自监督学习:自己给自己出题,大模型预训练靠它。
  • 强化学习:没答案,靠试错和奖惩。
  • 深度学习:用多层神经网络学,连“看什么”都自己学。
  • 大模型:用 Transformer 搭的超大深度学习模型,自监督预训练 + 监督微调 + 强化学习后训练的产物。

十、术语速查

缩写 / 术语 英文全称 中文
AI Artificial Intelligence 人工智能
ML Machine Learning 机器学习
DL Deep Learning 深度学习
SSL Self-Supervised Learning 自监督学习
RL Reinforcement Learning 强化学习
DRL Deep Reinforcement Learning 深度强化学习
MDP Markov Decision Process 马尔可夫决策过程
DQN Deep Q-Network 深度 Q 网络
PPO Proximal Policy Optimization 近端策略优化
GRPO Group Relative Policy Optimization 组相对策略优化
GBDT Gradient Boosting Decision Tree 梯度提升决策树
SVM Support Vector Machine 支持向量机
KNN K-Nearest Neighbors K 近邻
PCA Principal Component Analysis 主成分分析
DNN Deep Neural Network 深度神经网络
MLP Multi-Layer Perceptron 多层感知机
CNN Convolutional Neural Network 卷积神经网络
RNN Recurrent Neural Network 循环神经网络
LSTM Long Short-Term Memory 长短期记忆网络
GRU Gated Recurrent Unit 门控循环单元
MoE Mixture of Experts 混合专家
SSM State Space Model 状态空间模型
NTP Next-Token Prediction 下一个词预测
MLM Masked Language Modeling 掩码语言建模(完形填空)
MIM Masked Image Modeling 掩码图像建模
MAE(模型) Masked Autoencoder 掩码自编码器
CLIP Contrastive Language-Image Pre-training 对比式图文预训练
SGD Stochastic Gradient Descent 随机梯度下降
GPU Graphics Processing Unit 图形处理器
MAE(指标) Mean Absolute Error 平均绝对误差
RMSE Root Mean Square Error 均方根误差
NLP Natural Language Processing 自然语言处理
LLM Large Language Model 大语言模型
AIGC AI-Generated Content AI 生成内容

十一、文中提到的原始论文

想深入某个概念,可以从这些原始论文读起:

学习方式与算法

  • 随机森林:Breiman, Random Forests, 2001(doi)
  • XGBoost:XGBoost: A Scalable Tree Boosting System, 2016(1603.02754)
  • UMAP:Uniform Manifold Approximation and Projection, 2018(1802.03426)
  • DQN:Playing Atari with Deep Reinforcement Learning, 2013(1312.5602);Human-level control through deep RL, Nature 2015(doi)
  • PPO:Proximal Policy Optimization Algorithms, 2017(1707.06347)
  • GRPO:DeepSeekMath, 2024(2402.03300)
  • AlphaGo:Mastering the game of Go with deep neural networks and tree search, Nature 2016(doi)
  • AlphaGo Zero:Mastering the game of Go without human knowledge, Nature 2017(doi)

自监督学习

  • GPT:Improving Language Understanding by Generative Pre-Training, 2018(PDF)
  • BERT:2018(1810.04805);ModernBERT:2024(2412.13663)
  • MAE:Masked Autoencoders Are Scalable Vision Learners, 2021(2111.06377)
  • CLIP:Learning Transferable Visual Models From Natural Language Supervision, 2021(2103.00020)
  • 扩散模型:Denoising Diffusion Probabilistic Models, 2020(2006.11239)

网络结构与训练

  • 反向传播:Rumelhart, Hinton, Williams, Learning representations by back-propagating errors, Nature 1986(doi)
  • LSTM:Hochreiter, Schmidhuber, Long Short-Term Memory, 1997(doi)
  • GRU:Cho et al., 2014(1406.1078)
  • AlexNet:ImageNet Classification with Deep Convolutional Neural Networks, 2012(NeurIPS)
  • Transformer:Attention Is All You Need, 2017(1706.03762)
  • MoE:Outrageously Large Neural Networks: The Sparsely-Gated Mixture-of-Experts Layer, 2017(1701.06538)
  • Mamba:Linear-Time Sequence Modeling with Selective State Spaces, 2023(2312.00752)
  • Adam:A Method for Stochastic Optimization, 2014(1412.6980)
  • Dropout:Srivastava et al., JMLR 2014(JMLR)

文中案例

  • S²-MAS:A Society-Scale Multi-Agent Simulation Framework with a 500-Million-Persona Resource, 2026(2610.27746)