Skip to content

术语归属速查表

本页汇总全站涉及的主要技术术语的分类归属,可作为反查”某项技术属于哪个大类”的索引。每条附有面向初学者(计算机专业但首次接触 AI)的简短解释。各技术的完整推导见对应分类章节(如集成学习与随机森林),总体框架见分类维度与全景图。

阅读提示:「大类」是 AI 的顶层分支(符号主义 / 机器学习 / 深度学习 / 强化学习 / 生成式 AI 等);「子类」是该分支下的更细分类;「一句话定位」帮助你快速理解技术的核心思想。


符号主义的核心思想是:用人类可读的符号(规则、逻辑表达式)来表示知识,再用推理机(inference engine,即按照逻辑规则做推导的程序)来得出结论。也被称为 GOFAI(Good Old-Fashioned AI,经典老派 AI)。

技术大类子类一句话定位
专家系统(Expert System)符号主义 AI知识库系统由人类专家编写大量 IF-THEN 规则,计算机按规则推理。代表:MYCIN(诊断细菌感染)、XCON(配置 DEC 计算机)
知识图谱(Knowledge Graph)符号主义 AI知识表示的现代延续用「实体-关系-实体」三元组(如「爱因斯坦—出生地—乌尔姆」)构建的结构化知识库,Google 2012 年推广
A* 算法符号主义 AI启发式搜索f(n)=g(n)+h(n):已走代价 + 估计剩余代价,保证找到最优路径。常用于游戏寻路、地图导航
Minimax / Alpha-Beta 剪枝符号主义 AI对抗搜索博弈树搜索(假设对手总走最优步)+ 剪掉不必搜索的分支。Deep Blue(深蓝)下国际象棋的核心
STRIPS / PDDL符号主义 AI自动规划用「前提条件 + 效果」描述动作的形式语言。如:机器人的动作「开门」前提是「站在门前」,效果是「门打开」
一阶逻辑(First-Order Logic)符号主义 AI逻辑推理用量词(∀ ∀、∃)和谓词表达推理关系,定理证明的基础
本体(Ontology)符号主义 AI知识表示对某个领域中概念及其关系的明确定义,如「疾病—is-a—医学状况—has-symptom—发烧」

传统机器学习(Classic / Traditional ML)

Section titled “传统机器学习(Classic / Traditional ML)”

机器学习(Machine Learning, ML)的核心思想是:不手写规则,而是让算法从数据中自动学习模式。传统 ML 通常需要人工提取特征(feature engineering,即人工选出数据中有用的属性),与深度学习的自动特征学习形成对比。

技术大类子类一句话定位
线性回归(Linear Regression)机器学习监督学习用一条直线/超平面拟合数据,预测连续值(如房价)。最古老最基础的 ML 算法
逻辑回归(Logistic Regression)机器学习监督学习用 Sigmoid 函数将线性输出映射到 0–1 概率,用于二分类(如垃圾邮件检测)。名字里有「回归」但实际是分类器
决策树(Decision Tree: ID3/C4.5/CART)机器学习监督学习对特征做递归的 if-else 划分,形成树状判断流程。可解释性极强(人能看懂每一步为什么这么判)
随机森林(Random Forest)机器学习监督 → 集成学习 → bagging训练很多棵各自不同的决策树,投票决定结果。「三个臭皮匠顶个诸葛亮」。Breiman 2001
AdaBoost机器学习监督 → 集成学习 → boosting串行训练弱分类器,每个新模型重点关注前一个分错的样本
GBDT / XGBoost / LightGBM机器学习监督 → 集成学习 → boosting串行训练,每棵树拟合前一轮的残差(预测误差)。XGBoost/LightGBM 是工程优化版,表格数据竞赛的王者
SVM(支持向量机)机器学习监督 → 最大间隔方法找到离两类数据都最远的分界线(最大间隔)。用 kernel trick(核技巧)可处理非线性。1990s 顶峰方法
朴素贝叶斯(Naive Bayes)机器学习监督 → 概率方法基于贝叶斯定理 + 假设特征间相互独立。简单高效,文本分类常用
k-NN(k-Nearest Neighbors)机器学习监督 → 基于实例「近朱者赤」:用最近的 k 个邻居的标签投票决定分类。不需要训练,非参数方法,1951
K-means机器学习无监督 → 聚类把数据分成 K 个簇,迭代地最小化簇内距离。最经典的聚类算法
DBSCAN机器学习无监督 → 聚类基于密度的聚类:能在有噪声的数据中发现任意形状的簇,不需要预设簇数
GMM(高斯混合模型)机器学习无监督 → 聚类假设数据由多个高斯分布混合生成,用 EM 算法求解,给出软聚类(每个点属于各簇的概率)
PCA(主成分分析)机器学习无监督 → 降维线性方法:找到方差最大的几个方向(主成分),将高维数据投影到低维
t-SNE / UMAP机器学习无监督 → 降维非线性流形学习:保持局部邻域关系,常用于高维数据的 2D/3D 可视化
贝叶斯网络(Bayesian Network)机器学习概率图模型用有向无环图表示变量间的条件依赖关系,节点是随机变量,边是依赖
HMM(隐马尔可夫模型)机器学习概率图模型建模「隐藏状态序列 → 可观测量序列」的过程。语音识别前深度学习时代的主力
CRF(条件随机场)机器学习概率图模型无向图建模序列标注的条件概率,NLP 序列标注(如命名实体识别)的经典方法

深度学习(DL)是机器学习的子集,核心是用多层神经网络自动从原始数据中学习特征表示,不需要人工提取特征。之所以叫「深度」,是因为网络有很多层(深)。「深度学习 ⊂ 机器学习 ⊂ 人工智能」是基本从属关系。

技术大类子类一句话定位
感知机(Perceptron)机器学习 → 深度学习神经网络基础最简单的单层神经网络:加权求和 + 阈值。1957,Rosenblatt
MLP(多层感知机)机器学习 → 深度学习神经网络基础多个全连接层堆叠 + 非线性激活函数,可拟合复杂函数。万能逼近定理
CNN(卷积神经网络)深度学习CNN 架构用卷积核(滑动窗口)提取局部空间特征,权重共享。图像处理主力。LeNet 1989 → AlexNet 2012 → ResNet 2015
ResNet(残差网络)深度学习CNN 架构引入残差连接(skip connection,跳过层直接连),解决深层网络梯度消失问题,可训练 100+ 层
ViT(Vision Transformer)深度学习Transformer → 视觉把图像切成 patch 当 token,用 Transformer 处理。挑战 CNN 的视觉统治地位,2020
R-CNN / Faster R-CNN深度学习CNN → 目标检测 → 两阶段先生成候选区域(region proposal),再逐个分类 + 微调位置。精度高但速度慢
YOLO(You Only Look Once)深度学习CNN → 目标检测 → 单阶段把检测变成单次回归:输入图像 → 直接输出所有框和类别。实时检测事实标准
SSD深度学习CNN → 目标检测 → 单阶段多尺度特征图直接预测不同大小的目标
U-Net深度学习CNN → 图像分割编码器-解码器 + 跳跃连接,医学图像语义分割经典架构
Mask R-CNN深度学习CNN → 图像分割在目标检测基础上增加像素级 mask 预测,做实例分割
RNN(循环神经网络)深度学习RNN 架构网络有「记忆」:当前输出依赖之前的状态,适合序列数据
LSTM / GRU深度学习RNN 架构用门控机制(输入门、遗忘门、输出门)解决 RNN 的长程梯度消失。Transformer 前的 NLP/语音主力
Transformer深度学习注意力架构(第三架构族)用自注意力(self-attention,让每个位置直接关注所有其他位置)替代循环。2017,当今统一架构
Mamba / SSM深度学习状态空间模型用线性状态空间方程替代注意力,序列长度线性复杂度。Transformer 的有力竞争者,2023
GNN(图神经网络)深度学习图结构学习在图(节点 + 边)结构上做消息传递,用于社交网络、分子结构等非网格数据

生成式 AI 与 LLM(Generative AI & LLM)

Section titled “生成式 AI 与 LLM(Generative AI & LLM)”

生成式 AI(Generative AI)指能生成新内容(文本、图像、音频、视频等)的 AI 系统,而非仅做分类或预测。大语言模型(Large Language Model, LLM)是生成式 AI 的子集,专指参数量巨大的语言生成模型(如 GPT、Claude、Gemini)。

技术大类子类一句话定位
BERT深度学习Transformer → NLP → encoder-only掩码语言模型(随机遮住一些词,让模型猜),用于理解而非生成。不是生成模型
GPT 系 / LLM深度学习Transformer → NLP → decoder-only自回归(autoregressive,逐词生成)预训练语言模型;兼属自回归生成模型
VAE(变分自编码器)深度学习深度生成模型 → 近似密度编码器将数据压缩为潜变量分布,解码器从分布采样重建数据。2013
GAN(生成对抗网络)深度学习深度生成模型 → 隐式密度生成器与判别器对抗训练:生成器造数据,判别器辨真假,互相博弈提升。2014
Normalizing Flow深度学习深度生成模型 → 显式可解密度用可逆变换(能精确反推的函数)精确计算数据概率密度
扩散模型(Diffusion Model)深度学习深度生成模型 → 潜变量/score-based前向逐步加噪 → 反向学习逐步去噪来生成数据。DDPM 2020,当今图像生成主流(Stable Diffusion、DALL-E)
CLIP深度学习多模态表征(判别式)对比学习将图像和文本对齐到同一空间。理解图文关系,不是生成模型
RAG(检索增强生成)LLM 应用检索 + 生成先从知识库检索相关文档,再把文档喂给 LLM 生成回答。解决 LLM 知识过时和幻觉问题
Agent(智能体)LLM 应用自主规划 + 工具调用LLM 作为「大脑」自主拆解任务、调用工具、与环境交互。如 AutoGPT、Devin
MoE(混合专家模型)LLM 架构稀疏激活每次推理只激活部分专家子网络,用更少计算量获得更大模型容量。Mixtral、DeepSeek 使用
RLHF(人类反馈强化学习)强化学习 × LLM对齐 / 偏好学习SFT → 奖励模型 → PPO,让 LLM 输出符合人类偏好。DPO 属非 RL 实现
DPO(直接偏好优化)LLM 对齐偏好学习(非 RL)不需要训练单独的奖励模型,直接从偏好数据优化策略。比 RLHF 简单

强化学习(Reinforcement Learning, RL)

Section titled “强化学习(Reinforcement Learning, RL)”

强化学习(RL)的核心思想是:智能体(agent)通过与环境交互、试错,根据获得的奖励(reward)信号来学习最优策略(policy)。类似于训练宠物的「做对了奖励,做错了惩罚」。与监督学习的区别是:没有标注好的标准答案,只有延迟的奖励反馈。

技术大类子类一句话定位
Q-learning机器学习 → 强化学习价值方法off-policy(可从别人的经验中学习)TD 方法;学一个 Q 表评估「在某状态做某动作有多好」
DQN(深度 Q 网络)机器学习 → 强化学习价值方法用深度神经网络替代 Q 表,处理高维状态空间。2015,Atari 游戏达到人类水平
Policy Gradient(策略梯度)强化学习策略方法直接对策略函数求梯度优化,适合连续动作空间
PPO(近端策略优化)强化学习策略梯度 / Actor-Critic限制策略更新步长,训练稳定。OpenAI RLHF 的标配算法
SAC(Soft Actor-Critic)强化学习策略梯度 / Actor-Critic最大熵框架:在追求奖励的同时鼓励探索。连续控制任务常用
AlphaGo 系强化学习 × 神经符号混合系统MCTS(蒙特卡洛树搜索,符号搜索方法)+ 神经网络评估,不宜单一归类
多智能体强化学习(MARL)强化学习多智能体多个智能体同时学习和交互,需考虑竞争与合作。AlphaStar、OpenAI Five
技术大类子类一句话定位
遗传算法(Genetic Algorithm)其他交叉分支进化计算模拟自然选择:选择、交叉(交换基因)、变异。用于搜索和优化问题
PSO(粒子群优化)其他交叉分支群体智能模拟鸟群觅食:粒子根据自身历史最优和群体最优调整方向
蚁群优化(ACO)其他交叉分支群体智能模拟蚂蚁通过信息素找最短路径,用于组合优化(如旅行商问题)
模糊逻辑(Fuzzy Logic)其他交叉分支模糊推理Zadeh 1965。经典逻辑只有 0/1,模糊逻辑允许「部分为真」(如温度「有点热」=0.7),洗衣机、空调控制常用
量子机器学习(QML)其他交叉分支量子计算 × ML利用量子叠加和纠缠加速某些 ML 计算。仍处早期研究阶段
脉冲神经网络(SNN)其他交叉分支类脑计算模拟生物神经元发放脉冲的时序编码,能耗低但训练困难

速查:容易混淆的「不是同类」对照

Section titled “速查:容易混淆的「不是同类」对照”
容易被放在一起实际关系说明
机器学习 vs 深度学习从属(DL ⊂ ML)深度学习是机器学习的子集,不是并列关系
BERT vs GPT同属 Transformer 但架构不同BERT 是 encoder-only(理解),GPT 是 decoder-only(生成)
扩散模型 vs GAN同属生成模型但机制不同扩散=迭代去噪,GAN=对抗训练
CLIP vs 生成模型不同类CLIP 是判别式表征模型,不是生成模型
Deep Blue vs AlphaGo范式不同Deep Blue=符号搜索,AlphaGo=搜索+深度学习混合
RLHF vs DPO目标相同但方法不同RLHF 用强化学习,DPO 用监督式偏好优化