术语归属速查表
本页汇总全站涉及的主要技术术语的分类归属,可作为反查”某项技术属于哪个大类”的索引。每条附有面向初学者(计算机专业但首次接触 AI)的简短解释。各技术的完整推导见对应分类章节(如集成学习与随机森林),总体框架见分类维度与全景图。
阅读提示:「大类」是 AI 的顶层分支(符号主义 / 机器学习 / 深度学习 / 强化学习 / 生成式 AI 等);「子类」是该分支下的更细分类;「一句话定位」帮助你快速理解技术的核心思想。
符号主义 AI(Symbolic AI)
Section titled “符号主义 AI(Symbolic AI)”符号主义的核心思想是:用人类可读的符号(规则、逻辑表达式)来表示知识,再用推理机(inference engine,即按照逻辑规则做推导的程序)来得出结论。也被称为 GOFAI(Good Old-Fashioned AI,经典老派 AI)。
| 技术 | 大类 | 子类 | 一句话定位 |
|---|---|---|---|
| 专家系统(Expert System) | 符号主义 AI | 知识库系统 | 由人类专家编写大量 IF-THEN 规则,计算机按规则推理。代表:MYCIN(诊断细菌感染)、XCON(配置 DEC 计算机) |
| 知识图谱(Knowledge Graph) | 符号主义 AI | 知识表示的现代延续 | 用「实体-关系-实体」三元组(如「爱因斯坦—出生地—乌尔姆」)构建的结构化知识库,Google 2012 年推广 |
| A* 算法 | 符号主义 AI | 启发式搜索 | f(n)=g(n)+h(n):已走代价 + 估计剩余代价,保证找到最优路径。常用于游戏寻路、地图导航 |
| Minimax / Alpha-Beta 剪枝 | 符号主义 AI | 对抗搜索 | 博弈树搜索(假设对手总走最优步)+ 剪掉不必搜索的分支。Deep Blue(深蓝)下国际象棋的核心 |
| STRIPS / PDDL | 符号主义 AI | 自动规划 | 用「前提条件 + 效果」描述动作的形式语言。如:机器人的动作「开门」前提是「站在门前」,效果是「门打开」 |
| 一阶逻辑(First-Order Logic) | 符号主义 AI | 逻辑推理 | 用量词(∀ ∀、∃)和谓词表达推理关系,定理证明的基础 |
| 本体(Ontology) | 符号主义 AI | 知识表示 | 对某个领域中概念及其关系的明确定义,如「疾病—is-a—医学状况—has-symptom—发烧」 |
传统机器学习(Classic / Traditional ML)
Section titled “传统机器学习(Classic / Traditional ML)”机器学习(Machine Learning, ML)的核心思想是:不手写规则,而是让算法从数据中自动学习模式。传统 ML 通常需要人工提取特征(feature engineering,即人工选出数据中有用的属性),与深度学习的自动特征学习形成对比。
| 技术 | 大类 | 子类 | 一句话定位 |
|---|---|---|---|
| 线性回归(Linear Regression) | 机器学习 | 监督学习 | 用一条直线/超平面拟合数据,预测连续值(如房价)。最古老最基础的 ML 算法 |
| 逻辑回归(Logistic Regression) | 机器学习 | 监督学习 | 用 Sigmoid 函数将线性输出映射到 0–1 概率,用于二分类(如垃圾邮件检测)。名字里有「回归」但实际是分类器 |
| 决策树(Decision Tree: ID3/C4.5/CART) | 机器学习 | 监督学习 | 对特征做递归的 if-else 划分,形成树状判断流程。可解释性极强(人能看懂每一步为什么这么判) |
| 随机森林(Random Forest) | 机器学习 | 监督 → 集成学习 → bagging | 训练很多棵各自不同的决策树,投票决定结果。「三个臭皮匠顶个诸葛亮」。Breiman 2001 |
| AdaBoost | 机器学习 | 监督 → 集成学习 → boosting | 串行训练弱分类器,每个新模型重点关注前一个分错的样本 |
| GBDT / XGBoost / LightGBM | 机器学习 | 监督 → 集成学习 → boosting | 串行训练,每棵树拟合前一轮的残差(预测误差)。XGBoost/LightGBM 是工程优化版,表格数据竞赛的王者 |
| SVM(支持向量机) | 机器学习 | 监督 → 最大间隔方法 | 找到离两类数据都最远的分界线(最大间隔)。用 kernel trick(核技巧)可处理非线性。1990s 顶峰方法 |
| 朴素贝叶斯(Naive Bayes) | 机器学习 | 监督 → 概率方法 | 基于贝叶斯定理 + 假设特征间相互独立。简单高效,文本分类常用 |
| k-NN(k-Nearest Neighbors) | 机器学习 | 监督 → 基于实例 | 「近朱者赤」:用最近的 k 个邻居的标签投票决定分类。不需要训练,非参数方法,1951 |
| K-means | 机器学习 | 无监督 → 聚类 | 把数据分成 K 个簇,迭代地最小化簇内距离。最经典的聚类算法 |
| DBSCAN | 机器学习 | 无监督 → 聚类 | 基于密度的聚类:能在有噪声的数据中发现任意形状的簇,不需要预设簇数 |
| GMM(高斯混合模型) | 机器学习 | 无监督 → 聚类 | 假设数据由多个高斯分布混合生成,用 EM 算法求解,给出软聚类(每个点属于各簇的概率) |
| PCA(主成分分析) | 机器学习 | 无监督 → 降维 | 线性方法:找到方差最大的几个方向(主成分),将高维数据投影到低维 |
| t-SNE / UMAP | 机器学习 | 无监督 → 降维 | 非线性流形学习:保持局部邻域关系,常用于高维数据的 2D/3D 可视化 |
| 贝叶斯网络(Bayesian Network) | 机器学习 | 概率图模型 | 用有向无环图表示变量间的条件依赖关系,节点是随机变量,边是依赖 |
| HMM(隐马尔可夫模型) | 机器学习 | 概率图模型 | 建模「隐藏状态序列 → 可观测量序列」的过程。语音识别前深度学习时代的主力 |
| CRF(条件随机场) | 机器学习 | 概率图模型 | 无向图建模序列标注的条件概率,NLP 序列标注(如命名实体识别)的经典方法 |
深度学习(Deep Learning)
Section titled “深度学习(Deep Learning)”深度学习(DL)是机器学习的子集,核心是用多层神经网络自动从原始数据中学习特征表示,不需要人工提取特征。之所以叫「深度」,是因为网络有很多层(深)。「深度学习 ⊂ 机器学习 ⊂ 人工智能」是基本从属关系。
| 技术 | 大类 | 子类 | 一句话定位 |
|---|---|---|---|
| 感知机(Perceptron) | 机器学习 → 深度学习 | 神经网络基础 | 最简单的单层神经网络:加权求和 + 阈值。1957,Rosenblatt |
| MLP(多层感知机) | 机器学习 → 深度学习 | 神经网络基础 | 多个全连接层堆叠 + 非线性激活函数,可拟合复杂函数。万能逼近定理 |
| CNN(卷积神经网络) | 深度学习 | CNN 架构 | 用卷积核(滑动窗口)提取局部空间特征,权重共享。图像处理主力。LeNet 1989 → AlexNet 2012 → ResNet 2015 |
| ResNet(残差网络) | 深度学习 | CNN 架构 | 引入残差连接(skip connection,跳过层直接连),解决深层网络梯度消失问题,可训练 100+ 层 |
| ViT(Vision Transformer) | 深度学习 | Transformer → 视觉 | 把图像切成 patch 当 token,用 Transformer 处理。挑战 CNN 的视觉统治地位,2020 |
| R-CNN / Faster R-CNN | 深度学习 | CNN → 目标检测 → 两阶段 | 先生成候选区域(region proposal),再逐个分类 + 微调位置。精度高但速度慢 |
| YOLO(You Only Look Once) | 深度学习 | CNN → 目标检测 → 单阶段 | 把检测变成单次回归:输入图像 → 直接输出所有框和类别。实时检测事实标准 |
| SSD | 深度学习 | CNN → 目标检测 → 单阶段 | 多尺度特征图直接预测不同大小的目标 |
| U-Net | 深度学习 | CNN → 图像分割 | 编码器-解码器 + 跳跃连接,医学图像语义分割经典架构 |
| Mask R-CNN | 深度学习 | CNN → 图像分割 | 在目标检测基础上增加像素级 mask 预测,做实例分割 |
| RNN(循环神经网络) | 深度学习 | RNN 架构 | 网络有「记忆」:当前输出依赖之前的状态,适合序列数据 |
| LSTM / GRU | 深度学习 | RNN 架构 | 用门控机制(输入门、遗忘门、输出门)解决 RNN 的长程梯度消失。Transformer 前的 NLP/语音主力 |
| Transformer | 深度学习 | 注意力架构(第三架构族) | 用自注意力(self-attention,让每个位置直接关注所有其他位置)替代循环。2017,当今统一架构 |
| Mamba / SSM | 深度学习 | 状态空间模型 | 用线性状态空间方程替代注意力,序列长度线性复杂度。Transformer 的有力竞争者,2023 |
| GNN(图神经网络) | 深度学习 | 图结构学习 | 在图(节点 + 边)结构上做消息传递,用于社交网络、分子结构等非网格数据 |
生成式 AI 与 LLM(Generative AI & LLM)
Section titled “生成式 AI 与 LLM(Generative AI & LLM)”生成式 AI(Generative AI)指能生成新内容(文本、图像、音频、视频等)的 AI 系统,而非仅做分类或预测。大语言模型(Large Language Model, LLM)是生成式 AI 的子集,专指参数量巨大的语言生成模型(如 GPT、Claude、Gemini)。
| 技术 | 大类 | 子类 | 一句话定位 |
|---|---|---|---|
| BERT | 深度学习 | Transformer → NLP → encoder-only | 掩码语言模型(随机遮住一些词,让模型猜),用于理解而非生成。不是生成模型 |
| GPT 系 / LLM | 深度学习 | Transformer → NLP → decoder-only | 自回归(autoregressive,逐词生成)预训练语言模型;兼属自回归生成模型 |
| VAE(变分自编码器) | 深度学习 | 深度生成模型 → 近似密度 | 编码器将数据压缩为潜变量分布,解码器从分布采样重建数据。2013 |
| GAN(生成对抗网络) | 深度学习 | 深度生成模型 → 隐式密度 | 生成器与判别器对抗训练:生成器造数据,判别器辨真假,互相博弈提升。2014 |
| Normalizing Flow | 深度学习 | 深度生成模型 → 显式可解密度 | 用可逆变换(能精确反推的函数)精确计算数据概率密度 |
| 扩散模型(Diffusion Model) | 深度学习 | 深度生成模型 → 潜变量/score-based | 前向逐步加噪 → 反向学习逐步去噪来生成数据。DDPM 2020,当今图像生成主流(Stable Diffusion、DALL-E) |
| CLIP | 深度学习 | 多模态表征(判别式) | 对比学习将图像和文本对齐到同一空间。理解图文关系,不是生成模型 |
| RAG(检索增强生成) | LLM 应用 | 检索 + 生成 | 先从知识库检索相关文档,再把文档喂给 LLM 生成回答。解决 LLM 知识过时和幻觉问题 |
| Agent(智能体) | LLM 应用 | 自主规划 + 工具调用 | LLM 作为「大脑」自主拆解任务、调用工具、与环境交互。如 AutoGPT、Devin |
| MoE(混合专家模型) | LLM 架构 | 稀疏激活 | 每次推理只激活部分专家子网络,用更少计算量获得更大模型容量。Mixtral、DeepSeek 使用 |
| RLHF(人类反馈强化学习) | 强化学习 × LLM | 对齐 / 偏好学习 | SFT → 奖励模型 → PPO,让 LLM 输出符合人类偏好。DPO 属非 RL 实现 |
| DPO(直接偏好优化) | LLM 对齐 | 偏好学习(非 RL) | 不需要训练单独的奖励模型,直接从偏好数据优化策略。比 RLHF 简单 |
强化学习(Reinforcement Learning, RL)
Section titled “强化学习(Reinforcement Learning, RL)”强化学习(RL)的核心思想是:智能体(agent)通过与环境交互、试错,根据获得的奖励(reward)信号来学习最优策略(policy)。类似于训练宠物的「做对了奖励,做错了惩罚」。与监督学习的区别是:没有标注好的标准答案,只有延迟的奖励反馈。
| 技术 | 大类 | 子类 | 一句话定位 |
|---|---|---|---|
| Q-learning | 机器学习 → 强化学习 | 价值方法 | off-policy(可从别人的经验中学习)TD 方法;学一个 Q 表评估「在某状态做某动作有多好」 |
| DQN(深度 Q 网络) | 机器学习 → 强化学习 | 价值方法 | 用深度神经网络替代 Q 表,处理高维状态空间。2015,Atari 游戏达到人类水平 |
| Policy Gradient(策略梯度) | 强化学习 | 策略方法 | 直接对策略函数求梯度优化,适合连续动作空间 |
| PPO(近端策略优化) | 强化学习 | 策略梯度 / Actor-Critic | 限制策略更新步长,训练稳定。OpenAI RLHF 的标配算法 |
| SAC(Soft Actor-Critic) | 强化学习 | 策略梯度 / Actor-Critic | 最大熵框架:在追求奖励的同时鼓励探索。连续控制任务常用 |
| AlphaGo 系 | 强化学习 × 神经符号 | 混合系统 | MCTS(蒙特卡洛树搜索,符号搜索方法)+ 神经网络评估,不宜单一归类 |
| 多智能体强化学习(MARL) | 强化学习 | 多智能体 | 多个智能体同时学习和交互,需考虑竞争与合作。AlphaStar、OpenAI Five |
其他交叉分支
Section titled “其他交叉分支”| 技术 | 大类 | 子类 | 一句话定位 |
|---|---|---|---|
| 遗传算法(Genetic Algorithm) | 其他交叉分支 | 进化计算 | 模拟自然选择:选择、交叉(交换基因)、变异。用于搜索和优化问题 |
| PSO(粒子群优化) | 其他交叉分支 | 群体智能 | 模拟鸟群觅食:粒子根据自身历史最优和群体最优调整方向 |
| 蚁群优化(ACO) | 其他交叉分支 | 群体智能 | 模拟蚂蚁通过信息素找最短路径,用于组合优化(如旅行商问题) |
| 模糊逻辑(Fuzzy Logic) | 其他交叉分支 | 模糊推理 | Zadeh 1965。经典逻辑只有 0/1,模糊逻辑允许「部分为真」(如温度「有点热」=0.7),洗衣机、空调控制常用 |
| 量子机器学习(QML) | 其他交叉分支 | 量子计算 × ML | 利用量子叠加和纠缠加速某些 ML 计算。仍处早期研究阶段 |
| 脉冲神经网络(SNN) | 其他交叉分支 | 类脑计算 | 模拟生物神经元发放脉冲的时序编码,能耗低但训练困难 |
速查:容易混淆的「不是同类」对照
Section titled “速查:容易混淆的「不是同类」对照”| 容易被放在一起 | 实际关系 | 说明 |
|---|---|---|
| 机器学习 vs 深度学习 | 从属(DL ⊂ ML) | 深度学习是机器学习的子集,不是并列关系 |
| BERT vs GPT | 同属 Transformer 但架构不同 | BERT 是 encoder-only(理解),GPT 是 decoder-only(生成) |
| 扩散模型 vs GAN | 同属生成模型但机制不同 | 扩散=迭代去噪,GAN=对抗训练 |
| CLIP vs 生成模型 | 不同类 | CLIP 是判别式表征模型,不是生成模型 |
| Deep Blue vs AlphaGo | 范式不同 | Deep Blue=符号搜索,AlphaGo=搜索+深度学习混合 |
| RLHF vs DPO | 目标相同但方法不同 | RLHF 用强化学习,DPO 用监督式偏好优化 |