从线性回归到 KNN从决策树到聚类我们一路走过了机器学习的主要算法。但这些算法都有一个共同的特点——它们处理的是浅层特征需要人工提取和选择特征。而深度学习的革命性在于它能自动从原始数据中提取特征通过多层非线性变换端到端地完成从输入到输出的映射。今天这篇文章我们正式踏入深度学习的世界。先从核心概念出发理解深度学习的定义、特点和常见算法再深入 PyTorch 框架掌握 Tensor 张量的创建、运算和索引操作——这是所有深度学习代码的基础。一、什么是深度学习定义深度学习是一种机器学习的方法它的核心思想是通过多层神经网络自动从数据中提取特征进行非线性变换实现端到端的训练和调优。传统机器学习中特征工程是最耗时也最关键的环节——你需要手动设计特征比如从图像中提取边缘、从文本中提取词频。而深度学习把这个过程交给模型自己完成给它原始数据它通过多层网络逐层提取从低级到高级的特征最终直接输出预测结果。这就是端到端的含义——从输入到输出中间不需要人工干预。特点深度学习有四个显著特点自动提取特征。这是深度学习与传统机器学习最大的区别。卷积神经网络能自动学习图像中的边缘、纹理、形状等特征Transformer 能自动学习文本中的语法、语义关系。你不需要告诉模型该关注什么它自己学。大数据驱动力。深度学习是数据饥渴型方法——模型参数动辄百万、千亿级别需要海量数据才能训练好。数据量越大深度学习的优势越明显数据量小的时候传统机器学习反而可能更好。可解释性差。深度学习常被称为黑盒——模型给出了预测结果但你很难解释它为什么做出这个判断。虽然可解释性研究在不断推进但相比决策树如果特征 A 大于 5 就分为类别 B这样清晰的规则深度学习的解释性确实差很多。非线性的力量。现实世界的关系大多是非线性的深度学习通过激活函数ReLU、Sigmoid 等引入非线性使得模型能拟合任意复杂的函数关系。层数越多能表达的函数越复杂。二、常见算法深度学习的算法家族庞大每种算法擅长不同的领域ANN全连接神经网络最基础的网络结构每一层的每个神经元与上一层的所有神经元相连。适合处理结构化表格数据是理解其他网络的基础。CNN卷积神经网络专为图像处理设计。通过卷积核在图像上滑动提取局部特征边缘、纹理、形状通过池化层降低维度。从 LeNet 到 ResNet 再到 EfficientNetCNN 在图像识别、目标检测等领域取得了革命性突破。RNN循环神经网络专为序列数据处理设计。网络具有记忆功能能利用之前的信息处理当前输入适合文本、语音、时间序列等有序数据。但 RNN 存在长距离依赖问题后来发展出 LSTM 和 GRU 来缓解。Transformer当前深度学习最炙手可热的架构。它由编码器和解码器两部分构成核心创新是自注意力机制——让模型在处理每个位置时能直接看到序列中所有其他位置的信息不再像 RNN 那样逐个处理。基于 Transformer 的两大代表BERT编码器路线擅长理解和 GPT解码器路线擅长生成分别引领了自然语言处理的两个方向。深度强化学习将深度学习与强化学习结合让智能体在与环境的交互中学习最优策略。AlphaGo 就是典型代表——通过深度网络评估棋局通过强化学习优化策略最终战胜人类围棋冠军。近年来的代表还有 OpenAI 的 DOTA2 AIOpenAI Five和 DeepMind 的星际争霸 AIAlphaStar它们展示了深度强化学习在复杂多智能体环境中的潜力。值得一提的是这些算法并非孤立存在实际应用中经常组合使用。比如目标检测模型 YOLO 用 CNN 提取图像特征再结合回归头输出边界框自动驾驶系统可能同时使用 CNN 处理视觉输入、用 Transformer 融合多传感器数据、用深度强化学习做决策规划。理解每种算法的特长和局限才能在实际项目中做出正确的技术选型。三、应用场景深度学习已经渗透到生活的方方面面文本翻译从 Google 翻译到 DeepLTransformer 架构让机器翻译质量大幅提升某些语言对的翻译已接近人类水平目标检测自动驾驶中的行人识别、车辆检测安防中的人脸识别医疗影像中的病灶定位图像识别手机相册的自动分类、医学影像诊断、工业质检中的缺陷检测这些场景的共同特点是数据量大、模式复杂、传统方法效果有限——恰好是深度学习的用武之地。四、发展史与核心术语深度学习的大繁荣离不开一个人——辛顿Geoffrey Hinton被誉为深度学习之父。他在 2006 年提出了深度信念网络的训练方法开启了深度学习复兴的序幕。2012 年他的学生 Alex Krizhevsky 用深度卷积网络 AlexNet 在 ImageNet 竞赛中以压倒性优势夺冠将错误率从 26% 大幅降至 15%震惊学术界深度学习从此爆发。此后深度学习的发展一日千里——2014 年 GAN 生成对抗网络问世2017 年 Transformer 架构提出2018 年 BERT 刷新 11 项 NLP 记录2020 年 GPT-3 展示了惊人的少样本学习能力每一个里程碑都在拓宽深度学习的边界。理解深度学习必须掌握三个核心术语前向传播数据从输入层经过隐藏层到输出层的过程每一层对数据进行线性变换加权求和和非线性变换激活函数最终得到预测结果。简单说前向传播就是让数据走一遍网络得到预测。反向传播根据预测结果与真实值的误差通过链式法则从输出层向输入层逐层计算梯度更新每个参数。如果说前向传播是正向走一遍得到预测反向传播就是反向走一遍修正参数。梯度下降通过梯度指导参数更新的方向和幅度。参数沿着梯度的反方向移动逐步逼近损失函数的最小值。这三个概念构成了深度学习训练的核心循环前向传播算预测 → 算误差 → 反向传播算梯度 → 梯度下降更新参数 → 重复。五、PyTorch深度学习的利器为什么选择 PyTorchPyTorch 是深度学习的一个框架由 Facebook 于 2016 年发布。它的前身是 Torch底层基于张量计算。你可以把 PyTorch 理解为升级版的 NumPy——它不仅支持 NumPy 的所有数组操作还增加了两大核心能力GPU 加速和自动求导。GPU 加速让大规模矩阵运算的速度提升几十甚至上百倍这是训练百万甚至千亿参数模型的必要条件自动求导让你无需手动推导和实现梯度计算框架会自动帮你完成反向传播的链式求导。这两点对于深度学习至关重要——深度学习本质上就是大量的矩阵运算和梯度更新没有 GPU 加速和自动求导训练一个现代深度学习模型几乎是不可能的。PyTorch 的设计哲学是动态图——每运行一行代码就构建一步计算图调试方便、直觉性强这也是它在学术界迅速超越 TensorFlow 的原因。安装# CPU 版本 pip install torch torchvision # GPU 版本需要先安装 CUDA pip install torch torchvision --index-url https://download.pytorch.org/whl/cu118六、Tensor 张量PyTorch 的基础数据结构什么是 TensorTensor张量就是 PyTorch 中的数据形式类似于 NumPy 的 ndarray但多了 GPU 加速和自动求导的能力。在深度学习中所有数据——输入特征、标签、模型参数、梯度——都以 Tensor 的形式存在。张量的创建PyTorch 提供了丰富的张量创建方式import torch # 从数据创建 t1 torch.tensor([1, 2, 3]) # 直接从列表创建 t2 torch.Tensor(2, 3) # 创建指定维度的随机张量未初始化 # 全0全1张量 zeros torch.zeros(3, 4) # 3×4 的全0张量 ones torch.ones(2, 3) # 2×3 的全1张量 # 随机张量 rand torch.rand(2, 3) # 0-1 均匀分布随机数 randint torch.randint(0, 10, (3, 3)) # 指定范围的随机整数 arange torch.arange(0, 10, 2) # 0到10步长为2[0, 2, 4, 6, 8] linspace torch.linspace(0, 1, 5) # 0到1均匀取5个数[0, 0.25, 0.5, 0.75, 1] normal torch.normal(mean0, std1, size(3, 3)) # 正态分布随机数Tensor()和tensor()的区别值得注意tensor()从已有数据创建张量类似np.array()Tensor()创建指定维度的张量但不保证初始化值使用时需谨慎。常见张量类型PyTorch 支持多种数据类型常用的有类型PyTorch 表示说明int32torch.int32整数默认类型int64torch.int64长整型float32torch.float32浮点数默认类型float64torch.float64双精度浮点booltorch.bool布尔型默认浮点类型是float32默认整数类型是int32——这一点和 NumPy 的float64不同深度学习中通常用float32以节省显存和加速计算。类型查看与转换# 查看类型 print(t1.dtype) # torch.int64 # 类型转换 t_float t1.float() # 转 float32 t_double t1.double() # 转 float64 t_long t1.long() # 转 int64 t_short t1.short() # 转 int16 t_byte t1.byte() # 转 int8类型转换在深度学习中很常见——比如从数据加载器出来的标签可能是int64但某些损失函数要求float32就需要手动转换。Tensor 与 NumPy 互转PyTorch 和 NumPy 可以无缝互转这在数据预处理时非常实用import numpy as np # Tensor 转 NumPy t torch.tensor([1, 2, 3]) n t.numpy() # tensor → numpy # NumPy 转 Tensor n np.array([4, 5, 6]) t torch.from_numpy(n) # numpy → tensor内存共享问题torch.from_numpy()和tensor.numpy()转换后的对象与原对象共享内存——修改一个另一个也会变。如果你不希望共享内存用copy()创建独立副本# 共享内存修改互相影响 t torch.from_numpy(n) # 独立内存修改互不影响 t torch.tensor(n) # 方法一用 tensor() 创建新张量 n t.numpy().copy() # 方法二numpy 后 copy从 Tensor 取标量值当 Tensor 只有一个元素时用item()可以取出 Python 标量loss torch.tensor(0.5) print(loss.item()) # 0.5Python float不是 Tensor这在打印训练损失时很常用——item()把 Tensor 转成普通数字避免 Tensor 一直占用显存。七、张量的数学运算四则运算a torch.tensor([1, 2, 3]) b torch.tensor([4, 5, 6]) print(torch.add(a, b)) # [5, 7, 9] print(torch.sub(a, b)) # [-3, -3, -3] print(torch.mul(a, b)) # [4, 10, 18] 逐元素相乘 print(torch.div(a, b)) # [0.25, 0.4, 0.5] 逐元素相除注意mul是逐元素相乘不是矩阵乘法。div是逐元素相除可以用/运算符。矩阵不能和标量直接做矩阵除法但逐元素除法可以用/。矩阵乘法矩阵乘法是深度学习中最频繁的运算——神经网络的每一层本质上就是一个矩阵乘法a torch.tensor([[1, 2], [3, 4]]) b torch.tensor([[5, 6], [7, 8]]) # 两种写法等价 print(torch.matmul(a, b)) # 矩阵乘法 print(a b) # 运算符更简洁matmul()和完全等价选哪个看个人习惯。在深度学习代码中更常见因为更简洁。常用函数运算t torch.tensor([1.0, 4.0, 9.0]) print(t.sum()) # 求和14.0 print(t.mean()) # 均值4.6667 print(t.max()) # 最大值9.0 print(t.min()) # 最小值1.0 print(t.abs()) # 绝对值 print(t.sqrt()) # 平方根[1.0, 2.0, 3.0] print(t.exp()) # 指数e^x print(torch.log(t)) # 对数ln(x)这些函数和 NumPy 的用法几乎一致会 NumPy 就能无缝迁移到 PyTorch。八、张量的索引与切片索引和切片是操作张量的基本功PyTorch 的索引方式与 NumPy 高度一致# 一维张量 data torch.tensor([10, 20, 30, 40, 50]) print(data[0]) # 索引取值10 print(data[2:]) # 切片[30, 40, 50] # 二维张量 data2d torch.tensor([[1, 2, 3], [4, 5, 6], [7, 8, 9]]) print(data2d[2, 1]) # 取第2行第1列8 print(data2d[0:2, 0:3]) # 取前2行前3列 # 多维张量 data3d torch.randn(3, 4, 5) print(data3d[1, 2, 3]) # 取第1层第2行第3列的元素 # 布尔索引条件筛选 mask data 20 print(data[mask]) # [30, 40, 50] # 花式索引用索引列表取值 indices torch.tensor([0, 2, 4]) print(data[indices]) # [10, 30, 50] # 步长切片 print(data[::2]) # 每隔一个取[10, 30, 50]布尔索引在深度学习中特别实用——比如你想知道模型预测中有多少个置信度大于 0.9 的结果一个布尔索引就能筛出来。花式索引则适合从大数据集中按指定位置抽取样本比如在强化学习的经验回放中随机采样。切片操作[::2]表示每隔一个取一个在降采样或隔行取数据的场景中会用到。掌握这些索引和切片操作你在处理 Tensor 时就能像操作 NumPy 数组一样得心应手。九、学习心得与建议第一深度学习的核心是自动化。传统机器学习的瓶颈在特征工程——需要领域专家手动设计特征。深度学习的革命性在于把这个过程自动化了。理解这一点你就理解了为什么深度学习能在图像、文本等领域取得碾压性优势——因为这些领域的特征太复杂了人工设计根本跟不上。第二前向传播和反向传播是灵魂。所有的深度学习框架——PyTorch、TensorFlow、JAX——本质上都在做两件事帮你高效地做前向传播矩阵运算和反向传播自动求导。把这两个概念彻底搞懂后面的所有网络结构都是在这两个基础上的变体。第三Tensor 操作是代码基础。深度学习代码 80% 都在操作 Tensor——创建、变形、运算、索引。把 Tensor 操作练熟写模型代码时就不会在基础语法上卡壳。建议对照 NumPy 学 PyTorch两者 API 高度相似迁移成本很低。第四不要被深度吓到。深度学习听起来很高深但拆开来看一层网络就是一个矩阵乘法加一个激活函数多层叠起来就是深度学习。核心概念并不多——前向传播、反向传播、梯度下降、损失函数这些在前面学线性回归时已经接触过了深度学习只是把它们用到了更复杂的网络上。写在最后从机器学习到深度学习我们完成了一次认知升级——从人工设计特征 简单模型到自动提取特征 深层模型。这不是对前面知识的否定而是延展。线性回归中的梯度下降、KNN 中的距离度量、决策树中的特征分裂这些思想在深度学习中依然以各种形式出现。今天我们梳理了深度学习的核心概念和 PyTorch 的 Tensor 操作。概念层面理解了深度学习的定义、特点、常见算法和应用场景工具层面掌握了 Tensor 的创建、类型转换、数学运算和索引切片。这些是后续搭建神经网络模型的基础——下篇文章我们将用 PyTorch 搭建第一个神经网络把前向传播和反向传播从概念变成代码。深度学习的世界很大但入口很清晰理解概念掌握工具动手写代码。迈出第一步后面的路自然会在脚下展开。如果这篇文章对你有帮助欢迎点赞收藏。下一篇我们将用 PyTorch 搭建第一个神经网络敬请关注。 
长河君 · 2026/9/30 14:39:11 · 阅读 1.2k 深度学习入门指南：从核心概念到 PyTorch 实战
从线性回归到 KNN从决策树到聚类我们一路走过了机器学习的主要算法。但这些算法都有一个共同的特点——它们处理的是浅层特征需要人工提取和选择特征。而深度学习的革命性在于它能自动从原始数据中提取特征通过多层非线性变换端到端地完成从输入到输出的映射。今天这篇文章我们正式踏入深度学习的世界。先从核心概念出发理解深度学习的定义、特点和常见算法再深入 PyTorch 框架掌握 Tensor 张量的创建、运算和索引操作——这是所有深度学习代码的基础。一、什么是深度学习定义深度学习是一种机器学习的方法它的核心思想是通过多层神经网络自动从数据中提取特征进行非线性变换实现端到端的训练和调优。传统机器学习中特征工程是最耗时也最关键的环节——你需要手动设计特征比如从图像中提取边缘、从文本中提取词频。而深度学习把这个过程交给模型自己完成给它原始数据它通过多层网络逐层提取从低级到高级的特征最终直接输出预测结果。这就是端到端的含义——从输入到输出中间不需要人工干预。特点深度学习有四个显著特点自动提取特征。这是深度学习与传统机器学习最大的区别。卷积神经网络能自动学习图像中的边缘、纹理、形状等特征Transformer 能自动学习文本中的语法、语义关系。你不需要告诉模型该关注什么它自己学。大数据驱动力。深度学习是数据饥渴型方法——模型参数动辄百万、千亿级别需要海量数据才能训练好。数据量越大深度学习的优势越明显数据量小的时候传统机器学习反而可能更好。可解释性差。深度学习常被称为黑盒——模型给出了预测结果但你很难解释它为什么做出这个判断。虽然可解释性研究在不断推进但相比决策树如果特征 A 大于 5 就分为类别 B这样清晰的规则深度学习的解释性确实差很多。非线性的力量。现实世界的关系大多是非线性的深度学习通过激活函数ReLU、Sigmoid 等引入非线性使得模型能拟合任意复杂的函数关系。层数越多能表达的函数越复杂。二、常见算法深度学习的算法家族庞大每种算法擅长不同的领域ANN全连接神经网络最基础的网络结构每一层的每个神经元与上一层的所有神经元相连。适合处理结构化表格数据是理解其他网络的基础。CNN卷积神经网络专为图像处理设计。通过卷积核在图像上滑动提取局部特征边缘、纹理、形状通过池化层降低维度。从 LeNet 到 ResNet 再到 EfficientNetCNN 在图像识别、目标检测等领域取得了革命性突破。RNN循环神经网络专为序列数据处理设计。网络具有记忆功能能利用之前的信息处理当前输入适合文本、语音、时间序列等有序数据。但 RNN 存在长距离依赖问题后来发展出 LSTM 和 GRU 来缓解。Transformer当前深度学习最炙手可热的架构。它由编码器和解码器两部分构成核心创新是自注意力机制——让模型在处理每个位置时能直接看到序列中所有其他位置的信息不再像 RNN 那样逐个处理。基于 Transformer 的两大代表BERT编码器路线擅长理解和 GPT解码器路线擅长生成分别引领了自然语言处理的两个方向。深度强化学习将深度学习与强化学习结合让智能体在与环境的交互中学习最优策略。AlphaGo 就是典型代表——通过深度网络评估棋局通过强化学习优化策略最终战胜人类围棋冠军。近年来的代表还有 OpenAI 的 DOTA2 AIOpenAI Five和 DeepMind 的星际争霸 AIAlphaStar它们展示了深度强化学习在复杂多智能体环境中的潜力。值得一提的是这些算法并非孤立存在实际应用中经常组合使用。比如目标检测模型 YOLO 用 CNN 提取图像特征再结合回归头输出边界框自动驾驶系统可能同时使用 CNN 处理视觉输入、用 Transformer 融合多传感器数据、用深度强化学习做决策规划。理解每种算法的特长和局限才能在实际项目中做出正确的技术选型。三、应用场景深度学习已经渗透到生活的方方面面文本翻译从 Google 翻译到 DeepLTransformer 架构让机器翻译质量大幅提升某些语言对的翻译已接近人类水平目标检测自动驾驶中的行人识别、车辆检测安防中的人脸识别医疗影像中的病灶定位图像识别手机相册的自动分类、医学影像诊断、工业质检中的缺陷检测这些场景的共同特点是数据量大、模式复杂、传统方法效果有限——恰好是深度学习的用武之地。四、发展史与核心术语深度学习的大繁荣离不开一个人——辛顿Geoffrey Hinton被誉为深度学习之父。他在 2006 年提出了深度信念网络的训练方法开启了深度学习复兴的序幕。2012 年他的学生 Alex Krizhevsky 用深度卷积网络 AlexNet 在 ImageNet 竞赛中以压倒性优势夺冠将错误率从 26% 大幅降至 15%震惊学术界深度学习从此爆发。此后深度学习的发展一日千里——2014 年 GAN 生成对抗网络问世2017 年 Transformer 架构提出2018 年 BERT 刷新 11 项 NLP 记录2020 年 GPT-3 展示了惊人的少样本学习能力每一个里程碑都在拓宽深度学习的边界。理解深度学习必须掌握三个核心术语前向传播数据从输入层经过隐藏层到输出层的过程每一层对数据进行线性变换加权求和和非线性变换激活函数最终得到预测结果。简单说前向传播就是让数据走一遍网络得到预测。反向传播根据预测结果与真实值的误差通过链式法则从输出层向输入层逐层计算梯度更新每个参数。如果说前向传播是正向走一遍得到预测反向传播就是反向走一遍修正参数。梯度下降通过梯度指导参数更新的方向和幅度。参数沿着梯度的反方向移动逐步逼近损失函数的最小值。这三个概念构成了深度学习训练的核心循环前向传播算预测 → 算误差 → 反向传播算梯度 → 梯度下降更新参数 → 重复。五、PyTorch深度学习的利器为什么选择 PyTorchPyTorch 是深度学习的一个框架由 Facebook 于 2016 年发布。它的前身是 Torch底层基于张量计算。你可以把 PyTorch 理解为升级版的 NumPy——它不仅支持 NumPy 的所有数组操作还增加了两大核心能力GPU 加速和自动求导。GPU 加速让大规模矩阵运算的速度提升几十甚至上百倍这是训练百万甚至千亿参数模型的必要条件自动求导让你无需手动推导和实现梯度计算框架会自动帮你完成反向传播的链式求导。这两点对于深度学习至关重要——深度学习本质上就是大量的矩阵运算和梯度更新没有 GPU 加速和自动求导训练一个现代深度学习模型几乎是不可能的。PyTorch 的设计哲学是动态图——每运行一行代码就构建一步计算图调试方便、直觉性强这也是它在学术界迅速超越 TensorFlow 的原因。安装# CPU 版本 pip install torch torchvision # GPU 版本需要先安装 CUDA pip install torch torchvision --index-url https://download.pytorch.org/whl/cu118六、Tensor 张量PyTorch 的基础数据结构什么是 TensorTensor张量就是 PyTorch 中的数据形式类似于 NumPy 的 ndarray但多了 GPU 加速和自动求导的能力。在深度学习中所有数据——输入特征、标签、模型参数、梯度——都以 Tensor 的形式存在。张量的创建PyTorch 提供了丰富的张量创建方式import torch # 从数据创建 t1 torch.tensor([1, 2, 3]) # 直接从列表创建 t2 torch.Tensor(2, 3) # 创建指定维度的随机张量未初始化 # 全0全1张量 zeros torch.zeros(3, 4) # 3×4 的全0张量 ones torch.ones(2, 3) # 2×3 的全1张量 # 随机张量 rand torch.rand(2, 3) # 0-1 均匀分布随机数 randint torch.randint(0, 10, (3, 3)) # 指定范围的随机整数 arange torch.arange(0, 10, 2) # 0到10步长为2[0, 2, 4, 6, 8] linspace torch.linspace(0, 1, 5) # 0到1均匀取5个数[0, 0.25, 0.5, 0.75, 1] normal torch.normal(mean0, std1, size(3, 3)) # 正态分布随机数Tensor()和tensor()的区别值得注意tensor()从已有数据创建张量类似np.array()Tensor()创建指定维度的张量但不保证初始化值使用时需谨慎。常见张量类型PyTorch 支持多种数据类型常用的有类型PyTorch 表示说明int32torch.int32整数默认类型int64torch.int64长整型float32torch.float32浮点数默认类型float64torch.float64双精度浮点booltorch.bool布尔型默认浮点类型是float32默认整数类型是int32——这一点和 NumPy 的float64不同深度学习中通常用float32以节省显存和加速计算。类型查看与转换# 查看类型 print(t1.dtype) # torch.int64 # 类型转换 t_float t1.float() # 转 float32 t_double t1.double() # 转 float64 t_long t1.long() # 转 int64 t_short t1.short() # 转 int16 t_byte t1.byte() # 转 int8类型转换在深度学习中很常见——比如从数据加载器出来的标签可能是int64但某些损失函数要求float32就需要手动转换。Tensor 与 NumPy 互转PyTorch 和 NumPy 可以无缝互转这在数据预处理时非常实用import numpy as np # Tensor 转 NumPy t torch.tensor([1, 2, 3]) n t.numpy() # tensor → numpy # NumPy 转 Tensor n np.array([4, 5, 6]) t torch.from_numpy(n) # numpy → tensor内存共享问题torch.from_numpy()和tensor.numpy()转换后的对象与原对象共享内存——修改一个另一个也会变。如果你不希望共享内存用copy()创建独立副本# 共享内存修改互相影响 t torch.from_numpy(n) # 独立内存修改互不影响 t torch.tensor(n) # 方法一用 tensor() 创建新张量 n t.numpy().copy() # 方法二numpy 后 copy从 Tensor 取标量值当 Tensor 只有一个元素时用item()可以取出 Python 标量loss torch.tensor(0.5) print(loss.item()) # 0.5Python float不是 Tensor这在打印训练损失时很常用——item()把 Tensor 转成普通数字避免 Tensor 一直占用显存。七、张量的数学运算四则运算a torch.tensor([1, 2, 3]) b torch.tensor([4, 5, 6]) print(torch.add(a, b)) # [5, 7, 9] print(torch.sub(a, b)) # [-3, -3, -3] print(torch.mul(a, b)) # [4, 10, 18] 逐元素相乘 print(torch.div(a, b)) # [0.25, 0.4, 0.5] 逐元素相除注意mul是逐元素相乘不是矩阵乘法。div是逐元素相除可以用/运算符。矩阵不能和标量直接做矩阵除法但逐元素除法可以用/。矩阵乘法矩阵乘法是深度学习中最频繁的运算——神经网络的每一层本质上就是一个矩阵乘法a torch.tensor([[1, 2], [3, 4]]) b torch.tensor([[5, 6], [7, 8]]) # 两种写法等价 print(torch.matmul(a, b)) # 矩阵乘法 print(a b) # 运算符更简洁matmul()和完全等价选哪个看个人习惯。在深度学习代码中更常见因为更简洁。常用函数运算t torch.tensor([1.0, 4.0, 9.0]) print(t.sum()) # 求和14.0 print(t.mean()) # 均值4.6667 print(t.max()) # 最大值9.0 print(t.min()) # 最小值1.0 print(t.abs()) # 绝对值 print(t.sqrt()) # 平方根[1.0, 2.0, 3.0] print(t.exp()) # 指数e^x print(torch.log(t)) # 对数ln(x)这些函数和 NumPy 的用法几乎一致会 NumPy 就能无缝迁移到 PyTorch。八、张量的索引与切片索引和切片是操作张量的基本功PyTorch 的索引方式与 NumPy 高度一致# 一维张量 data torch.tensor([10, 20, 30, 40, 50]) print(data[0]) # 索引取值10 print(data[2:]) # 切片[30, 40, 50] # 二维张量 data2d torch.tensor([[1, 2, 3], [4, 5, 6], [7, 8, 9]]) print(data2d[2, 1]) # 取第2行第1列8 print(data2d[0:2, 0:3]) # 取前2行前3列 # 多维张量 data3d torch.randn(3, 4, 5) print(data3d[1, 2, 3]) # 取第1层第2行第3列的元素 # 布尔索引条件筛选 mask data 20 print(data[mask]) # [30, 40, 50] # 花式索引用索引列表取值 indices torch.tensor([0, 2, 4]) print(data[indices]) # [10, 30, 50] # 步长切片 print(data[::2]) # 每隔一个取[10, 30, 50]布尔索引在深度学习中特别实用——比如你想知道模型预测中有多少个置信度大于 0.9 的结果一个布尔索引就能筛出来。花式索引则适合从大数据集中按指定位置抽取样本比如在强化学习的经验回放中随机采样。切片操作[::2]表示每隔一个取一个在降采样或隔行取数据的场景中会用到。掌握这些索引和切片操作你在处理 Tensor 时就能像操作 NumPy 数组一样得心应手。九、学习心得与建议第一深度学习的核心是自动化。传统机器学习的瓶颈在特征工程——需要领域专家手动设计特征。深度学习的革命性在于把这个过程自动化了。理解这一点你就理解了为什么深度学习能在图像、文本等领域取得碾压性优势——因为这些领域的特征太复杂了人工设计根本跟不上。第二前向传播和反向传播是灵魂。所有的深度学习框架——PyTorch、TensorFlow、JAX——本质上都在做两件事帮你高效地做前向传播矩阵运算和反向传播自动求导。把这两个概念彻底搞懂后面的所有网络结构都是在这两个基础上的变体。第三Tensor 操作是代码基础。深度学习代码 80% 都在操作 Tensor——创建、变形、运算、索引。把 Tensor 操作练熟写模型代码时就不会在基础语法上卡壳。建议对照 NumPy 学 PyTorch两者 API 高度相似迁移成本很低。第四不要被深度吓到。深度学习听起来很高深但拆开来看一层网络就是一个矩阵乘法加一个激活函数多层叠起来就是深度学习。核心概念并不多——前向传播、反向传播、梯度下降、损失函数这些在前面学线性回归时已经接触过了深度学习只是把它们用到了更复杂的网络上。写在最后从机器学习到深度学习我们完成了一次认知升级——从人工设计特征 简单模型到自动提取特征 深层模型。这不是对前面知识的否定而是延展。线性回归中的梯度下降、KNN 中的距离度量、决策树中的特征分裂这些思想在深度学习中依然以各种形式出现。今天我们梳理了深度学习的核心概念和 PyTorch 的 Tensor 操作。概念层面理解了深度学习的定义、特点、常见算法和应用场景工具层面掌握了 Tensor 的创建、类型转换、数学运算和索引切片。这些是后续搭建神经网络模型的基础——下篇文章我们将用 PyTorch 搭建第一个神经网络把前向传播和反向传播从概念变成代码。深度学习的世界很大但入口很清晰理解概念掌握工具动手写代码。迈出第一步后面的路自然会在脚下展开。如果这篇文章对你有帮助欢迎点赞收藏。下一篇我们将用 PyTorch 搭建第一个神经网络敬请关注。