PyTorch 是一个开源的 Python 深度学习框架，其底层由 C++ 实现。它常与同领域另一主流框架 TensorFlow 相提并论，犹如并立的两大神兵。
两者的核心差异体现在计算机制上：
- TensorFlow 采用静态计算图模式。开发者需要预先完整定义计算图结构（一经定义便难以更改），之后才可输入数据进行计算。这种固定流程在灵活性上有所不足，对于需要动态调整计算逻辑或随时间演变的场景，实现较为繁琐。
- PyTorch 则采用了动态计算图（即“Define by Run”）。它继承了 Python 强大的动态编程特性，允许更灵活、即时的操作执行。这使得在 PyTorch 中开发和调试模型的过程更为直观便捷。
综合来看，PyTorch 的主要优势在于：
- 动态图灵活性： 即使面对大规模计算图，也能便捷地构建和修改。
- 自动微分： 内置机制可自动计算变量的导数（梯度）。
- GPU 加速便利： 能够轻松利用 GPU 资源大幅提升计算效率。
PyTorch 设计了三个层次的核心抽象：
- 张量 (Tensor)： 是执行多维数组运算的基本单元，类似于矩阵的扩展，其操作非常适合在 GPU 上进行高效并行计算。
- 变量 (Variable, 注：在较新版本中概念有所整合)： 对张量进行封装的核心目的是记录其在动态计算图中的位置及状态信息。它使得系统能够追踪计算过程中变量间的依赖关系，从而实现关键的梯度反向传播（Autograd）。
- 模块 (Module)： 作为面向神经网络构建的高层抽象，封装了可重用的组件与层结构（如全连接层、卷积层、激活函数、批归一化层等），极大简化了复杂网络模型的搭建过程。
)
