PyTorch

主流深度学习框架：张量计算、自动求导、神经网络模块与 GPU/加速器上的训练与推理。开源大模型实现与微调脚本大多基于它。

它是做什么的

用 Python 写动态图风格的模型与训练循环：先定义前向计算，反向由 autograd 自动完成。核心模块是 Tensor、torch.autograd、torch.nn、torch.optim，以及 torch.distributed 等分布式能力。官网能力摘要包括：eager/图模式与部署相关路径、可扩展分布式训练、丰富生态库、主流云平台支持。安装页提供 Stable 与 Nightly，以及 CUDA / ROCm / CPU 等组合的 pip（或 C++ LibTorch）命令——版本号与 CUDA 选项以该页当前选择器为准，不要抄过期博客。Linux/macOS/Windows 的前置条件（Python 版本、glibc、系统版本等）也写在同一安装文档里，装前先扫一眼。

要点

• Tensor + autograd：数值计算与反向传播；requires_grad 驱动求导
• nn.Module：定义层与模型；配合 Dataset/DataLoader、loss、optimizer 组成标准训练环
• 设备后端：NVIDIA CUDA、AMD ROCm 等；安装后用 torch.cuda.is_available() 自检（ROCm 构建在 Python API 层语义类似）
• 分布式与扩展：Tutorials 覆盖 DDP、FSDP、Tensor Parallel、Pipeline Parallel、torch.compile 等
• 生态：torchvision / torchaudio 等官方域库；上层常见 Hugging Face Transformers、Lightning 等
• 学习路径：官方 Tutorials 从张量、DataLoader、建网、训练环到分布式与编译优化，按专题检索即可，不必线性读完

适合谁

• 要读懂或修改模型代码、train.py、本地推理脚本
• 做实验、微调、单机或集群训练
• 学 Transformer / LLM 实现前的框架基础

官方入口

• 官网
• 本地安装 Get Started
• 文档
• Tutorials
• Learn the Basics
• GitHub: pytorch/pytorch

建议怎么用

1. 打开 Get Started，按 OS、Package=Pip、Compute Platform（CUDA 版本或 CPU）复制页面生成的安装命令。安装页注明最新 Stable 需要 Python 3.10 或更高；CUDA 小版本必须与本机驱动/工具包匹配，选错会装得上但 cuda.is_available() 为假或运行报错。
2. 验证：

import torch
print(torch.__version__)
print(torch.rand(5, 3))
print(torch.cuda.is_available())  # 若安装了 CUDA/ROCm 版

3. 跟 Learn the Basics 或 60 Minute Blitz：张量 → 建网 → 训练环 → 存盘。再读具体模型仓库的 train.py / 推理脚本。需要多卡时再进官方 DDP/FSDP 教程；先把单卡环跑稳，再加分布式与 torch.compile。目标不是「看完所有教程」，而是能独立改一层、加一个 loss、把 checkpoint 存起来再加载。