【AI 和机器学习】PyTorch BASIC 基础知识：节7

—— 保存、加载和使用模型（Save & Load Model）

前言

—— 哪个更适合初学者？

想要学习并掌握 AI，最直接的办法就是自己动手进行实操。有一些流行的来源可供练习 AI 技能，例如：

• Kaggle：一个托管各种数据集和机器学习竞赛的平台。
• UCI 机器学习存储库：用于机器学习研究的数据集集合。
• TensorFlow 教程：TensorFlow 团队提供的教程和示例。
• PyTorch 教程：PyTorch 团队提供的教程和示例。

其中PyTorch和TensorFlow的AI教程资源非常丰富。但对于初学者来说，哪个更合适，可能还得取决于您的特定目标（研究与生产）以及您的偏好等：

• PyTorch 因其简单、易读和易于调试而通常被认为更适合初学者。PyTorch 的动态特性使新手可以学习概念而不会被复杂的语法所困扰。
• TensorFlow 随着 TensorFlow 2.x 和 Keras 的推出变得更加适合初学者，但它仍可能对初学者构成挑战。

本文先选择PyTorch来和大家一起学习，学习它的一些基础内容。其中所有素材均取自其教程。对于每一节内容，我们都将先给出摘要，然后把译文稍作整理后附在后面，供参考。

目录

【续前文】

本节摘要

本节介绍了模型参数优化的过程，包括训练、验证和测试模型。训练模型是一个迭代过程，通过计算误差、收集导数并使用梯度下降优化参数。

本节还讨论了超参数的定义及其对模型优化过程的影响，包括迭代次数、批量大小和学习率。

随后，本节介绍了优化循环，包括训练循环和验证/测试循环。损失函数用于测量预测结果与目标值之间的差异，并介绍了常见的损失函数。优化过程通过调整模型参数来减少误差，使用优化算法（如随机梯度下降）。在训练循环中，优化包括重置梯度、反向传播预测损失和调整参数。

本节最后提供了完整实现，包括训练循环和测试循环的定义，以及损失函数和优化器的初始化。

本节正文

保存并加载模型

在本节中，我们将了解如何通过保存、加载和运行模型预测来保持模型状态。

保存和加载模型权重

PyTorch 模型将学习的参数存储在称为 state_dict 的内部状态字典中。这些可以通过 torch.save 方法持久化：

输出：

要加载模型权重，您需要先创建同一模型的实例，然后使用 load_state_dict（） 方法加载参数。

在下面的代码中，我们设置 weights_only=True 来将解封期间执行的函数限制为仅加载权重所需的函数。加载权重时，使用 weights_only=True 被认为是最佳实践。

输出：

注：

请务必在推理之前调用 model.eval（） 方法，将 dropout 和 batch normalization 层设置为评估模式。如果不这样做，将产生不一致的推理结果。

保存和加载带有形状的模型

在加载模型权重时，我们需要先实例化模型类，因为该类定义了网络的结构。我们可能希望将这个类的结构与 model 一起保存，在这种情况下，我们可以将 model（而不是 model.state_dict（）））传递给 saving 函数：

然后，我们可以加载模型，如下所示。

如保存和加载 torch.nn.Modules 中所述，保存 state_dict 被认为是最佳实践。但是，下面我们使用 weights_only=False，因为这涉及加载模型，这是 torch.save 的遗留用例。

注：

这种方法在序列化模型时使用 Python pickle 模块，因此它依赖于加载模型时可用的实际类定义。

相关内容

• 在 PyTorch 中保存和加载通用检查点
• 加载来自检查点的 nn.Module

【全文完】

农历甲辰十月三十

2024.11.30

【部分图片来源网络，侵删】