百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术分类 > 正文

【AI 和机器学习】PyTorch BASIC 基础知识(节0):快速入门

ztj100 2024-12-17 17:48 15 浏览 0 评论

【AI 和机器学习】PyTorch BASIC 基础知识:节0

—— 快速入门

前言

—— 哪个更适合初学者?

想要学习并掌握 AI,最直接的办法就是自己动手进行实操。有一些流行的来源可供练习 AI 技能,例如:

  • Kaggle:一个托管各种数据集和机器学习竞赛的平台。
  • UCI 机器学习存储库:用于机器学习研究的数据集集合。
  • TensorFlow 教程:TensorFlow 团队提供的教程和示例。
  • PyTorch 教程:PyTorch 团队提供的教程和示例。

其中PyTorch和TensorFlow的AI教程资源非常丰富。但对于初学者来说,哪个更合适,可能还得取决于您的特定目标(研究与生产)以及您的偏好等:

  • PyTorch 因其简单、易读和易于调试而通常被认为更适合初学者。PyTorch 的动态特性使新手可以学习概念而不会被复杂的语法所困扰。
  • TensorFlow 随着 TensorFlow 2.x 和 Keras 的推出变得更加适合初学者,但它仍可能对初学者构成挑战。

本文先选择PyTorch来和大家一起学习,学习它的一些基础内容。其中所有素材均取自其教程。对于每一节内容,我们都将先给出摘要,然后把译文稍作整理后附在后面,供参考。

目录

【续前文】

本节摘要

本节概述了如何使用 PyTorch 执行常见的机器学习任务,重点介绍数据处理、模型创建、训练和保存/加载模型。

  1. 使用数据
  • 数据处理基元:PyTorch 使用 'torch.utils.data.DataLoader' 和 'torch.utils.data.Dataset'。“Dataset”存储样本和标签,而“DataLoader”包装数据集以便于迭代。
  • 数据加载示例:本节演示了如何使用 'torchvision.datasets' 下载 FashionMNIST 数据集,并通过 'ToTensor()' 应用转换。
  • 创建数据加载器:为具有指定批量大小(例如 64)的训练和测试数据集创建“DataLoader”。
  1. 创建模型
  • 定义神经网络:神经网络是通过创建一个继承自 nn.Module的模块中。网络层在 __init__ 方法中设置,数据流在 'forward' 方法中定义。
  • 设备选择:该代码检查可用的计算设备(CPU、GPU 或 MPS),以便加速训练。
  1. 优化模型参数
  • 损失函数和优化器:模型使用交叉熵损失和 SGD 作为优化器。训练循环批量处理数据集、计算预测、计算损失,并通过反向传播更新模型参数。
  • 测试模型:一个单独的函数评估模型在测试数据集上的性能,计算准确率和平均损失。
  1. 训练过程
  • Epochs:模型在多个 epoch 上进行训练,在每个 epoch 打印损失和准确率来监控进度。
  1. 保存和加载模型
  • 保存模型:模型的 state 字典使用 'torch.save()' 保存。
  • 加载模型:要加载模型,需要重新创建结构,并将状态字典重新加载回其中。
  1. 进行预测
  • 加载模型后,它可以对新数据进行预测,并提供用于解释结果的示例。

本节是使用 PyTorch 进行机器学习的基础介绍,重点介绍数据处理、模型训练和部署的实际步骤。

本节正文

本节介绍机器学习中常见任务的 API。请参阅每个部分中的“更多信息”深入了解。

使用数据

PyTorch 有两个用于处理数据的基元: torch.utils.data.DataLoader 和 torch.utils.data.Dataset 。Dataset 存储样本及其相应的标签,而 DataLoader 则围绕 Dataset 包装了一个可迭代对象。

PyTorch 提供特定于域的库,例如 TorchText、TorchVision 和 TorchAudio,所有这些库都包含数据集。在本教程中,我们将使用 TorchVision 数据集。

torchvision.datasets 模块包含许多真实世界视觉数据的 Dataset 对象,如 CIFAR、COCO。在本教程中,我们使用 FashionMNIST 数据集。每个 TorchVision 数据集都包含两个参数: transform 和 target_transform 分别用于修改样本和标签。

输出:

我们将 Dataset 作为参数传递给 DataLoader。这将把一个可迭代对象包装在我们的数据集上,并且支持自动批处理、采样、混洗和多进程数据加载。这里我们定义了一个 batch size 为 64,即 dataloader iterable 中的每个元素将返回一个 64 个特征和标签的批次。

输出:

【注:更多信息请参阅“在 PyTorch 中加载数据”一节】

创建模型

为了在 PyTorch 中定义神经网络,我们创建了一个继承自 nn.Module 的模型。我们在 __init__ 函数中定义网络层,并在 forward 函数中指定数据如何通过网络。为了加速神经网络中的操作,我们将其移到 GPU 或 MPS(如果可用的话)。

输出:

【注:更多信息请参阅“在 PyTorch 中构建神经网络”一节】

优化模型参数

要训练模型,我们需要一个损失函数和一个优化器。

在单个训练循环中,模型对训练数据集进行预测(分批提供给它),并反向传播预测误差来调整模型的参数。

我们还根据测试数据集检查模型的性能,以确保它正在学习。

训练过程分多次迭代 (epoch) 进行。在每个 epoch 期间,模型会学习参数以做出更好的预测。我们打印模型在每个 epoch 的准确率和损失;我们希望看到每个 epoch 的准确率增加,损失减少。

输出:

【注:更多信息请参阅“训练模型”一节】

保存模型

保存模型的常用方法是序列化内部状态字典(包含模型参数)。

输出:

加载模型

加载模型的过程包括重新创建模型结构,并且将状态字典加载到其中。

输出:

此模型现在可用于进行预测。

输出:

【注:更多信息请参阅“保存和加载模型”一节】


【未完待续】

农历甲辰十月廿三

2024.11.23

【部分图片来源网络,侵删】

相关推荐

SpringBoot如何实现优雅的参数校验
SpringBoot如何实现优雅的参数校验

平常业务中肯定少不了校验,如果我们把大量的校验代码夹杂到业务中,肯定是不优雅的,对于一些简单的校验,我们可以使用java为我们提供的api进行处理,同时对于一些...

2025-05-11 19:46 ztj100

Java中的空指针怎么处理?

#暑期创作大赛#Java程序员工作中遇到最多的错误就是空指针异常,无论你多么细心,一不留神就从代码的某个地方冒出NullPointerException,令人头疼。...

一坨一坨 if/else 参数校验,被 SpringBoot 参数校验组件整干净了

来源:https://mp.weixin.qq.com/s/ZVOiT-_C3f-g7aj3760Q-g...

用了这两款插件,同事再也不说我代码写的烂了

同事:你的代码写的不行啊,不够规范啊。我:我写的代码怎么可能不规范,不要胡说。于是同事打开我的IDEA,安装了一个插件,然后执行了一下,规范不规范,看报告吧。这可怎么是好,这玩意竟然给我挑出来这么...

SpringBoot中6种拦截器使用场景

SpringBoot中6种拦截器使用场景,下面是思维导图详细总结一、拦截器基础...

用注解进行参数校验,spring validation介绍、使用、实现原理分析

springvalidation是什么在平时的需求开发中,经常会有参数校验的需求,比如一个接收用户注册请求的接口,要校验用户传入的用户名不能为空、用户名长度不超过20个字符、传入的手机号是合法的手机...

快速上手:SpringBoot自定义请求参数校验

作者:UncleChen来源:http://unclechen.github.io/最近在工作中遇到写一些API,这些API的请求参数非常多,嵌套也非常复杂,如果参数的校验代码全部都手动去实现,写起来...

分布式微服务架构组件

1、服务发现-Nacos服务发现、配置管理、服务治理及管理,同类产品还有ZooKeeper、Eureka、Consulhttps://nacos.io/zh-cn/docs/what-is-nacos...

优雅的参数校验,告别冗余if-else

一、参数校验简介...

Spring Boot断言深度指南:用断言机制为代码构筑健壮防线

在SpringBoot开发中,断言(Assert)如同代码的"体检医生",能在上线前精准捕捉业务逻辑漏洞。本文将结合企业级实践,解析如何通过断言机制实现代码自检、异常预警与性能优化三...

如何在项目中优雅的校验参数

本文看点前言验证数据是贯穿所有应用程序层(从表示层到持久层)的常见任务。通常在每一层实现相同的验证逻辑,这既费时又容易出错。为了避免重复这些验证,开发人员经常将验证逻辑直接捆绑到域模型中,将域类与验证...

SpingBoot项目使用@Validated和@Valid参数校验

一、什么是参数校验?我们在后端开发中,经常遇到的一个问题就是入参校验。简单来说就是对一个方法入参的参数进行校验,看是否符合我们的要求。比如入参要求是一个金额,你前端没做限制,用户随便过来一个负数,或者...

28个验证注解,通过业务案例让你精通Java数据校验(收藏篇)

在现代软件开发中,数据验证是确保应用程序健壮性和可靠性的关键环节。JavaBeanValidation(JSR380)作为一个功能强大的规范,为我们提供了一套全面的注解工具集,这些注解能够帮...

Springboot @NotBlank参数校验失效汇总

有时候明明一个微服务里的@Validated和@NotBlank用的好好的,但就是另一个里不能用,这时候问题是最不好排查的,下面列举了各种失效情况的汇总,供各位参考:1、版本问题springbo...

这可能是最全面的Spring面试八股文了

Spring是什么?Spring是一个轻量级的控制反转(IoC)和面向切面(AOP)的容器框架。...

取消回复欢迎 发表评论: