【AI 和机器学习】PyTorch BASIC 基础知识(节0):快速入门
ztj100 2024-12-17 17:48 23 浏览 0 评论
【AI 和机器学习】PyTorch BASIC 基础知识:节0
—— 快速入门
前言
—— 哪个更适合初学者?
想要学习并掌握 AI,最直接的办法就是自己动手进行实操。有一些流行的来源可供练习 AI 技能,例如:
- Kaggle:一个托管各种数据集和机器学习竞赛的平台。
- UCI 机器学习存储库:用于机器学习研究的数据集集合。
- TensorFlow 教程:TensorFlow 团队提供的教程和示例。
- PyTorch 教程:PyTorch 团队提供的教程和示例。
其中PyTorch和TensorFlow的AI教程资源非常丰富。但对于初学者来说,哪个更合适,可能还得取决于您的特定目标(研究与生产)以及您的偏好等:
- PyTorch 因其简单、易读和易于调试而通常被认为更适合初学者。PyTorch 的动态特性使新手可以学习概念而不会被复杂的语法所困扰。
- TensorFlow 随着 TensorFlow 2.x 和 Keras 的推出变得更加适合初学者,但它仍可能对初学者构成挑战。
本文先选择PyTorch来和大家一起学习,学习它的一些基础内容。其中所有素材均取自其教程。对于每一节内容,我们都将先给出摘要,然后把译文稍作整理后附在后面,供参考。
目录
【续前文】
本节摘要
本节概述了如何使用 PyTorch 执行常见的机器学习任务,重点介绍数据处理、模型创建、训练和保存/加载模型。
- 使用数据
- 数据处理基元:PyTorch 使用 'torch.utils.data.DataLoader' 和 'torch.utils.data.Dataset'。“Dataset”存储样本和标签,而“DataLoader”包装数据集以便于迭代。
- 数据加载示例:本节演示了如何使用 'torchvision.datasets' 下载 FashionMNIST 数据集,并通过 'ToTensor()' 应用转换。
- 创建数据加载器:为具有指定批量大小(例如 64)的训练和测试数据集创建“DataLoader”。
- 创建模型
- 定义神经网络:神经网络是通过创建一个继承自 nn.Module的模块中。网络层在 __init__ 方法中设置,数据流在 'forward' 方法中定义。
- 设备选择:该代码检查可用的计算设备(CPU、GPU 或 MPS),以便加速训练。
- 优化模型参数
- 损失函数和优化器:模型使用交叉熵损失和 SGD 作为优化器。训练循环批量处理数据集、计算预测、计算损失,并通过反向传播更新模型参数。
- 测试模型:一个单独的函数评估模型在测试数据集上的性能,计算准确率和平均损失。
- 训练过程
- Epochs:模型在多个 epoch 上进行训练,在每个 epoch 打印损失和准确率来监控进度。
- 保存和加载模型
- 保存模型:模型的 state 字典使用 'torch.save()' 保存。
- 加载模型:要加载模型,需要重新创建结构,并将状态字典重新加载回其中。
- 进行预测
- 加载模型后,它可以对新数据进行预测,并提供用于解释结果的示例。
本节是使用 PyTorch 进行机器学习的基础介绍,重点介绍数据处理、模型训练和部署的实际步骤。
本节正文
本节介绍机器学习中常见任务的 API。请参阅每个部分中的“更多信息”深入了解。
使用数据
PyTorch 有两个用于处理数据的基元: torch.utils.data.DataLoader 和 torch.utils.data.Dataset 。Dataset 存储样本及其相应的标签,而 DataLoader 则围绕 Dataset 包装了一个可迭代对象。
PyTorch 提供特定于域的库,例如 TorchText、TorchVision 和 TorchAudio,所有这些库都包含数据集。在本教程中,我们将使用 TorchVision 数据集。
torchvision.datasets 模块包含许多真实世界视觉数据的 Dataset 对象,如 CIFAR、COCO。在本教程中,我们使用 FashionMNIST 数据集。每个 TorchVision 数据集都包含两个参数: transform 和 target_transform 分别用于修改样本和标签。
输出:
我们将 Dataset 作为参数传递给 DataLoader。这将把一个可迭代对象包装在我们的数据集上,并且支持自动批处理、采样、混洗和多进程数据加载。这里我们定义了一个 batch size 为 64,即 dataloader iterable 中的每个元素将返回一个 64 个特征和标签的批次。
输出:
【注:更多信息请参阅“在 PyTorch 中加载数据”一节】
创建模型
为了在 PyTorch 中定义神经网络,我们创建了一个继承自 nn.Module 的模型。我们在 __init__ 函数中定义网络层,并在 forward 函数中指定数据如何通过网络。为了加速神经网络中的操作,我们将其移到 GPU 或 MPS(如果可用的话)。
输出:
【注:更多信息请参阅“在 PyTorch 中构建神经网络”一节】
优化模型参数
要训练模型,我们需要一个损失函数和一个优化器。
在单个训练循环中,模型对训练数据集进行预测(分批提供给它),并反向传播预测误差来调整模型的参数。
我们还根据测试数据集检查模型的性能,以确保它正在学习。
训练过程分多次迭代 (epoch) 进行。在每个 epoch 期间,模型会学习参数以做出更好的预测。我们打印模型在每个 epoch 的准确率和损失;我们希望看到每个 epoch 的准确率增加,损失减少。
输出:
【注:更多信息请参阅“训练模型”一节】
保存模型
保存模型的常用方法是序列化内部状态字典(包含模型参数)。
输出:
加载模型
加载模型的过程包括重新创建模型结构,并且将状态字典加载到其中。
输出:
此模型现在可用于进行预测。
输出:
【注:更多信息请参阅“保存和加载模型”一节】
【未完待续】
农历甲辰十月廿三
2024.11.23
【部分图片来源网络,侵删】
- 上一篇:【AI系统】推理文件格式 ai推理加速
- 下一篇:这模型有毒! 制作模型会中毒
相关推荐
- Java网络编程(JAVA网络编程技术)
-
网络编程三要素1.IP地址:表示设备在网络中的地址,是网络中设备的唯一标识2.端口号:应用程序在设备中唯一的标识3.协议:连接和数据在网络中传输的规则。InetAddress类Java中也有一个...
- 字节Java全能手册火了!多线程/网络/性能调优/框架啥都有
-
前言在这个技术不断更新的年代,跟不上时代变化的速度就会被刷掉,特别是咱们程序员这一群体,技术不断更新的同时也要同时进步,不然长江后浪推前浪,前浪......一个程序员从一个什么都不懂的小白在学到有一定...
- 一分钟了解java网络编程(java基础网络编程)
-
一、OSI七层网络模型应用层:Http协议、电子邮件传输、文件服务器等;表示层:数据转换,解决不同系统的兼容问题(跨语言);会话层:建立与应用程序的会话连接;传输层:提供了端口号和传输协议(TPC/U...
- Java编程-高并发情况下接口性能优化实践-提升吞吐量TPS
-
记得前段时间工作中接到一个任务是优化一个下单接口的性能提高接口的吞吐量TPS,前期通过arthas工具跟踪接口的具体方法调用链路及耗时,发现了影响此接口的性能瓶颈主要是加锁的方式,后来变更了锁的方式...
- socket 断线重连和心跳机制如何实现?
-
一、socket概念1.套接字(socket)是网络通信的基石,是支持TCP/IP协议的网络通信的基本操作单元。它是网络通信过程中端点的抽象表示,包含进行网络通信必须的五种信息:连接使用的协议,...
- 迅速了解-Java网络编程(java基础网络编程)
-
Java网络编程在JavaSE阶段,我们学习了I/O流,既然I/O流如此强大,那么能否跨越不同的主机进行I/O操作呢?这就要提到Java的网络编程了。...
- Java网络编程详解(java 网络编程)
-
网络编程基础知识最!最!最!重要网络编程基础概念网络编程不等于网站编程,网络编程即使用套接字(socket)来达到各进程间的通信,现在一般称为TCP/IP编程;网络编程分为服务端和客户端。服务端就相当...
- 「开源推荐」高性能网络通信框架 HP-Socket v5.7.2
-
简介HP-Socket是一套通用的高性能TCP/UDP/HTTP通信框架,包含服务端组件、客户端组件和Agent组件,广泛适用于各种不同应用场景的TCP/UDP/HTTP通信系统,提供C/...
- Java网络编程从入门到精通:打造属于你的网络世界
-
Java网络编程从入门到精通:打造属于你的网络世界在当今这个信息爆炸的时代,网络编程已经成为程序员必不可少的一项技能。而Java作为一种功能强大且广泛使用的编程语言,在网络编程领域也有着举足轻重的地位...
- 5分钟读懂C#中TcpClient、TcpListener和Socket三个类的角色
-
一、核心功能与定位1.Socket类:底层通信的基石-位于System.Net.Sockets命名空间,提供对网络协议栈的直接操作,支持TCP、UDP等多种协议。-手动管理连接细节:需...
- (三)谈谈 IO 模型(Socket 编程篇)
-
快过年啦,估计很多朋友已在摸鱼的路上。而我为了兄弟们年后的追逐,却在苦苦寻觅、规划,导致文章更新晚了些,各位猿粉谅解。上期分享,我们结合新春送祝福的场景,通过一坨坨的代码让BIO、NIO编程过程呈...
- 大数据编程入门:Java网络编程(大数据 编程)
-
如果想要编写出一个可以运行在多个设备上的程序,应该怎么做呢?答案是网络编程,今天小编将为大家带来大数据编程入门:Java网络编程。一、网络编程概念网络编程是指编写在通过网络连接的多个设备(计算机)上运...
- 基于JAVA的社交聊天室(java聊天设计与实现)
-
基于Java的社交聊天室一、前言随着互联网技术的迅速发展,实时通信和在线社交已成为人们日常生活的重要组成部分。基于Java的社交聊天室系统,凭借其跨平台、高性能和安全性等特点,为用户提供了一个集中、开...
- java-socket长连接demo体验(java socket长连接)
-
作者:DavidDing来源:https://zhuanlan.zhihu.com/p/56135195一、前言最近公司在预研设备app端与服务端的交互方案,主要方案有:服务端和app端通过阿里i...
- JAVA数据库编程(java数据库编程指南)
-
预计更新###第一节:什么是JAVA-JAVA的背景和历史-JAVA的特点和应用领域-如何安装和配置JAVA开发环境###第二节:JAVA基础语法-JAVA的基本数据类型和变量-运算符和...
你 发表评论:
欢迎- 一周热门
- 最近发表
- 标签列表
-
- idea eval reset (50)
- vue dispatch (70)
- update canceled (42)
- order by asc (53)
- spring gateway (67)
- 简单代码编程 贪吃蛇 (40)
- transforms.resize (33)
- redisson trylock (35)
- 卸载node (35)
- np.reshape (33)
- torch.arange (34)
- npm 源 (35)
- vue3 deep (35)
- win10 ssh (35)
- vue foreach (34)
- idea设置编码为utf8 (35)
- vue 数组添加元素 (34)
- std find (34)
- tablefield注解用途 (35)
- python str转json (34)
- java websocket客户端 (34)
- tensor.view (34)
- java jackson (34)
- vmware17pro最新密钥 (34)
- mysql单表最大数据量 (35)