百度360必应搜狗淘宝本站头条
vue dispatchspring gatewayorder by ascidea eval resetupdate canceled
当前位置：网站首页 > 技术分类 > 正文

nvidia-smi输出参数解释及DeepSeek模型运行后输出参数变化

ztj100 2025-09-04 22:19 14 浏览 0 评论

在上一篇微头条里面，我们安装了Nvidia显卡驱动，然后我们就可以通过命令nvidia-smi来查看GPU服务器的GPU参数，nvidia-smi（NVIDIA System Management Interface）是 NVIDIA 提供的命令行工具，用于监控和管理 NVIDIA GPU 的状态与性能。它支持 Linux 和 Windows 系统，能够实时显示 GPU 的硬件状态、资源使用情况（如显存、功耗、温度）、进程信息等，并支持调整 GPU 设置（如持久模式、ECC 校验）。如下图：

这些参数解释如下：

参数

含义

上面截图值

Driver Version

NVIDIA 显卡驱动版本号

535.216.01

CUDA Version

当前系统支持的 CUDA 最高版本（非实际安装的 CUDA 版本）

12.2

GPU

GPU 编号（从 0 开始）

0

Name

GPU 型号（如 NVIDIA GeForce RTX 1080）

Tesla V100-SXM2-32GB

Temp

GPU 当前温度（单位：℃，过高会导致降频）

36C

Perf

性能状态（P0 为最大性能，P12 为最小性能）

P0

Pwr:Usage/Cap

当前功耗（Usage）与最大功耗（Cap）（单位：W）

37W / 300W

Memory-Usage

显存使用情况（已用/总量，单位：MiB）

0MiB / 32768MiB

GPU-Util

GPU 利用率（0%-100%，表示计算任务占用比例）

0%

Fan

风扇转速（0%-100%，N/A 表示无风扇）

N/A

Volatile Uncorr. ECC

是否启用错误检查和纠错技术（0/DISABLED 表示关闭，1/ENABLED 表示开启）

0

Compute M.

计算模式（0/DEFAULT 表示默认模式，1/EXCLUSIVE_PROCESS 表示独占进程模式）

Default

Bus-Id

GPU 总线 ID（格式：
domain:bus:device.function，唯一标识 GPU）

00000000:00:08.0

Disp.A

显示器是否初始化（表示是否有外接显示器激活）

Off

Persistence-M

持久模式状态（On/Off，开启后 GPU 状态在重启后保留）

on

下面的process就是表面正在运行在GPU服务器上的程序，下面就以上面微头条里面提到的GeForce GTX 1080 Ti显卡服务器为例，看看上面运行的程序：

进程信息（Processes）：显示每个进程占用的显存、进程号（PID）及对应的 GPU 编号，其中Type是进程类型（C=计算进程，G=图形进程，CG=两者兼有），本例中是G，那就是图形进程。

下面就在这台服务器上跑一下deepseek的模型，看看输出参数得变化。

我们还是使用羊驼ollama来运行大模型，运行命令 ollama serve &，启动羊驼。


运行命令 ollama run deepseek-r1:1.5b，跑一个1.5b参数的模型：

从输出日志里面可以看出，这个模型已经运行在GPU显卡上面了，我们使用命令nvidia-smi来查看一下：

从processes的输出中可以看出，deepseek运行在了编号为1的卡上，type类型是C，也就是计算进程，占用了差不多1.5G的GPU内存。

nvidia-smi的其他命令：

1、nvidia-smi -i 0 # 指定 GPU 编号


2、watch -n 1 nvidia-smi # 每秒刷新一次

相关推荐

sharding-jdbc实现`分库分表`与`读写分离`

一、前言本文将基于以下环境整合...

三分钟了解mysql中主键、外键、非空、唯一、默认约束是什么

在数据库中，数据表是数据库中最重要、最基本的操作对象，是数据存储的基本单位。数据表被定义为列的集合，数据在表中是按照行和列的格式来存储的。每一行代表一条唯一的记录，每一列代表记录中的一个域。...

MySQL8行级锁_mysql如何加行级锁

MySQL8行级锁版本：8.0.34基本概念...

mysql使用小技巧_mysql使用入门

1、MySQL中有许多很实用的函数，好好利用它们可以省去很多时间:group_concat()将取到的值用逗号连接，可以这么用:selectgroup_concat(distinctid)fr...

MySQL/MariaDB中如何支持全部的Unicode?

永远不要在MySQL中使用utf8，并且始终使用utf8mb4。utf8mb4介绍MySQL/MariaDB中，utf8字符集并不是对Unicode的真正实现，即不是真正的UTF-8编码，因...

聊聊 MySQL Server 可执行注释，你懂了吗?

前言MySQLServer当前支持如下3种注释风格：...

MySQL系列-源码编译安装(v5.7.34)

一、系统环境要求...

MySQL的锁就锁住我啦!与腾讯大佬的技术交谈，是我小看它了

对酒当歌，人生几何！朝朝暮暮，唯有己脱。苦苦寻觅找工作之间，殊不知今日之事乃我心之痛，难道是我不配拥有工作嘛。自面试后他所谓的等待都过去一段时日，可惜在下京东上的小金库都要见低啦。每每想到不由心中一...

MySQL字符问题_mysql中字符串的位置

中文写入乱码问题：我输入的中文编码是urf8的，建的库是urf8的，但是插入mysql总是乱码，一堆"???????????????????????"我用的是ibatis，终于找到原因了，我是这么解决...

深圳尚学堂:mysql基本sql语句大全(三)

数据开发-经典1.按姓氏笔画排序:Select*FromTableNameOrderByCustomerNameCollateChinese_PRC_Stroke_ci_as//从少...

MySQL进行行级锁的?一会next-key锁，一会间隙锁，一会记录锁?

大家好，是不是很多人都对MySQL加行级锁的规则搞的迷迷糊糊，一会是next-key锁，一会是间隙锁，一会又是记录锁。坦白说，确实还挺复杂的，但是好在我找点了点规律，也知道如何如何用命令分析加...

一文讲清怎么利用Python Django实现Excel数据表的导入导出功能

摘要：Python作为一门简单易学且功能强大的编程语言，广受程序员、数据分析师和AI工程师的青睐。本文系统讲解了如何使用Python的Django框架结合openpyxl库实现Excel...

用DataX实现两个MySQL实例间的数据同步

DataXDataX使用Java实现。如果可以实现数据库实例之间准实时的...

MySQL数据库知识_mysql数据库基础知识

MySQL是一种关系型数据库管理系统；那废话不多说，直接上自己以前学习整理文档：查看数据库命令:(1).查看存储过程状态:showprocedurestatus;(2).显示系统变量:show...

如何为MySQL中的JSON字段设置索引

背景MySQL在2015年中发布的5.7.8版本中首次引入了JSON数据类型。自此，它成了一种逃离严格列定义的方式，可以存储各种形状和大小的JSON文档，例如审计日志、配置信息、第三方数据包、用户自定...

取消回复欢迎 你 发表评论:

一周热门
最近发表
标签列表
赣ICP备2023011147号-29