百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术分类 > 正文

超详细!Deepseek本地部署进阶篇:接入NVIDIA显卡加速运算

ztj100 2025-03-03 21:14 7 浏览 0 评论

上一篇文章中已经简单介绍了Windows系统下,如何本地化部署ollama 7B模型,可能有的朋友会发现运算过程比较缓慢,如果是一个复杂的问题光思考过程都要好久,如果你刚好有英伟达GTX10系以上的显卡,请跟着这篇文章简单操作,即可把显卡的性能也利用起来:

第一步:准备工作,我们需要下载到英伟达官方提供的CUDA驱动,网址:
https://developer.nvidia.com/cuda-downloads;选择对应的系统即可:

第二步:双击下载的安装包,根据安装提示直接进行安装即可

第三步:验证,又来到我们之前讲到的命令行窗口中(WIN键+R键 运行窗口中输入cmd回车打开),输入nvcc --version 回车,再输入nvidia-smi 回车,会出现如图所示的结果:

如果窗口内容输出跟的某些数字版本跟我的不一致也没关系,不影响使用

在命令行窗口中输入nvidia-smi -L 回车,将UUID:后面的内容都复制保留下来,括号不用,例如我这里复制下来就是
GPU-d0352a7d-15a1-b695-6f45-aa25ac479760,无法复制的也可以手动记录,下一步需要使用


第四步:重点,新手可能容易操作错误。按Win+R键,输入sysdm.cpl 然后回车,打开计算机属性,然后按照下图所示,找到环境变量,点击环境变量下方的 新建 按钮

我们总共需要新建两个内容:

(1)变量名:OLLAMA_GPU_LAYER 变量值:cuda

(2)变量名:CUDA_VISIBLE_DEVICES 变量值:GPU的UUID(第三步中记录的编号)



确认无误后点击确认,关闭其他窗口即可

第五步:验证是否部署成功,我们先打开两个命令行窗口(CMD),第一个窗口输入ollama run deepseek-r1:7b 然后回车,第二个窗口输入ollama ps 然后回车,如果出现下图所示的内容代表已经安装成功(关键在于右侧窗口的PROCESSOR 是否包含GPU,如果是100%CPU代表没有安装成功,出现其他数字也没关系,只要有GPU的参与代表已经成功安装,只是显卡没办法负载整个模型,可能就出现CPU/GPU协作承载):



以上的操作就是本地化部署Deepseek R1:7b 的英伟达显卡CUDA部署流程,这次的操作会比之前的难度更大,大家可以尝试一步步慢慢来,有遇到问题的地方可以发到评论区我们一起研究,谢谢各位!

相关推荐

告别手动操作:一键多工作表合并的实用方法

通常情况下,我们需要将同一工作簿内不同工作表中的数据进行合并处理。如何快速有效地完成这些数据的整合呢?这主要取决于需要合并的源数据的结构。...

【MySQL技术专题】「优化技术系列」常用SQL的优化方案和技术思路

概述前面我们介绍了MySQL中怎么样通过索引来优化查询。日常开发中,除了使用查询外,我们还会使用一些其他的常用SQL,比如INSERT、GROUPBY等。对于这些SQL语句,我们该怎么样进行优化呢...

9.7寸视网膜屏原道M9i双系统安装教程

泡泡网平板电脑频道4月17日原道M9i采用Win8安卓双系统,对于喜欢折腾的朋友来说,刷机成了一件难事,那么原道M9i如何刷机呢?下面通过详细地图文,介绍原道M9i的刷机操作过程,在刷机的过程中,要...

如何做好分布式任务调度——Scheduler 的一些探索

作者:张宇轩,章逸,曾丹初识Scheduler找准定位:分布式任务调度平台...

mysqldump备份操作大全及相关参数详解

mysqldump简介mysqldump是用于转储MySQL数据库的实用程序,通常我们用来迁移和备份数据库;它自带的功能参数非常多,文中列举出几乎所有常用的导出操作方法,在文章末尾将所有的参数详细说明...

大厂面试冲刺,Java“实战”问题三连,你碰到了哪个?

推荐学习...

亿级分库分表,如何丝滑扩容、如何双写灰度

以下是基于亿级分库分表丝滑扩容与双写灰度设计方案,结合架构图与核心流程说明:一、总体设计目标...

MYSQL表设计规范(mysql表设计原则)

日常工作总结,不是通用规范一、表设计库名、表名、字段名必须使用小写字母,“_”分割。...

怎么解决MySQL中的Duplicate entry错误?

在使用MySQL数据库时,我们经常会遇到Duplicateentry错误,这是由于插入或更新数据时出现了重复的唯一键值。这种错误可能会导致数据的不一致性和完整性问题。为了解决这个问题,我们可以采取以...

高并发下如何防重?(高并发如何防止重复)

前言最近测试给我提了一个bug,说我之前提供的一个批量复制商品的接口,产生了重复的商品数据。...

性能压测数据告诉你MySQL和MariaDB该怎么选

1.压测环境为了尽可能的客观公正,本次选择同一物理机上的两台虚拟机,一台用作数据库服务器,一台用作运行压测工具mysqlslap,操作系统均为UbuntuServer22.04LTS。...

屠龙之技 --sql注入 不值得浪费超过十天 实战中sqlmap--lv 3通杀全国

MySQL小结发表于2020-09-21分类于知识整理阅读次数:本文字数:67k阅读时长≈1:01...

破防了,谁懂啊家人们:记一次 mysql 问题排查

作者:温粥一、前言谁懂啊家人们,作为一名java开发,原来以为mysql这东西,写写CRUD,不是有手就行吗;你说DDL啊,不就是设计个表结构,搞几个索引吗。...

SpringBoot系列Mybatis之批量插入的几种姿势

...

MySQL 之 Performance Schema(mysql安装及配置超详细教程)

MySQL之PerformanceSchema介绍PerformanceSchema提供了在数据库运行时实时检查MySQL服务器的内部执行情况的方法,通过监视MySQL服务器的事件来实现监视内...

取消回复欢迎 发表评论: