百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术分类 > 正文

超详细!Deepseek本地部署进阶篇:接入NVIDIA显卡加速运算

ztj100 2025-03-03 21:14 12 浏览 0 评论

上一篇文章中已经简单介绍了Windows系统下,如何本地化部署ollama 7B模型,可能有的朋友会发现运算过程比较缓慢,如果是一个复杂的问题光思考过程都要好久,如果你刚好有英伟达GTX10系以上的显卡,请跟着这篇文章简单操作,即可把显卡的性能也利用起来:

第一步:准备工作,我们需要下载到英伟达官方提供的CUDA驱动,网址:
https://developer.nvidia.com/cuda-downloads;选择对应的系统即可:

第二步:双击下载的安装包,根据安装提示直接进行安装即可

第三步:验证,又来到我们之前讲到的命令行窗口中(WIN键+R键 运行窗口中输入cmd回车打开),输入nvcc --version 回车,再输入nvidia-smi 回车,会出现如图所示的结果:

如果窗口内容输出跟的某些数字版本跟我的不一致也没关系,不影响使用

在命令行窗口中输入nvidia-smi -L 回车,将UUID:后面的内容都复制保留下来,括号不用,例如我这里复制下来就是
GPU-d0352a7d-15a1-b695-6f45-aa25ac479760,无法复制的也可以手动记录,下一步需要使用


第四步:重点,新手可能容易操作错误。按Win+R键,输入sysdm.cpl 然后回车,打开计算机属性,然后按照下图所示,找到环境变量,点击环境变量下方的 新建 按钮

我们总共需要新建两个内容:

(1)变量名:OLLAMA_GPU_LAYER 变量值:cuda

(2)变量名:CUDA_VISIBLE_DEVICES 变量值:GPU的UUID(第三步中记录的编号)



确认无误后点击确认,关闭其他窗口即可

第五步:验证是否部署成功,我们先打开两个命令行窗口(CMD),第一个窗口输入ollama run deepseek-r1:7b 然后回车,第二个窗口输入ollama ps 然后回车,如果出现下图所示的内容代表已经安装成功(关键在于右侧窗口的PROCESSOR 是否包含GPU,如果是100%CPU代表没有安装成功,出现其他数字也没关系,只要有GPU的参与代表已经成功安装,只是显卡没办法负载整个模型,可能就出现CPU/GPU协作承载):



以上的操作就是本地化部署Deepseek R1:7b 的英伟达显卡CUDA部署流程,这次的操作会比之前的难度更大,大家可以尝试一步步慢慢来,有遇到问题的地方可以发到评论区我们一起研究,谢谢各位!

相关推荐

Vue3非兼容变更——函数式组件(vue 兼容)

在Vue2.X中,函数式组件有两个主要应用场景:作为性能优化,因为它们的初始化速度比有状态组件快得多;返回多个根节点。然而在Vue3.X中,有状态组件的性能已经提高到可以忽略不计的程度。此外,有状态组...

利用vue.js进行组件化开发,一学就会(一)

组件原理/组成组件(Component)扩展HTML元素,封装可重用的代码,核心目标是为了可重用性高,减少重复性的开发。组件预先定义好行为的ViewModel类。代码按照template\styl...

Vue3 新趋势:10 个最强 X 操作!(vue.3)

Vue3为前端开发带来了诸多革新,它不仅提升了性能,还提供了...

总结 Vue3 组件管理 12 种高级写法,灵活使用才能提高效率

SFC单文件组件顾名思义,就是一个.vue文件只写一个组件...

前端流行框架Vue3教程:17. _组件数据传递

_组件数据传递我们之前讲解过了组件之间的数据传递,...

前端流行框架Vue3教程:14. 组件传递Props效验

组件传递Props效验Vue组件可以更细致地声明对传入的props的校验要求...

前端流行框架Vue3教程:25. 组件保持存活

25.组件保持存活当使用...

5 个被低估的 Vue3 实战技巧,让你的项目性能提升 300%?

前端圈最近都在卷性能优化和工程化,你还在用老一套的Vue3开发方法?作为摸爬滚打多年的老前端,今天就把私藏的几个Vue3实战技巧分享出来,帮你在开发效率、代码质量和项目性能上实现弯道超车!一、...

绝望!Vue3 组件频繁崩溃?7 个硬核技巧让性能暴涨 400%!

前端的兄弟姐妹们五一假期快乐,谁还没在Vue3项目上栽过跟头?满心欢喜写好的组件,一到实际场景就频频崩溃,页面加载慢得像蜗牛,操作卡顿到让人想砸电脑。用户疯狂吐槽,领导脸色难看,自己改代码改到怀疑...

前端流行框架Vue3教程:15. 组件事件

组件事件在组件的模板表达式中,可以直接使用...

Vue3,看这篇就够了(vue3 从入门到实战)

一、前言最近很多技术网站,讨论的最多的无非就是Vue3了,大多数都是CompositionAPI和基于Proxy的原理分析。但是今天想着跟大家聊聊,Vue3对于一个低代码平台的前端更深层次意味着什么...

前端流行框架Vue3教程:24.动态组件

24.动态组件有些场景会需要在两个组件间来回切换,比如Tab界面...

前端流行框架Vue3教程:12. 组件的注册方式

组件的注册方式一个Vue组件在使用前需要先被“注册”,这样Vue才能在渲染模板时找到其对应的实现。组件注册有两种方式:全局注册和局部注册...

焦虑!Vue3 组件频繁假死?6 个奇招让页面流畅度狂飙 500%!

前端圈的朋友们,谁还没在Vue3项目上踩过性能的坑?满心期待开发出的组件,一到高并发场景就频繁假死,用户反馈页面点不动,产品经理追着问进度,自己调试到心态炸裂!别以为这是个例,不少人在电商大促、数...

前端流行框架Vue3教程:26. 异步组件

根据上节课的代码,我们在切换到B组件的时候,发现并没有网络请求:异步组件:...

取消回复欢迎 发表评论: