源子 发表于 2025-2-6 01:34:25

【蛇年福卡】开源之光-奶奶来了都能成功的本地部署DeepSeek教程

本帖最后由 源子 于 2025-2-6 19:12 编辑

全文不需要打任何代码,请放心食用。


直接进入正题,本教程仅作为敲门砖,教大家以最简单的方式本地部署一个能用的AI工具,规避部分隐私、网络和审查风险,门后的世界就请大家自行探索吧。个人本地部署的DeepSeek由于缺少足够的硬件支持,性能肯定不如本体。就算是单位的破烂机子,也可以尝试使用1.5b的蒸馏模型,当个智能的搜索引擎用也是不错的。想要更智能的,就得加钱加硬件上更大的模型了。因为仅做简单介绍,很多参数的作用和使用方式不会进行说明,而不会调参的话使用起来肯定与预期有很大差距,这就需要大家自行了解了。



本教程部分参考自B站UPNathMath的视频,如果部署中遇到预计外的问题可以点进去深入了解。


准备工具:LM_Studio 点击下载(必需)
               ChatBox点击下载(非必需)
                  一个好用的梯子(非必需,但有会更方便)


步骤1:


按照你的系统类型,分别下载好上述工具,楼主是win系统,差别理论上来说不大,接下来的教程都将以win系统开展。LM_Studio推荐下载我给的Beta版,支持网络代理,下载模型的时候不容易出问题。


步骤2:
打开LM_Studio,可以先将语言调成中文,点击右下角的齿轮,如图。

步骤3:
本步骤主要是为了方便开启局域网服务,如果你不需要这个或者不明白是什么意思,可直接跳到步骤4,不影响后续使用。点击左侧栏的开发者一栏,点击settings,全部选中。如图。


步骤4:
在当前界面选择LM运行时,点击model search,在搜索框输入deepseek,选择8b后缀的模型(简单来说,越大的模型性能越接近本体,但需要的硬件要求也就更高),点击右下角的按钮。如果你没安装,首次运行需要下载,大约需要4.9GB的空间。如图。
(如果下载加载不出来,请使用梯子,并在LM的设置里面勾选Use LM Studio's Hugging Face Proxy(Beta版才有))



步骤5:
下载完成后,跳转到聊天界面。选中刚刚下载好的模型,调好参数(初次使用直接默认即可),加载完成后即可愉快地开始使用了!至此教程初步结束。





PS:
如果需要提供局域网服务,LM Studio也可作为服务端,可在开发者一栏开启,并搭配ChatBox作为客户端,使用LM Studio的API接口即可开始使用,由于是入门式的教程,不再过多赘述。


全程没有多余的废话(有用的话也不多)。
本地部署的DeepSeek同样自带审查机制,但是肯定没有直连官方本体那么严格,具体如何破限,请自行散发想象力吧。需知:师傅领入门,瑟瑟在个人。日后被请去喝茶不要把为师供出来就好。
都看到这里了不妨给楼主点一个免费的追随吧~






凯诺斯 发表于 2025-2-6 01:49:55

DeepSeek这玩意是真的好用惹,按楼主的教程部署一个看看

毛茸茸兽兽 发表于 2025-2-6 01:57:41

吼吼~正好也是在b站热搜上看到的~
挠头ing意思是可以绕开限制直接聊色色了咩(´×ω×`)

Leonidas 发表于 2025-2-6 02:02:08

感谢大佬,最近正苦于他服务器繁忙..

yota 发表于 2025-2-6 03:09:16

好详细的教程,先提前码住了,马上来试试deep涩涩ww

parting 发表于 2025-2-6 03:23:41

绕开审查之后感觉就自由了好多呢;P;P,感觉可以让它写出很多瑟瑟文章了:lol,不过我倒不担心喝茶,毕竟他们总不可能跨越一个大洋来抓我把;P

是阿行嘞 发表于 2025-2-6 03:29:22

可惜主用手机...deepseek通过神秘贴吧神用过第三方api满血版的...(手机上的要钱买的那种,不过刚注册送了一点token)但现在用着还是有点过度描写.jpg比如说写两人相遇啦,但ds会写出衣服纹理什么的,反而没有多少感受( 可能是不太会破限吧()
还是码住了,以后用电脑试试看~感谢教程~

Culles 发表于 2025-2-6 03:59:19

能本地部署使用的话就能拿来干更多的事了,官方的网页版限制确实很多,这样的本地部署对性能够的电脑相当实用了

Raven_gambler 发表于 2025-2-6 04:07:51

最近体验了一下,感觉还是挺好用的,和chatgpt各有千秋惹

大河内太 发表于 2025-2-6 04:35:33

惹 这个软件最近好火爆
关注一下看看是什么东西到底{:6_169:}

万俟 发表于 2025-2-6 06:24:54

我还在想,有在线的用干嘛要自己架设,帖子最后一段真是点题了

2302594 发表于 2025-2-6 06:39:57

虽然但是,本地部署一般人设备带不动满血模型吧?

娱乐法师火布偶 发表于 2025-2-6 08:15:16

看起来应该是为了搭建瑟瑟聊天的平台吧

芒果大柠檬 发表于 2025-2-6 08:53:09

谢谢楼主的教程 先收藏一下 周末来试试

wubingyonglei 发表于 2025-2-6 08:54:10

估计可以满足部分技术员、资深编程员
到处都是大佬的世界
deepseek方便:中文!

you9632587 发表于 2025-2-6 09:03:59

本地部署能够涩涩应该是能够吸引很多坛友了

三分春色描来易 发表于 2025-2-6 09:32:22

感谢楼主分享的教程,回头就整上~

崽仔狼 发表于 2025-2-6 09:33:37

感觉8b的也吃不消噜,之前有试过本地部署,不是很行诶

小小宝 发表于 2025-2-6 09:48:37

这软件最近很火诶,收藏了

helix998 发表于 2025-2-6 10:12:40

可以绕开审查就可以。。。。
页: [1] 2 3 4
查看完整版本: 【蛇年福卡】开源之光-奶奶来了都能成功的本地部署DeepSeek教程