本地部署的要求的硬件要求很高,而且算力体验都不怎么好,可能还要改装,我知难而退去选了云端酒馆
感觉总体上没有特别大的需求,现在线上的基本够用了
会根据你的配置来进行选择本地部署的规格
越小规格的智力与逻辑就差
暂时没有能力就还是玩酒馆吧
本地部署对配置要求蛮高的惹...不是富哥不要轻易尝试的感觉{:6_196:}
我自己的是笔记本的4060,内存的话大概是按照教程说的设置了60g的虚拟内存。
自己硬盘的话加的2t好像不够用了,打算再买一个大点的
本地部署就只是玩具罢了,没有那么聪明的程度
可能不管咋样都是需要氪金的吧,本地部署我看大家说的可能成本还要更高一点
本地部署deepseek 32B,感觉已经是普通个人电脑的天花板了,输出还是有点智障,要么前言不搭后语,要么就重复再重复,还是老老实实用api吧
其实我对这类型完全不懂,之前有想过部署ai作画涩涩,但是整了半天没整明白就放弃了。
有想過,但沒技術,也沒額外時間研究。
近期在準備證照考試。
a卡用户 想本地部署但是实在没办法
本地部署LLM主要是公司需要,个人的话推荐还是直接搞个API使用训练好的就好了
本地部署太吃硬件了,我4060完全不敢布置,顶多用云部署这些吃大厂的流量,个人用对财力要求很大。
自己弄的话感觉还是太麻烦了一点...
目前没有这种需求惹ovo
感觉还没有提上日程
感觉还没用到部署程度....现在很多网站资源已经算还够用了{:4_110:}
本地化可能需要很好的显卡,我的太破了,带不动
坛友给的建议很充足了 个人觉得还是量力而行吧 毕竟和钱挂钩是正比例趋势上涨的
单位电脑根本没权限,只能在线用;P
在线的ai已经能满足我的绝大多数需求了,感觉用不上也没条件就没了解过