黑色浪潮 发表于 2025-2-25 14:29:43

本地部署的要求的硬件要求很高,而且算力体验都不怎么好,可能还要改装,我知难而退去选了云端酒馆

万俟 发表于 2025-2-25 14:49:43

感觉总体上没有特别大的需求,现在线上的基本够用了

溯-流云 发表于 2025-2-25 15:07:36

会根据你的配置来进行选择本地部署的规格
越小规格的智力与逻辑就差
暂时没有能力就还是玩酒馆吧

☆Yuki☆ 发表于 2025-2-25 15:19:43

本地部署对配置要求蛮高的惹...不是富哥不要轻易尝试的感觉{:6_196:}

Hadley0T 发表于 2025-2-25 15:58:14

我自己的是笔记本的4060,内存的话大概是按照教程说的设置了60g的虚拟内存。
自己硬盘的话加的2t好像不够用了,打算再买一个大点的

易幕 发表于 2025-2-25 16:43:05

本地部署就只是玩具罢了,没有那么聪明的程度

daizhanpeng 发表于 2025-2-25 16:49:03

可能不管咋样都是需要氪金的吧,本地部署我看大家说的可能成本还要更高一点

kickpanda 发表于 2025-2-25 17:05:49

本地部署deepseek 32B,感觉已经是普通个人电脑的天花板了,输出还是有点智障,要么前言不搭后语,要么就重复再重复,还是老老实实用api吧

lyrt1996 发表于 2025-2-25 17:23:03

其实我对这类型完全不懂,之前有想过部署ai作画涩涩,但是整了半天没整明白就放弃了。

ray73602 发表于 2025-2-25 18:27:11

有想過,但沒技術,也沒額外時間研究。
近期在準備證照考試。

majar 发表于 2025-2-25 18:27:14

a卡用户 想本地部署但是实在没办法

i2205909 发表于 2025-2-25 18:34:36

本地部署LLM主要是公司需要,个人的话推荐还是直接搞个API使用训练好的就好了

TanZhe 发表于 2025-2-25 18:43:13

本地部署太吃硬件了,我4060完全不敢布置,顶多用云部署这些吃大厂的流量,个人用对财力要求很大。

hogood 发表于 2025-2-25 19:18:30

自己弄的话感觉还是太麻烦了一点...

xu33 发表于 2025-2-25 19:23:24

目前没有这种需求惹ovo
感觉还没有提上日程

zibatco2 发表于 2025-2-25 19:54:29

感觉还没用到部署程度....现在很多网站资源已经算还够用了{:4_110:}

wwlhm 发表于 2025-2-25 19:56:07

本地化可能需要很好的显卡,我的太破了,带不动

爱挽呀 发表于 2025-2-25 20:00:14

坛友给的建议很充足了 个人觉得还是量力而行吧 毕竟和钱挂钩是正比例趋势上涨的

nomadandjoe 发表于 2025-2-25 20:29:24

单位电脑根本没权限,只能在线用;P

HuangD 发表于 2025-2-25 21:07:21

在线的ai已经能满足我的绝大多数需求了,感觉用不上也没条件就没了解过
页: 1 2 3 [4] 5 6 7 8
查看完整版本: 坛友们关于本地部署AI有需求或想法吗