15 条回复  ·  1698 次点击
leegradyllljjjj 初学 2026-1-23 08:47:47
洗洗睡吧 买显卡都不够
PerFectTime 小成 2026-1-23 08:57:17
1W 跑不了什么好用的模型,10w 也不够,评估一下你的数据是否真的有这么高的价值吧,不如直接拿来买订阅
rocmax 初学 2026-1-23 09:00:36
mbp m4max 表示本地能跑的还是离 Claude 4.5 差远了
cowcomic 小成 2026-1-23 09:04:29
也不用非得自制环境吧 我现在用 trae ,感觉还不错
nevin47 初学 2026-1-23 09:06:15
一万的预算不够,本地大模型就算你一个单用户使用,你部署一个上百 B 的模型需要的显存一张 A100 都打不住,就算用 Mac 的 unimem 方案,假设你配置 128G 的内存来加载参数,也差不多 10W+的成本了,而且受限算力可用性也很差 如果涉及本地安全保密的需求,那你唯一的路径就是加预算,然后用 qwencoder-32B 这种小模型去跑
cowcomic 小成 2026-1-23 09:07:35
好吧,没看见保密性问题 私有化部署,还得效果好的话 至少得是大参数通用模型( 671B 级别)+code 专用模型配合 硬件就得几十万了
12
返回顶部