14 条回复  ·  1576 次点击
murmur 小成 2025-6-5 16:48:05
本地大模型纯玩具啊,量化模型效果差的 1b ,不如去买 api ,还是画画涩图,处理下音乐提取个伴奏靠谱点 但是人家也是 NV+win 就是一键包,什么环境不需要双击就用,mac 对不起自己折腾代码去吧
lemonTreeTop 楼主 小成 2025-6-5 17:10:50
好家伙🤭,标签给推荐了 3090 ,查了下是 24G 显存,能跑 gemma3 27b 量化版本
woojanelook 初学 2025-6-5 18:31:48
魔改的 2080ti 22g 2000 多,应该是最便宜的单张显存,刚好够跑 flux 模型
YsHaNg 小成 2025-6-5 19:30:32
@murmur 公司禁止使用 public provider 并且个人文档经常需要召回护照号之类的还是算了 ollama run 一下也没啥难的 发现中美真的非常喜欢调 api
irrigate2554 初学 2025-6-5 19:59:55
@lemonTreeTop 2080ti 22G 不仅可以跑,还快,上下文还多
12
返回顶部