飞社-令人惊奇的创意工作者社区-›Local LLM
FSHEX=FIND+SHARE+EXPRESS
飞社-令人惊奇的创意工作者社区- 是一个关于发现分享表达的地方
现在登录
没有账号?  立即注册
飞社公众号二维码
社区运行状况
注册会员 68745
主题 5275256
今日 456
昨日 1013
› 帖子排行榜
› 用户排行榜
今日 0 主题 62 排名 419
Local LLM
这个节点讨论在本地电脑或者局域网里运行 LLM（大语言模型）的技术细节
最新 最后回复 热门 精华 更多 新窗
飞社-FSHEX明白贴，必看！
admin•2024-9-12 11:06•最后回复来自 admin
飞社微信公众号欢迎大家关注！送福利，邀请码，会员兑换等！
admin•2025-12-22 14:23•最后回复来自 admin
给不爱社交的人，一处可以安静待着的地方：我哪敢啊-Wonagana-I人专属避难所
admin•2026-1-14 14:52•最后回复来自 admin
寻找本地搭建方案有偿
elbertzhu655•2026-1-12 23:00•最后回复来自 elbertzhu655
Qwen2.5 72B 是最好的本地代码补全模型
Leon6868•2024-12-8 18:04•最后回复来自 Donaldo
9
使用 dify 编写智能体的时候， 如何让 LLM 节点能够强制输出结构化输出 Schema
skyworker•2025-7-21 10:13•最后回复来自 skyworker
私有化部署 LLM 及 LVM 选型方案意见收集
Sh1xin•2025-11-7 10:58•最后回复来自 kinkin666
9
Deepseek r1 14b 很有自己的想法
lostsquirrelX•2025-2-13 11:41•最后回复来自 lostsquirrelX
怎么没看到有人做嘴臭大模型
javazero•2025-1-15 17:57•最后回复来自 javazero
Intel GPU 的 llama-bench 测试结果
HojiOShi•2025-3-5 22:25•最后回复来自 HojiOShi
NAS 上有几千首歌，有没有 LLM 智能推荐歌曲的 ？
tf2•2025-11-12 13:12•最后回复来自 tf2
我做了一个 Ollama 模型仓库镜像站，帮你更快的从 ModelScope 魔搭拉取模型
mili100•2025-1-10 21:26•最后回复来自 mili100
OpenBayes.com 有羊毛可薅，过年期间很多算力都直接半价了
GraceXiii•2025-1-26 14:48•最后回复来自 hadoop
1
为 Ollama 添加 APIKEY 鉴权的最简单的方式，防止 Ollama 直接暴露在公网被滥用
mili100•2025-3-6 22:07•最后回复来自 YsHaNg
2
Thinkstation P8 搭配 4090 48G 测试 Deepseek-r1
devlnt•2025-2-28 18:19•最后回复来自 devlnt
3070RTX 32GB i9 内存 1TB 的游戏本 推荐用来跑什么 AI 工具呢？
magicsang666•2026-1-14 18:30•最后回复来自 magicsang666
3
本地 vllm 部署 Qwen2.5-7B-Instruct 在 stream 模式下 tool_calls 参数 JSON 字符串未正常闭合
BenchWidth•2025-5-16 10:45•最后回复来自 harlen
1
Llama 3.3 70B
Livid•2024-12-7 08:43•最后回复来自 TonyG
1
构建适用于大模型微调的对话数据集
nakroy•2025-12-12 19:44•最后回复来自 TimePPT
2
如何估算一个大模型需要用到什么性能配置的硬件？
zcm3579•2025-3-17 08:39•最后回复来自 villivateur
6
本地部署视觉大模型，用于 OCR 中文文献+翻译，最好的模型是什么？
villivateur•2025-5-12 10:34•最后回复来自 neteroster
4
经过我一个多月的测试，我发现本地部署的 qwen3-vl-8b 比 qwen3-8b 在新闻和游戏名词等翻译上面更有优势
spike0100•2025-11-4 11:22•最后回复来自 spike0100
我做了一个 Ollama JSONL 批量推理工具，除了 Ollama 还支持 Deepseek 等 OpenAI Style 兼容 API
mili100•2025-6-24 01:22•最后回复来自 mili100
下一页 »
1234下一页
手机版小黑屋飞社-令人惊奇的创意工作者社区
Powered by FSHEX ♥ GMT+8, 2026-2-1 13:50, Processed in 0.074094 second(s), 18 queries .
鲁ICP备2024064694号-2
返回顶部