飞社-令人惊奇的创意工作者社区-›Local LLM
FSHEX=FIND+SHARE+EXPRESS
飞社-令人惊奇的创意工作者社区- 是一个关于发现分享表达的地方
现在登录
没有账号?  立即注册
社区运行状况
注册会员 64614
主题 4978976
今日 1916
昨日 780
› 帖子排行榜
› 用户排行榜
今日 0 主题 56 排名 409
Local LLM
这个节点讨论在本地电脑或者局域网里运行 LLM（大语言模型）的技术细节
最新 最后回复 热门 精华 更多 新窗
llama.cpp/ollama 对于类似 vllm tensor parallel 功能的支持。
coefuqin•2025-4-18 19:15•最后回复来自 liprais
3
本地 llm client
kid1412621•2025-4-17 22:28•最后回复来自 huluhulu
3
公司要搭建本地大模型，推荐配置。
Woolaman•2025-4-17 14:46•最后回复来自 MrLonely
1
单卡 2080ti 22gb 装机其他怎么配啊
NoahBishop•2025-4-3 10:40•最后回复来自 mkroen
1
本地 AI 工作站装机
fcten•2025-4-1 11:46•最后回复来自 fcten
mcp 支持力度探讨
nl101531•2025-3-31 09:40•最后回复来自 nl101531
4
ubuntu + 双 N 卡 本地部署 DS-R1，性能优化请教
crac•2025-3-28 09:53•最后回复来自 maskerTUI
1
本地部署 LLM 并启用网络搜索，有什么现成的方案吗？
villivateur•2025-3-24 10:35•最后回复来自 villivateur
3
使用 dify 时代码如何管理?
frankyzf•2025-3-23 11:50•最后回复来自 GPLer
2
一块 4090，怎么来评估部署大模型后（假设为 DeepSeek-R1-Distill-Qwen-7B）的并发数？、、
bushnerd•2025-3-20 07:24•最后回复来自 jroger
1
如何估算一个大模型需要用到什么性能配置的硬件？
zcm3579•2025-3-17 08:39•最后回复来自 villivateur
6
开发了个本地实时字幕 (Whisper + LLM api ) 软件，开源
xkeyC•2025-3-15 16:32•最后回复来自 xkeyC
MacMin M4 +国补很香，想买一个内存大一点的跑 pytorch 训练是否可行
python35•2025-3-13 17:27•最后回复来自 thedog
1
A30 显卡-24G 显存，推荐部署什么大模型呢
ZimaBlueee•2025-3-12 17:36•最后回复来自 cat9life
5
为 Ollama 添加 APIKEY 鉴权的最简单的方式，防止 Ollama 直接暴露在公网被滥用
mili100•2025-3-6 22:07•最后回复来自 YsHaNg
2
Intel GPU 的 llama-bench 测试结果
HojiOShi•2025-3-5 22:25•最后回复来自 HojiOShi
Thinkstation P8 搭配 4090 48G 测试 Deepseek-r1
devlnt•2025-2-28 18:19•最后回复来自 devlnt
DIFY 这类产品会成为主流吗，交互逻辑咋这么复杂，感觉没自己写代码方便
wushenlun•2025-2-19 15:08•最后回复来自 wushenlun
1
大佬们有没有基于大模型的推荐系统 demo
spitfireuptown•2025-2-17 10:47•最后回复来自 murmur
9
Deepseek r1 14b 很有自己的想法
lostsquirrelX•2025-2-13 11:41•最后回复来自 lostsquirrelX
下一页 »
123下一页
手机版小黑屋飞社-令人惊奇的创意工作者社区
Powered by FSHEX ♥ GMT+8, 2025-12-15 19:19, Processed in 0.067408 second(s), 17 queries .
鲁ICP备2024064694号-2
返回顶部