@chason0806 本地模型也得有足够的能力才能判断什么任务本地处理就够了什么任务必须得用云端的模型。 我好奇的是你现在本地模型用在什么场景上

这东西听说巨费 token

@musi 本人在某手机厂商工作，手机语音助手部分功能，用的本地模型，手机内存这么小都能用，何况现在 clawdbot 用在电脑上

@musi 本地模型目前和废物差不多，真正小的应用场景用线上的也要不了几个钱，所以看到“本地”就和看到别人在意淫差不多

@chason0806 语音识别和语音合成这类模型确实不太一样，豆包输入法的本地的模型只占用几百 MB 空间识别率就非常高 但是你有点低估了这类 agent 所需要的模型能力，不管是任务难度分析也好，还是直接处理也好，都对模型的能力有要求，或许以后真的有个小模型可以分辩出哪些任务需要给云端处理，哪些任务可以打码后给云端处理，哪些任务宁愿不处理也不能把用户的数据发给云端

@darksword21 #33 我在一年前也是按照他那么想的，直到我自己试了一下本地部署 32b 模型，连任务分发都做不好，我对用本地小模型能保护隐私这种说辞就没有任何期待了，或许以后能有这种模型也说不定

@chason0806 手机 LLM LOCAL 的水平能处理 PDF 吗

大片瘟土上的东西,真东西少

@chason0806 #8 第一句话不成立，隐私肯定是上传的。第二句话接管系统就是隐私换便利。ai 工具很强不代表你可以粉饰成完美工具，你把他吹上天就别怪别人“杠”

现在就是盲人摸象，每个人摸到啥就说啥，自己上手体验一下，感受可能也不一样