首頁
/
節點
/
Local LLM
(373 篇)
我做了个工具让 8GB 显卡跑 30B 模型从 3 tok/s 提到 21 tok/s,记录一下技术发现
KaiWuBOSS
·
Local LLM
·
7 個月前
·
107 回覆
有一台 16 寸 m1max 64g+1T 满 GPU 的 MacBook Pro 适合部署哪个本地模型
alangz
·
Local LLM
·
7 個月前
·
11 回覆
用 antirez 的 llama.cpp fork 把 DeepSeek v4 Flash 在本地跑起来了
Livid
·
Local LLM
·
7 個月前
·
15 回覆
qwen3.6 27b 本地编码测试
zsj1029
·
Local LLM
·
7 個月前
·
62 回覆
全球本地部署开发者们一起,打造一个真正属于开源社区的 Coding Agent 了
KaiWuBOSS
·
Local LLM
·
7 個月前
·
29 回覆
xllm 真的比 vllm+plugin 性能好么?
joeue404
·
Local LLM
·
7 個月前
各位推荐一个 32G Macbook air M5 可以跑的 moe 模型
Hermitist
·
Local LLM
·
7 個月前
·
19 回覆
请教一个关于模型训练主机配置的问题
jamme
·
Local LLM
·
7 個月前
·
12 回覆
我的开源项目,欢迎大家使用和批评,本地无字典字符型模型训练架构代码完全开源,可形成语义结构
evegod
·
Local LLM
·
7 個月前
大伙有想过二次训练吗?
archxm
·
Local LLM
·
7 個月前
·
9 回覆
想在本地部署 OCR 服务,解析美团的外卖订单截图,求推荐一个好用的 OCR 模型
EchoPrince
·
Local LLM
·
7 個月前
·
48 回覆
多台 GPU 之间怎么组网互联?
mingtdlb
·
Local LLM
·
7 個月前
·
30 回覆
用 DGX Spark 做这些事情,是否能力合适/足够,有佬能解答吗?(估算也行)
qazwsxkevin
·
Local LLM
·
7 個月前
·
6 回覆
有没有简单版的 new-api 项目
novaren
·
Local LLM
·
7 個月前
·
7 回覆
部署本地模型 token 输出万能公式
diudiuu
·
Local LLM
·
7 個月前
·
3 回覆
本地部署靠不靠谱?
jdjingdian
·
Local LLM
·
7 個月前
·
6 回覆
为什么你该停止使用 Ollama
catazshadow
·
Local LLM
·
7 個月前
·
14 回覆
本地大模型多大显存够用?
s2555
·
Local LLM
·
7 個月前
·
14 回覆
想掏一台 Mac mini M4 Pro 64G 跑 gemma4 31b Q4 接 openclaw 处理日常的问题,有人测试过速度吗?
Ken1028
·
Local LLM
·
7 個月前
·
32 回覆
求可靠本地 vibe coding,有八卡的 L20 服务器
sqshanyao
·
Local LLM
·
7 個月前
·
2 回覆
«
4
5
6
7
8
»