首頁
/
節點
/
Local LLM
(373 篇)
一块 4090,怎么来评估部署大模型后(假设为 DeepSeek-R1-Distill-Qwen-7B)的并发数?、、
bushnerd
·
Local LLM
·
超過 1 年前
·
1 回覆
请问此配置如何加速 ollama ds-r1 32b 的速度,好慢
littlemis
·
Local LLM
·
超過 1 年前
·
4 回覆
MacMin M4 +国补很香,想买一个内存大一点的跑 pytorch 训练是否可行
python35
·
Local LLM
·
超過 1 年前
·
3 回覆
如何估算一个大模型需要用到什么性能配置的硬件?
zcm3579
·
Local LLM
·
超過 1 年前
·
16 回覆
A30 显卡-24G 显存,推荐部署什么大模型呢
ZimaBlueee
·
Local LLM
·
超過 1 年前
·
8 回覆
开发了个本地实时字幕 (Whisper + LLM api ) 软件,开源
xkeyC
·
Local LLM
·
超過 1 年前
·
2 回覆
ollama 支持的一些模型测试结果
feelapi
·
Local LLM
·
超過 1 年前
·
6 回覆
ollama 新手,求问哥哥们 2 个问题,找了好多资料还是没弄明白
ZimaBlueee
·
Local LLM
·
超過 1 年前
·
19 回覆
请问 ollama 等 AI 的第三方客户端,除了 ChatBox 和 CherryStudio,还有更好的选择吗?
BearCookie
·
Local LLM
·
將近 2 年前
·
11 回覆
100 多号人的企业,想自己部署 deepseek,硬件要哪些?
libasten
·
Local LLM
·
超過 1 年前
·
5 回覆
大佬们,本地使用 ollama 部署的 DeepSeek-R1-32B 在 anythingllm 中发送图片,它说它没收到,应该怎么做?才能让他帮我识别图片?实现官网那种效果
cander0815
·
Local LLM
·
超過 1 年前
·
4 回覆
本地部署的小模型(小于 16G 显存)适合轻任务,哪一个模型比较好用?
Kinnikuman
·
Local LLM
·
超過 1 年前
·
13 回覆
帮忙看看这个 DIY 装机配置大模型入门怎样
song135711
·
Local LLM
·
超過 1 年前
·
19 回覆
30min 搭建本地运行的 General AI agent, 多模态,自扩展,还支持语音!
stevenlu137
·
Local LLM
·
超過 1 年前
·
1 回覆
为 Ollama 添加 APIKEY 鉴权的最简单的方式,防止 Ollama 直接暴露在公网被滥用
mili100
·
Local LLM
·
超過 1 年前
·
6 回覆
q4 量化的大模型能比原版全精度的差多少?
jhytxy
·
Local LLM
·
超過 1 年前
·
2 回覆
Intel GPU 的 llama-bench 测试结果
HojiOShi
·
Local LLM
·
超過 1 年前
求 DeepSeekR1 性价比硬件推荐
v2er4241
·
Local LLM
·
超過 1 年前
·
59 回覆
咨询 GPU 服务器方案
MimicOctopus
·
Local LLM
·
超過 1 年前
·
11 回覆
大模型私有化是怎么集群部署的?
mingtdlb
·
Local LLM
·
超過 1 年前
·
6 回覆
«
11
12
13
14
15
»