首頁
/
節點
/
Local LLM
(301 篇)
请教模型部署和管理的问题
MimicOctopus
·
Local LLM
·
超過 1 年前
·
4 回覆
ubuntu + 双 N 卡 本地部署 DS-R1，性能优化请教
crac
·
Local LLM
·
超過 1 年前
·
6 回覆
通过 dify 搭建了基于企业内部知识库的问答机器人，但是效果非常差
maoqiucute
·
Local LLM
·
超過 1 年前
·
15 回覆
本地部署 LLM 并启用网络搜索，有什么现成的方案吗？
villivateur
·
Local LLM
·
超過 1 年前
·
5 回覆
Deepseek R1 671B 本地部署方案
mcsddjyd
·
Local LLM
·
超過 1 年前
·
15 回覆
无 GPU 服务器部署小模型框架求推荐（需兼容 Kafka 数据流）
Daybyedream
·
Local LLM
·
超過 1 年前
·
4 回覆
跑 AI 模型，显卡的购买咨询
xiniu
·
Local LLM
·
超過 1 年前
·
23 回覆
半个小时前， ollama 上线了目前单显卡里，最强的中小模型 gemma3
tool3d
·
Local LLM
·
超過 1 年前
·
51 回覆
一块 4090，怎么来评估部署大模型后（假设为 DeepSeek-R1-Distill-Qwen-7B）的并发数？、、
bushnerd
·
Local LLM
·
超過 1 年前
·
1 回覆
请问此配置如何加速 ollama ds-r1 32b 的速度，好慢
littlemis
·
Local LLM
·
超過 1 年前
·
4 回覆
MacMin M4 +国补很香，想买一个内存大一点的跑 pytorch 训练是否可行
python35
·
Local LLM
·
超過 1 年前
·
3 回覆
如何估算一个大模型需要用到什么性能配置的硬件？
zcm3579
·
Local LLM
·
超過 1 年前
·
16 回覆
A30 显卡-24G 显存，推荐部署什么大模型呢
ZimaBlueee
·
Local LLM
·
超過 1 年前
·
8 回覆
开发了个本地实时字幕 (Whisper + LLM api ) 软件，开源
xkeyC
·
Local LLM
·
超過 1 年前
·
2 回覆
ollama 支持的一些模型测试结果
feelapi
·
Local LLM
·
超過 1 年前
·
6 回覆
ollama 新手，求问哥哥们 2 个问题，找了好多资料还是没弄明白
ZimaBlueee
·
Local LLM
·
超過 1 年前
·
19 回覆
请问 ollama 等 AI 的第三方客户端，除了 ChatBox 和 CherryStudio，还有更好的选择吗？
BearCookie
·
Local LLM
·
超過 1 年前
·
11 回覆
100 多号人的企业，想自己部署 deepseek，硬件要哪些？
libasten
·
Local LLM
·
超過 1 年前
·
5 回覆
大佬们，本地使用 ollama 部署的 DeepSeek-R1-32B 在 anythingllm 中发送图片，它说它没收到，应该怎么做？才能让他帮我识别图片？实现官网那种效果
cander0815
·
Local LLM
·
超過 1 年前
·
4 回覆
本地部署的小模型（小于 16G 显存）适合轻任务，哪一个模型比较好用？
Kinnikuman
·
Local LLM
·
超過 1 年前
·
13 回覆
«
7
8
9
10
11
»
