首頁
/
節點
/
Local LLM
(301 篇)
本地 vllm 部署 Qwen2.5-7B-Instruct 在 stream 模式下 tool_calls 参数 JSON 字符串未正常闭合
BenchWidth
·
Local LLM
·
大約 1 年前
·
3 回覆
本地部署视觉大模型，用于 OCR 中文文献+翻译，最好的模型是什么？
villivateur
·
Local LLM
·
大約 1 年前
·
21 回覆
mac studio 跑大模型也就那样啊
guoguobaba
·
Local LLM
·
大約 1 年前
·
26 回覆
有没有能 mac 上直接跑的多语言翻译 LLM？
idblife
·
Local LLM
·
大約 1 年前
·
4 回覆
llama.cpp/ollama 对于类似 vllm tensor parallel 功能的支持。
coefu
·
Local LLM
·
大約 1 年前
·
6 回覆
英语文本音频按句自动对齐的有推荐的吗？
afkool
·
Local LLM
·
大約 1 年前
·
8 回覆
本地 llm client
kid1412621
·
Local LLM
·
大約 1 年前
·
5 回覆
公司要搭建本地大模型，推荐配置。
Woolaman
·
Local LLM
·
大約 1 年前
·
10 回覆
有老哥用 llm 跑本地代码模型的吗，用的什么显卡，效果怎么样呢
king836334258123
·
Local LLM
·
大約 1 年前
有在生产上跑私有化 DeepSeek 70B 大模型的吗？什么配置的机器支持？并发多少呢？
yiyiniu
·
Local LLM
·
大約 1 年前
·
2 回覆
跑 AI 大模型，到底是用 4090 魔改版好还是 Mac studio 好？
kisshere
·
Local LLM
·
大約 1 年前
·
9 回覆
使用 dify 时代码如何管理?
frankyzf
·
Local LLM
·
超過 1 年前
·
8 回覆
想自己上手跑跑 LLM 大模型，求推荐显卡和主机配置
limatrix81
·
Local LLM
·
大約 1 年前
·
28 回覆
本地 llama.cpp 和 ollama 跑 相同 模型，效果不一样
paranoiagu
·
Local LLM
·
大約 1 年前
·
7 回覆
打算用 AI 来做企业知识库,最佳的组合是什么?
BruceXu
·
Local LLM
·
超過 1 年前
·
20 回覆
单卡 2080ti 22gb 装机其他怎么配啊
NoahBishop
·
Local LLM
·
大約 1 年前
·
8 回覆
本地跑 AI，该买什么设备，不想折腾又想省点钱， mac m4 怎样，有哪些坑需要注意
MHPSY
·
Local LLM
·
大約 1 年前
·
1 回覆
本地 AI 工作站装机
fcten
·
Local LLM
·
大約 1 年前
·
17 回覆
mcp 支持力度探讨
nl101531
·
Local LLM
·
大約 1 年前
·
4 回覆
100+全语种翻译 ， 海量翻译数据，并且有速度要求。 有什么经济实惠的本地 LLM 方案么？
zzNaLOGIC
·
Local LLM
·
大約 1 年前
·
11 回覆
«
6
7
8
9
10
»
