首頁
/
節點
/
Local LLM
(301 篇)
想用手头的硬件最低成本尝试下本地 LLM 推理,请教一下方案
avalox
·
Local LLM
·
大約 2 年前
·
15 回覆
Air M3 24G 能不能跑不量化的 7B 本地大模型推理?
CatCode
·
Local LLM
·
超過 2 年前
·
14 回覆
推荐各位利用 ollama 在自有电脑上跑大模型,使用非常方便
keepRun
·
Local LLM
·
超過 2 年前
·
24 回覆
求推荐开源 AI 模型
balabalaguguji
·
Local LLM
·
超過 2 年前
·
11 回覆
在 2024 年 3 月这个时间节点,有哪些可以开箱即用私有化部署的 gpt 大模型可以使用?内网部署仅对投喂导入的资料做回答这种?
cvooc
·
Local LLM
·
超過 2 年前
·
2 回覆
有没有现成的 chrome 插件,能使用 gpt 一键翻译网页内容。
longchisihai
·
Local LLM
·
超過 2 年前
·
40 回覆
gemma:2b 这个模型想要流畅运行起来需要什么配置的电脑
abcfreedom
·
Local LLM
·
超過 2 年前
·
30 回覆
如何系统的深入 LLM?求资源
lemoon
·
Local LLM
·
超過 2 年前
·
12 回覆
7B 大模型不量化, 16G 显存就差那么一点儿,难道消费级显卡只有 90 系能跑?
CatCode
·
Local LLM
·
超過 2 年前
·
6 回覆
Google Gemma 开源没人讨论下吗?
Jinnrry
·
Local LLM
·
超過 2 年前
·
54 回覆
ollama 平时不使用的时候会占用内存吗?
coinbase
·
Local LLM
·
超過 2 年前
有人买英特尔 14 代 ultra 系列的 cpu 了么,里面的 npu 运行 ollama 速度大概什么样?
PungentSauce
·
Local LLM
·
超過 2 年前
·
1 回覆
运行 LM Studio 的电脑硬件配置
cmonkey
·
Local LLM
·
超過 2 年前
·
11 回覆
ollama 推出 windows 版的 preview,可以在本地跑大模型,在老机器上跑感觉效果不错
frankyzf
·
Local LLM
·
超過 2 年前
·
6 回覆
求推荐 基于本地文件的大模型?
Pbe2RsrnVcPrF
·
Local LLM
·
超過 2 年前
·
5 回覆
有人(个人)自己使用开源的 LLM 大模型吗?
yuyue001
·
Local LLM
·
超過 2 年前
·
66 回覆
各位大佬,想玩玩 70B 参数规模的大模型,有没有什么推荐的云服务?
Int100
·
Local LLM
·
超過 2 年前
·
4 回覆
AI(大模型)本地化项目 和 部署设备
Int100
·
Local LLM
·
超過 2 年前
·
6 回覆
有没有类似 bob 那种 all-in-one LLM 的 plugin
GaryHu
·
Local LLM
·
超過 2 年前
·
4 回覆
有没有自己电脑上跑大模型的大佬啊
suqiuluck
·
Local LLM
·
超過 2 年前
·
21 回覆
«
13
14
15
16
»