接上一篇LM Studio 安装配置后,使用大模型还得下载模型文件,由于内嵌模型库下载难用(网络原因)这里讲解离线下载后导入LM Studio
LM Studio 支持GGUF
模型文件格式 ,在以下社区可以找到模型文件下载
打开魔搭社区首页,点击模型库
也可以回车搜索更多版本
选择模型文件
敲黑板了!!
直接浏览器下载可能慢,复制下载连接,迅雷下载速度快很多
在LM Studio 安装篇中,我们修改了模型的默认存放地址为:D:\LM_Studio\models
下载好的模型文件存放需要保证一定格式才能被LM Studio识别
假设 %MODELS% = 模型存放路径
%MODELS%/author_name/namespace/模型文件
参考:
打开LM Studio 我的模型,可以看到刚才下载的模型已经在这里显示
提示:参数部分的GPU卸载(加速翻译错误)拉到最大可以减少CPU使用率和提高回答效率
纯显卡加速
一般多少B的模型就需要多少显存,否则加载错误哟。
加载完成后即可对话使用
over
https://blog.xqlee.com/article/2502141325191970.html