Anything LLM 接入LM Studio
deepseek
>
AI
(15)
2025-02-20 17:40:40
LM Studio 开启本地服务
LM Studio 开启服务化,参考:LM Studio开启本地服务或headless(服务模式)
Anything LLM 配置LM Studio 接入
Anything LLM 工作区配置提供者为LM Studio 参考如下:
选择LM Studio作为LLM服务提供商并选择具体的模型
注意:选择LM Studio 为服务提供者时候,LM Studio需开启本地服务
Anything LLM 结合 LM Studio 实现RAG外挂本地知识库
LM Studio 与Anything LLM 结合实现RAG 本地知识库与Ollama除了服务提供者配置以外,其他操作相同。
工作区嵌入相关配置
向量数据库提供商配置:这里选简单的LanceDB
嵌入引擎选设置:这里用的AnythingLLM Embedder
工作区上传文档
1.上传文档;2.选中上传文档;3.移动到工作区;
保存并嵌入
嵌入成功后关闭窗口即可
测试
测试可以看到与预期效果一致
http://blog.xqlee.com/article/250218102820241.html