Anything LLM 接入LM Studio

deepseek > AI (15) 2025-02-20 17:40:40

LM Studio 开启本地服务

LM Studio 开启服务化,参考:LM Studio开启本地服务或headless(服务模式)

Anything LLM 配置LM Studio 接入

Anything LLM 工作区配置提供者为LM Studio 参考如下:

Anything LLM 接入LM Studio_图示-554efa0258f24ceeaa97bb085120de1a.png
选择LM Studio作为LLM服务提供商并选择具体的模型

注意:选择LM Studio 为服务提供者时候,LM Studio需开启本地服务

 

Anything LLM 结合 LM Studio 实现RAG外挂本地知识库

LM Studio 与Anything LLM 结合实现RAG 本地知识库与Ollama除了服务提供者配置以外,其他操作相同。

工作区嵌入相关配置

Anything LLM 接入LM Studio_图示-7cda6976414a4d1cae91650406050dc9.png
向量数据库提供商配置:这里选简单的LanceDB

 

Anything LLM 接入LM Studio_图示-4a60010db61646bca63b274b57bce904.png
嵌入引擎选设置:这里用的AnythingLLM Embedder

工作区上传文档

Anything LLM 接入LM Studio_图示-cea9829244d046e58d30b484c90754e8.png
1.上传文档;2.选中上传文档;3.移动到工作区;
Anything LLM 接入LM Studio_图示-f47af30f66fc4c748d9cf7d0a9700f81.png
保存并嵌入
Anything LLM 接入LM Studio_图示-1f6aa8a8c99c47998aa07efa662aa25f.png
嵌入成功后关闭窗口即可

测试

Anything LLM 接入LM Studio_图示-f07fc84616ce4509970f9b230c019f72.png
测试可以看到与预期效果一致

 

 


评论
User Image
提示:请评论与当前内容相关的回复,广告、推广或无关内容将被删除。

相关文章
LM Studio 开启本地服务LM Studio 开启服务化,参考:LM Studio开启本地服务或headless(服务模式)Anything LLM 配置
LM Studio官网打开连接 LM Studio - Discover, download, and run local LLMs(https://lmstu
LM Studio 离线模型下载和导入接上一篇LM Studio 安装配置后,使用大模型还得下载模型文件,由于内嵌模型库下载难用(网络原因)这里讲解离线下载后导
LM Studio 以开发者视觉开启本地服务以开发者/高级用户角色打开开发者窗口Power User / Developer切换到开发者视图开发者视图打开loc
继上一篇deepseek Windows安装和入门使用 本地部署deepseek只能在cmd窗口使用,体验感不好。这里使用一个可视化工具Cherry Studi
一 了解什么是 RAGRAG(Retrieval Augmented Generation)检索增强生成,是 2023 年最火热的 LLM 应用系统架构,它的作
在科技领域,新兴公司的涌现几乎每天都有,而每一家公司背后都有着独特的故事和潜力。最近,一家名为“深度求索”(DeepSeek)的中国公司引发了广泛关注。这家公司
安装环境windows 11ollama工具下载ollama工具ollama官网 Download Ollama on Windows注:ollama同时支持L
deepseek-r1的1.5b、7b、8b、14b、32b、70b和671b有啥区别?1.5B、7B、8B、14B、32B、70B是蒸馏后的小模型
问题ollama国内拉取模型慢,断点续传也蛮怎么办,当然是修改ollama镜像源 配置ollama模型国内镜像源
概述本文讲解Java编程中如何通过Spring AI框架 集成 Redis Stack 向量数据库和Ollama模型服务提供者实现RAG本地外挂知识库。前置条件
Ollama 简介Ollama 是一个用于部署本地 AI 模型的工具,开发者可以在自己的机器上运行模型,并通过 API 接口调用。在本地搭建 Ollama 服务
确认Ollama兼容您的GPUNvidiaOllama 支持计算能力 5.0 及以上的 Nvidia GPU。要检查您的显卡是否受支持,请查看您的计算兼容性:h
概述Ollama官方最新版0.5.7,默认是不支持AMD 780m(代号:gfx1103)集成显卡的,已知方法都是基于一个开源项目ollama-for-amd来
目标使用Redis Stack中间件作为向量数据库(Vector Database)实现文档数据的存储和查询功能。先决条件已安装好的 redis stack ,