问题
ollama国内拉取模型慢，断点续传也蛮怎么办，当然是修改ollama镜像源
配置ollama模型国内镜像源
国内可用镜像源参考：
| 镜像提供商 | 镜像地址 | 特性 |
|---|---|---|
| 阿里云 | https://registry.ollama.ai | 企业级CDN加速 |
| DeepSeek官方镜像 | https://ollama.deepseek.com | 原生支持代码模型 |
| 浙江大学镜像站 | https://ollama.zju.edu.cn | 学术网络优化 |
| 魔搭社区 | https://ollama.modelscope.cn | 中文模型生态整合 |
Linux/macOS 配置
mkdir -p ~/.ollama
cat << EOF > ~/.ollama/config.json
{
"registry": {
"mirrors": {
"registry.ollama.ai": "https://registry.ollama.ai"
}
}
}
EOF
Windows 配置
在资源管理器地址栏输入
%USERPROFILE%\.ollama新建
config.json文件，内容：
{
"registry": {
"mirrors": {
"registry.ollama.ai": "https://registry.ollama.ai"
}
}
}
修改配置后可选择重启ollama服务再次拉取。
DeepSeek模型部署：硬件适配方案
| 量化精度 | 显存需求 | 内存需求 | 适用场景 | 示例硬件配置 |
|---|---|---|---|---|
| FP32 | 24GB+ | 32GB+ | 科研级代码生成 | RTX 3090 + DDR4 64GB |
| FP16 | 12GB | 24GB | 专业开发工作站 | RTX 4080 + DDR5 32GB |
| INT8 | 8GB | 16GB | 主流游戏本 | RTX 3060 + DDR4 16GB |
| INT4 | 6GB | 8GB | 轻薄本开发 | Apple M2 Pro 16GB |
部署命令示例：
# 部署INT4量化版本
ollama run deepseek-coder:6.7b-instruct-q4_K_M
# 使用NVidia GPU加速
CUDA_VISIBLE_DEVICES=0 ollama run deepseek-coder:33b-instruct-fp16
https://blog.xqlee.com/article/2502111602382054.html
评论
相关文章
Ollama 环境准备Ollama安装使用参考：Deepseek Windows安装和入门使用Spring Boot项目接入OllamaSpring Boot
Ollama 模型动辄xxGB,默认位置可能不满足需求，特别是Windows，默认的C盘，所以一般都需要调整下Ollama 模型存放位置。ollama 默认的模
Ollama 简介Ollama 是一个用于部署本地 AI 模型的工具，开发者可以在自己的机器上运行模型，并通过 API 接口调用。在本地搭建 Ollama 服务
概述Ollama官方最新版0.5.7，默认是不支持AMD 780m（代号：gfx1103）集成显卡的，已知方法都是基于一个开源项目ollama-for-amd来
安装环境windows 11ollama工具下载ollama工具ollama官网 Download Ollama on Windows注：ollama同时支持L
基于上一个项目Spring Boot 接入Ollama实现与Deepseek简单对话修改,增加嵌入库配置，修改模型拉取策略为alwaysapplication.
GPUNvidiaOllama 支持计算能力为 5.0 及以上的 Nvidia GPU。检查你的计算兼容性，以确认你的显卡是否受支持： https://deve
一 了解什么是 RAGRAG（Retrieval Augmented Generation）检索增强生成，是 2023 年最火热的 LLM 应用系统架构，它的作
在科技领域，新兴公司的涌现几乎每天都有，而每一家公司背后都有着独特的故事和潜力。最近，一家名为“深度求索”（DeepSeek）的中国公司引发了广泛关注。这家公司
继上一篇deepseek Windows安装和入门使用 本地部署deepseek只能在cmd窗口使用，体验感不好。这里使用一个可视化工具Cherry Studi
概述接前几篇harbor 2.10.x离线安装Harbor 镜像复制后，这里简述docker配合harbor私服镜像pull（拉取）和push（上传）操作示例。