Ollama官方最新版0.5.7,默认是不支持AMD 780m(代号:gfx1103)集成显卡的,已知方法都是基于一个开源项目ollama-for-amd来操作的。
提示:本文是基于GitHub大佬开源库已编译程序+已编译依赖模块为例,所以这里不需要下载AMD的HIP SDK
所有需要下载HIP SDK的都是想要git clone 自己编译的
ollama-for-amd v0.5.4 下载,打开github页面,找到OllamaSetup.exe安装文件
目前(2025/2/11)最新编译可下载版本0.5.4.后续的好像编译失败中断了。
打开ROCmLibs库下载地址:ROCmLibs
ollama for AMD (OllamaSetup.exe) 安装和官方安装一样双击下一步到底就行。默认安装路径在 C:\Users\
%username%
\AppData\Local\Programs\Ollama
从Github ROCmLibs 下载的包rocm.gfx1103.AMD.780M.phoenix.V4.0.for.hip.sdk.6.1.2.7z
解压,可以得到以下文件:
备份并替换ollama安装目录的上述文件和目录。
替换对应文件为:C:\Users\
%username%\AppData\Local\Programs\Ollama\lib\ollama\rocblas.dll
备份为rocblas.dllbak 并将上面解压的rocblas.dll
复制过来,处理完成后参考:
替换对应文件为:C:\Users\
%username%\AppData\Local\Programs\Ollama\lib\ollama\rocblas\library
整个library目录备份(重命名)为librarybak
并将上面解压的library
文件夹复制过来,处理完成后参考:
重启ollama服务,再次测试并观察GPU占用情况
可以看到GPU占用率一下子就起来了,同时CPU占用率低。以此实现了AMD 780m集成显卡对于ollama deepseek 模型的处理。
http://blog.xqlee.com/article/2502111306371123.html