众所周知:RDNA2 架构(gfx1032)的显卡(如 RX 6600)在 AMD 官方没有
rocm支持,所以需通过以下方式手动配置。
说明
- 目前 AMD 官方发布的
rocm工具包不支持 RDNA2 架构(gfx1032)的显卡。 ollama是用于运行大型语言模型的工具,但默认依赖 AMD 的rocm环境,需手动替换为适用于特定显卡架构的版本。
安装步骤
1. 下载 ollama
-
安装并测试运行,然后退出程序。
2. 删除 ollama 中的 AMD 驱动
- 删除
ollama安装目录下的rocm文件夹:C:\Users\你的用户\AppData\Local\Programs\Ollama\lib\ollama\rocm
3. 下载 ollama_for_amd(适用于特定显卡的驱动包)
-
项目地址:
https://github.com/likelovewant/ollama-for-amd/releases -
下载最新版本的
ollama_for_amd,将其解压后拖入C:\Users\sunyi\AppData\Local\Programs\Ollama选择覆盖原有文件。
4. 配置 rocm(适用于 AMD GPU)
-
查看你的显卡核心代号:
https://rocm.docs.amd.com/projects/install-on-windows/en/latest/reference/system-requirements.html -
下载对应显卡架构的
rocm库, 这里以RX6600(gfx1032)为例:
https://github.com/likelovewant/ROCmLibs-for-gfx1103-AMD780M-APU/releases/tag/v0.6.4.2 -
将下载的
rocm文件解压,内容拖入以下路径:C:\Users\你的用户\AppData\Local\Programs\Ollama\lib\ollama\rocm
5. 启动 ollama
完成上述步骤后,重新启动 ollama,应能识别你的 AMD GPU 并正常运行。
注意事项
- 请确保替换时使用合适版本的
ollama_for_amd和rocm,避免因版本不匹配导致问题。 - 不同显卡型号对应的
rocm版本可能不同,请根据你的显卡核心号选择合适的rocm版本(例如,RX 6600 为 gfx1032 架构,需下载对应的 rocm 版本)。
参考链接
ollama官方下载:https://ollama.com/download/windowsollama-for-amd项目地址:https://github.com/likelovewant/ollama-for-amdAMD显卡核心:https://rocm.docs.amd.com/projects/install-on-windows/en/latest/reference/system-requirements.htmlROCm Libraryhttps://github.com/likelovewant/ROCmLibs-for-gfx1103-AMD780M-APU