众所周知:RDNA2 架构(gfx1032)的显卡(如 RX 6600)在 AMD 官方没有 rocm 支持,所以需通过以下方式手动配置。

说明

  • 目前 AMD 官方发布的 rocm 工具包不支持 RDNA2 架构(gfx1032)的显卡。
  • ollama 是用于运行大型语言模型的工具,但默认依赖 AMD 的 rocm 环境,需手动替换为适用于特定显卡架构的版本。

安装步骤

1. 下载 ollama

2. 删除 ollama 中的 AMD 驱动

  • 删除 ollama 安装目录下的 rocm 文件夹:
    C:\Users\你的用户\AppData\Local\Programs\Ollama\lib\ollama\rocm
    

3. 下载 ollama_for_amd(适用于特定显卡的驱动包)

4. 配置 rocm(适用于 AMD GPU)

5. 启动 ollama

完成上述步骤后,重新启动 ollama,应能识别你的 AMD GPU 并正常运行。

注意事项

  • 请确保替换时使用合适版本的 ollama_for_amdrocm,避免因版本不匹配导致问题。
  • 不同显卡型号对应的 rocm 版本可能不同,请根据你的显卡核心号选择合适的 rocm 版本(例如,RX 6600 为 gfx1032 架构,需下载对应的 rocm 版本)。

参考链接

  • ollama 官方下载:https://ollama.com/download/windows
  • ollama-for-amd 项目地址:https://github.com/likelovewant/ollama-for-amd
  • AMD显卡核心:https://rocm.docs.amd.com/projects/install-on-windows/en/latest/reference/system-requirements.html
  • ROCm Library https://github.com/likelovewant/ROCmLibs-for-gfx1103-AMD780M-APU