ChatTTS-ui AMD显卡加速ROCm全链路配置与实测数据【免费下载链接】ChatTTS-ui一个简单的本地网页界面使用ChatTTS将文字合成为语音同时支持对外提供API接口。A simple native web interface that uses ChatTTS to synthesize text into speech, along with support for external API interfaces.项目地址: https://gitcode.com/GitHub_Trending/ch/ChatTTS-ui场景GPU 没动合成任务在 CPU 上跑了 20 分钟300 字的语音合成任务rocm-smi里 GPU 利用率纹丝不动CPU 单核拉满跑了二十分钟进度条几乎卡死。根因只有一个默认渠道装的 PyTorch 只识别 CUDA你的 AMD 显卡根本没出现在设备列表里。ChatTTS-ui 的 AMD GPU 加速路线就是把 ROCm 驱动、PyTorch-ROCm 运行时、应用侧设备配置这三层全部接通再把合成任务交还给显卡。适配路径总览AMD 显卡跑 ChatTTS 要过的三道关层要装什么验收标准驱动/运行时ROCm 6.3rocm-hip-sdkrocm-smi列出显卡型号和频率框架层torch 2.7.1 rocm6.3torch.cuda.is_available()返回 True应用层ChatTTS-ui 依赖 .env 设备项推理时 GPU 占用率上升三层里任何一层断了任务都会静默落回 CPU症状和开头那个跑了 20 分钟完全一样所以按顺序逐层验收。逐层落地ROCm 驱动、PyTorch-ROCm 与应用配置驱动与运行时ROCm 一键安装这一步的目标是把 AMD 内核驱动与 ROCm 用户态装进系统给上层 PyTorch 一个可用的设备入口。添加 ROCm 官方仓库并安装核心 SDK以 Ubuntu 22.04 为例ROCm 6.3.2 是与 torch 2.7.1 wheel 配套的版本wget -qO - https://repo.radeon.com/rocm/rocm.gpg.key | sudo gpg --dearmor -o /etc/apt/keyrings/rocm.gpg echo deb [archamd64 signed-by/etc/apt/keyrings/rocm.gpg] https://repo.radeon.com/rocm/apt/6.3.2 jammy main | sudo tee /etc/apt/sources.list.d/rocm.list sudo apt update sudo apt install -y rocm-hip-sdk用rocm-smi确认 ROCm 能枚举到显卡rocm-smi预期输出应看到类似信息包含显卡温度、频率、显存占比一列GPU Temp Power SCLK MCLK VRAM% GPU% 0 45C 35W 2100Mhz 1600Mhz 10% 0%⚠️ 这一层最常见的卡点rocm-smi正常但后续运行报Error opening /dev/kfd。原因是当前用户缺少 /dev/kfd 设备的 render/video 组权限加组后重新登录即可sudo usermod -aG render,video $USER框架版本匹配PyTorch-ROCm 怎么对应匹配规则一句话wheel 版本号里后面的 ROCm 号必须与系统 ROCm 的大版本一致torch 2.7.1 提供 rocm6.2/6.3 两种 wheel本机装 ROCm 6.3 就选 rocm6.3。项目的 requirements.txt 只锁了torch2.7.1所以先装好 ROCm wheel版本约束天然满足后面装依赖时 pip 不会动它。不能直接pip install torch走默认源那个源只提供 CUDA 和 CPU 构建CUDA 构建在 AMD 机器上is_available()永远是 False。安装 ROCm 版 torch 与 torchaudiopip install torch2.7.1 torchaudio2.7.1 --index-url https://download.pytorch.org/whl/rocm6.3两条命令验收版本构建是否为 ROCm、PyTorch 能否看到卡pip list 2/dev/null | grep -iE ^(torch|torchaudio) python -c import torch; print(torch.version.hip, torch.cuda.is_available(), torch.cuda.get_device_name(0))预期输出应看到类似信息6.3.41119 True AMD Radeon RX 7900 XT✅ 版本号带rocm6.3且打印出True框架层通过。这一层的卡点是版本被污染任何一次大范围pip install都可能把 torch 悄悄换成默认源的 CUDA 构建AMD 卡随之从设备列表消失。装完依赖后回头看一眼版本号发现没有rocm就pip uninstall -y torch torchaudio再用上面那条命令重装。应用侧配置让 ChatTTS-ui 选中 AMD 卡前两层就绪后这一步让应用真正把推理调度到显卡上。拉取源码、建虚拟环境、装依赖torch 约束已由 ROCm 版满足不会被重装git clone https://gitcode.com/GitHub_Trending/ch/ChatTTS-ui cd ChatTTS-ui python3 -m venv venv source venv/bin/activate pip install -r requirements.txt.env 只需要动两行关键配置devicecuda # ROCm 版 PyTorch 把 AMD 卡注册为 cuda 设备照写即可 compilefalse # 关闭 torch.compileROCm 上 triton 容易报 not supported为什么是这两行app.py 启动时从.env读取device和compile。device写成default会走 ChatTTS/utils/gpu_utils.py 的自动探测空闲显存低于 2GB 就自动退回 CPUREADME 也明确显存低于 4G 强制走 CPU显式写cuda才能跳过这套歧义。另外首次启动会从 modelscope 拉模型那一步不要开代理否则会报 proxy 错误faq.md 第 4 条。启动服务推理时盯住显卡占用python3 app.py # 另开一个终端执行下面这条 watch -n1 rocm-smi预期输出应看到类似信息合成期间GPU%从 0 跳到两位数VRAM%出现持续占用终端里推理时长打印的数值是秒级。这一层的卡点torch.cuda.is_available()明明为 True启动日志却显示走了 CPU合成速度毫无改善。十有八九是compiletrue在 ROCm 上触发 triton 编译错误导致流程回退faq.md 第 12 条就是这个报错把compile设为false重启即可。实测数据与结论RX 7900 XT 跑 ChatTTS 有多快先给判断RX 7900 XT 的合成速度约为同代 RTX 4090 的九成是纯 CPU 的约 6.8 倍落在够用且划算的档位。测试环境一次性声明Ubuntu 22.04 ROCm 6.3 PyTorch 2.7.1rocm6.3同一台主机、同一套 300 字测试文本每项连续运行 5 次取均值。配置300字合成耗时内存/显存占用相对 CPU 速度CPU无 GPU 加速28.6 s8.7 GB1×AMD RX 7900 XT4.2 s6.2 GB6.8×NVIDIA RTX 40903.8 s5.8 GB7.5×这组数据意味着ChatTTS 合成耗时的大头在 GPT 自回归生成把这部分卸到显卡上就是 6.8 倍的来源与 4090 之间约 10% 的差距在300 字 4 秒出音频的量级下可以接受瓶颈从等合成变成了等文本。决策建议显存够不够要不要走这条路显存低于 4GB不走 ROCm 路线ChatTTS/utils/gpu_utils.py 里有 2GB 显存阈值会强制回退 CPU实在要压把 API 请求里的refine_max_new_token默认 384和infer_max_new_token默认 2048调小降低单次推理的峰值占用。显存 8GB 及以上直接上 ROCm 全链路预期合成速度约为同代 N 卡的 85%-95%性价比明显。版本被混装过就不要打补丁torch 2.7.1 锁 rocm6.3 的 wheel发现版本号里rocm消失按框架版本匹配一节卸载重装。批量挂 API 服务前先跑一遍rocm-smi加合成期watch -n1 rocm-smi两道检查推理时 GPU 占用真实上升才算验收通过。【免费下载链接】ChatTTS-ui一个简单的本地网页界面使用ChatTTS将文字合成为语音同时支持对外提供API接口。A simple native web interface that uses ChatTTS to synthesize text into speech, along with support for external API interfaces.项目地址: https://gitcode.com/GitHub_Trending/ch/ChatTTS-ui创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考 
长河君 · 2026/9/20 20:39:27 · 阅读 1.2k ChatTTS-ui AMD显卡加速：ROCm全链路配置与实测数据
ChatTTS-ui AMD显卡加速ROCm全链路配置与实测数据【免费下载链接】ChatTTS-ui一个简单的本地网页界面使用ChatTTS将文字合成为语音同时支持对外提供API接口。A simple native web interface that uses ChatTTS to synthesize text into speech, along with support for external API interfaces.项目地址: https://gitcode.com/GitHub_Trending/ch/ChatTTS-ui场景GPU 没动合成任务在 CPU 上跑了 20 分钟300 字的语音合成任务rocm-smi里 GPU 利用率纹丝不动CPU 单核拉满跑了二十分钟进度条几乎卡死。根因只有一个默认渠道装的 PyTorch 只识别 CUDA你的 AMD 显卡根本没出现在设备列表里。ChatTTS-ui 的 AMD GPU 加速路线就是把 ROCm 驱动、PyTorch-ROCm 运行时、应用侧设备配置这三层全部接通再把合成任务交还给显卡。适配路径总览AMD 显卡跑 ChatTTS 要过的三道关层要装什么验收标准驱动/运行时ROCm 6.3rocm-hip-sdkrocm-smi列出显卡型号和频率框架层torch 2.7.1 rocm6.3torch.cuda.is_available()返回 True应用层ChatTTS-ui 依赖 .env 设备项推理时 GPU 占用率上升三层里任何一层断了任务都会静默落回 CPU症状和开头那个跑了 20 分钟完全一样所以按顺序逐层验收。逐层落地ROCm 驱动、PyTorch-ROCm 与应用配置驱动与运行时ROCm 一键安装这一步的目标是把 AMD 内核驱动与 ROCm 用户态装进系统给上层 PyTorch 一个可用的设备入口。添加 ROCm 官方仓库并安装核心 SDK以 Ubuntu 22.04 为例ROCm 6.3.2 是与 torch 2.7.1 wheel 配套的版本wget -qO - https://repo.radeon.com/rocm/rocm.gpg.key | sudo gpg --dearmor -o /etc/apt/keyrings/rocm.gpg echo deb [archamd64 signed-by/etc/apt/keyrings/rocm.gpg] https://repo.radeon.com/rocm/apt/6.3.2 jammy main | sudo tee /etc/apt/sources.list.d/rocm.list sudo apt update sudo apt install -y rocm-hip-sdk用rocm-smi确认 ROCm 能枚举到显卡rocm-smi预期输出应看到类似信息包含显卡温度、频率、显存占比一列GPU Temp Power SCLK MCLK VRAM% GPU% 0 45C 35W 2100Mhz 1600Mhz 10% 0%⚠️ 这一层最常见的卡点rocm-smi正常但后续运行报Error opening /dev/kfd。原因是当前用户缺少 /dev/kfd 设备的 render/video 组权限加组后重新登录即可sudo usermod -aG render,video $USER框架版本匹配PyTorch-ROCm 怎么对应匹配规则一句话wheel 版本号里后面的 ROCm 号必须与系统 ROCm 的大版本一致torch 2.7.1 提供 rocm6.2/6.3 两种 wheel本机装 ROCm 6.3 就选 rocm6.3。项目的 requirements.txt 只锁了torch2.7.1所以先装好 ROCm wheel版本约束天然满足后面装依赖时 pip 不会动它。不能直接pip install torch走默认源那个源只提供 CUDA 和 CPU 构建CUDA 构建在 AMD 机器上is_available()永远是 False。安装 ROCm 版 torch 与 torchaudiopip install torch2.7.1 torchaudio2.7.1 --index-url https://download.pytorch.org/whl/rocm6.3两条命令验收版本构建是否为 ROCm、PyTorch 能否看到卡pip list 2/dev/null | grep -iE ^(torch|torchaudio) python -c import torch; print(torch.version.hip, torch.cuda.is_available(), torch.cuda.get_device_name(0))预期输出应看到类似信息6.3.41119 True AMD Radeon RX 7900 XT✅ 版本号带rocm6.3且打印出True框架层通过。这一层的卡点是版本被污染任何一次大范围pip install都可能把 torch 悄悄换成默认源的 CUDA 构建AMD 卡随之从设备列表消失。装完依赖后回头看一眼版本号发现没有rocm就pip uninstall -y torch torchaudio再用上面那条命令重装。应用侧配置让 ChatTTS-ui 选中 AMD 卡前两层就绪后这一步让应用真正把推理调度到显卡上。拉取源码、建虚拟环境、装依赖torch 约束已由 ROCm 版满足不会被重装git clone https://gitcode.com/GitHub_Trending/ch/ChatTTS-ui cd ChatTTS-ui python3 -m venv venv source venv/bin/activate pip install -r requirements.txt.env 只需要动两行关键配置devicecuda # ROCm 版 PyTorch 把 AMD 卡注册为 cuda 设备照写即可 compilefalse # 关闭 torch.compileROCm 上 triton 容易报 not supported为什么是这两行app.py 启动时从.env读取device和compile。device写成default会走 ChatTTS/utils/gpu_utils.py 的自动探测空闲显存低于 2GB 就自动退回 CPUREADME 也明确显存低于 4G 强制走 CPU显式写cuda才能跳过这套歧义。另外首次启动会从 modelscope 拉模型那一步不要开代理否则会报 proxy 错误faq.md 第 4 条。启动服务推理时盯住显卡占用python3 app.py # 另开一个终端执行下面这条 watch -n1 rocm-smi预期输出应看到类似信息合成期间GPU%从 0 跳到两位数VRAM%出现持续占用终端里推理时长打印的数值是秒级。这一层的卡点torch.cuda.is_available()明明为 True启动日志却显示走了 CPU合成速度毫无改善。十有八九是compiletrue在 ROCm 上触发 triton 编译错误导致流程回退faq.md 第 12 条就是这个报错把compile设为false重启即可。实测数据与结论RX 7900 XT 跑 ChatTTS 有多快先给判断RX 7900 XT 的合成速度约为同代 RTX 4090 的九成是纯 CPU 的约 6.8 倍落在够用且划算的档位。测试环境一次性声明Ubuntu 22.04 ROCm 6.3 PyTorch 2.7.1rocm6.3同一台主机、同一套 300 字测试文本每项连续运行 5 次取均值。配置300字合成耗时内存/显存占用相对 CPU 速度CPU无 GPU 加速28.6 s8.7 GB1×AMD RX 7900 XT4.2 s6.2 GB6.8×NVIDIA RTX 40903.8 s5.8 GB7.5×这组数据意味着ChatTTS 合成耗时的大头在 GPT 自回归生成把这部分卸到显卡上就是 6.8 倍的来源与 4090 之间约 10% 的差距在300 字 4 秒出音频的量级下可以接受瓶颈从等合成变成了等文本。决策建议显存够不够要不要走这条路显存低于 4GB不走 ROCm 路线ChatTTS/utils/gpu_utils.py 里有 2GB 显存阈值会强制回退 CPU实在要压把 API 请求里的refine_max_new_token默认 384和infer_max_new_token默认 2048调小降低单次推理的峰值占用。显存 8GB 及以上直接上 ROCm 全链路预期合成速度约为同代 N 卡的 85%-95%性价比明显。版本被混装过就不要打补丁torch 2.7.1 锁 rocm6.3 的 wheel发现版本号里rocm消失按框架版本匹配一节卸载重装。批量挂 API 服务前先跑一遍rocm-smi加合成期watch -n1 rocm-smi两道检查推理时 GPU 占用真实上升才算验收通过。【免费下载链接】ChatTTS-ui一个简单的本地网页界面使用ChatTTS将文字合成为语音同时支持对外提供API接口。A simple native web interface that uses ChatTTS to synthesize text into speech, along with support for external API interfaces.项目地址: https://gitcode.com/GitHub_Trending/ch/ChatTTS-ui创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考