喜讯:llama.cpp正式支持RISC-V 128位向量扩展,性能提升最高达近9倍

2025 年 3 月 27 日,由开发者 xctan 提交的"ggml : riscv: add 128-bit RVV support" (PR #12530)正式合入 ggml 主分支。此次更新标志着 ggml 框架正式新增对 RISC-V 128 位向量扩展(RVV)的支持,该实现为 RISC-V 在 AI 推理加速与异构计算领域的发展提供了关键基础设施支持。

阅读全文