llama.cpp/ggml 宣布推出全新 WebGPU 后端,支持浏览器端运行大模型,提升推理性能。该项目已开始全面集成 WebGPU 支持。
RT @ggerganov: Highlighting the new WebGPU backend in llama.cpp/ggml
The work to bring full-fledged WebGPU support in llama.cpp started ab…
likes: 603 | retweets: 108 | replies: 13 | views: 83638