标签: #webgpu
关于 GPU、LLM、MLOps、Kubernetes 以及心态的文章 · 2 篇
llama.cpp 走进浏览器 — WebGPU 后端在 16 台设备上测出的天花板
UC Santa Cruz 团队于 2026 年 5 月发布的 LlamaWeb 是 llama.cpp 的 WebGPU 后端,在 8 家厂商的 16 台设备上实测了浏览器端 LLM 推理,留下了迄今为止最广的数据集。结果是双面的。它比现有浏览器框架(WebLLM、Transformers.js)少用 29%~33% 的内存,解码吞吐量高出 45%~69%,但 prefill 仍只有 WebLLM 的 49% 水平,相比原生 CUDA
2026-07-16 · 25 分钟阅读 #webgpu#llm-inference#llama-cpp#on-device-ai#browserWeb 平台 2025 完全攻略:Container Queries・:has()・CSS Nesting・Subgrid・Popover API・Anchor Positioning・WebGPU・WASI・Speculation Rules・Baseline 2024-2025 — Season 6 Ep 5
平台变大,框架就变轻。2024-2025 年抵达 Web 平台的核心能力总梳理。Container Queries 与 @container、:has() 父选择器、原生 CSS Nesting、Subgrid、Popover API、Dialog element、CSS Anchor Positioning、Web Components 在 2025 年的现状、WebGPU 的当下、File System Access・Specula
2026-04-15 · 15 分钟阅读 #web-platform#container-queries#has-selector#css-nesting#css-subgrid