WebLLM

它能做什么

直接在浏览器中利用 WebGPU 运行语言模型，无需把提示内容发送到云端。

适合用在

• 构建浏览器内 AI

• 实验端侧模型

• 制作无需服务端的演示

开源与使用

项目采用 Apache-2.0 许可证。查看 GitHub 源码，或访问项目页面了解安装方式与最新版本。