ABOUT THIS WORK
它能做什么
提供兼容常见 AI 接口的本地推理服务,支持文本、图像、音频和嵌入模型。
适合用在
替换云端模型接口
在服务器部署多类模型
构建离线 AI 功能
开源与使用
项目采用 MIT 许可证。查看 GitHub 源码,或访问项目页面了解安装方式与最新版本。
ABOUT THIS WORK
提供兼容常见 AI 接口的本地推理服务,支持文本、图像、音频和嵌入模型。
替换云端模型接口
在服务器部署多类模型
构建离线 AI 功能
项目采用 MIT 许可证。查看 GitHub 源码,或访问项目页面了解安装方式与最新版本。