一个基于 Vue 3 + Vite 的边缘AI模型管理平台前端应用,提供模型上传、下载、管理和AI对话功能。
- 流式AI对话,逐字显示回复
- 支持多模型切换(所有下载的模型启动服务后自动激活)
- 对话历史仅保存在内存中
- 切换模型时自动清空对话
- 服务未启动时显示引导界面
- 拖拽文件上传支持
- 分片上传(100MB每块)
- 断点续传功能
- 实时上传进度和速度显示
- 仅支持 .gguf 格式
- 从 Hugging Face 仓库下载模型
- 实时下载进度监控
- 下载历史记录
- 支持后台下载
- 查看所有本地模型
- 模型搜索功能
- 删除模型文件
- 所有模型启动服务后自动激活
- 启动/停止/重启推理服务
- 服务启动后自动轮询直到可用
- 实时系统资源监控(内存、GPU、硬盘)
- 服务运行时长和状态显示
- Node.js 16+
- npm 或 yarn
npm installnpm run devnpm run build- 框架: Vue 3 (Composition API)
- 构建工具: Vite
- 路由: Vue Router 4
- 状态管理: Pinia
- HTTP 客户端: Axios
- 样式: Tailwind CSS
- 图标: Font Awesome 4.7
- 日期处理: Day.js
开发环境已配置代理:
/api/management→http://localhost:23058/api/inference→http://localhost:23059
- 模型自动激活: 所有下载的模型在服务启动后自动处于激活状态,无需手动激活
- 服务启动轮询: 启动服务后会自动轮询检查服务状态直到可用(最多60秒)
- 断点续传: 上传支持断点续传,可暂停和继续上传
- 流式对话: AI对话使用流式输出,逐字显示回复内容
- 对话管理: 切换模型时自动清空对话,对话仅保存在内存中