hailin
/
rwadurian
1
0
Fork 0
Code Issues Pull Requests Packages Projects Releases Wiki Activity
2,466 Commits 1 Branch 10 Tags 175 MiB
Commit Graph

5 Commits

Author SHA1 Message Date
hailin 27db2a5aa2 fix(snapshot): 修复备份进行中被删除导致容器崩溃的问题 
1. checkDone 中 statSync 加 try-catch，文件被删时 reject 而非 uncaught crash
2. 删除 API 禁止删除 RUNNING 状态的任务，返回 409 Conflict
3. compose 补充 restart: unless-stopped，防止异常退出后服务不可用

Co-Authored-By: Claude Opus 4.6 <noreply@anthropic.com>
 2026-02-25 01:30:44 -08:00
hailin 9cbc0ba580 fix(snapshot): DATABASE_URL 改绝对路径，修复 SQLite 每次重建丢数据 
Prisma 的 file:./data/snapshot.db 相对于 schema.prisma 所在目录
(/app/prisma/)，实际创建在 /app/prisma/data/snapshot.db，不在
volume 挂载的 /app/data/ 下，导致容器重建后数据丢失。

改为 file:/app/data/snapshot.db 绝对路径，确保 SQLite 存入
volume 挂载目录，数据跨容器持久化。

Co-Authored-By: Claude Opus 4.6 <noreply@anthropic.com>
 2026-02-24 01:48:24 -08:00
hailin f14f685ea9 fix(snapshot): PG 进度改字节百分比 + Redis 备份防崩溃 + 启动清理遗留任务 
- postgres-backup: 用 pg_database_size 做分母，统计 stdout 字节数算进度（与 pv 方案一致）
- redis-backup: BGSAVE 后先 copyFileSync 到临时目录再打包，防止 tar-stream Size mismatch 崩溃
- orchestrator: onModuleInit 清理遗留 RUNNING 任务，标记 FAILED 并删除临时文件
- docker-compose: 临时文件改挂宿主机 /tmp 目录，方便手动清理

Co-Authored-By: Claude Opus 4.6 <noreply@anthropic.com>
 2026-02-24 01:30:52 -08:00
hailin ee94f1420d fix(snapshot): 前端 API 改走 Next.js rewrites 代理 + WebSocket 改 REST 轮询 
- snapshot.api.ts: 从直连 localhost:port 改为 /api/snapshots/* 走 Next.js 代理
- next.config: 两个前端都添加 /api/snapshots/:path* → snapshot-service 代理规则
- docker-compose.2.0-snapshot.yml: overlay 中追加 mining-admin-web 的 SNAPSHOT_SERVICE_URL
- useSnapshotWebSocket → useSnapshotPolling: 2秒轮询 GET /snapshots/:id 获取进度
- 移除 socket.io-client 依赖（Next.js standalone 不支持 WebSocket proxy）

Co-Authored-By: Claude Opus 4.6 <noreply@anthropic.com>
 2026-02-24 00:37:41 -08:00
hailin cf07eb03be feat(snapshot): 数据快照备份服务全量实现（纯新增，零侵入） 
一套代码两处部署的在线备份编排服务，为 1.0 认种分配系统和 2.0 算力挖矿系统
分别提供 PostgreSQL / Redis / Kafka / ZooKeeper / MinIO / Uploads 的在线备份能力。
管理员在 admin-web / mining-admin-web 中选择备份目标和存储方式，点击备份后系统
串行执行各组件备份，通过 Socket.IO WebSocket 实时推送进度到前端。

## 后端 snapshot-service（NestJS 10 + Prisma 5 + SQLite）

架构: DDD 四层（api / application / domain / infrastructure）

- api 层:
  · SnapshotController — REST API（创建/查询/删除/下载）含 Range/206 断点续传
  · SnapshotGateway — Socket.IO WebSocket 实时推送 5 类事件
  · HealthController — 健康检查
  · CreateSnapshotDto — class-validator 验证
  · toSnapshotResponse — BigInt→string 序列化

- application 层:
  · SnapshotOrchestratorService — 核心编排引擎
    - startSnapshot() 异步启动，不阻塞 HTTP
    - 按 PG→Redis→Kafka→ZK→MinIO→Uploads 顺序串行执行
    - 单目标失败不中断整体任务
    - MinIO 模式: 备份完上传到 MinIO 后删除本地临时文件
    - LOCAL 模式: 保留在服务器临时目录供下载
    - @Cron(EVERY_HOUR) 自动清理过期本地备份（默认 72h）
    - runningTaskId 防止并发执行

- domain 层:
  · BackupTarget 枚举（6 种目标）+ BACKUP_TARGET_ORDER 执行顺序
  · SnapshotStatus 枚举（PENDING/RUNNING/COMPLETED/FAILED）
  · StorageType 枚举（MINIO/LOCAL）
  · BackupHandler 接口 + BACKUP_HANDLER_TOKEN

- infrastructure 层:
  · 6 个备份 Handler（均实现 BackupHandler 接口）:
    - PostgresBackupHandler: pg_basebackup 通过网络流式备份，解析 stderr 进度
    - RedisBackupHandler: BGSAVE + LASTSAVE 轮询 + 打包 dump.rdb/AOF
    - KafkaBackupHandler: archiver 打包数据卷，按字节计算进度
    - ZookeeperBackupHandler: archiver 打包 data/ + log/
    - MinioBackupHandler: SDK 列举并下载所有桶（排除备份桶）后打包
    - UploadsBackupHandler: archiver 打包上传文件目录
  · 2 个存储适配器:
    - MinioStorageAdapter: fPutObject 上传 / removeObjects 批量删除
    - LocalStorageAdapter: 本地临时目录管理 + 过期清理
  · PrismaService (SQLite) + SnapshotRepository (完整 CRUD)
  · BACKUP_HANDLER_TOKEN 工厂: 根据 AVAILABLE_TARGETS 环境变量过滤可用 handler

- Prisma Schema (SQLite):
  · SnapshotTask: 主表，targets 存 JSON 字符串，totalSize 用 BigInt
  · SnapshotDetail: 明细表，每个目标一行，@@index([taskId])
  · onDelete: Cascade 级联删除

- Dockerfile: 多阶段构建，生产镜像安装 postgresql-client + mc (MinIO CLI)
  SQLite 使用 prisma db push 而非 migrate deploy

- 部署端口: 1.0 系统 = 3099，2.0 系统 = 3199

## Docker Compose overlay（纯新增，不修改现有 docker-compose）

- docker-compose.snapshot.yml (1.0):
  · 挂载 redis_data/kafka_data/zookeeper_data/zookeeper_log/admin_uploads_data 只读卷
  · AVAILABLE_TARGETS=POSTGRES,REDIS,KAFKA,ZOOKEEPER,MINIO,UPLOADS
  · 依赖 postgres + redis 健康检查

- docker-compose.2.0-snapshot.yml (2.0 standalone):
  · 挂载 redis_2_data/mining-admin-uploads/trading-uploads 只读卷
  · AVAILABLE_TARGETS=POSTGRES,REDIS,UPLOADS
  · 依赖 postgres-2 + redis-2 健康检查

## 前端 admin-web（Next.js 15 + SCSS）

- 新增 /snapshots 页面: 创建备份表单 + 实时进度条 + 历史列表 + 下载/删除
- 新增 useSnapshotWebSocket hook: Socket.IO 连接 + 5 类事件监听
- 新增 snapshot.api.ts: 独立 fetch（不走通用 apiClient，snapshot 服务独立端口）
- 新增 snapshot.types.ts: 共享类型定义
- 新增 page.module.scss: 表单/进度条/表格样式
- 修改 Sidebar.tsx: 添加「数据快照」菜单项
- package.json: 添加 socket.io-client 依赖

## 前端 mining-admin-web（Next.js 14 + Tailwind CSS）

- 新增 /snapshots 页面: 同 admin-web 功能，Tailwind CSS 风格
- 新增 useSnapshotWebSocket hook
- 新增 snapshot.api.ts + snapshot.types.ts
- 修改 sidebar.tsx: 添加「数据快照」菜单项 + HardDrive 图标
- package.json: 添加 socket.io-client 依赖

Co-Authored-By: Claude Opus 4.6 <noreply@anthropic.com>
 2026-02-23 21:53:09 -08:00