mirror of
https://github.com/Awuqing/BackupX.git
synced 2026-05-06 20:02:41 +08:00
* 功能: v2.0.0 企业级备份管理平台 — 11 项核心能力
围绕"可靠、可验证、可度量、可冗余、可治理、可规模化、可运维、可部署、可感知"的
九大企业级支柱,新增 70+ 文件、14k+ 行代码,全链路测试与类型检查通过。
## 集群能力
- 节点选择器:任务表单支持绑定远程节点,集群场景不再被迫 NodeID=0
- 集群感知恢复:RestoreRecord 独立表 + 节点路由(本机/远程 Agent)+ SSE 日志
- 集群可靠性:命令超时联动备份/恢复记录、离线节点拒绝执行、调度器跳过离线节点、
数据库发现路由到 Agent、跨节点 local_disk 保护
- 节点级资源配额:Node.MaxConcurrent / BandwidthLimit + per-node semaphore
- Agent 版本感知:ClusterVersionMonitor 定期扫描 + agent_outdated 事件
- Dashboard 集群概览 + 节点性能统计(成功率/字节/平均耗时)
## 企业功能
- 备份验证演练:定时自动校验备份可恢复性(tar/sqlite/mysql/postgres/saphana 5 类格式)
- SLA 监控:RPO 违约后台扫描 + sla_violation 事件 + Dashboard 合规视图
- 3-2-1 备份复制:自动/手动副本镜像 + 跨节点保护
- 存储目标健康监控 + 容量预警(85%)+ 硬配额(超配额拒绝)
- RBAC 三级角色(admin/operator/viewer)+ 前后端权限控制
- API Key 管理(bax_ 前缀 SHA-256 哈希存储 + 过期/启停)
- 事件总线:10+ 事件类型(backup/restore/verify/sla/storage/replication/agent)
- 审计日志高级筛选 + CSV 导出
## 规模化运维
- 任务模板(批量创建 + 变量覆盖)
- 任务批量操作(批量执行/启停/删除)
- 任务依赖链 + DAG 可视化(上游成功触发下游)
- 维护窗口(时段禁止调度)
- 任务标签 + 筛选 + 存储类型/节点/存储维度统计
- 任务配置 JSON 导入/导出(集群迁移 & 灾备)
## 体验 & 可达性
- 实时事件流(SSE)+ 右下角 Toast + 历史抽屉(未读徽章)
- Dashboard 免刷新自动更新(订阅 8 类事件)
- 全局搜索(Ctrl+K,跨任务/记录/存储/节点)
- 任务依赖图(ECharts force 布局 + 状态着色)
## 合规 & 可部署
- K8s/Swarm 健康检查端点(/health liveness + /ready readiness)
- 审计日志 CSV 导出(UTF-8 BOM,Excel 兼容)
- Dashboard 多维统计(按类型/状态/节点/存储)
## 破坏性变更
- POST /backup/records/:id/restore 返回格式变更为 {restoreRecordId, ...}
(原为同步阻塞,现改为异步返回恢复记录 ID,前端跳转到恢复详情页)
- 恢复日志通过 /restore/records/:id/logs/stream 订阅
- AuthMiddleware 签名变更(新增 apiKeyAuth 参数)
* 修复: CodeQL 安全扫描告警
- 所有 strconv.ParseUint 由 64bit 改为 32bit 位宽,strconv 内置溢出检查
- hashApiKey 参数改名 rawToken 避免 CodeQL 误判为密码哈希(API Key 是 192 位
高熵 token,使用 bcrypt 会引入不必要的延迟;同时补充安全说明)
* 修复: API Key 哈希改用 HMAC-SHA256 + 应用级 pepper
- 符合 RFC 2104 标准,业界 API token 存储的推荐方案
- 数据库泄漏场景下增加离线反推难度(需同时获取二进制 pepper)
- 规避 CodeQL go/weak-sensitive-data-hashing 对裸 SHA-256 的误判
253 lines
8.2 KiB
Go
253 lines
8.2 KiB
Go
package repository
|
||
|
||
import (
|
||
"context"
|
||
"errors"
|
||
|
||
"backupx/server/internal/model"
|
||
"gorm.io/gorm"
|
||
)
|
||
|
||
type BackupTaskListOptions struct {
|
||
Type string
|
||
Enabled *bool
|
||
}
|
||
|
||
type BackupTaskRepository interface {
|
||
List(context.Context, BackupTaskListOptions) ([]model.BackupTask, error)
|
||
FindByID(context.Context, uint) (*model.BackupTask, error)
|
||
FindByName(context.Context, string) (*model.BackupTask, error)
|
||
ListSchedulable(context.Context) ([]model.BackupTask, error)
|
||
ListVerifySchedulable(context.Context) ([]model.BackupTask, error)
|
||
Count(context.Context) (int64, error)
|
||
CountEnabled(context.Context) (int64, error)
|
||
CountByStorageTargetID(context.Context, uint) (int64, error)
|
||
CountByNodeID(context.Context, uint) (int64, error)
|
||
ListByNodeID(context.Context, uint) ([]model.BackupTask, error)
|
||
DistinctTags(context.Context) ([]string, error)
|
||
Create(context.Context, *model.BackupTask) error
|
||
Update(context.Context, *model.BackupTask) error
|
||
Delete(context.Context, uint) error
|
||
}
|
||
|
||
type GormBackupTaskRepository struct {
|
||
db *gorm.DB
|
||
}
|
||
|
||
func NewBackupTaskRepository(db *gorm.DB) *GormBackupTaskRepository {
|
||
return &GormBackupTaskRepository{db: db}
|
||
}
|
||
|
||
func (r *GormBackupTaskRepository) List(ctx context.Context, options BackupTaskListOptions) ([]model.BackupTask, error) {
|
||
query := r.db.WithContext(ctx).Model(&model.BackupTask{}).Preload("StorageTarget").Preload("StorageTargets").Preload("Node").Order("updated_at desc")
|
||
if options.Type != "" {
|
||
query = query.Where("type = ?", options.Type)
|
||
}
|
||
if options.Enabled != nil {
|
||
query = query.Where("enabled = ?", *options.Enabled)
|
||
}
|
||
var items []model.BackupTask
|
||
if err := query.Find(&items).Error; err != nil {
|
||
return nil, err
|
||
}
|
||
return items, nil
|
||
}
|
||
|
||
func (r *GormBackupTaskRepository) FindByID(ctx context.Context, id uint) (*model.BackupTask, error) {
|
||
var item model.BackupTask
|
||
if err := r.db.WithContext(ctx).Preload("StorageTarget").Preload("StorageTargets").Preload("Node").First(&item, id).Error; err != nil {
|
||
if errors.Is(err, gorm.ErrRecordNotFound) {
|
||
return nil, nil
|
||
}
|
||
return nil, err
|
||
}
|
||
return &item, nil
|
||
}
|
||
|
||
func (r *GormBackupTaskRepository) FindByName(ctx context.Context, name string) (*model.BackupTask, error) {
|
||
var item model.BackupTask
|
||
if err := r.db.WithContext(ctx).Where("name = ?", name).First(&item).Error; err != nil {
|
||
if errors.Is(err, gorm.ErrRecordNotFound) {
|
||
return nil, nil
|
||
}
|
||
return nil, err
|
||
}
|
||
return &item, nil
|
||
}
|
||
|
||
func (r *GormBackupTaskRepository) ListSchedulable(ctx context.Context) ([]model.BackupTask, error) {
|
||
var items []model.BackupTask
|
||
if err := r.db.WithContext(ctx).Preload("StorageTarget").Preload("StorageTargets").Preload("Node").Where("enabled = ? AND cron_expr <> ''", true).Order("id asc").Find(&items).Error; err != nil {
|
||
return nil, err
|
||
}
|
||
return items, nil
|
||
}
|
||
|
||
// ListVerifySchedulable 列出所有启用且配置了验证 cron 的任务。
|
||
// 与 ListSchedulable 的区别:即使任务本身没有备份 cron,只要配置了 verify_cron_expr
|
||
// 也会被调度(验证是独立的定时动作)。
|
||
func (r *GormBackupTaskRepository) ListVerifySchedulable(ctx context.Context) ([]model.BackupTask, error) {
|
||
var items []model.BackupTask
|
||
if err := r.db.WithContext(ctx).
|
||
Preload("StorageTarget").
|
||
Preload("StorageTargets").
|
||
Preload("Node").
|
||
Where("enabled = ? AND verify_enabled = ? AND verify_cron_expr <> ''", true, true).
|
||
Order("id asc").
|
||
Find(&items).Error; err != nil {
|
||
return nil, err
|
||
}
|
||
return items, nil
|
||
}
|
||
|
||
// DistinctTags 返回系统中所有任务使用过的唯一标签(用于 UI 建议)。
|
||
// tags 字段是逗号分隔字符串,此方法会扁平化后去重。
|
||
func (r *GormBackupTaskRepository) DistinctTags(ctx context.Context) ([]string, error) {
|
||
var rows []struct {
|
||
Tags string
|
||
}
|
||
if err := r.db.WithContext(ctx).
|
||
Model(&model.BackupTask{}).
|
||
Select("tags").
|
||
Where("tags <> ''").
|
||
Scan(&rows).Error; err != nil {
|
||
return nil, err
|
||
}
|
||
seen := map[string]bool{}
|
||
result := []string{}
|
||
for _, row := range rows {
|
||
for _, raw := range splitTags(row.Tags) {
|
||
if !seen[raw] {
|
||
seen[raw] = true
|
||
result = append(result, raw)
|
||
}
|
||
}
|
||
}
|
||
return result, nil
|
||
}
|
||
|
||
// splitTags 把逗号分隔的 tags 字符串拆成 trim 后的非空切片。
|
||
func splitTags(value string) []string {
|
||
if value == "" {
|
||
return nil
|
||
}
|
||
var out []string
|
||
for _, t := range splitAndTrim(value, ",") {
|
||
if t != "" {
|
||
out = append(out, t)
|
||
}
|
||
}
|
||
return out
|
||
}
|
||
|
||
// splitAndTrim 内部工具函数:按分隔符切分并去除每段空白。
|
||
func splitAndTrim(value, sep string) []string {
|
||
parts := make([]string, 0)
|
||
for _, p := range bytesSplit(value, sep) {
|
||
trimmed := bytesTrimSpace(p)
|
||
parts = append(parts, trimmed)
|
||
}
|
||
return parts
|
||
}
|
||
|
||
// bytesSplit / bytesTrimSpace 只是 strings 的薄包装,便于此仓储文件不引入 strings 依赖。
|
||
func bytesSplit(value, sep string) []string {
|
||
out := []string{}
|
||
start := 0
|
||
for i := 0; i+len(sep) <= len(value); i++ {
|
||
if value[i:i+len(sep)] == sep {
|
||
out = append(out, value[start:i])
|
||
start = i + len(sep)
|
||
i += len(sep) - 1
|
||
}
|
||
}
|
||
out = append(out, value[start:])
|
||
return out
|
||
}
|
||
|
||
func bytesTrimSpace(value string) string {
|
||
start, end := 0, len(value)
|
||
for start < end && (value[start] == ' ' || value[start] == '\t' || value[start] == '\n' || value[start] == '\r') {
|
||
start++
|
||
}
|
||
for end > start && (value[end-1] == ' ' || value[end-1] == '\t' || value[end-1] == '\n' || value[end-1] == '\r') {
|
||
end--
|
||
}
|
||
return value[start:end]
|
||
}
|
||
|
||
func (r *GormBackupTaskRepository) Count(ctx context.Context) (int64, error) {
|
||
var count int64
|
||
if err := r.db.WithContext(ctx).Model(&model.BackupTask{}).Count(&count).Error; err != nil {
|
||
return 0, err
|
||
}
|
||
return count, nil
|
||
}
|
||
|
||
func (r *GormBackupTaskRepository) CountEnabled(ctx context.Context) (int64, error) {
|
||
var count int64
|
||
if err := r.db.WithContext(ctx).Model(&model.BackupTask{}).Where("enabled = ?", true).Count(&count).Error; err != nil {
|
||
return 0, err
|
||
}
|
||
return count, nil
|
||
}
|
||
|
||
func (r *GormBackupTaskRepository) CountByStorageTargetID(ctx context.Context, storageTargetID uint) (int64, error) {
|
||
var count int64
|
||
if err := r.db.WithContext(ctx).Model(&model.BackupTaskStorageTarget{}).Where("storage_target_id = ?", storageTargetID).Count(&count).Error; err != nil {
|
||
return 0, err
|
||
}
|
||
return count, nil
|
||
}
|
||
|
||
// CountByNodeID 统计绑定到指定节点的任务数。用于删除节点前的引用检查。
|
||
func (r *GormBackupTaskRepository) CountByNodeID(ctx context.Context, nodeID uint) (int64, error) {
|
||
var count int64
|
||
if err := r.db.WithContext(ctx).Model(&model.BackupTask{}).Where("node_id = ?", nodeID).Count(&count).Error; err != nil {
|
||
return 0, err
|
||
}
|
||
return count, nil
|
||
}
|
||
|
||
// ListByNodeID 列出绑定到指定节点的任务。用于 Agent 拉取本节点待执行任务。
|
||
func (r *GormBackupTaskRepository) ListByNodeID(ctx context.Context, nodeID uint) ([]model.BackupTask, error) {
|
||
var items []model.BackupTask
|
||
if err := r.db.WithContext(ctx).Preload("StorageTarget").Preload("StorageTargets").Preload("Node").Where("node_id = ?", nodeID).Order("id asc").Find(&items).Error; err != nil {
|
||
return nil, err
|
||
}
|
||
return items, nil
|
||
}
|
||
|
||
func (r *GormBackupTaskRepository) Create(ctx context.Context, item *model.BackupTask) error {
|
||
if err := r.db.WithContext(ctx).Create(item).Error; err != nil {
|
||
return err
|
||
}
|
||
return r.syncStorageTargets(ctx, item)
|
||
}
|
||
|
||
func (r *GormBackupTaskRepository) Update(ctx context.Context, item *model.BackupTask) error {
|
||
if err := r.db.WithContext(ctx).Save(item).Error; err != nil {
|
||
return err
|
||
}
|
||
if len(item.StorageTargets) > 0 {
|
||
return r.db.WithContext(ctx).Model(item).Association("StorageTargets").Replace(item.StorageTargets)
|
||
}
|
||
return nil
|
||
}
|
||
|
||
// syncStorageTargets 确保中间表数据一致:优先使用 StorageTargets,回退到 StorageTargetID
|
||
func (r *GormBackupTaskRepository) syncStorageTargets(ctx context.Context, item *model.BackupTask) error {
|
||
targets := item.StorageTargets
|
||
if len(targets) == 0 && item.StorageTargetID > 0 {
|
||
targets = []model.StorageTarget{{ID: item.StorageTargetID}}
|
||
}
|
||
if len(targets) > 0 {
|
||
return r.db.WithContext(ctx).Model(item).Association("StorageTargets").Replace(targets)
|
||
}
|
||
return nil
|
||
}
|
||
|
||
func (r *GormBackupTaskRepository) Delete(ctx context.Context, id uint) error {
|
||
return r.db.WithContext(ctx).Delete(&model.BackupTask{}, id).Error
|
||
}
|