GithubBackup/BiliNote
1
0
Fork 0
mirror of https://github.com/JefferyHcool/BiliNote.git synced 2026-06-12 19:20:00 +08:00
Code Issues Packages Projects Releases Wiki Activity
475 Commits 6 Branches 20 Tags
f5bfb43619d001a0f0fe03b3830068cb719db5e8
Commit Graph

28 Commits

Author SHA1 Message Date
huangjianwu
58d992f28f feat(transcriber): 可配置 whisper 模型 + 名称映射（自定义 HF repo / 本地路径） 
此前 fast-whisper 把「size → Systran/faster-whisper-{size}」的约定隐式散落在
加载/下载/检测三处，用户想用命名不符该约定的模型（社区微调版、或自己下到本地
的模型）接不上。本功能把映射显式化 + 可配置（对齐已有的 MLX_MODEL_MAP 模式）。

后端：
- 新增 app/transcriber/whisper_models.py 注册表：内置映射 + 用户自定义
  （config/whisper_models.json 持久化，Docker 下随 config 卷保留）；resolve
  优先级 自定义 > 内置 > 直通（含 / 的 repo_id / 已存在本地目录）。
- whisper.py / config.py 的加载、下载、完整性检测统一走 resolve；HF cache 目录从
  任意 repo_id 推导（models--{org}--{name}）不再写死 Systran；本地路径跳过下载，
  _purge_cache 绝不删用户本地模型。
- 新增 /whisper_models 增删查 API；/transcriber_config 返回内置+自定义列表；
  下载校验放开到「已登记/可解析」的模型。

前端：transcriber.tsx 新增「自定义模型」卡片（增删 + 下载状态），模型下拉自动含自定义。

Docker：自定义 HF 模型下到 /app/backend/models（v2.3.3 models 卷已持久化）；本地模型
走挂载目录 + 配置路径，UI 已提示挂载。

测试：tests/test_whisper_models.py 13 个单测全过；并在 v2.3.3 镜像真实后端环境做了
import 链 + resolve + 真实模型检测的集成冒烟，均通过。

Co-Authored-By: Claude Opus 4.7 (1M context) <noreply@anthropic.com>
 2026-05-22 15:09:06 +08:00
huangjianwu
261c95cf12 fix(transcriber): whisper 模型下载/加载统一走 HF cache 布局 
此前用 modelscope 下到自定义目录 whisper-{size}/ 再把该路径传给
WhisperModel。但 faster-whisper 1.1.1 只要 path 含 '/' 就当成 HF
repo_id 处理，没有「本地目录直接返回」分支 → 在线请求失败后 fallback
local_files_only，又因 modelscope 布局命不中 HF cache → LocalEntryNotFound，
误导用户以为是「离线模式」。

改为下载与加载路径对齐：
- 下载：huggingface_hub.snapshot_download(cache_dir=model_dir)，落到 HF
  cache 布局 models--Systran--faster-whisper-{size}/snapshots/<hash>/
- 加载：WhisperModel(model_size_or_path=size, download_root=model_dir)，
  让 faster-whisper 自己映射到 Systran/faster-whisper-* 并命中同一 cache
- 完整性检测 / 损坏自愈(_purge_cache) 同步按 HF cache 布局，并兼容老
  modelscope 目录（向后兼容已下载的老用户）

HF_ENDPOINT 已在 Dockerfile 指向 hf-mirror.com，国内可用。

Co-Authored-By: Claude Opus 4.7 (1M context) <noreply@anthropic.com>
 2026-05-22 11:27:03 +08:00
huangjianwu
41f17592c2 fix(backend): 部署韧性——模型自愈/就绪门禁/全局代理/启动诊断 
- whisper: model.bin 截断/损坏时删目录重下重试一次，修「Unable to
  open file model.bin」死循环；mlx 同样按 config.json 判完整性
- /generate_note 加就绪门禁：本地转写引擎模型没下好直接拦截，返回
  reason=transcriber_model_not_ready，不让任务静默卡在首次下载
- 全局代理：新增 ProxyConfigManager（JSON 配置 + HTTP_PROXY env 兜底）
  + build_openai_client，统一注入代理到 LLM/Groq 客户端；yt-dlp 与
  youtube-transcript-api 也走代理
- build_openai_client 校验 api_key 非空，空 key 给「xxx 的 API Key
  未配置」而不是天书般的 Illegal header value b'Bearer '
- universal_gpt: 模型拒绝自定义 temperature（o1/o3/gpt-5 系列）时
  就地去掉参数重试，不消耗重试预算
- connect_test 改用真实 chat completion 而非 /v1/models 探测
- main.py: lifespan 拆 [startup 1/5..5/5] 分段日志 + 异常清晰定位
- /sys_health 重构为结构化返回 {backend,ffmpeg,db,whisper_model}

Co-Authored-By: Claude Opus 4.7 (1M context) <noreply@anthropic.com>
 2026-05-14 19:01:14 +08:00
Jianwu Huang
c4abaf4e60 Revert "Fix/backend deploy resilience" 2026-05-09 14:25:37 +08:00
huangjianwu
2bb69d1581 fix(backend): 部署友好性——whisper 半成品目录与 deploy_status 硬依赖 torch 
两处部署反馈来的问题：

1. WhisperTranscriber 反复抛 'Unable to open file model.bin in
   model whisper-base'
   · 原因：__init__ 只看目录是否存在判定模型已下载（Path(model_path).exists()），
     但首次下载若中断 / 网络异常会留下空 / 半成品目录，下次启动绕过下载分支直接
     进 WhisperModel 加载，于是死循环报错
   · 修：判定条件换成 'model.bin' 落盘存在；目录在但 model.bin 缺失时打 warn
     并触发重新下载
   · routers/config.py 的 _check_whisper_model_exists 同步改用 model.bin 判定，
     避免「已下载」状态在监控页误报

2. /api/deploy_status 在没装 torch 的部署上 500
     ModuleNotFoundError: No module named 'torch'
   · 原因：endpoint 顶部直接 import torch，仅 fast-whisper 才用得到的依赖被强制为
     全局必需。轻量部署 / 用户切到 Groq / 必剪 / 快手 在线引擎时无 torch 也合理
   · 修：torch 改为 try/except，未装或 cuda 检测异常时返回
     {available: false, torch_installed: false}；同时把 transcriber 配置 +
     ffmpeg 都包在 try 里，保证整个监控 endpoint 不会被任一子项打死

Co-Authored-By: Claude Opus 4.7 (1M context) <noreply@anthropic.com>
 2026-05-09 13:57:34 +08:00
huangjianwu
be5e1637fa fix(mlx-whisper): 修正 huggingface 仓库 ID 命名 
mlx-community 上 Whisper 仓库的命名实际是 'whisper-{size}-mlx'（large-v3-turbo 例外，无 -mlx 后缀）。
之前 hardcode 拼成 'mlx-community/whisper-{size}' 在 HF 上不存在，下载会 404：

  Repository Not Found for url:
    https://huggingface.co/api/models/mlx-community/whisper-small/revision/main.

修复：
- 在 mlx_whisper_transcriber.py 加 MLX_MODEL_MAP（已用 huggingface API 核对过命名）+ resolve_mlx_repo_id() 帮助函数
- routers/config.py 的 _do_download_mlx_whisper 与 _check ... 路径生成都改用同一份映射表
- 给 transcriber_models_status 的每条 mlx 状态加 available 字段，避免后续若有不支持的 size 时静默失败

Co-Authored-By: Claude Opus 4.7 (1M context) <noreply@anthropic.com>
 2026-05-07 11:59:02 +08:00
huangjianwu
c105342ded fix: 性能优化、前端转写器配置、任务进度丢失及 MLX Whisper 回退问题修复 
### 性能优化
- 后端任务执行从串行锁改为 ThreadPoolExecutor 并发执行（默认3线程）
- 添加 GZipMiddleware 响应压缩 + Nginx gzip 配置
- 数据库连接池参数优化（pool_size=10, max_overflow=20）
- 视频帧提取并行化（ThreadPoolExecutor）
- LLM 重试配置缓存到实例，避免每次请求读 env var
- 前端路由级代码拆分（React.lazy + Suspense）
- Vite manualChunks 拆分 markdown/markmap/vendor
- MarkdownViewer 用 React.memo + useMemo 减少不必要渲染
- NoteHistory Fuse.js 实例 useMemo 缓存
- useTaskPolling 无待处理任务时跳过轮询
- 移除 antd 依赖（NoteForm Alert、modelForm Tag），改用 shadcn/ui

### 前端转写器配置（新功能）
- 新增 TranscriberConfigManager（JSON 文件存储，替代环境变量）
- 新增 GET/POST /transcriber_config API 端点
- 新增 GET /transcriber_models_status 模型下载状态查询
- 新增 POST /transcriber_download 后台模型下载触发
- 前端转写器设置页面：引擎选择、模型大小选择、模型下载管理
- deploy_status 端点同步从配置文件读取

### Bug 修复
- 修复任务进行中切换页面后进度丢失：Home.tsx status 派生逻辑补全中间状态
- 修复 MLX Whisper 静默回退 fast-whisper：移除环境变量门控，macOS 下自动尝试导入
- MLX Whisper 不可用时抛出 RuntimeError 而非静默回退
- 前端展示 MLX Whisper 可用性状态，不可用时禁用保存

Co-Authored-By: Claude Opus 4.6 <noreply@anthropic.com>
 2026-03-23 14:09:34 +08:00
Jianwu Huang
f667e9460b fix:修复 cpu 核心锁死问题 
fix cpu 核心锁死问题
 2025-07-03 10:28:33 +08:00
JefferyHcool
e40c97b3fd fix：修复windows 日志格式问题 2025-06-23 09:18:31 +08:00
JefferyHcool
f23ed6ec6c feat(system): 添加后端初始化和健康检查功能 
- 新增后端初始化对话框组件
- 实现后端健康检查和初始化逻辑
- 在 App 组件中集成后端初始化和健康检查
- 新增系统健康检查 API 和相关服务
 2025-06-20 13:05:42 +08:00
JefferyHcool
d92cc4a977 feat(NoteForm): 增加文件上传状态反馈 2025-06-19 14:54:51 +08:00
黄建武
6ff8b4d90f feat(backend): 添加 Groq供应商支持并优化笔记生成流程- 在 builtin_providers.json 中添加 Groq 供应商信息 
- 实现 GroqTranscriber 类以支持 Groq 语音转录服务
- 新增异常处理中间件以提高系统稳定性
- 优化笔记生成流程，增加错误处理和日志记录
- 添加思维导图功能和相关组件
-重构 Markdown 查看器以支持切换视图模式
 2025-05-12 14:59:06 +08:00
黄建武
51fb59e3e1 feat(transcriber): 使用 ModelScope 替代 Hugging Face 下载模型 
- 在 requirements.txt 中添加 modelscope 依赖
- 修改 whisper.py 中的模型下载逻辑，使用 ModelScope 的 snapshot_download 函数- 更新 MODEL_MAP 字典，映射不同大小的模型到对应的 ModelScope 仓库
- 调整模型路径，直接使用 ModelScope 下载的路径
 2025-05-08 14:42:43 +08:00
思诺特
30da57ddab refactor(backend): 重构后端配置并优化 GPT 模型及转录功能 
-移除 .env.example 中的后端专用 AI 配置
- 在 GPT 模型中添加新字段：style、extras 和 _format
- 修改转录器的 on_finish 方法调用
- 更新 GPT 提示模板，增加时间标记要求
 2025-04-27 09:05:37 +08:00
思诺特
171dea5e0d feat: 新增模型管理和供应商配置功能 
### v1.1.0
- #### Added
  - 新增 AI 笔记风格选择
  - 新增 AI 笔记返回格式选择
  - 添加 AI 自定义笔记备注 Prompt
  - 添加任务失败重试
  - 添加全局设置页，可在设置页进行模型设置

- #### Optimize
  - 优化前端样式，优化用户体验
  - 增加生成中间产物，可用于失败后加快生成速度
- #### Fix
  - 修复视频截图视频过早删除错误
 2025-04-26 23:40:17 +08:00
思诺特
1323cfd1ec Merge remote-tracking branch 'origin/master' into dev 2025-04-26 11:24:56 +08:00
思诺特
7cfade6f78 Merge remote-tracking branch 'origin/master' into dev 
# Conflicts:
#	backend/app/transcriber/transcriber_provider.py
 2025-04-26 11:19:34 +08:00
SurfRid3r
eff6e7fe75 fix(transcriber): 优化获取转录器实例的返回值，确保返回正确的 fast-whisper 实例 2025-04-26 00:10:04 +08:00
思诺特
84da8ba7c2 fix(transcriber): 修复转义器初始化异常的问题，fixes #36 2025-04-25 11:57:53 +08:00
Jefferyhcool
bb974b0b89 :feat 新增模型配置页面和相关功能 
- 新增模型配置页面组件和路由
- 实现模型配置表单和相关逻辑- 添加全局配置入口和功能- 优化首页布局和样式- 新增 404 页面组件
- 更新部分组件样式和结构
 2025-04-22 17:01:02 +08:00
SurfRid3r
a567788448 feat(transcriber): 更新转录器支持和模型下载逻辑 
- 修改 NoteGenerator 类以支持动态选择转录器类型。
- 更新 MLXWhisperTranscriber 类，添加模型下载逻辑，确保模型存在时自动下载。
- 在 transcriber_provider.py 中优化 MLX Whisper 的环境变量处理，确保在不可用时回退到 fast-whisper。
 2025-04-20 22:50:07 +08:00
SurfRid3r
369de19572 feat(transcriber): 添加 MLX Whisper 转录器支持 
- 新增 MLXWhisperTranscriber 类，支持在 Apple 平台上进行转录。
- 更新 transcriber_provider.py，动态导入 MLX Whisper 转录器并添加相应的环境变量检查。
- 修改 .env.example 文件，更新 TRANSCRIBER_TYPE 配置说明以包含 mlx-whisper 选项。
 2025-04-20 00:37:48 +08:00
SurfRid3r
0b7f6ca4ee feat:将transcriber作为环境变量配置 2025-04-19 23:13:49 +08:00
chenchengpeng
2466c7e1e9 feat(transcriber): 添加 Bcut 和 Kuaishou 转录器实现，优化转录服务提供器 2025-04-16 14:28:26 +08:00
思诺特
4f199144ba feat(transcriber): 更新 whisper模型加载方式 
- 添加模型下载功能，如果本地不存在则自动下载
- 优化模型路径处理，使用更灵活的目录结构- 增加日志记录，提高程序可读性
- 更新 requirements.txt，添加新依赖项
 2025-04-15 10:26:34 +08:00
Jefferyhcool
1ebf236f4f feat(app): 添加日志记录功能 
- 新增 logger 模块，用于全局日志记录
- 在关键位置添加日志输出，包括事件处理、文件清理、FFmpeg 检查等
- 优化数据库操作，增加日志记录
- 在主程序启动时添加日志输出
 2025-04-14 19:50:44 +08:00
Jefferyhcool
43b88c85fa feat(events): 实现转写完成后的文件清理功能 
- 新增 events 模块，包括 handlers 和 signals 子模块
- 在 handlers 中实现 cleanup_temp_files 函数，用于清理转写临时文件
- 在 signals 中定义 transcription_finished 信号
- 修改 main.py，添加 startup_event 函数以注册事件处理器- 更新 WhisperTranscriber 类，增加 on_finish 方法并发送转写完成信号
- 在 base.py 中添加 TranscriberBase 类的 on_finish 方法占位符
 2025-04-13 23:29:33 +08:00
Jefferyhcool
0e0b8da317 first commit 2025-04-13 17:44:54 +08:00