docs: replace staged refactor plans with architecture review

This commit is contained in:
jxxghp
2026-08-25 06:59:18 +08:00
parent be7dfd77a3
commit 2742960bfb
6 changed files with 135 additions and 4286 deletions
+4 -8
View File
@@ -685,11 +685,8 @@ flowchart LR
物理文件仍是稳定入口的,不应为了目录规整新增“自己映射自己”的别名,也不应在 canonical 包中
保留多余导出。
详细的迁移批次、风险、验证命令和插件兼容矩阵
[`docs/refactor/backend-architecture-governance.md`](refactor/backend-architecture-governance.md)
[`docs/refactor/backend-module-refactor-compatibility.md`](refactor/backend-module-refactor-compatibility.md)。
第一阶段分层收口后的进程拓扑、事务所有权、类型化运行时契约、后台可靠性和可观测性路线见
[`docs/refactor/backend-architecture-next-stage.md`](refactor/backend-architecture-next-stage.md)。
当前架构现状差距、优化点与建议实施顺序
[`docs/refactor/backend-architecture-review.md`](refactor/backend-architecture-review.md)
---
@@ -706,6 +703,5 @@ flowchart LR
| [`docs/subscribe-lifecycle.md`](subscribe-lifecycle.md) | 订阅生命周期详解 |
| [`docs/mcp-api.md`](mcp-api.md) | MCP 工具端点说明 |
| [`docs/v3t-runtime-governance.md`](v3t-runtime-governance.md) | V3/V3t 运行依赖、故障恢复、GIL 可观测性与兼容退场门禁 |
| [`docs/refactor/backend-architecture-governance.md`](refactor/backend-architecture-governance.md) | 分阶段架构治理、边界门禁与迁移验收 |
| [`docs/refactor/backend-module-refactor-compatibility.md`](refactor/backend-module-refactor-compatibility.md) | 模块迁移与插件兼容层实施矩阵 |
| [`docs/refactor/backend-architecture-next-stage.md`](refactor/backend-architecture-next-stage.md) | 对标优秀 Python 后端后的二阶段任务、验收与回滚方案 |
| [`docs/refactor/backend-architecture-review.md`](refactor/backend-architecture-review.md) | 2026-08 架构评审:现状差距、优化点与实施顺序 |
| [`docs/adr/0007-background-action-reliability.md`](adr/0007-background-action-reliability.md) | 后台动作 E0–E3 可靠性分级与完成语义决策 |
File diff suppressed because it is too large Load Diff
File diff suppressed because it is too large Load Diff
@@ -0,0 +1,131 @@
# 后端架构优化点评审(2026-08)
> 本文档是 2026-08-24 基于当前 `v3` 分支代码的全面架构评审结论,取代此前
> `docs/refactor/` 下的分阶段治理文档(`backend-architecture-governance.md`、
> `backend-module-refactor-compatibility.md`、`backend-architecture-next-stage.md`、
> `module-quality-scale.md`,历史内容见对应提交的 git 记录)。分层权威规范仍以
> [`docs/rules/05-architecture.md`](../rules/05-architecture.md) 为准,后台动作可靠性分级
> E0E3)的决策依据见 [`docs/adr/0007-background-action-reliability.md`](../adr/0007-background-action-reliability.md)。
> 本文档不重复既有约束,只记录现状差距与改进方向。
## 总体结论
v3 重构骨架健康:架构测试 `tests/test_architecture_dependencies.py` 全部通过,
chain 层零 `app.db` / `app.modules` 内部直连,domain 与 chain 层配置注入纪律近乎完全落实。
当前的主要优化空间不是"分层错误",而是三类问题:
1. **上帝类**——领域算法埋在编排链里;
2. **迁移过半的全局状态**——注入通道已建好,存量未迁完;
3. **收缩的质量门禁**——静态检查名义严格、实际覆盖面很小。
## 一、Chain 层上帝类:领域算法埋在编排类里(优先级最高)
| 文件 | 行数 | 问题 |
|---|---|---|
| `app/chain/subscribe.py` | 4155 | 约 15 个职责域:洗版优先级纯计算约 650 行(L201-847)、订阅创建状态机(L976-1406)、搜索编排(单方法 285 行 L1505-1790)、匹配编排(L2032-2421)、进度/完成事实管理(L2735-3106)、分享跟随、日历缓存、远程交互删除等 |
| `app/chain/download.py` | 2293 | `_execute_batch_download`L1533-2052)是"电影→整季→按集→拆包"四轮择优策略引擎,本质是领域算法却埋在链里;字幕下载子系统约 500 行;失败冷却指纹(L774-946 |
| `app/chain/transfer.py` | 3208 | 线程池基础设施 + 内存队列/落盘回放 + 整理编排三类职责同居一个单例;MRO 深达 10 个类;`_execute_transfer` 单方法约 820 行 |
| `app/chain/media.py` | 2060 | 音乐识别子域(约 900 行路径专辑推断)与影视识别门面强行同居一个类 |
**建议**:按项目已有的 topic-package 先例(参照 `application/subscription/` 的拆分方式),
把纯策略计算下沉到 `domain``application`
* 洗版优先级/缺集计算 → 如 `application/subscription/priority.py` 或 domain
* 批量择优下载策略 → 如 `application/download/strategy.py`
* 音乐识别 → 并入既有 `application/music/` 目录;
* 链本身只保留编排职责。
## 二、sync/async 手工双写造成系统性重复
* `chain/media.py` 有 **11 对**同步/异步孪生方法;
`_recognize_with_fallback_by_meta`L647-723)与其异步版(L1596-1669)结构逐行对应。
* `chain/search.py``process / async_process / async_process_stream` 三份实现
L1665/1758/1848),站点并发搜索三份(L2301/2486/2602),字幕搜索再两份。
* 过滤规则组解析同一表达式出现 **5 处**`_media_recognize_kwargs` 三胞胎逐行相同;
"未识别到媒体信息"告警模式全目录 **18 处**
* 死代码残留:`transfer.py` L2146-2173 变量初始化两次;`search.py` L2366-2378
if/else 两分支提交完全相同的调用。
**建议**:统一封装"同步包装异步"的基础设施(复用 `app/runtime/execution.py` 的跨线程提交边界),
新代码只写 async 版本;重复告警/解析模式收敛到共享 mixin 或 application 服务。
## 三、Mixin 组合缺契约 + 两处 dispatch 绕过
* mixin 大量使用 `self.messageoper` / `self.run_module` 等,但无 Protocol/ABC 声明依赖,
靠 docstring 书面承认(`_music.py:42-46`);每个链无差别继承全部基础能力,
TransferChain MRO 达 10 个类。
* `_music.py:9-11``_transfer.py:22-24` mixin 反向 import 具体链,形成耦合网。
* 正面样板是 `_interaction.py``InteractionChainMixin`(显式 `_interaction_handler_type`
注入点 + 抽象方法),值得推广为所有 mixin 的标准姿势。
* 违反"chains reach modules only through run_module dispatch"约束的两处实锤:
* `media.py:626-638` 硬编码 `get_running_module("TheMovieDbModule")` 直调其方法;
* `scraping.py:584-598` 自行聚合 `metadata_img` 多模块结果
dispatcher 已有 aggregation contract 可表达)。
## 四、全局状态:"通道已建、存量过半"
| 全局点 | 现状 | 建议 |
|---|---|---|
| `eventmanager` 单例 | 36 个文件直连 import;其中 chain 层 8 个文件绕过已注入的 `context.event_manager`search/download/media/subscribe/transfer/site/scraping/workflow | chain 层直连改为使用注入上下文,改动机械、风险低 |
| `global_vars` 容器 | 47 个文件 147 处引用,workflow + chain 占近半,被当"停止信号总线"广泛直读 | 停止信号演进为 `runtime/state.py` 的显式契约 |
| `RuntimeSettingsCompat` | 119 个文件 importmodules 占 60),形式上是端口、用法上仍是每模块全局对象 | modules 层逐步改为注入快照 |
| Singleton 元类 | 41 处 class 使用,与 getter 门面双轨并存 | 维持双轨兼容,新增能力一律走 getter 门面 |
## 五、启动生命周期欠账(违反自家规则)
规则明确"新增进程级资源不得只在 lifespan() 中追加过程代码",但 `startup/lifecycle/__init__.py`
仍有 4 处过程式资源管理:
1. 主事件循环注册/清理(global_vars set_loop/clear_loop)未进组件清单;
2. 插件同步与启动收尾任务(init_extra)游离在清单之外,不参与依赖排序和清理集合推导;
3. 停止标志设置;
4. 日志关闭靠注释约定顺序。
另有两个组合根脆弱点:
* `initializers/command.py``initializers/scheduler.py``initializers/agent.py`
在 **import 时即注册**全局服务,构成隐式时序契约,任何提前 import 都会改变注册顺序;
* `initializers/modules.py`908 行、约 68 处 configure 调用)事实上成为第二过程式组合根,
`composition/` 的纯函数式装配存在职责重叠。
## 六、质量门禁名义严格、实际收缩(投入产出比最高)
| 工具 | 现状 | 建议 |
|---|---|---|
| mypy | `strict=True``files=` 白名单仅 41 个文件;全量扫描约 10072 个错误被白名单挡在门外;`follow_imports = skip` 架空跨模块检查 | 引入棘轮机制:新增文件必须达标,白名单只减不增 |
| ruff | 完全不在工具链中 | 引入并启用 import 排序等检查,与架构测试互补 |
| pylint | `disable=all` 后仅 enable 12 项高确定性检查 | 维持现状可接受,不指望它兜底 |
| 覆盖率 | 无 `fail_under` 门禁,coverage job 仅手动触发 | 至少给 `app/application``app/domain` 设阈值 |
## 七、测试隔离的风险点
四道防线(CONFIG_DIR 隔离、网络守卫双重断言、水位回收、会话收尾)设计精细,但有三个隐患:
* 单一 SQLite 库按主键水位回收,正确性依赖每个用例自觉登记模型表,漏登记即污染后续用例,
且清理失败被静默吞掉;
* 约 290 行巨型 autouse fixture 装配几十个进程级服务槽位,teardown 只复位
`reset_plugin_system()` 一个,其余槽位跨用例残留(164 处手动 `reset_*` 说明恢复靠约定而非机制);
* 54 个 `unittest.TestCase` 残留文件(占测试文件的 9.9%),按 AGENTS.md 策略在触碰时机会性转换。
## 八、其他次要点
* **非单例链反复实例化**`MediaChain()` 全仓构造 54 处,`DownloadChain().batch_download()`
在订阅循环内反复构造重跑 init;建议统一走 getter 门面。
* `app/scheduler.py`(2096 行):入边已收敛到组合根,但调度器 + GC + 壁纸 + 媒体库同步等
job 实现混在一个文件,建议按 job 域拆分。
* `app/agent/orchestrator.py`3655 行):`MoviePilotAgent``AgentManager` 同居,
含会话快照、任务队列、脱敏确认等多个内部类,可按 `agent/` 已有子包惯例拆分。
## 建议实施顺序
1. **补质量门禁棘轮**(mypy/ruff/覆盖率)——先止血,防止新增债务;
2. **完成 chain 层 eventmanager/global_vars 存量迁移**——机械性工作,风险低;
3. **按 domain 下沉方式拆 subscribe/download 的领域算法**——收益最大;
4. **修两处 dispatch 绕过与 lifespan 清单欠账**——对齐自家规则。
## 附:评审方法
基于 2026-08-24 对 `v3` 分支的证据收集:架构测试运行结果、全仓静态扫描
(mypy 全量 vs 白名单对比)、大文件方法级职责盘点(wc/rg/class 清单)、
全局符号引用统计(eventmanager/global_vars/settings import 分布)、
lifecycle 组件清单与 lifespan 过程式代码比对、tests/conftest 隔离机制审查。
@@ -1,529 +0,0 @@
# 后端模块重构与旧导入路径兼容层设计
> 状态:已实施。初始依赖基线取自 `v3` 分支提交 `895635c27792` 的 AST 静态扫描;2026-08-14 已完成物理迁移、拆环、兼容层、插件 SDK、资源链路和静态门禁。
## 1. 背景与目标
MoviePilot 后端计划重新划分 `core``helper``utils` 等目录的职责,消除反向依赖和循环导入,同时不能要求数量众多、版本不一的插件同步修改既有导入语句。
本方案同时解决两个问题:
1. **主程序内部结构治理**:主程序代码只使用新的规范路径,并通过静态依赖门禁维持单向依赖。
2. **插件导入兼容**:插件仍可通过旧路径导入相同对象,旧路径不需要保留同名 Python 文件。
兼容层是插件 ABI 的适配边界,不是主程序内部绕过分层规则的工具。导入成功不代表依赖方向合理;主程序一旦迁移到新路径,禁止再新增或保留旧路径引用。
### 1.1 设计目标
- 旧插件不修改源码即可继续加载。
- 旧业务模块和新路径导入得到同一个模块对象、类对象、单例和模块级状态;仅用于路由的合成父包除外。
- 物理源码只保留在新位置,不在旧目录生成大量转发文件。
- 映射按需加载,不因安装兼容层而预导入全部目标模块。
- Debug 模式下明确提示插件仍在使用的旧路径,生产环境不产生兼容警告噪声。
- 兼容行为可观测、可测试、可分批上线、可快速停用或回滚。
- 不改变插件热重载、动态导入、事件注册和打包发布的既有语义。
### 1.2 非目标
- 不用导入钩子掩盖新的循环依赖。
- 第一阶段不同时进行模块搬迁和插件公开符号改名。
- 不支持模糊匹配、正则猜测或任意旧路径重写。
- 不代理第三方包、`app.plugins.*` 或插件自己的相对导入。
- 不承诺所有 `app.*` 内部对象永久都是插件公共 API;长期公共接口应逐步收敛到 `app.sdk`
## 2. 当前问题基线
对当前源码的静态导入图检查显示,`core``helper``utils` 并不是单向分层:
| 依赖方向 | 静态导入边数量 |
| --- | ---: |
| `core -> helper` | 9 |
| `helper -> core` | 46 |
| `utils -> core` | 5 |
当前还存在一个至少包含以下模块的强连通分量:
```text
app.core.cache
app.core.event
app.core.module
app.core.plugin
app.helper.message
app.helper.plugin
app.helper.redis
app.helper.server
app.utils.mixins
```
因此不能简单地把文件移动到新目录后依赖兼容钩子维持运行。正确顺序是先定义职责和依赖方向,拆开运行时环,再移动模块并为插件保留旧导入 ABI。
插件仓库也有大量直接导入旧目录的代码。高频入口包括 `app.core.config``app.core.event``app.utils.http``app.utils.string``app.core.context``app.core.metainfo`。兼容必须在插件首次加载之前全局可用,不能依赖逐个插件适配。
## 3. 目标架构
目录名称应表达职责,而不是继续维护三个边界含混的公共杂物目录。建议的目标依赖方向如下:
```text
Entrypoints / Plugins --> Application / Chain --> Domain + Ports --> Foundation
| ^ ^
v | |
Runtime Composition ------------+----> Infrastructure / Adapters / Persistence
```
其中 startup 是组合根,负责把跨层 callback、resolver、配置读取器和 adapter 注入低层。
本次迁移以“canonical 模块不进入任何导入 SCC”为硬约束。识别领域不直接调用
基础设施或读取数据库/settings;可选 Rust 加速器、文件后缀、媒体来源和持久化规则
均由启动层显式注入。
实施后的 canonical 边界如下:
| 目标包 | 职责 | 允许依赖 |
| --- | --- | --- |
| `app.foundation` | 不读取 MoviePilot 业务或运行配置、也不执行 I/O 的反射/动态加载、DOM、通用结构、加密、URL、版本和文本基础能力 | 标准库、第三方库、同层代码 |
| `app.domain` | 媒体、识别、媒体服务器身份、站点和种子业务语义 | `foundation` 和 schemas;不得依赖 DB、settings、基础设施、扩展、消息、安全或应用服务 |
| `app.chain``app.application` | 用例编排、跨模块业务流程和聚焦应用服务 | 领域、平台能力和适配器;不得形成模块级依赖环 |
| `app.adapters` | 按 cache/network/system/external 分类的 Redis、HTTP、浏览器、DNS、资源、包、OS、Rust 和命名外部生态适配 | `foundation``domain`、schemas 和必要 runtime 契约;不得依赖 application、runtime extensions/compat 或 SDK |
| `app.runtime` | 配置、事件总线、缓存契约/内存策略、并发、GC 和进程级协调 | `foundation` 及少量明确的 OS 适配器 |
| `app.runtime.extensions` | 模块、插件和服务的运行时发现及生命周期 | 领域、平台及适配器;依赖由 startup 注入 |
| `app.agent.skills` | Agent Skill 元数据、市场和本地生命周期 | Agent、平台及适配器;不归入通用扩展层 |
| `app.adapters.external``app.application.messaging``app.application.security` | 插件市场、IP 归属等外部生态、消息和安全边界 | 领域、平台及基础设施能力 |
| `app.sdk` | 明确承诺给插件使用的稳定类型、事件和服务门面 | 只通过显式导出依赖受控 canonical 对象 |
| `app.runtime.compat` | 旧导入路径兼容机制和声明式映射 | 仅 Python 标准库;不能导入业务目标模块 |
源码已按这些边界迁移完成。后续新增模块以所有权和无环依赖为验收标准,不能重新创建 `core/helper/utils` 物理源码目录。
### 3.1 重点拆环原则
- 配置重载 mixin 不应在底层模块导入全局事件单例。可改为由 `runtime` 装配阶段注册监听,或只依赖一个事件订阅协议。
- 事件总线不应通过类名猜测 `core``chain``helper` 路径并动态实例化对象。处理器注册时应携带明确的实例解析器,或由插件/模块管理器在装配阶段注册。
- 模块和插件管理器可以依赖插件安装、服务报告等接口,但不能直接依赖包含完整业务流程的 helper 实现。实现应注入或在更高层编排。
- 缓存抽象与 Redis 实现分离:缓存协议/本地缓存位于低层,Redis 是 infrastructure adapter,运行时选择具体实现。
- 消息通知失败处理不能从底层事件总线直接反向调用消息业务实现,应发布结构化错误事件,由上层订阅者处理。
### 3.2 重点内容的实施归属
下表记录本次逐文件评审后的职责结论。一个旧文件同时承担多种职责时先拆分,再分别迁入所有者目录,不能为了减少改动把整份文件直接换目录。
| 现有内容 | 实施归属 | 边界说明 |
| --- | --- | --- |
| `core.context``core.meta*``core.metainfo` | `app.domain.context` / `app.domain.meta` / `app.domain.metainfo` | 已去除 DB、settings、平台日志实现和 Rust adapter 直接依赖,由 startup 注入 |
| `helper.nfo``helper.scraper` | `app.domain.scraper` | NFO 读取与媒体元数据文档生成属于同一领域能力;旧 `app.helper.nfo` 精确映射到合并后的模块 |
| `app.log` | `app.runtime.log` | 日志策略、控制台/插件路由、异步滚动文件写入和关闭集中在一个模块;插件入口为 `app.sdk.logging` |
| `core.config` | `runtime.config` | 纯 URL、网络和系统操作下沉到 foundation/adapters,避免 runtime 承担具体 I/O |
| `core.event` 中的 `Event` 契约 | `domain.events` 或稳定 SDK contract | 与事件队列、线程、处理器实例解析分离 |
| `core.event` 中的 EventManager | `runtime.events` | 移除按类名猜路径及直接实例化 PluginManager/ModuleManager/MessageHelper |
| `core.module``core.plugin` | `runtime.extensions` | 安装、发现、生命周期和业务上报通过接口/装配连接 |
| `core.cache` | `app.runtime.cache` + `app.adapters.cache.backends` | runtime 保留契约、内存策略和装饰器;cache adapters 实现 Redis/文件 I/OSDK 维持旧完整符号集 |
| `utils.string` 聚合类 | `foundation.text/size/temporal/url/dom/crypto/version` + `domain.title/episode/site/torrent` | 宿主按真实职责直接调用;完整 `StringUtils` 静态方法面只在 `app.sdk.string` 组合,旧 `app.utils.string``app.domain.string` 精确映射到该 SDK 模块 |
| `utils.url/identity/coalesce/structures` 等纯函数 | `foundation` 对应能力文件 | 确认不读取全局配置、不执行 I/O、不导入高层模块 |
| `utils.http` | `app.adapters.network.http` | 去除对 `settings` 的反向读取,由启动层注入宿主 User-Agent |
| `utils.web` | `app.adapters.external.location` | 外部 IP 归属服务是具体生态集成,不是通用网络基础设施 |
| `utils.gc` | `app.runtime.gc` | 进程内存观测和回收是运行平台策略,不是外部适配器 |
| `utils.rust_accel/system/stdio` | `app.adapters` | 具体扩展、系统调用和 stdio I/O 保留在适配器层 |
| `utils.mixins` | 按能力拆分,配置重载部分归 `runtime` | 消除 mixin 对全局事件单例的导入期注册 |
| `helper.redis/browser/doh/display/thread/package` 等 | `adapters/cache``adapters/network``adapters/system``runtime/thread.py` | 生命周期由 startup 装配,不在适配器内部反向获取管理器 |
| `helper.module` | `foundation.reflection` | 只保留通用 Python 反射、模块发现与动态加载,不承担模块生命周期 |
| `helper.downloader/mediaserver/service` | `app.application` + `app.application.service` / `app.sdk.services` | 媒体服务器身份/匹配规则与配置化服务发现统一归入 application;旧 `app.runtime.extensions.service_registry``app/runtime/compat/manifest.py` 精确映射到 `app.sdk.services`,不在新模块复制旧导出 |
| `helper.message/interaction` | `app.application.messaging` | 负责消息渲染、路由和交互,不承担配置化服务发现 |
| `helper.notification` | `app.application.notification` | 通知模块发现依赖持久化配置,属于应用服务 |
| `helper.webpush` | `app.api.endpoints.message` | Web Push 订阅和手动发送只服务消息 HTTP API,直接归入对应 endpoint |
| `helper.server` | `app.adapters.external.server` | MoviePilot 远端服务是命名外部生态集成 |
| `helper.torrent/audio/directory/format/nfo/rule/scraper` | `domain` 纯规则 + `application` 用例 + I/O adapter | 逐函数区分纯转换、业务流程和文件/网络访问 |
| `helper.rss` | `app.application.rss` | RSS 同时负责 Feed/种子语义、站点规则和浏览器回退,不把它简化为网络传输适配器 |
| `helper.sites` 与二进制资源 | `app.application.site.sites` + `app/application/site/` 资源目录 | 站点目录、认证和索引属于应用能力;完成 Build、Resources、Docker、本地安装及 CI 的跨仓同步迁移 |
`app.chain` 已经承担 application orchestration,可继续保留,不必仅为追求目录命名整齐而整体改名。`app.modules` 继续作为可插拔 adapter 集合,但模块间编排仍由 chain/application 完成。
## 4. 兼容层总体方案
### 4.1 为什么使用导入钩子
每个旧模块保留一个转发文件虽然简单,但会留下大量虚假目录和文件,容易被主程序继续误用,也需要维护重复的 `__all__`、模块元数据和符号转发。统一导入钩子更符合“源码只存在于新位置”的目标。
兼容层使用 Python 标准导入协议:
- 一个 `MetaPathFinder` 仅匹配声明过的旧路径;
- 一个 `Loader` 在真正命中旧路径时按需导入目标模块;
- 加载完成后让旧路径和新路径指向同一个模块对象;
- 映射表是代码仓内唯一事实来源,并经过启动前校验和测试。
### 4.2 建议目录
```text
app/
compat/
__init__.py
imports.py # Finder、Loader、安装和卸载入口
manifest.py # 不导入业务模块的静态映射数据
diagnostics.py # Debug 诊断与插件源码扫描
sdk/
__init__.py
events.py
media.py
services.py
```
`app.runtime.compat` 自身只使用标准库,尤其不能导入 `settings`、logger、事件总线、插件管理器或映射目标。`app/__init__.py` 只负责无业务依赖地安装钩子;配置初始化完成后、插件加载前,再由启动装配代码调用类似 `configure_diagnostics(enabled=settings.DEBUG, emit=logger.warning)` 的入口注入 Debug 状态和日志回调,避免兼容层再次进入当前依赖环。
### 4.3 声明式映射
映射必须精确到完整模块路径,并携带治理元数据:
```python
MODULE_ALIASES = {
"app.core.event": ModuleAlias(
target="app.runtime.events",
introduced="3.x.y",
owner="runtime",
),
"app.utils.http": ModuleAlias(
target="app.adapters.network.http",
introduced="3.x.y",
owner="infrastructure",
),
}
```
以上路径只展示映射格式,不代表已经确定这些模块的最终归属。正式映射必须在对应领域完成依赖拆分和所有权评审后加入。
约束如下:
- 旧路径和目标路径都必须是完整绝对模块名。
- 不允许 `app.core.* -> app.runtime.*` 这类通配规则自动覆盖未知模块。
- 旧路径不能仍有真实 `.py` 文件,避免标准查找器绕过兼容 Finder。
- 目标不能再指向另一个旧路径;启动校验应将别名链视为错误。
- 一个旧模块只能映射到一个目标模块。
- 多个旧模块只有在历史上本就代表同一公共模块时才能映射到同一目标。
- 物理搬迁阶段保持插件可见符号名称不变;符号改名另行显式登记,不能由 `__getattr__` 猜测。
建议同时维护机器可读的兼容清单,CI、文档生成和插件扫描均读取同一数据源,不再维护第二份路径列表。
### 4.4 模块身份必须唯一
兼容层的核心不只是“能导入”,而是保证实际承载业务对象的模块身份一致:
```python
import app.core.event as legacy
import app.runtime.events as canonical
assert legacy is canonical
assert legacy.Event is canonical.Event
```
如果分别执行同一份源码生成两个模块对象,会产生严重问题:
- `isinstance` 对同名类判断失败;
- 单例元类在两个模块命名空间各创建一个实例;
- 装饰器、事件监听器和模块级缓存重复注册;
- pickle、Pydantic 类型路径、日志和调试信息不一致。
Loader 因此不能在旧模块名下再次 `exec` 目标源码,而应导入 canonical 模块,并将旧键绑定到该对象。实现需要覆盖“先导入旧路径”和“先导入新路径”两种顺序,以及并发导入时的锁语义。
建议的加载算法是:
1. Finder 精确命中旧业务模块并返回 alias spec。
2. Loader 的 `create_module()` 在 Python 导入锁内导入 canonical 模块并返回该对象。
3. `exec_module()` 不重复执行目标源码,只校验 canonical 模块已经完整初始化。
4. 导入结束后 `sys.modules[legacy]``sys.modules[canonical]` 指向同一对象;canonical 的 `__name__``__spec__``__package__` 不被旧路径覆盖。
5. 兼容层独立记录 legacy 名称用于诊断,不把旧身份写回 canonical 模块。
实现阶段必须用目标 Python 版本验证上述元数据行为;如果自定义 Loader 无法在所有支持版本上保持 canonical spec,允许改用等价的受锁 `sys.modules` alias 实现,但仍禁止二次执行源码。
### 4.5 包和子模块处理
模块别名存在父包导入语义。例如导入 `app.core.meta.words` 时,Python 会依次处理父包。采用以下规则:
1. 优先逐个登记实际被插件使用的叶子模块。
2. 旧父包仍有物理 `__init__.py` 时沿用该父包;目录完全迁空后,由 Finder 创建 `__path__` 为空的合成兼容包,不保留散落的物理转发文件。
3. 合成父包只是路由容器,不承载业务状态,不要求与 canonical 父包是同一对象;实际叶子模块和公开符号仍必须保持 canonical 身份。
4. 旧包 `__init__.py` 曾公开导出的符号,要在 manifest 中登记精确的包级符号映射,由合成包惰性解析。
5. 不把 canonical 包的真实文件系统 `__path__` 暴露给旧包,否则标准 `PathFinder` 可能把未登记的新子模块以旧名称再次执行。
6. 兼容层不得根据目标包文件系统自动开放未登记的新内部模块给旧命名空间。
7. 测试必须覆盖 `from old.package import child``from old.package import PublicName``import old.package.child``find_spec()` 和相对导入。
兼容承诺覆盖 Python 模块协议下的普通 `import`、使用常量旧路径的 `importlib.import_module()`,以及 pickle 等通过模块名重新导入公开符号的场景。以下行为不由通用钩子模拟:
- 按旧模块 `__file__` 拼接数据文件路径;
-`pkgutil.iter_modules()` 或旧包 `__path__` 枚举已经迁走的内部文件;
- 通过绝对磁盘路径直接加载已经删除的旧 `.py` 文件;
- 依赖旧模块 repr、traceback 或对象 `__module__` 永久保持旧名称。
这类插件如确属有效公共用例,应迁到 `app.sdk` 的资源/发现 API,或增加经过评审的专用 adapter,不能扩大通用 Finder 的文件系统伪装范围。
### 4.6 安装时机
钩子应在 `app/__init__.py` 最早期安装,早于 `app.factory`、启动生命周期、模块初始化和 `PluginManager.start()`。安装过程必须满足:
- 幂等,多次调用只保留一个 Finder;
- 放在 `sys.meta_path` 中标准 `PathFinder` 之前,但只拦截白名单旧路径;
- 不预导入映射目标;
- 提供仅供测试使用的卸载和状态复原能力;
- 安装失败应在启动阶段明确失败,不能等某个插件加载后才随机暴露。
Finder 在诊断回调尚未配置时仍可暂存命中的旧路径和调用模块;`configure_diagnostics()` 完成后仅刷新能够确认来自插件/扩展的记录。这样不需要在 `app/__init__.py` 导入配置,又不会漏掉非常早期的插件式扩展导入。
不建议只在 `PluginManager` 中临时安装钩子。主程序启动、CLI、脚本、插件依赖扫描和测试都可能在插件管理器初始化前导入旧路径。
## 5. Debug 模式旧路径警告
### 5.1 运行时警告行为
`settings.DEBUG` 为真且兼容 Finder 命中旧路径时,记录一次 Debug 兼容警告:
```text
[兼容导入] 插件 AutoSignIn 使用旧路径 app.utils.http,已映射到 app.adapters.network.http;请迁移到 app.sdk.network
```
警告应包含:
- 旧模块路径;
- 当前实际目标路径;
- 推荐的插件稳定路径;
- 能识别时的插件 ID 或触发模块;
- 兼容规则引入版本。
日志级别建议用 `WARNING`,但仅在 `settings.DEBUG=true` 时启用。`DEV` 仍只控制热重载等开发行为,不作为本兼容警告的开关;本地启动脚本目前会同时打开两者,但实现和测试必须保持语义独立。
去重键使用 `(plugin_id, legacy_module)`;同一插件同一路径每个进程只提示一次。插件热重载清理 `app.plugins.<id>` 时不清除这份诊断去重集合,避免每次保存文件都重复刷屏。测试可以显式清空诊断状态。
### 5.2 为什么还要做插件源码扫描
运行时钩子本身不能完整识别所有旧引用:如果目标旧模块已经由另一个插件加载并存在于 `sys.modules`,后续插件导入可能直接命中缓存,不再调用 Finder。只靠运行时钩子会漏报。
因此在 DEBUG 模式下,`PluginManager` 导入插件前应对该插件的 Python 文件执行一次轻量 AST 扫描:
- 识别 `import app.core.xxx``from app.core.xxx import Name`,以及 `from app.core import xxx` 这类包级写法;
- 对照同一份兼容映射表生成警告;
- 报告插件 ID、文件相对路径和行号;
- 结果按文件修改时间或内容摘要缓存;
- 解析失败只警告,不阻止插件加载;
- 不执行插件源码,也不通过正则猜测 Python 语法。
动态字符串导入如 `importlib.import_module(variable)` 无法全部静态识别,仍由运行时 Finder 兜底。两种诊断共享去重/聚合器,避免产生重复日志。
### 5.3 不要使用 `DeprecationWarning` 作为唯一通道
Python 默认通常隐藏 `DeprecationWarning`,并且难以稳定带出插件 ID。兼容层可以额外调用标准 `warnings.warn()` 方便测试或 IDE 捕获,但 MoviePilot 的 DEBUG 日志警告才是插件开发者可依赖的诊断通道。
### 5.4 生产环境行为
- 兼容映射继续生效;
- 不扫描插件源码;
- 不输出旧路径警告;
- 可维护内部计数,但不得产生高基数日志或遥测;
- 兼容导入失败仍按普通 `ModuleNotFoundError`/`ImportError` 记录真实错误。
## 6. 插件公共接口策略
导入兼容可以保证旧插件继续运行,但不能让插件永久依赖重构后的内部目录。应建立 `app.sdk` 作为新的插件稳定入口:
```python
from app.sdk.events import Event, EventType, eventmanager
from app.sdk.media import MediaInfo, MetaInfo
from app.sdk.services import RequestClient
```
`app.sdk` 的原则:
- 只暴露有兼容承诺的对象;
- 不通过 `from internal_module import *` 无限制导出内部实现;
- SDK 门面尽量依赖协议和稳定数据结构;
- 新插件文档只展示 `app.sdk` 路径;
- 旧路径映射到当前 canonical 实现,但警告中的推荐路径优先指向 `app.sdk`
- 将来内部位置再次变化时,只维护 SDK 门面和映射目标,不要求插件再迁移。
第一阶段不强制现有插件改为 SDK;官方插件可在后续常规版本中逐步消除警告。
## 7. 符号级兼容
模块搬迁和符号改名应拆成不同批次。绝大多数迁移只做模块别名,并保持原有类/函数名称。
确实需要改名时,使用显式的符号映射:
```python
SYMBOL_ALIASES = {
("app.core.context", "MediaInfo"): SymbolAlias(
target_module="app.domain.media",
target_name="MediaDescriptor",
),
}
```
符号兼容仅支持 `from old.module import OldName``old_module.OldName` 等明确场景,并保证返回 canonical 对象。禁止自动遍历、相似名称匹配或静默参数转换。构造参数/返回值契约发生变化时,应增加真正的 adapter,并单独评审行为兼容性。
## 8. 分阶段迁移计划
### 阶段 0:冻结基线和生成清单
- 用 AST 构建主仓和官方插件仓库的导入图。
- 输出 `core/helper/utils` 的强连通分量、反向边和插件使用频率。
- 区分插件公共契约、主程序内部实现和资源二进制落点。
- 为首批迁移建立精确的 `old -> canonical -> sdk` 清单。
- CI 保存依赖图摘要,后续批次不得增加反向边或新环。
### 阶段 1:先落兼容基础设施
- 新增只依赖标准库的 `app.runtime.compat`
-`app/__init__.py` 最早安装 Finder。
- 实现 DEBUG 运行时告警与插件 AST 扫描。
- 映射表先为空或只放一个无副作用的试点模块。
- 完成模块身份、并发导入、包语义、诊断去重和状态恢复测试。
### 阶段 2:拆环,不急于搬所有文件
- 优先拆 `event/module/plugin/cache/redis/message/mixins` 强连通分量。
- 用协议、注册表和 startup composition root 替代类名猜测及底层反向实例化。
- 每拆一条环都增加静态依赖测试和相关生命周期测试。
- 此阶段允许部分文件暂留旧目录,但主程序新代码必须遵守目标依赖方向。
### 阶段 3:按垂直批次搬迁
每个 PR 只处理一个可独立验证的领域,例如“HTTP 基础设施”或“媒体领域模型”:
1. 在新位置建立 canonical 模块。
2. 将主程序、脚本和测试切换到新路径。
3. 删除旧物理源码文件。
4. 添加旧路径映射。
5. 验证旧插件导入、主程序新导入和对象身份。
6. 更新依赖图,确认没有新增 SCC。
不要在一个 PR 中同时移动几十个不相关模块。Git 能识别文件移动,但运行时副作用、插件 API 和依赖方向必须逐域验证。
### 阶段 4:建设 SDK 并迁移官方插件
- 从实际高频插件入口开始建立 `app.sdk`
- 更新插件开发文档和模板。
- 官方插件在正常版本发布中逐步改用 SDK;第三方插件继续由兼容层支持。
- DEBUG 扫描报告可输出剩余旧路径统计,用于安排迁移优先级。
### 阶段 5:兼容策略长期维护
- V3 生命周期内默认不删除已发布的旧路径映射,除非明确宣布大版本破坏性变更。
- 映射只能新增或纠正目标,不随内部清理随意删除。
- 删除规则前必须确认官方插件仓库、已知第三方插件样本和文档均已迁移,并经过至少一个明确弃用周期。
## 9. 静态门禁和测试
### 9.1 主程序依赖门禁
新增 AST 级测试或独立脚本,至少检查:
- `app.runtime.compat` 不导入任何 MoviePilot 业务模块;
- `app.foundation` 不导入其他 MoviePilot 能力包;
- `domain` 不导入 DB、runtime、adapters、application、SDK 或兼容层;
- `adapters` 不导入 application、runtime extensions/compat 或 SDK
- `foundation` 不打印日志,也不导入任何其他 `app.*` 包;`runtime.cache` 不导入具体 cache adapter
- `adapters.system.resource` 不导入或调用 `runtime.state`
- 低层不导入 `PluginManager``ModuleManager` 等运行时实现;
- `app/` 主程序代码不再导入已登记的旧路径,插件目录除外;
- 完整导入图中不存在包含 canonical 迁移模块、SDK 或兼容层的强连通分量;
- 映射目标真实存在,旧物理文件不存在,无别名链和重复冲突。
检查应解析 AST,不用文本正则替代 Python 导入语义。
### 9.2 兼容层单元测试
- 新路径先导入、旧路径后导入;
- 旧路径先导入、新路径后导入;
- `import old.module``from old.module import Name`
- 模块、类、单例、枚举身份一致;
- 模块初始化副作用只执行一次;
- 多线程并发导入不会得到半初始化模块;
- 物理父包和合成父包下的子模块、包级公开符号、相对导入、`find_spec()` 行为正确;
- 未登记的新子模块不能通过旧合成父包的 `__path__` 泄漏或被重复执行;
- 未登记的旧路径仍抛出正常 `ModuleNotFoundError`
- Finder 对第三方包和 `app.plugins.*` 零干扰;
- 安装幂等,测试卸载后完整恢复 `sys.meta_path``sys.modules` 和诊断状态。
### 9.3 Debug 警告测试
- DEBUG=false 时不扫描、不告警,即使 DEV=true 也一样;
- DEBUG=true 时告警包含插件、旧路径、新路径和推荐 SDK 路径;
- 同一插件同一路径只告警一次;
- 不同插件使用同一路径分别可见;
- 模块已在 `sys.modules` 时,AST 扫描仍能发现后加载插件的旧导入;
- 热重载不重复刷屏,源文件新增旧导入后可被重新扫描;
- AST 语法错误不会阻止插件正常走原有加载错误处理。
### 9.4 集成与回归测试
- 选择高频旧入口构造一个未改源码的兼容插件样本并启动。
- 覆盖插件首次启动、停止、单插件热重载、全部插件重载。
- 覆盖事件装饰器、配置重载、模块枚举、缓存/Redis 和消息错误路径。
- 覆盖 CLI、FastAPI lifespan、safe mode 和本地插件同步。
- 按仓库规则运行聚焦测试、Pylint 和完整 `python tests/run.py`
## 10. 资源、构建和跨仓影响
`MoviePilot-Resources/resources.v3`、Docker 更新脚本、本地安装脚本以及 `MoviePilot-Build` 现已把站点扩展和数据文件同步到 `app/application/site/`,编译扩展模块名为 `app.application.site.sites`
跨仓资源迁移已按以下约束完成:
- 站点运行时扩展 canonical 路径为 `app.application.site.sites`
- 数据文件与其唯一消费者放到聚焦的站点应用目录,不再混入通用网络适配器;
- 同步修改 `MoviePilot-Build` 的扩展名和输出参数;
- 同步修改 Build CI 的认证扩展、站点数据发布流程和 manifest target
- 同步修改 `MoviePilot-Resources` 的 package target
- 修改 Dockerfile、`docker/update.sh`、entrypoint、本地安装/卸载和相关文档;
-`app.helper.sites` 保留旧路径兼容,并验证 CPython 扩展通过别名加载时保持同一模块身份;
- 分别验证 macOS/Linux 和当前支持的 Python 版本产物。
该跨仓迁移不能混在普通纯 Python 模块搬迁 PR 中,否则发布镜像、本地安装和源码开发环境会出现不同结果。
## 11. 可观测性与故障处理
兼容层建议提供只读诊断快照,至少包含:
- 已安装 Finder 数量和版本;
- 当前映射表版本/摘要;
- 本进程已命中的旧路径集合;
- DEBUG 模式下按插件聚合的旧路径列表;
- 最近一次兼容导入失败及原始异常链。
不要让兼容层吞掉目标模块自己的 `ImportError`。需要区分:
- **旧路径未登记**`ModuleNotFoundError` 指向旧路径;
- **映射目标不存在**:兼容配置错误,应包含 old/target 信息并在测试或启动校验失败;
- **目标内部导入失败**:保留原始 traceback,附加兼容上下文但不改写根因;
- **循环初始化**:明确报告当前别名解析栈,不能重试后返回半初始化模块。
## 12. 回滚方案
每个迁移批次必须可以独立回滚:
- 映射表带批次或版本元数据,便于定位新规则。
- 兼容层本身提供全局禁用开关仅用于故障诊断;生产默认开启,不能要求用户手动开启才能兼容插件。
- 单个错误映射可被精确禁用,不影响其他已迁移路径。
- 搬迁 PR 不删除旧实现逻辑,只移动 canonical 所有权;Git 回滚后旧文件和映射可以一起恢复。
- 数据库、配置格式和插件存储不应在纯模块搬迁批次变化。
- 跨仓资源迁移保留一个发布周期的旧产物回退能力,并验证旧镜像/新资源及新镜像/旧资源组合的兼容边界。
## 13. 验收标准
单个迁移批次只有同时满足以下条件才算完成:
1. 主程序只导入 canonical 新路径,静态门禁无新增反向依赖或循环。
2. 旧路径不存在同名业务源码文件,映射表是唯一兼容定义。
3. 未修改源码的旧插件样本可以正常启动、执行和热重载。
4. 旧业务模块与新路径的模块、类、枚举和单例身份一致;合成父包只承担白名单路由。
5. DEBUG 模式会对每个插件的每个旧路径首次发出可行动的警告,生产模式无警告噪声。
6. 映射安装不预导入目标模块,不增加可感知的启动副作用。
7. 聚焦测试、静态检查、完整测试以及涉及的构建/资源验证通过。
8. 文档、插件 SDK 推荐路径和跨仓发布脚本与真实运行路径一致。
## 14. 实施结果
1. `app/core``app/helper``app/utils` 物理目录均已删除,宿主全部使用 canonical 路径,插件旧导入只由虚拟兼容包解析。
2. `app.runtime.compat``app` 包初始化时安装精确白名单 Finder,旧叶子模块与 canonical 模块保持同一身份。
3. DEBUG 诊断通过运行时命中和插件 AST 扫描互补发现旧引用,生产模式静默。
4. Event、模块、插件和安全边界改为由 startup composition root 注入 resolver、回调和错误处理器,迁移模块不再处于强连通分量。
5. 插件稳定入口收敛到 `app.sdk`;存量插件无需同步修改,官方插件可以按正常发布节奏迁移。
6. 站点二进制和数据资源迁到 `app/application/site`Build 直接生成 `app.application.site.sites`Build CI、Resources V3 manifest、Docker 和本地 CLI 使用同一目标路径。
7. 媒体识别领域不再直接读取 DB/settings,也不导入 Rust 适配器;`startup/initializers/domain.py` 统一注入实时规则、后缀策略、TMDB 图片地址、默认媒体来源和加速器。
8. 缓存按职责拆为 `runtime/cache.py`(契约、内存实现、装饰器、代理)和 `adapters/cache/backends.py`Redis、文件 I/O);旧 `app.core.cache` 指向完整 `app.sdk.cache` 门面。
9. `application/mediaserver.py` 集中负责媒体服务器的配置化服务发现、Provider ID 规范化和音乐库匹配;通用媒体身份规则继续复用 `domain/media.py`
10. GC 归入 `runtime/gc.py`,外部 IP 归属查询归入 `adapters/external/location.py`,安全能力统一在 `app/application/security/`URL 安全策略为 `url.py`,二次认证文件为 `twofactor.py`
11. 资源适配器只负责检测、下载和安装,成功后是否重启由 startup 决策。
12. 日志策略、控制台/插件路由、异步滚动文件写入和关闭集中在 `runtime/log.py`;该模块不得导入任何 `app.*` 模块,foundation 不打印日志,运行期诊断由上层调用方负责。插件使用 `app.sdk.logging`,旧 `app.log` 继续精确兼容。
13. `domain/nfo.py` 已合并进 `domain/scraper.py`,NFO 读取与元数据文档生成由同一领域模块负责,旧 `app.helper.nfo` 仍可导入。
14. 通知服务发现归入 `application/notification.py`Web Push API 辅助逻辑归入 `api/endpoints/message.py`,不再保留旧顶级 messaging 中的 notification/webpush 模块。
-37
View File
@@ -1,37 +0,0 @@
# Module / Integration 渐进质量清单
本清单对应 ARCH-242。机器可检查定义位于
`app/runtime/extensions/module/quality.py`;它不改变 Module ABI,也不把“已评估”误写成“所有规则满分”。
## 使用规则
- 当前 39 个宿主模块都必须显式登记 `ModuleQualityProfile`;未知第三方扩展才解析为 `legacy`
- 新模块必须在同一提交新增 profile,只可使用登记规则;宿主目录与 profile 集合不一致时测试失败。
- `assessed` 表示已明确检查的规则集合,不等于所有规则满分;未覆盖项必须写精确原因。
- 测试不得访问真实网络。外部错误、限流和超时通过 fake client、fixture 或 adapter stub 验证。
- profile 不能替代 Module Contract V2;对外能力仍须在 contract registry 单独登记。
## 规则说明
| 规则 | 验收证据 |
| --- | --- |
| `fake-client-or-fixture` | provider 测试使用 fake client 或稳定录制 fixture |
| `zero-real-network-tests` | 网络守卫下专项测试通过 |
| `sync-async-boundary` | 同步 I/O 与 async 入口的调度策略明确 |
| `no-blocking-io-in-event-loop` | async 专项测试或受控线程池证据 |
| `auth-rate-timeout-offline-semantics` | 鉴权过期、限流、超时、离线结果分别测试 |
| `bounded-concurrency-or-polling` | 并发上限、轮询周期或不适用理由明确 |
| `reload-stop-idempotent` | init/reload/stop 可重复且资源最终释放 |
| `module-contract-v2` | 公开能力进入 Module Contract V2 |
| `sensitive-log-redaction` | token/cookie/password 不进入日志 |
| `owner-declared` | profile 有维护 owner |
## 当前 assessed 范围
全部 39 个宿主模块已经完成显式 assessed 登记。所有模块共同具备四项机器证据:全测试真实网络
守卫、覆盖 `app/modules` 的 async 阻塞扫描、宿主已观察能力的 Module Contract V2、明确的
`MoviePilot core` owner。鉴权、限流、并发、敏感日志和 reload/stop 等能力相关规则不做虚假
“全通过”声明,仍由对应模块专项测试证明,并在 profile 中保留豁免边界。
`bangumi``dingtalk` 已登记更细的专项证据;其他模块先完成“已审查、通用门禁已覆盖、专属规则
按能力适用”的收口。测试会阻止宿主模块退回无法区分是否审查过的 `legacy` 状态。