mirror of
https://github.com/jxxghp/MoviePilot.git
synced 2026-08-29 03:56:43 +08:00
refactor: own history ai progress tasks
This commit is contained in:
@@ -1,6 +1,6 @@
|
||||
import asyncio
|
||||
import time
|
||||
from typing import List, Any, Optional
|
||||
from collections.abc import Coroutine
|
||||
from typing import List, Any, Callable, Optional
|
||||
|
||||
from fastapi import Depends
|
||||
|
||||
@@ -58,6 +58,21 @@ def normalize_history_ids(history_ids: list[int]) -> list[int]:
|
||||
return normalized_ids
|
||||
|
||||
|
||||
def _build_progress_output_callback(
|
||||
progress: AsyncProgressHelper,
|
||||
data: dict[str, Any],
|
||||
*,
|
||||
submit: Callable[[Coroutine[Any, Any, Any]], object],
|
||||
) -> Callable[[str], None]:
|
||||
"""构造同步 Agent 输出回调,并把异步进度更新登记到宿主任务生命周期。"""
|
||||
|
||||
def update_output(text: str) -> None:
|
||||
"""非阻塞提交一条进度更新,避免同步回调等待缓存 I/O。"""
|
||||
submit(progress.update(text=text, data=data))
|
||||
|
||||
return update_output
|
||||
|
||||
|
||||
def _start_ai_redo_task(
|
||||
history_id: int,
|
||||
prompt: str,
|
||||
@@ -65,15 +80,17 @@ def _start_ai_redo_task(
|
||||
task_registry: TaskRegistry | None = None,
|
||||
) -> None:
|
||||
"""在后台任务中启动单条 AI 重新整理任务,并通过异步进度辅助类实时更新进度。"""
|
||||
registry = resolve_background_task_registry(task_registry)
|
||||
progress = AsyncProgressHelper(progress_key)
|
||||
|
||||
def update_output(text: str):
|
||||
# 输出回调由 agent 在事件循环上同步调用,不能直接 await;
|
||||
# 提交到全局事件循环非阻塞执行,避免同步缓存后端阻塞事件循环。
|
||||
asyncio.run_coroutine_threadsafe(
|
||||
progress.update(text=text, data={"history_id": history_id}),
|
||||
global_vars.loop,
|
||||
)
|
||||
update_output = _build_progress_output_callback(
|
||||
progress,
|
||||
{"history_id": history_id},
|
||||
submit=lambda coroutine: registry.submit_threadsafe(
|
||||
coroutine,
|
||||
loop=global_vars.loop,
|
||||
owner="api.history.ai_redo.progress",
|
||||
),
|
||||
)
|
||||
|
||||
async def runner():
|
||||
try:
|
||||
@@ -110,7 +127,6 @@ def _start_ai_redo_task(
|
||||
finally:
|
||||
await progress.end()
|
||||
|
||||
registry = resolve_background_task_registry(task_registry)
|
||||
registry.create(runner(), owner="api.history.ai_redo")
|
||||
|
||||
|
||||
@@ -121,15 +137,17 @@ def _start_batch_ai_redo_task(
|
||||
task_registry: TaskRegistry | None = None,
|
||||
) -> None:
|
||||
"""在后台任务中启动批量 AI 重新整理任务,并通过异步进度辅助类实时更新进度。"""
|
||||
registry = resolve_background_task_registry(task_registry)
|
||||
progress = AsyncProgressHelper(progress_key)
|
||||
|
||||
def update_output(text: str):
|
||||
# 输出回调由 agent 在事件循环上同步调用,不能直接 await;
|
||||
# 提交到全局事件循环非阻塞执行,避免同步缓存后端阻塞事件循环。
|
||||
asyncio.run_coroutine_threadsafe(
|
||||
progress.update(text=text, data={"history_ids": history_ids}),
|
||||
global_vars.loop,
|
||||
)
|
||||
update_output = _build_progress_output_callback(
|
||||
progress,
|
||||
{"history_ids": history_ids},
|
||||
submit=lambda coroutine: registry.submit_threadsafe(
|
||||
coroutine,
|
||||
loop=global_vars.loop,
|
||||
owner="api.history.ai_redo_batch.progress",
|
||||
),
|
||||
)
|
||||
|
||||
async def runner():
|
||||
try:
|
||||
@@ -166,7 +184,6 @@ def _start_batch_ai_redo_task(
|
||||
finally:
|
||||
await progress.end()
|
||||
|
||||
registry = resolve_background_task_registry(task_registry)
|
||||
registry.create(runner(), owner="api.history.ai_redo_batch")
|
||||
|
||||
|
||||
|
||||
@@ -85,6 +85,8 @@ Event Contract Registry 是 53 个事件的逐项机器清单。下表按相同
|
||||
### Agent tasks
|
||||
|
||||
- 流式 token、工具进度和临时展示:E0。
|
||||
- 整理历史 AI 重做的 runner 与同步输出回调共用 lifespan TaskRegistry;单条/批量进度分别登记
|
||||
`api.history.ai_redo.progress` / `api.history.ai_redo_batch.progress`,不再把缓存进度更新裸投递主循环。
|
||||
- 已登记的周期 Agent task:E1,重启时通过任务定义重建;单次执行要有 execution 记录。
|
||||
- Agent 创建/修改订阅、删除数据等工具:业务事务按 E2/E3;聊天输出不能替代业务完成证据。
|
||||
- 会话 stop/cancel:E0 控制信号;被取消工具的底层阻塞 I/O 可能继续,资源所有者必须最终回收。
|
||||
|
||||
@@ -6,7 +6,7 @@
|
||||
> 审计范围:宿主后端;排除 `app/plugins/**` 运行时插件副本
|
||||
> 规范优先级:`AGENTS.md` 与 `docs/rules/` 高于本文
|
||||
> 相关文档:`docs/architecture-overview.md`、`docs/refactor/backend-architecture-governance.md`、`docs/refactor/backend-module-refactor-compatibility.md`
|
||||
> 实施进度:阶段 0~6 的宿主架构能力已完成收口;API/Application 公共复杂度基线已清零,启动组合根的 SystemConfigOper 构造点已由 14 降至 1;API 进程内后台任务已完成首批统一登记,插件仓适配和 Outbox 外围扩展仍按风险切片推进。Model/Base 查询与写装饰器、legacy 隐式会话外壳均已清零,插件 SDK 也不再导出宿主 Model。2026-08-23 的长期整改阶段 0 已恢复宿主、启动性能、官方插件和 SDK 契约门禁的可信基线;阶段 1a 已补齐 TaskRegistry owner 零债务门禁和诚实的关停超时语义;阶段 1b1 已收口整理 worker、pending 回放、失败通知、进程内 AI 重试、插件监控与事件投递的生命周期所有权;2026-08-24 的阶段 2 已将 212 个已观察宿主模块方法的 legacy aggregation 清零,并补齐可执行 fanout 与下载器文件 DTO 边界;阶段 3 已将消息交互和远程命令的订阅删除统一到 Application/UoW/outbox,宿主不再调用裸线程统计入口;阶段 4 已统一七种消息渠道的宿主回环与后台执行边界;阶段 5 已补齐事件窗口聚合任务的生命周期所有权;阶段 6 已统一插件文件操作的取消完成语义;阶段 7 已统一插件协程补偿的终态等待;阶段 8 已统一宿主同步函数的异步线程池入口;阶段 9 已统一工作流运行时的宿主获取路径;阶段 10 已统一模块、插件与调度运行时的显式 getter 调用;阶段 11 已清除系统配置 getter 的 Oper 形别名;阶段 12 已完成工作流域的显式 Chain 数据端口迁移;阶段 13 已收口用户、交互与消息链的数据端口;阶段 14 已收口音乐订阅数据端口;阶段 15 已收口站点数据端口;阶段 16 已收口媒体服务器数据端口;阶段 17 已收口下载数据端口;阶段 18 已收口主订阅数据端口;阶段 19 已收口整理数据端口;阶段 20 已收口 Agent 数据端口;阶段 21 已收口监控历史端口;阶段 22 已统一服务配置应用边界;阶段 23 已补齐媒体服务器 API 遗留的类形配置读取路径;阶段 24 已清除 Scheduler 内部无 owner 的协程提交双轨;阶段 25 已补齐 TaskRegistry 跨线程 owner 并迁移整理 AI 接管。
|
||||
> 实施进度:阶段 0~6 的宿主架构能力已完成收口;API/Application 公共复杂度基线已清零,启动组合根的 SystemConfigOper 构造点已由 14 降至 1;API 进程内后台任务已完成首批统一登记,插件仓适配和 Outbox 外围扩展仍按风险切片推进。Model/Base 查询与写装饰器、legacy 隐式会话外壳均已清零,插件 SDK 也不再导出宿主 Model。2026-08-23 的长期整改阶段 0 已恢复宿主、启动性能、官方插件和 SDK 契约门禁的可信基线;阶段 1a 已补齐 TaskRegistry owner 零债务门禁和诚实的关停超时语义;阶段 1b1 已收口整理 worker、pending 回放、失败通知、进程内 AI 重试、插件监控与事件投递的生命周期所有权;2026-08-24 的阶段 2 已将 212 个已观察宿主模块方法的 legacy aggregation 清零,并补齐可执行 fanout 与下载器文件 DTO 边界;阶段 3 已将消息交互和远程命令的订阅删除统一到 Application/UoW/outbox,宿主不再调用裸线程统计入口;阶段 4 已统一七种消息渠道的宿主回环与后台执行边界;阶段 5 已补齐事件窗口聚合任务的生命周期所有权;阶段 6 已统一插件文件操作的取消完成语义;阶段 7 已统一插件协程补偿的终态等待;阶段 8 已统一宿主同步函数的异步线程池入口;阶段 9 已统一工作流运行时的宿主获取路径;阶段 10 已统一模块、插件与调度运行时的显式 getter 调用;阶段 11 已清除系统配置 getter 的 Oper 形别名;阶段 12 已完成工作流域的显式 Chain 数据端口迁移;阶段 13 已收口用户、交互与消息链的数据端口;阶段 14 已收口音乐订阅数据端口;阶段 15 已收口站点数据端口;阶段 16 已收口媒体服务器数据端口;阶段 17 已收口下载数据端口;阶段 18 已收口主订阅数据端口;阶段 19 已收口整理数据端口;阶段 20 已收口 Agent 数据端口;阶段 21 已收口监控历史端口;阶段 22 已统一服务配置应用边界;阶段 23 已补齐媒体服务器 API 遗留的类形配置读取路径;阶段 24 已清除 Scheduler 内部无 owner 的协程提交双轨;阶段 25 已补齐 TaskRegistry 跨线程 owner 并迁移整理 AI 接管;阶段 26 已统一 Agent 会话清理提交;阶段 27 已统一历史 AI 进度 owner。
|
||||
|
||||
## 当前复核结论(2026-08-24)
|
||||
|
||||
@@ -278,6 +278,16 @@
|
||||
- 依赖基线仅新增 `app.chain.message -> app.runtime.tasks`,模块数保持 `806`,内部边为 `6541`;12 组禁止
|
||||
边与唯一隔离 TMDB SCC 均未变化。
|
||||
|
||||
### 长期整改阶段 27:历史 AI 进度任务所有权统一(2026-08-24)
|
||||
|
||||
- 整理历史 AI 重做的外层 runner 已进入 TaskRegistry,但单条与批量输出回调仍各复制一套裸
|
||||
`run_coroutine_threadsafe`,进度缓存写入绕过了同一 shutdown owner 边界。
|
||||
- 两条路径现在复用唯一进度回调工厂和外层同一个 registry,分别登记
|
||||
`api.history.ai_redo.progress` 与 `api.history.ai_redo_batch.progress`;停止接收、取消和有限等待语义统一。
|
||||
- API 路由、权限、进度 key/payload、Agent prompt 与完成/失败文案均未修改;该进度仍按 E0 允许进程崩溃
|
||||
丢失,不把 UI 进度误报为 durable 完成。既有 `app.api.endpoints.history -> app.runtime.tasks` 依赖边不变,
|
||||
V2/V3 插件 SDK/Compat 无改动。
|
||||
|
||||
### 总体判断
|
||||
|
||||
当前架构总体合理,已经从跨层混合的遗留单体收敛为**边界清晰的模块化单体**:
|
||||
|
||||
@@ -2,10 +2,12 @@
|
||||
|
||||
import asyncio
|
||||
from types import SimpleNamespace
|
||||
from unittest.mock import AsyncMock, patch
|
||||
|
||||
from app.api.endpoints import anthropic, history, message, openai, site, subscribe, webhook
|
||||
from app.api.dependencies import subscription as subscription_dependencies
|
||||
from app.application.subscription.search import SubscribeSearchActor
|
||||
from app.runtime.config import global_vars
|
||||
from app.runtime.tasks import TaskRegistry
|
||||
|
||||
|
||||
@@ -16,6 +18,7 @@ class _TaskRegistry(TaskRegistry):
|
||||
"""初始化调用记录。"""
|
||||
super().__init__()
|
||||
self.calls: list[tuple] = []
|
||||
self.threadsafe_calls: list[tuple] = []
|
||||
|
||||
def create_sync(self, function, *args, owner: str, **kwargs) -> None:
|
||||
"""保存函数、参数和 owner。"""
|
||||
@@ -32,6 +35,18 @@ class _TaskRegistry(TaskRegistry):
|
||||
coroutine.close()
|
||||
self.calls.append((None, (), {"cancel_on_shutdown": cancel_on_shutdown}, owner))
|
||||
|
||||
def submit_threadsafe(
|
||||
self,
|
||||
coroutine,
|
||||
*,
|
||||
loop,
|
||||
owner: str,
|
||||
cancel_on_shutdown: bool = True,
|
||||
) -> None:
|
||||
"""保存跨线程任务参数,并关闭未执行的 coroutine。"""
|
||||
coroutine.close()
|
||||
self.threadsafe_calls.append((loop, owner, cancel_on_shutdown))
|
||||
|
||||
|
||||
class _RunningTaskRegistry(TaskRegistry):
|
||||
"""执行协议流任务并保留 owner,验证真实 TaskRegistry 行为。"""
|
||||
@@ -216,33 +231,80 @@ def test_manual_subscription_search_uses_task_registry() -> None:
|
||||
def test_history_ai_redo_uses_task_registry() -> None:
|
||||
"""单条历史 AI 重做应登记宿主任务并使用稳定 owner。"""
|
||||
registry = _TaskRegistry()
|
||||
loop = SimpleNamespace(is_running=lambda: True, is_closed=lambda: False)
|
||||
|
||||
history._start_ai_redo_task(
|
||||
history_id=7,
|
||||
prompt="整理记录",
|
||||
progress_key="progress-7",
|
||||
task_registry=registry,
|
||||
)
|
||||
with patch.object(global_vars, "CURRENT_EVENT_LOOP", loop), patch.object(
|
||||
history,
|
||||
"_build_progress_output_callback",
|
||||
return_value=lambda _text: None,
|
||||
) as build_callback:
|
||||
history._start_ai_redo_task(
|
||||
history_id=7,
|
||||
prompt="整理记录",
|
||||
progress_key="progress-7",
|
||||
task_registry=registry,
|
||||
)
|
||||
build_callback.call_args.kwargs["submit"](asyncio.sleep(0))
|
||||
|
||||
assert registry.calls == [
|
||||
(None, (), {"cancel_on_shutdown": True}, "api.history.ai_redo")
|
||||
]
|
||||
assert build_callback.call_args.args[1] == {"history_id": 7}
|
||||
assert registry.threadsafe_calls == [
|
||||
(loop, "api.history.ai_redo.progress", True)
|
||||
]
|
||||
|
||||
|
||||
def test_history_progress_callback_uses_owned_threadsafe_submission() -> None:
|
||||
"""历史 AI 输出进度应进入同一宿主登记器并保留 payload。"""
|
||||
registry = _TaskRegistry()
|
||||
progress = SimpleNamespace(update=AsyncMock())
|
||||
loop = SimpleNamespace(is_running=lambda: True, is_closed=lambda: False)
|
||||
|
||||
callback = history._build_progress_output_callback(
|
||||
progress,
|
||||
{"history_id": 7},
|
||||
submit=lambda coroutine: registry.submit_threadsafe(
|
||||
coroutine,
|
||||
loop=loop,
|
||||
owner="api.history.ai_redo.progress",
|
||||
),
|
||||
)
|
||||
callback("正在分析")
|
||||
|
||||
progress.update.assert_called_once_with(
|
||||
text="正在分析", data={"history_id": 7}
|
||||
)
|
||||
assert registry.threadsafe_calls == [
|
||||
(loop, "api.history.ai_redo.progress", True)
|
||||
]
|
||||
|
||||
|
||||
def test_history_batch_ai_redo_uses_task_registry() -> None:
|
||||
"""批量历史 AI 重做应登记宿主任务并区分批量 owner。"""
|
||||
registry = _TaskRegistry()
|
||||
loop = SimpleNamespace(is_running=lambda: True, is_closed=lambda: False)
|
||||
|
||||
history._start_batch_ai_redo_task(
|
||||
history_ids=[7, 8],
|
||||
prompt="批量整理",
|
||||
progress_key="progress-batch",
|
||||
task_registry=registry,
|
||||
)
|
||||
with patch.object(global_vars, "CURRENT_EVENT_LOOP", loop), patch.object(
|
||||
history,
|
||||
"_build_progress_output_callback",
|
||||
return_value=lambda _text: None,
|
||||
) as build_callback:
|
||||
history._start_batch_ai_redo_task(
|
||||
history_ids=[7, 8],
|
||||
prompt="批量整理",
|
||||
progress_key="progress-batch",
|
||||
task_registry=registry,
|
||||
)
|
||||
build_callback.call_args.kwargs["submit"](asyncio.sleep(0))
|
||||
|
||||
assert registry.calls == [
|
||||
(None, (), {"cancel_on_shutdown": True}, "api.history.ai_redo_batch")
|
||||
]
|
||||
assert build_callback.call_args.args[1] == {"history_ids": [7, 8]}
|
||||
assert registry.threadsafe_calls == [
|
||||
(loop, "api.history.ai_redo_batch.progress", True)
|
||||
]
|
||||
|
||||
|
||||
def test_openai_stream_uses_task_registry(monkeypatch) -> None:
|
||||
|
||||
Reference in New Issue
Block a user