news 2026/5/1 10:23:50

故障排查:Pytest Asyncio Event Loop Closed 错误

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
故障排查:Pytest Asyncio Event Loop Closed 错误

1. 问题描述

在运行RetrievalService的集成测试(使用pytest-asyncio)时,当连续运行多个异步测试用例时,遇到了以下错误:

RuntimeError: Task <Task pending ...> got Future <Future pending ...> attached to a different loop ... RuntimeError: Event loop is closed

症状

  • 第一个测试用例 (test_search_knowledge_base_flow) 成功通过。
  • 第二个测试用例 (test_search_knowledge_base_no_results) 在 setup 或执行阶段立即失败,抛出RuntimeError

出错的代码(原始版本)

这是在修复之前,导致错误的测试代码结构和db_sessionfixture:

# test/services/test_retrieval_service.py@pytest.fixtureasyncdefdb_session():""" Creates a new database session for testing. """# 错误发生点:直接调用 get_async_engine(),它返回的是一个被缓存的 Engine 实例# 这个 Engine 绑定到了创建它时的 Event Loop(即第一个测试的 Loop)engine=get_async_engine()async_session=async_sessionmaker(engine,expire_on_commit=False)asyncwithasync_session()assession:asyncwithengine.begin()asconn:awaitconn.run_sync(Base.metadata.create_all)yieldsessionawaitsession.rollback()# 测试函数 1:使用新创建的 Loop A,成功获取 Engine(绑定到 Loop A)@pytest.mark.asyncioasyncdeftest_search_knowledge_base_flow(db_session):# ... PASS ...# 测试函数 2:使用新创建的 Loop B# 这里的 db_session fixture 再次运行,但 get_async_engine() 返回的是# 绑定到已关闭的 Loop A 的旧 Engine。导致报错。@pytest.mark.asyncioasyncdeftest_search_knowledge_base_no_results(db_session):# ... FAIL with RuntimeError: Event loop is closed ...

2. 根本原因分析

2.1 冲突来源

该问题源于pytest-asyncio管理 Event Loop 的机制与我们应用程序创建 SQLAlchemy Engine 的方式之间存在冲突。

  1. Pytest-Asyncio 的行为:默认情况下(严格模式),pytest-asyncio会为每个测试函数创建一个新的asyncio Event Loop,以确保隔离性。
  2. 应用程序的行为:我们的src/configs/db.py使用了functools.lru_cache来缓存AsyncEngine实例:
    # src/configs/db.pyfromfunctoolsimportlru_cache@lru_cache()# <--- Engine 实例被缓存了defget_async_engine():""" Returns a cached async engine instance. The engine is created on the first call and reused on subsequent calls within the same event loop. """logger.info("Creating new async engine instance.")returncreate_async_engine(DATABASE_URL,pool_pre_ping=True,echo=False,)

2.2 事件序列

  1. 测试 1 开始
    • Pytest 创建Loop A
    • get_async_engine()被调用。它创建了Engine 1并将其绑定到Loop A
    • 测试 1 结束。Pytest 关闭Loop A
  2. 测试 2 开始
    • Pytest 创建Loop B
    • get_async_engine()再次被调用。
    • 由于有缓存(@lru_cache),它返回了Engine 1(这个 Engine 仍然绑定在已关闭的Loop A上)。
    • 当 SQLAlchemy 尝试使用Engine 1Loop B中连接数据库或执行查询时,失败了,因为 Engine 的内部组件(如asyncpg连接池)试图使用已关闭的 Loop A。

3. 解决方案

3.1 修复方法

我们需要确保为每个测试上下文创建一个新的 AsyncEngine,并绑定到当前由pytest-asyncio提供的 Event Loop。

我们在测试文件 (test/services/test_retrieval_service.py) 的db_sessionfixture 中修改了代码,在请求 Engine 之前显式清除缓存。

@pytest.fixtureasyncdefdb_session():""" Creates a new database session for testing. """# 修复:强制为当前 Event Loop 创建一个新的 Engineget_async_engine.cache_clear()engine=get_async_engine()# 现在返回的是绑定到当前 Loop 的新 Engine# ... fixture 的其余部分 ...

3.2 为什么有效

通过调用get_async_engine.cache_clear(),我们使缓存的AsyncEngine实例失效。随后的get_async_engine()调用会重新执行函数体,创建一个正确绑定到当前运行 Event Loop 的新AsyncEngine实例。

4. 替代方案(供参考)

  1. Scope 匹配:将event_loopfixture 的 scope 更改为session(所有测试共用一个 Loop)。这虽然降低了隔离性,但避免了多 Loop 问题。
  2. 依赖覆盖:如果使用依赖注入框架,可以覆盖get_async_engine依赖。
  3. 全局 Conftest:在conftest.py的 autouse fixture 中实现缓存清除,从而全局应用于所有测试。
版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/4/25 15:11:37

Miniconda环境下PyTorch自定义算子开发指南

Miniconda环境下PyTorch自定义算子开发指南 在深度学习模型日益复杂的今天&#xff0c;研究人员和工程师常常面临一个共同的挑战&#xff1a;如何在保证实验可复现性的同时&#xff0c;高效实现性能关键路径的底层优化&#xff1f;尤其是在训练过程中某个操作成为瓶颈时&#x…

作者头像 李华
网站建设 2026/5/1 9:56:50

Miniconda-Python3.10镜像支持Markdown格式实验记录管理

Miniconda-Python3.10镜像支持Markdown格式实验记录管理 在人工智能与数据科学项目日益复杂的今天&#xff0c;研究者们常面临一个看似简单却极为棘手的问题&#xff1a;为什么同样的代码&#xff0c;在同事的机器上运行正常&#xff0c;到了自己环境里却报错不断&#xff1f;更…

作者头像 李华
网站建设 2026/5/1 5:06:59

Miniconda配置PyTorch环境时如何优化pip安装速度

Miniconda配置PyTorch环境时如何优化pip安装速度 在深度学习项目开发中&#xff0c;搭建一个稳定、高效的Python环境往往是第一步。然而&#xff0c;许多开发者都曾经历过这样的场景&#xff1a;刚创建好Miniconda环境&#xff0c;执行pip install torch后终端卡住不动&#xf…

作者头像 李华
网站建设 2026/5/1 4:47:02

使用Miniconda实现PyTorch模型的版本灰度上线

使用Miniconda实现PyTorch模型的版本灰度上线 在AI系统日益复杂的今天&#xff0c;一个看似微小的模型更新&#xff0c;可能引发线上服务的连锁反应。你是否经历过这样的场景&#xff1a;本地训练效果出色的PyTorch模型&#xff0c;部署到生产环境后推理结果异常&#xff1f;或…

作者头像 李华
网站建设 2026/4/30 7:20:42

GitHub Releases发布Miniconda-Python3.10项目版本

Miniconda-Python3.10 镜像发布&#xff1a;重塑 AI 开发环境的标准化实践 在高校实验室里&#xff0c;一位研究生正焦急地向导师汇报&#xff1a;“模型训练结果复现不了。” 导师反问&#xff1a;“你用的是哪个 Python 版本&#xff1f;依赖包锁定了吗&#xff1f;” 学生沉…

作者头像 李华
网站建设 2026/5/1 5:48:15

工业场景中上位机串口通信稳定性优化

工业串口通信的“抗干扰实战”&#xff1a;让上位机轮询不再掉包在一间老旧的生产车间里&#xff0c;工控屏上的温度数据突然跳变成0&#xff0c;报警声响起。工程师赶到现场&#xff0c;发现只是某台变送器的RS-485通信断了几秒——而原因&#xff0c;不过是隔壁电机启动时产生…

作者头像 李华