赞
踩
FastAPI的很快,归功于它的异步处理。
那我们用FastAPI框架时,函数到底用不用async模式?
官方文档:
https://fastapi.tiangolo.com/async/
做个实验:
- from fastapi import APIRouter
- import time
- import asyncio
-
- router = APIRouter()
-
-
- @router.get("/a")
- async def a():
- time.sleep(1)
- return {"message": "异步模式,但是同步执行sleep函数,执行过程是串行的"}
-
-
- @router.get("/b")
- async def b():
- loop = asyncio.get_event_loop()
- await loop.run_in_executor(None, time.sleep, 1)
- return {"message": "线程池中运行sleep函数"}
-
-
- @router.get("/c")
- async def c():
- await asyncio.sleep(1)
- return {"message": "异步模式,且异步执行sleep函数"}
-
-
- @router.get("/d")
- def d():
- time.sleep(1)
- return {"message": "同步模式,但是FastAPI会放在线程池中运行,所以很快"}
我们并发100个请求分别测试这4个接口。
结果:
/a接口:100秒
/b接口:1秒
/c接口:1秒
/d接口:3秒
/a接口:
fastapi框架会将async函数会放到event loop中运行。
虽然使用了async,但是函数内部并没有用到await,所以堵塞了。
执行过程是串行的,所以总耗时100秒。
/b接口:
利用asyncio异步IO获取当前的event loop。
然后将time.sleep(1)放到一个event loop中去运行,函数内部用到了await,所以无堵塞。
执行过程是并行的,所以总耗时1秒。
/c接口:
使用异步IO的sleep取代了普通的同步sleep。
原理与/b接口一致。
执行过程是并行的,所以总耗时1秒。
/d接口:
这个函数没有async修饰,即一个普通函数。
但是FastAPI会将函数放到thread pool中执行。
服务器是8核CPU,线程池的默认配置是核心数*5=40。
服务器在第一秒和第二秒分别处理40个请求,第三秒处理20个请求。
所以100个并发总耗时3秒。
总结:
官方说,无论你是否使用async,FastAPI都会采用异步的方式处理。
但是,如果你定义了async函数,函数体却是同步的调用(例:/a接口),将导致函数执行过程变成串行。
Copyright © 2003-2013 www.wpsshop.cn 版权所有,并保留所有权利。