开源模型应用落地-Gradio正确集成Fastapi-助力模型交互-实践篇（二）_gradio整合fastapi动态显示组件

作者：花生_TL007 | 2024-06-03 03:09:37

踩

gradio整合fastapi动态显示组件

一、前言

Gradio提供了直观的用户界面，当与Fastapi结合后，用户可以通过界面轻松地与模型进行交互，上传数据、获取推理结果等，使得交互性增强，提升了用户体验。

在开源大语言模型遍地开花的时代，正确的使用Gradio和Fastapi，通过两者的集成，使得模型的部署和使用过程更加简化和规范化。

第一篇开源模型应用落地-Gradio正确集成Fastapi-助力模型交互-入门篇（一）-CSDN博客，通过一个小Demo实现了Gradio和Fastapi的正确集成，本篇我们将把qwen1.5-7b-chat（很多老铁私信反馈7b的模型太大，无法运行起来，其实可以根据实际情况选择不同规格的模型，例如qwen1.5-1.8b-chat）集成进来，实现通过Gradio进行界面交互，通过Fastapi进行接口调用。

二、术语

2.1.Gradio

是一个用于构建交互式界面的Python库。它使得在Python中创建快速原型、构建和共享机器学习模型变得更加容易。

Gradio的主要功能是为机器学习模型提供一个即时的Web界面，

声明：本文内容由网友自发贡献，不代表【wpsshop博客】立场，版权归原作者所有，本站不承担相应法律责任。如您发现有侵权的内容，请联系我们。转载请注明出处：https://www.wpsshop.cn/w/花生_TL007/article/detail/665474