搜索
查看
编辑修改
首页
UNITY
NODEJS
PYTHON
AI
GIT
PHP
GO
CEF3
JAVA
HTML
CSS
搜索
繁依Fanyi0
这个屌丝很懒,什么也没留下!
关注作者
热门标签
jquery
HTML
CSS
PHP
ASP
PYTHON
GO
AI
C
C++
C#
PHOTOSHOP
UNITY
iOS
android
vue
xml
爬虫
SEO
LINUX
WINDOWS
JAVA
MFC
CEF3
CAD
NODEJS
GIT
Pyppeteer
article
热门文章
1
蓝桥杯_迷宫与陷阱 java_java小明在玩一款迷宫游戏,在游戏中他要控制自己的角色离开一间由 n × n n×n 个
2
7-zip压缩包的加密、解密方法_7zip怎么解密加密文件
3
elasticsearch的自学笔记_elasticsearch number_of_replica
4
SpringBoot maven环境下整合redis_springboot maven redis
5
基于GDAL的JAVA生成GDB文件实战
6
MySQL调优--03---show profiles 和 show processlist_show profies list
7
不用下载APP,用小程序就能直接打开的商场导览系统-使用蓝牙定位,含AR/VR导航功能_商场3d地图小程序
8
java计算机毕业设计“十八美妆”小程序的设计与实现【附源码+远程部署+程序+mysql】
9
centOS下制作RPM包_centos上制作rpm包
10
基于FPGA通用异步收发器UART设计_uart 16750
当前位置:
article
> 正文
TensorRT从入门到了解-学习笔记
作者:繁依Fanyi0 | 2024-04-15 21:47:08
赞
踩
TensorRT从入门到了解-学习笔记
b站
TensorRT
官方教程学习笔记
目录
0.简述
1. Part1 TensorRT 简介
1.1 TensorRT 简介
1.1.1 TensorRT基本特性和用法
1.1.2 TensorRT基本流程
1.1.3 TensorRT上搭建模型方法
1.1.3.1 Workflow:使用TensorRT API搭建
1.1.3.1.1 Logger日志记录器
1.1.3.1.2 Builder引擎构建器
1.1.3.2 Workflow:使用ONNX-Parser
1.1.3.3 Workflow:使用框架内TensorRT接口
1.1.3.4 TensorRT环境
2.Part2 开发辅助工具
2.1 trtexec:TensorRT命令行工具,主要的End2End性能测试工具
2.2 Netron:网络可视化
2.3 polygraphy:onnx计算图编辑
2.4 onnx-graphsurgeon:结果验证与定位,图优化
2.5 Nsight Systems:性能分析
3.Part3 插件书写
3.1 Plugin简介
3.2 关键API
3.3 TensorRT中导入Plugin
3.4 结合使用Parser和Plugin![在这里插入图片描述](https://img-blog.csdnimg.cn/direct/066e7486d4954a6f9be768e1c34b04a3.png)
3.5 Plugin高级话题
3.5.1 Plugin的扩展性
4.Part4 TensorRT 高级用法
4.1 多Optimization Profile
4.2 多Stream
4.3 多Context
4.4 Cuda Graph
4.5 Timing Cache
4.6 Algorithm Selector
4.7 Refit
4.8 Tactic Source
4.9 硬件兼容+版本兼容
4.10 更多工具
5.Part5 常见优化策略
5.1 概述 GPU specifications
5.2 性能分析工具
0.简述
参考连接:
声明:
本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:
https://www.wpsshop.cn/w/繁依Fanyi0/article/detail/430269
推荐阅读
article
TensorRT
triton003
launch
Triton
SERVER (乱记)_tenso...
【代码】
TensorRT
triton003
launch
Triton
SERVER (乱记)_
tensorrt
:20...
赞
踩
article
Vs21019
tensorRT
加速
yolov5
生成
engine
推理模型
(C++)_
wts
转en...
所需软件/组件Vs2019opencvCuda(注意!这个连接教程中并未勾选)一定要勾选,否则报错找不到cudaCudn...
赞
踩
article
使用
Tensorrt
对
YOLOv5
目标检测的
代码
进行加速_
yolov5
tensorrt
...
最近在
使用
YOLOv5
做apex的辅助,训练
代码
现在是写完了,在训练场中把禁止的假人还行,但是对于移动的目标,总是出现丢...
赞
踩
article
【
TensorRT
】
onnx
转
成
TensorRT
开发踩坑记录(
Win10
+cuda11.1+Tens...
本博客提供
onnx
模型
转
成
TensorRT
模型时的开发经验。_
onnx
转
tensorrt
onnx
转
tensorrt
...
赞
踩
article
【
TensorRT
】
trtexec
工具
转
engine
_
tensorrt
导出
engine
文件
...
测试网络性能 - 如果您将模型保存为 UFF
文件
、ONNX
文件
,或者如果您有 Caffe prototxt 格式的网...
赞
踩
article
使用
TensorRT
加速
深度
学习推理...
https://developer.nvidia.com/zh-cn/blog/speeding-up-deep-lea...
赞
踩
article
TensorRT
模型
加速
_自己的
模型
框架
如何进行
tensorrt
加速
...
TensorRT
模型
加速
Demo_自己的
模型
框架
如何进行
tensorrt
加速
自己的
模型
框架
如何进行
tensorrt
加速
...
赞
踩
article
【C++】【
TensorRT
】
检测时间
不
稳定
原因汇总(持续更新)_
不
同设备的
tensorrt
不
同...
本博客为广大
TensorRT
开发工程师提供
检测时间
不
稳定
的原因汇总情况以及解决方案。_
不
同设备的
tensorrt
不
同
不
同...
赞
踩
article
TensorRT
加速
方法示例代码_
ghostnet
tensorrt
加速
...
TensorRT
加速
方法示例代码_
ghostnet
tensorrt
加速
ghostnet
tensorrt
加速
...
赞
踩
article
【目标
检测
】
使用
TensorRT
加速
YOLOv5
_
yolov5
tensorrt
...
此文描述了
YOLOv5
转
TensorRT
的详细步骤,并分别对图片和视频进行了实验。_
yolov5
tensorrt
yol...
赞
踩
article
tensorRT
对
cuda
训练的
PyTorch
模型
加速
方法教程,实战总结_使用
cuda
加速
pyc...
该文章介绍了使用
tensorRT
加速
cuda
训练的
PyTorch
模型
的方法,包括流程介绍、
模型
转换为ONNX格式、从ON...
赞
踩
相关标签
人工智能
python
算法
YOLO
目标检测
计算机视觉
c++
深度学习
caffe
开发语言
pytorch
1024程序员节
tensorflow