当前位置:   article > 正文

利用swin-transformer训练自己的数据集_runtimeerror: "slow_conv2d_cuda" not implemented f

runtimeerror: "slow_conv2d_cuda" not implemented for 'byte

环境:服务器cuda10.2

1.创建虚拟环境,安装pytorch和torchvision

  1. conda create -n openmmlab_XXX python=3.7 -y
  2. conda activate openmmlab_XXX
  3. conda install pytorch==1.6.0 torchvision==0.7.0 cudatoolkit=10.2 -c pytorch

2.安装mmcv

  1. pip install mmcv-full -f https://download.openmmlab.com/mmcv/dist/cu102/torch1.6.0/index.html #安装和自己cuda等版本匹配的
  2. # install mmdetection
  3. git clone https://github.com/open-mmlab/mmdetection.git
  4. cd mmdetection
  5. pip install -r requirements/build.txt
  6. pip install -v -e

3.准备coco数据集(train/val/annotations)

数据集路径如下:

​​​​​​​

因为github上coco的命名格式,所以我把自己的数据集名称也改成这个。

4.修改对应的配置文件

修改mmdetection/mmdet/core/evaluation下的class_names.py文件修改成你自己的类别标签

修改mmdetection/mmdet/datasets下的coco.py文件 

 但当时修改完之后遇到了这个问题The `num_classes` (80) in Shared2FCBBoxHead of MMDataParallel does not match the length of `CLASSES` 20) in RepeatDataset 重新编译代码(运行python setup.py install)且修改了envs下的文件后仍然报错,最后参考一篇博文评论的回答成功解决特此记录,修改了/mmdetection/configs/_base_/models

下的mask_rcnn_r50_fpn.py文件中的num_classes=1后成功。

还遇到了ValueError: need at least one array to concatenate这个问题,修改了标注json文件中的标签名后解决。

5.训练

OMP_NUM_THREADS=1 python tools/train.py configs/swin/mask_rcnn_swin-t-p4-w7_fpn_fp16_ms-crop-3x_coco.py

注意⚠️ 训练时查看checkpoints保存位置

6.测试

python tools/test.py configs/swin/mask_rcnn_swin-t-p4-w7_fpn_fp16_ms-crop-3x_coco.py work_dirs/mask_rcnn_swin-t-p4-w7_fpn_fp16_ms-crop-3x_coco/latest.pth --show-dir output/

会在文件下生成测试结果

7.绘制训练时的分类和回归损失,并将该图保存为pdf

python tools/analysis_tools/analyze_logs.py plot_curve work_dirs/mask_rcnn_swin-t-p4-w7_fpn_fp16_ms-crop-3x_coco/20220307_121040.log.json --keys loss_cls loss_bbox --out losses.pdf

后续尝试了在cpu环境下训练,出现这个错误RuntimeError: "slow_conv2d_cpu" not implemented for 'Half',修改了iou2d_calculator下的x = (x / scale).half()

return x.float().clamp(min, max).half()将half改成float然后更换训练权重文件后成功。

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/不正经/article/detail/536570
推荐阅读
相关标签
  

闽ICP备14008679号