搜索
查看
编辑修改
首页
UNITY
NODEJS
PYTHON
AI
GIT
PHP
GO
CEF3
JAVA
HTML
CSS
搜索
羊村懒王
这个屌丝很懒,什么也没留下!
关注作者
热门标签
jquery
HTML
CSS
PHP
ASP
PYTHON
GO
AI
C
C++
C#
PHOTOSHOP
UNITY
iOS
android
vue
xml
爬虫
SEO
LINUX
WINDOWS
JAVA
MFC
CEF3
CAD
NODEJS
GIT
Pyppeteer
article
热门文章
1
Windows Hook技术_hookwinenvent
2
GitHub上最受开发人员欢迎的5大Java项目_github好的java项目
3
公司新来的阿里P8看了我写测试用例,甩了份文档给我
4
Android开机动画的基本流程
5
在Vbox上安装linux需要注意的问题 “异常退出错误。”或不识别鼠标的解决办法_virtual box安装的linux虚拟机异常退出是什么原因
6
基于STM32CubeMx的USB CDC+MSC复合设备
7
【本地大模型部署与微调】ChatGLM3-6b、m3e、one-api、Fastgpt_chatglm3微调最大输入上下文
8
UWB信号对服务器有没有干扰,uwb定位技术原理及应用分析
9
SQL入门之第七讲——INSERT插入语句_sql insert
10
爆火的1分钟声音克隆GPT-SoVITS项目 linux系统 ubuntu22.04安装2天踩坑教程_gpt-sovits linux
当前位置:
article
> 正文
《Destruction and Construction Learning for Fine-grained Image Recognition》对抗损失理解
作者:羊村懒王 | 2024-04-26 07:37:53
赞
踩
对抗损失
看到有些讲解的文章,说DCL中的对抗损失是gan的思想,优化目标是让判别器不能分辨原图和破坏图,但是我的理解完全相反。以下是我的理解,如有不对,请指出。
1.作者原文中的图2 有明显的说明,“
an adversarial loss is applied to distinguish original images from destructed ones.”也就是说对抗损失的目的是为了区分原图和破坏图。
2)在3.1.2节中,作者说分类loss和对抗loss是以对抗的形式进行工作。分类loss是不区分原图和破坏图的,对抗loss区分原图和对抗图,这样才是对抗的。
3)认为是以不区分原图和破坏图为目的的人,大多是因为以下的公式,
认为不论d为0还是1的时候,及不论是原图还是破坏图,D的优化方向都是1.但是这只是在单个二分类中才是 这样的理解,但是作者论文中说明了输出维度是2,
那此公式就是一个softmax loss!跟分类loss是一个形式,用于区分是原图还是不是原图。也就是说
和
不是一个二分类器的输出,不是经过这个二分类器后原图输出1,破坏后的图也输出1.而是相当于有两个分类器,一个判别是不是原图,一个判别是不是破坏后的图,具体原理详见softmax。
4)作者的代码也证实了这一观点,2分类模式下的输出层(实际还可以有另一种模式,具体可以自己看代码)
拿到这个输出之后是直接一个ce loss!
最后,探讨一下为什么对抗网络能有效果,对抗网络其实相当于让模型学习到了什么是RCM引入的噪声信息,也就是将原来的视觉特征空间分割成了噪声空间和有用空间,能让模型在分类的时候不要去拟合噪声空间。
声明:
本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:
https://www.wpsshop.cn/w/羊村懒王/article/detail/489770
推荐阅读
article
【论文导读】-
Cluster
-driven
Graph
Federated
Learning
ov...
clustering
联邦
学习
( Federation
Learning
,FL )是在隐私受限的场景中
学习
一个中心模型(即...
赞
踩
article
Edge
Video
Analytics
(0) —
Edge
Video
Analytics
Pa...
Edge
Video
Analytics
Paper
List来源:https://github.com/xumengw...
赞
踩
article
【EAI 007】
Mobile
ALOHA
:一个
低成本
的收集人类示教
数据
的双臂移动操作硬件系统_mo...
利用
Mobile
ALOHA
收集的
数据
,进行了有监督的行为克隆,并发现与现有静态
ALOHA
数据
集进行联合训练可提...
赞
踩
article
初步认识
机器
学习
(
Machine
Leaning
)_
machine
learning
...
入门
机器
学习
,对
机器
学习
有了初步的了解_
machine
learning
machine
learning
...
赞
踩
article
论文解读:(
UPL
)
Unsupervised
Prompt
Learning
for
Vision
-...
像CLIP这样的对比视觉语言模型在迁移学习方面已经取得了很大的进展。在推理阶段,需要精心设计适当的文本描述,也称为提示,...
赞
踩
article
大
语言
模型(
LLM
)框架及
微调
(Fine Tuning)_
llm
serving
,
llm
fin...
GPT (Generative Pre-trained Transformer) 的提出标志着
LLM
技术的飞速发展,...
赞
踩
article
翻译
Deep
Learning
and
the
Game
of Go(10)第八章:部署你的AI_g...
本章包括:构建一个端到端的应用程序来训练和运行一个围棋机器人 在前端运行来对抗你的机器人 让你的机器人在本地与其他机器人...
赞
踩
article
论文笔记
--
ERNIE
-VIL
2.0
:
MULTI
-
VIEW
CONTRASTIVE LEARNI...
ERNIE
-ViL
2.0
:基于多视角学习的多模态学习_
ernie
-
vil20
ernie
-
vil20
...
赞
踩
article
[论文阅读笔记32]A
guide
to
deep
learn
in
g
in
healthcare
...
题目A
guide
to
deep
learn
in
g
in
healthcare
https://doi.org/10.1...
赞
踩
article
综述阅读:A
guide
to
deep
learn
in
g
in
healthcare
_a guid...
综述阅读:A
guide
to
deep
learn
in
g
in
healthcare
来源:2019 nature me...
赞
踩
article
异步
联邦
学习
-能耗:
Energy
-
Efficient
Dynamic Asynchronous Fe...
为了打破数据孤岛并解决绿色通信的挑战,
联邦
学习
(FL)被广泛应用于移动边缘计算(MEC)网络中,用于在网络边缘训练深度学...
赞
踩
article
Predicting
healthcare
trajectories
from medical re...
摘要 个性化
预测
医学需要对患者疾病和护理过程进行建模,该过程本身具有长期的时间依赖性。储存在电子
医疗
记录
中的
医疗
观察是...
赞
踩
article
Fine
-
tune
BERT
for
Extractive Summarization代码复现数据处...
疫情期间在家学习,期间学习到
Fine
-
tune
BERT
for
Extractive Summarization。将b...
赞
踩
article
AI推介-多模态
视觉
语言
模型
VLMs
论文速览(arXiv方向):2024.04.05-2024.04...
视觉
语言
模型
(VLM)通常由一个
视觉
编码器(如 CLIP)和一个
语言
模型
(LM)组成,前者解释编码特征,后者解决下游任务...
赞
踩
article
【
深度
学习
:
Self
-supervised learning (
SSL
) 】自我
监督
学习
解释_
深度
学...
自
监督
学习
(
SSL
)是机器
学习
(ML)中的一种训练方式,它鼓励模型使用未标记的数据进行
学习
。它不是依赖于大量标记和注释数...
赞
踩
article
Learning
Transferable
Visual
Models From Natural L...
SOTA计算机视觉系统经过训练,以预测一组固定的提前定义的目标类别。这种受限的有监督形式限制了它们的通用性和可用性,因为...
赞
踩
article
Learning
transferable
visual
modals
from
natural
l...
作者提出先前的计算机视觉系统大多采用监督学习,他只能对预先定义的类别中的物体进行分类。作者在4亿文本-图像上预训练匹配文...
赞
踩
article
TensorFlow
1.x 深度学习秘籍:6~10_
tensorflow
1.x
deep
lea...
原文:
TensorFlow
1.x Deep Learning Cookbook协议:CC BY-NC-SA 4.0译者...
赞
踩
article
人工智能
导论
(7)——人工
神经网络
(
Machine
Learning
)_
神经网络
人工智能
实验
导论
...
人工
神经网络
是一种典型的机器学习方法。本文简介了人工
神经网络
相关基础知识,包括:人工神经元、感知机、BP反向传播算法、深...
赞
踩
article
第一个现象级音乐生成产品
Suno
;
GenAI
动画技能全图;超级个体的技术写作手册;大
语言
模型
入门新书...
日报关键词:AI冲击书籍与阅读;音乐生成工具
Suno
.ai;用LLM生成歌词;AI炒股公司;回望大
模型
的一年;
GenAI
...
赞
踩
相关标签
聚类
人工智能
edge
深度学习
神经网络
机器人
ALOHA
模仿学习
具身智能
机器学习
python
多模态少样本学习
prompt
语言模型
自然语言处理
论文阅读
ernie
ERNIE-ViL
多视角学习
目标检测