🥑 Welcome to Aedream同学 's blog! 🥑

---

并不存在效果一定优秀的IoU，需要结合自己的网络、数据集试验。

不想深究原理可直接跳转总结。文内公式均为手打，非图片，方便查看

目标检测任务的损失函数一般都有Classificition Loss（分类损失函数）和Bounding Box Regeression Loss（回归损失函数）。子任务分别需要对应损失函数的反传来学习。

因此，更好的定位有利于模型精度的提高。

---

L1 Loss，L2Loss，smooth L1 loss

---

在IoU Loss提出来之前，检测上有关候选框的回归主要是通过坐标的回归损失来优化。

L1 Loss

• L1 范数损失
• 最小绝对值偏差（LAD）
• 最小绝对值误差（LAE）

最常看到的MAE也是指L1 Loss损失函数。 它是把目标值 $y_i$与模型输出（估计值） $f(x_i)$ 做绝对值得到的误差。

$loss(x,y)=\frac{1}{n}{\sum }_{i=1}^n\left|y_i-f(x_i)\right|$

什么时候使用？

1. 回归任务
2. 简单的模型
3. 由于神经网络通常是解决复杂问题，所以很少使用。

L2 Loss

• L2 范数损失
• 最小均方值偏差（LSD）
• 最小均方值误差（LSE）

最常看到的MSE也是指L2 Loss损失函数,PyTorch中也将其命名为torch.nn.MSELoss

它是把目标值 $y_i$ 与模型输出（估计值） $f(x_i)$ 做差然后平方得到的误差

$loss(x,y)=\frac{1}{n}{\sum }_{i=1}^n(y_i-f(x_i){)}^2$

什么时候使用？

1. 回归任务
2. 数值特征不大
3. 问题维度不高

SmoothL1Loss

简单来说就是平滑版的L1 Loss。

SoothL1Loss的函数如下：

仔细观察可以看到，当预测值和ground truth差别较小的时候（绝对值差小于1），其实使用的是L2 Loss；而当差别大的时候，是L1 Loss的平移。SooothL1Loss其实是L2Loss和L1Loss的结合，它同时拥有L2 Loss和L1 Loss的部分优点。

1. 当预测值和ground truth差别较小的时候（绝对值差小于1），梯度不至于太大。（损失函数相较L1 Loss比较圆滑）
2. 当差别大的时候，梯度值足够小（较稳定，不容易梯度爆炸）。

什么时候使用？

1. 回归
2. 当特征中有较大的数值
3. 适合大多数问题

但L1 Loss和L2 Loss存在比较大的问题：

L1 Loss的问题： 损失函数对x的导数为常数，在训练后期，x很小时，如果learning rate 不变，损失函数会在稳定值附近波动，很难收敛到更高的精度。
L2 Loss的问题： 损失函数对x的导数在x值很大时，其导数也非常大，在训练初期不稳定。
而且，基于L1/L2 Loss的坐标回归不具有尺度不变性，且并没有将四个坐标之间的相关性考虑进去。因此，像L1/L2 Loss直接的坐标回归实际上很难描述两框之间的相对位置关系。

IoU

因此，在ACM2016的论文中提出了IoU loss，它将四个坐标点看成一个整体进行计算，具有尺度不变性（也就是对尺度不敏感）。IoU Loss的定义是先求出预测框和真实框之间的交集和并集之比，再求负对数，但是在实际使用中我们常常将IoU Loss写成1-IoU。如果两个框重合则交并比等于1，Loss为0说明重合度非常高。因此，IoU的取值范围为[0,1]。

$IOU=\frac{(A\cap B)}{(A\cup B)}$

$IOULoss=1-IOU$

虽然IoU Loss虽然解决了Smooth L1系列变量相互独立和不具有尺度不变性的两大问题，但是它也存在两个问题：

1. 当预测框和目标框不相交时，即IoU(A,B)=0时，不能反映A,B距离的远近此时损失函数不可导，IoU Loss 无法优化两个框不相交的情况。
2. 假设预测框和目标框的大小都确定，只要两个框的相交值是确定的，即其IoU值相同时，IoU值不能反映两个框是如何相交的。
   

GIoU（CVPR2019）

针对IoU无法反映两个框是如何相交的问题，GIoU通过引入预测框和真实框的最小外接矩形（类似于图像处理中的闭包区域）来获取预测框、真实框在闭包区域中的比重。这样子，GIoU不仅可以关注重叠区域，还可以关注其他非重合区域，能比较好的反映两个框在闭包区域中的相交情况。

$$GIoU=IoU-\frac{|C-(A\cup B)|}{|C|}$$

从公式上来看，GIoU是一种IoU的下界，取值范围[-1,1]。在两者重合的时候取最大值1，在两者无交集且无限远的时候取最小值-1。因此，与IoU相比，GIoU是一个比较好的距离度量指标。

虽然GIoU通过引入闭包区域缓解了预测框与真实框相交位置的衡量问题，但其实际上仍存在两个问题：

1. 对每个预测框与真实框均要去计算最小外接矩形，计算及收敛速度受到限制
2. 当预测框在真实框内部时，GIoU退化为IoU，也无法区分相对位置关系
   

DIoU（AAAI2020）

DIoU在IoU的基础上直接回归两个框中心点的欧式距离，加速了收敛速度。DIoU的惩罚项是基于中心点的距离和对角线距离的比值。这样就避免了GIoU在两框距离较远时产生较大闭包时所造成的Loss值较大而难以优化的情况。

$L_{DIOU}=1-IOU+\frac{{\rho }^2(b,b^{gt})}{C^2}$

虽然DIOU能够直接最小化预测框和真实框的中心点距离加速收敛，但是Bounding box的回归还有一个重要的因素纵横比暂未考虑。

CIoU（AAAI2020）

虽然DIoU Loss通过中心点回归缓解了两框距离较远时难优化的问题，但DIoU Loss仍存在两框中心点重合，但宽高比不同时，DIoU Loss退化为IoU Loss的问题。因此，为了得到更加精准的预测框，CIoU在DIoU的基础上增加了一个影响因子，即增加了预测框与真实框之间长宽比的一致性的考量。

CIOU的惩罚项是在DIOU的惩罚项基础上加了一个影响因子 $\alpha \upsilon$，这个因子把预测框纵横比拟合真实框的纵横比考虑进去。惩罚项公式如下：

$R_{CIOU}=\frac{{\rho }^2\left(b,b^{gt}\right)}{c^2}+\alpha \upsilon$

其中 $\alpha$ 是用于做trade-off的参数， $\alpha$ 的定义如下：

$\alpha =\frac{\upsilon }{\left(1-IOU\right)+\upsilon }$

$\upsilon$ 是用来衡量长宽比一致性的参数， $\upsilon$定义如下：

$\upsilon =\frac{4}{{\pi }^2}{\left(arctan\frac{w^{gt}}{h^{gt}}-arctan\frac{w}{h}\right)}^2$

完整的CIOU损失函数的公式如下：

$L_{CIOU}=1-IOU+\frac{{\rho }^2\left(b,b^{gt}\right)}{c^2}+\alpha \upsilon$

CIOU Loss的梯度在长宽 $[0,1]$的情况下， $w^2+h^2$的值通常很小，会导致梯度爆炸，因此在 $\frac{1}{w^2+h^2}$ 实现时将替换成1。

EIoU&Focal（arXiv2021）

EIoU在CIoU的基础上将长宽比拆开，明确地衡量了三个几何因素的差异，即重叠区域、中心点和边长，同时引入Fcoal loss解决了难易样本不平衡的问题。

EIOU的惩罚项是在CIOU的惩罚项基础上将纵横比的影响因子拆开分别计算目标框和锚框的长和宽，该损失函数包含三个部分：重叠损失，中心距离损失，宽高损失，前两部分延续CIOU中的方法，但是宽高损失直接使目标盒与锚盒的宽度和高度之差最小，使得收敛速度更快。惩罚项公式如下：

$$\begin{gathered} L_{EIOU}=L_{IOU}+L_{dis}+L_{asp} \\ =1-IOU+\frac{{\rho }^2(\mathbf{b},{\mathbf{b}}^{\text{ft}})}{c^2}+\frac{{\rho }^2(w,w^{gt})}{C_w^2}+\frac{{\rho }^2(h,h^{gt})}{C_h^2} \end{gathered}$$

其中 Cw 和 Ch 是覆盖两个Box的最小外接框的宽度和高度。

考虑到BBox的回归中也存在训练样本不平衡的问题，即在一张图像中回归误差小的高质量锚框的数量远少于误差大的低质量样本，质量较差的样本会产生过大的梯度影响训练过程。作者在EIOU的基础上结合Focal Loss提出一种Focal EIOU Loss，梯度的角度出发，把高质量的锚框和低质量的锚框分开，惩罚项公式如下：

$L_{\text{Focal-EIOU}}=IO{U}^{\gamma }{L}_{EIoU}$

γ为控制异常值抑制程度的参数。该损失中的Focal与传统的Focal Loss有一定的区别，传统的Focal Loss针对越困难的样本损失越大，起到的是困难样本挖掘的作用；而根据上述公式：IOU越高的损失越大，相当于加权作用，给越好的回归目标一个越大的损失，有助于提高回归精度。

两个优化方法：

1. 将纵横比的损失项拆分成预测的宽高分别与最小外接框宽高的差值，加速了收敛提高了回归精度；
2. 引入了Focal Loss优化了边界框回归任务中的样本不平衡问题，即减少与目标框重叠较少的大量锚框对BBox 回归的优化贡献，使回归过程专注于高质量锚框。

不足之处或许在于Focal的表达形式是否有待改进。

αIoU（NeurlPS2021）

αIoU将现有的基于IoU 的损失进行了一个推广。使得αIoU可以显著超越现有的基于 IoU 的损失，通过调节α，使探测器更灵活地实现不同水平的bbox回归精度，并且αIoU对小数据集和噪声的鲁棒性更强

${\mathcal{L}}_{\text{IoU}}=1-IoU⟹{\mathcal{L}}_{\alpha -\text{IoU}}=1-Io{U}^{\alpha },$

${\mathcal{L}}_{\mathrm{GbbU}}=1-IoU+\frac{|C-(B\cup B^{gt})|}{|C|}⟹{\mathcal{L}}_{\alpha \mathrm{Gbld}U}=1-Io{U}^{\alpha }+(\frac{|C-(B\cup B^{gt})|}{|C|}{)}^{\alpha },$

其余同理……

SIoU（arXiv2022）

传统的目标检测损失函数依赖于边界框回归指标的聚合，例如预测框和真实框（即 GIoU、CIoU、ICIoU 等）的距离、重叠区域和纵横比。然而，迄今为止提出和使用的方法都没有考虑期望的真实框和预测框之间不匹配的方向。这种不足导致收敛速度较慢且效率较低，因为预测框在训练过程中可能会“四处游荡”，最终会产生一个更差的模型。

SIoU提出了一种新的损失函数，重新定义了惩罚度量，考虑了期望回归之间的向量夹角。

SIoU损失函数由4个成本函数组成

Angle cost
$\Lambda =1-2\ast si{n}^2\left(arcsin\left(x\right)-\frac{\pi }{4}\right),$

Distance cost
$\Delta ={\sum }_{t=x,y}(1-e^{-\gamma {\rho }_t}),$
${\rho }_x={\left(\frac{b_{cx}^{gt}-b_{cx}}{c_W}\right)}^2,{\rho }_y={\left(\frac{b_{cy}^{gt}-b_{cy}}{c_h}\right)}^2,\gamma =2-\Lambda$

Shape cost
$\Omega =\sum _{t=w,h}(1-e^{-{\omega }_t}{)}^{\theta }$

IoU cost
$L_{box}=1-IoU+\frac{\Delta +\Omega }{2}$

WIoU

Focal EIoU v1被提出来解决质量较好和质量较差的样本间的BBR平衡问题，但由于其静态聚焦机制（FM），非单调FM的潜力没有被充分利用，基于这一思想，作者提出了一种基于IoU的损失，该损失具有动态非单调FM，名为Wise IoU（WIoU）。

主要贡献总结如下：

提出了BBR的基于注意力的损失WIoU v1，它在仿真实验中实现了比最先进的SIoU更低的回归误差。

设计了具有单调FM的WIoU v2和具有动态非单调FM的WIoU v3。利用动态非单调FM的明智的梯度增益分配策略，WIoU v3获得了优越的性能。

对低质量的样本的影响进行了一系列详细的研究，证明了动态非单调调频的有效性和效率。

由于训练数据不可避免地包含低质量示例，几何因素（如距离和纵横比）将加重对低质量示例的惩罚，从而降低模型的泛化性能。当anchor box与目标box很好地重合时，一个好的损失函数应该会削弱几何因素的惩罚，而较少的训练干预将使模型获得更好的泛化能力。

WIoU v1
$$\begin{gathered} {\mathcal{L}}_{WIdU1}={\mathcal{R}}_{WIdU}{\mathcal{L}}_{IdU} \\ {\mathcal{R}}_{WIdU}=\exp (\frac{(x-x_{gt}{)}^2+(y-y_{gt}{)}^2}{(W_g^2+H_g^2{)}^{\ast }}) \end{gathered}$$

WIoU v2
${\mathcal{L}}_{WIoUv2}=(\frac{{\mathcal{L}}_{IoU}^{\ast }}{\overline{{\overline{\mathcal{L}}}_{IoU}}}{)}^{\gamma }{\mathcal{L}}_{WIoUv1}$

WIoU v3
$\beta =\frac{{\mathcal{L}}_{IoU}^{\ast }}{\overline{{\mathcal{L}}_{IoU}}}\in [0,+\infty )$

${\mathcal{L}}_{WIoUv3}=r{\mathcal{L}}_{WIoUv1},r=\frac{\beta }{\delta {\alpha }^{\beta -\delta }}$

总结

边界框回归的三大几何因素：重叠面积、中心点距离、纵横比

• IOU Loss：考虑了重叠面积，归一化坐标尺度；
• GIOU Loss：考虑了重叠面积，基于IOU解决边界框不相交时loss等于0的问题；
• DIOU Loss：考虑了重叠面积和中心点距离，基于IOU解决GIOU收敛慢的问题；
• CIOU Loss：考虑了重叠面积、中心点距离、纵横比，基于DIOU提升回归精确度；
• EIOU Loss：考虑了重叠面积，中心点距离、长宽边长真实差，基于CIOU解决了纵横比的模糊定义，并添加Focal Loss解决BBox回归中的样本不平衡问题。
• α-IOU Loss：通过调节α，使探测器更灵活地实现不同水平的bbox回归精度
• SIOU Loss：考虑到期望回归之间向量的角度，重新定义角度惩罚度量，它可以使预测框快速漂移到最近的轴，随后则只需要回归一个坐标（X或Y），这有效地减少了自由度的总数。
• WIOU Loss：解决质量较好和质量较差的样本间的BBR平衡问题

	IOU Loss	GIOU Loss	DIOU Loss	CIOU Loss	EIOU Loss
优点	IOU算法是目标检测中最常用的指标，具有尺度不变性，满足非负性；同一性；对称性；三角不等性等特点。	GIOU在基于IOU特性的基础上引入最小外接框解决检测框和真实框没有重叠时loss等于0问题。	DIOU在基于IOU特性的基础上考虑到GIOU的缺点，直接回归两个框中心点的欧式距离，加速收敛。	CIOU就是在DIOU的基础上增加了检测框尺度的loss，增加了长和宽的loss，这样预测框就会更加的符合真实框。	EIOU在CIOU的基础上分别计算宽高的差异值取代了纵横比，同时引入Focal Loss解决难易样本不平衡的问题。
缺点	1.如果两个框不相交，不能反映两个框距离远近 2.无法精确的反映两个框的重合度大小	1.当检测框和真实框出现包含现象的时候GIOU退化成IOU 2.两个框相交时，在水平和垂直方向上收敛慢	回归过程中未考虑Bounding box的纵横比，精确度上尚有进一步提升的空间	1. 纵横比描述的是相对值，存在一定的模糊 2. 未考虑难易样本的平衡问题	聚焦机制是静态的，并未充分挖掘非单调聚焦机制的潜能

原论文

IoU loss

论文:《UnitBox: An Advanced Object Detection Network》

GIoU loss

论文：《Generalized Intersection over Union: A Metric and A Loss for Bounding Box Regression》

DIoU/CIoU

论文：《Distance-IoU Loss: Faster and Better Learning for Bounding Box Regression》

EIoU Loss/Focal EIoU Loss

论文：Focal and Efficient IOU Loss for Accurate Bounding Box Regression》

SIoU loss

论文：《SIoU Loss: More Powerful Learning for Bounding Box Regression》

WIoU loss

论文：《Wise-IoU: Bounding Box Regression Loss with Dynamic Focusing Mechanism》

代码

代码如下：

class WIoU_Scale:
    ''' monotonous: {
            None: origin v1
            True: monotonic FM v2
            False: non-monotonic FM v3
        }
        momentum: The momentum of running mean'''
    
    iou_mean = 1.
    monotonous = False
    _momentum = 1 - 0.5 ** (1 / 7000)
    _is_train = True

    def __init__(self, iou):
        self.iou = iou
        self._update(self)
    
    @classmethod
    def _update(cls, self):
        if cls._is_train: cls.iou_mean = (1 - cls._momentum) * cls.iou_mean + \
                                         cls._momentum * self.iou.detach().mean().item()
    
    @classmethod
    def _scaled_loss(cls, self, gamma=1.9, delta=3):
        if isinstance(self.monotonous, bool):
            if self.monotonous:
                return (self.iou.detach() / self.iou_mean).sqrt()
            else:
                beta = self.iou.detach() / self.iou_mean
                alpha = delta * torch.pow(gamma, beta - delta)
                return beta / alpha
        return 1
    

def bbox_iou(box1, box2, xywh=True, GIoU=False, DIoU=False, CIoU=False, SIoU=False, EIoU=False, WIoU=False, Focal=False, alpha=1, gamma=0.5, scale=False, eps=1e-7):
    # Returns Intersection over Union (IoU) of box1(1,4) to box2(n,4)

    # Get the coordinates of bounding boxes
    if xywh:  # transform from xywh to xyxy
        (x1, y1, w1, h1), (x2, y2, w2, h2) = box1.chunk(4, -1), box2.chunk(4, -1)
        w1_, h1_, w2_, h2_ = w1 / 2, h1 / 2, w2 / 2, h2 / 2
        b1_x1, b1_x2, b1_y1, b1_y2 = x1 - w1_, x1 + w1_, y1 - h1_, y1 + h1_
        b2_x1, b2_x2, b2_y1, b2_y2 = x2 - w2_, x2 + w2_, y2 - h2_, y2 + h2_
    else:  # x1, y1, x2, y2 = box1
        b1_x1, b1_y1, b1_x2, b1_y2 = box1.chunk(4, -1)
        b2_x1, b2_y1, b2_x2, b2_y2 = box2.chunk(4, -1)
        w1, h1 = b1_x2 - b1_x1, (b1_y2 - b1_y1).clamp(eps)
        w2, h2 = b2_x2 - b2_x1, (b2_y2 - b2_y1).clamp(eps)

    # Intersection area
    inter = (b1_x2.minimum(b2_x2) - b1_x1.maximum(b2_x1)).clamp(0) * \
            (b1_y2.minimum(b2_y2) - b1_y1.maximum(b2_y1)).clamp(0)

    # Union Area
    union = w1 * h1 + w2 * h2 - inter + eps
    if scale:
        self = WIoU_Scale(1 - (inter / union))

    # IoU
    # iou = inter / union # ori iou
    iou = torch.pow(inter/(union + eps), alpha) # alpha iou
    if CIoU or DIoU or GIoU or EIoU or SIoU or WIoU:
        cw = b1_x2.maximum(b2_x2) - b1_x1.minimum(b2_x1)  # convex (smallest enclosing box) width
        ch = b1_y2.maximum(b2_y2) - b1_y1.minimum(b2_y1)  # convex height
        if CIoU or DIoU or EIoU or SIoU or WIoU:  # Distance or Complete IoU https://arxiv.org/abs/1911.08287v1
            c2 = (cw ** 2 + ch ** 2) ** alpha + eps  # convex diagonal squared
            rho2 = (((b2_x1 + b2_x2 - b1_x1 - b1_x2) ** 2 + (b2_y1 + b2_y2 - b1_y1 - b1_y2) ** 2) / 4) ** alpha  # center dist ** 2
            if CIoU:  # https://github.com/Zzh-tju/DIoU-SSD-pytorch/blob/master/utils/box/box_utils.py#L47
                v = (4 / math.pi ** 2) * (torch.atan(w2 / h2) - torch.atan(w1 / h1)).pow(2)
                with torch.no_grad():
                    alpha_ciou = v / (v - iou + (1 + eps))
                if Focal:
                    return iou - (rho2 / c2 + torch.pow(v * alpha_ciou + eps, alpha)), torch.pow(inter/(union + eps), gamma)  # Focal_CIoU
                else:
                    return iou - (rho2 / c2 + torch.pow(v * alpha_ciou + eps, alpha))  # CIoU
            elif EIoU:
                rho_w2 = ((b2_x2 - b2_x1) - (b1_x2 - b1_x1)) ** 2
                rho_h2 = ((b2_y2 - b2_y1) - (b1_y2 - b1_y1)) ** 2
                cw2 = torch.pow(cw ** 2 + eps, alpha)
                ch2 = torch.pow(ch ** 2 + eps, alpha)
                if Focal:
                    return iou - (rho2 / c2 + rho_w2 / cw2 + rho_h2 / ch2), torch.pow(inter/(union + eps), gamma) # Focal_EIou
                else:
                    return iou - (rho2 / c2 + rho_w2 / cw2 + rho_h2 / ch2) # EIou
            elif SIoU:
                # SIoU Loss https://arxiv.org/pdf/2205.12740.pdf
                s_cw = (b2_x1 + b2_x2 - b1_x1 - b1_x2) * 0.5 + eps
                s_ch = (b2_y1 + b2_y2 - b1_y1 - b1_y2) * 0.5 + eps
                sigma = torch.pow(s_cw ** 2 + s_ch ** 2, 0.5)
                sin_alpha_1 = torch.abs(s_cw) / sigma
                sin_alpha_2 = torch.abs(s_ch) / sigma
                threshold = pow(2, 0.5) / 2
                sin_alpha = torch.where(sin_alpha_1 > threshold, sin_alpha_2, sin_alpha_1)
                angle_cost = torch.cos(torch.arcsin(sin_alpha) * 2 - math.pi / 2)
                rho_x = (s_cw / cw) ** 2
                rho_y = (s_ch / ch) ** 2
                gamma = angle_cost - 2
                distance_cost = 2 - torch.exp(gamma * rho_x) - torch.exp(gamma * rho_y)
                omiga_w = torch.abs(w1 - w2) / torch.max(w1, w2)
                omiga_h = torch.abs(h1 - h2) / torch.max(h1, h2)
                shape_cost = torch.pow(1 - torch.exp(-1 * omiga_w), 4) + torch.pow(1 - torch.exp(-1 * omiga_h), 4)
                if Focal:
                    return iou - torch.pow(0.5 * (distance_cost + shape_cost) + eps, alpha), torch.pow(inter/(union + eps), gamma) # Focal_SIou
                else:
                    return iou - torch.pow(0.5 * (distance_cost + shape_cost) + eps, alpha) # SIou
            elif WIoU:
                if Focal:
                    raise RuntimeError("WIoU do not support Focal.")
                elif scale:
                    return getattr(WIoU_Scale, '_scaled_loss')(self), (1 - iou) * torch.exp((rho2 / c2)), iou # WIoU https://arxiv.org/abs/2301.10051
                else:
                    return iou, torch.exp((rho2 / c2)) # WIoU v1
            if Focal:
                return iou - rho2 / c2, torch.pow(inter/(union + eps), gamma)  # Focal_DIoU
            else:
                return iou - rho2 / c2  # DIoU
        c_area = cw * ch + eps  # convex area
        if Focal:
            return iou - torch.pow((c_area - union) / c_area + eps, alpha), torch.pow(inter/(union + eps), gamma)  # Focal_GIoU https://arxiv.org/pdf/1902.09630.pdf
        else:
            return iou - torch.pow((c_area - union) / c_area + eps, alpha)  # GIoU https://arxiv.org/pdf/1902.09630.pdf
    if Focal:
        return iou, torch.pow(inter/(union + eps), gamma)  # Focal_IoU
    else:
        return iou  # IoU