Implementation of NMS op for east detection

[wanghaoshuang]

当前的NMS op仅支持rectangle boxes. 而east detection需要对quadrangle boxes做NMS.

• 表示不同： 一个batch的rectangles用[M, N, 4]的Tensor表示, quadrangles需要用[M, N, 8]的Tensor表示。

• 两个Boxes的Overlap计算方式不同

• 支持的classes number不同

方案：

1. 改造现有NMS op
2. 新增op

[wanghaoshuang]

OCR给出的east detection NMS接口设计建议：

proposal_nms_layer
input: rois_all: N x H x W x 9
param: top_k: top k rois of mini-batch
             score_thresh:
             iou_thresh:
output: rois_filtered: num_rois x 10 (batch_ind, x1, y1, ..., x4, y4, score)

上边接口的input: rois_all: N x H x W x 9 相当于现有NMS op中的intput(BBoxes) + input(Scores)

[wanghaoshuang]

Fluid给出的east detection NMS接口设计建议：

• input

  • rois: type=Tensor, shape= [ N, H, W, n_vertex],
    其中，n_vertex是指roi顶点的个数。
  • scores: type=Tensor, shape=[N, H, W, num_classes]
    其中，num_classes是指目标类别的个数。

• param
  略

• output

  • rois_filtered: type=LoDTensor, shape=[num_rois, (2 + n_vertex)]
    其中num_rois表示当前batch NMS之后一共留下多少个roi. 每一个roi用2 + n_vertex个数字描述[label, score, p_1, p_2...p_n], 其中，label表示当前roi所属类别，score表示当前roi属于label的置信度， p_1...p_n表示当前roi各个顶点的坐标。
    output LoDTensor的LoD vector记录每个roi属于当前batch的哪个图片。
    比如：
    out.lod= [[0, 2, 5]] 表示：当前batch_size为2，第0到（2-1）个rois属于第一张图片，第2到(5-1)个图片属于第二张图片。

以上设计更倾向于扩展现有NMS op为支持多类别和多顶点的通用op，

[Yipeng-Sun]

out.lod= [[0, 2, 5]] 表示：当前batch_size为2，第0到（2-1）个rois属于第一张图片，第2到(5-1)个rois属于第二张图片

[Yipeng-Sun]

btw 端到端训练过程，需要NMS的反向计算，基于现有框架如何设计实现接口比较合理？

[shanyi15]

您好，此issue在近一个月内暂无更新，我们将于今天内关闭。若在关闭后您仍需跟进提问，可重新开启此问题，我们将在24小时内回复您。因关闭带来的不便我们深表歉意，请您谅解~感谢您对PaddlePaddle的支持!
Hello, this issue has not been updated in the past month. We will close it today for the sake of other user‘s experience. If you still need to follow up on this question after closing, please feel free to reopen it. In that case, we will get back to you within 24 hours. We apologize for the inconvenience caused by the closure and thank you so much for your support of PaddlePaddle Group!