Minor compaction does not work as expected

[JaySon-Huang]

Bug Report

Please answer these questions before submitting your issue. Thanks!

1. Minimal reproduce step (Required)

2. What did you expect to see? (Required)

3. What did you see instead (Required)

The logs from https://asktug.com/t/topic/994062/22

The minor compaction only compact the last two column file into one column file with 4 rows, leaving other compaction files in level 0 not merged
And move these files into level 1.

Lots of delta leaving column files unmerged, finally there are more than 32,764,491 pages on one PageStorage (__global__.log) instance and cause OOM. The db/page/log/wal/log_xxx_1 take about 7.1 GB.

[2022/10/17 09:08:14.742 +08:00] [DEBUG] [ColumnFilePersistedSet.cpp:400] ["ColumnFilePersistedSet:ColumnFilePersistedSet [42]: 1 levels, 512 column files, 29903 rows, 7975015 bytes, 0 deletes., before commit compaction, level info:
[0]: [T_2049,T_2048,T_319,T_1,T_226,T_115,T_58,T_27,T_2,T_3453,T_3580,T_439,T_1,T_1,T_2,T_1,T_2,T_3,T_1,T_2,T_2,T_2,T_1,T_1,T_3515,T_3513,T_1793,T_465,T_33,T_13,T_1,T_231,T_62,T_28,T_1,T_1,T_2,T_2,T_1,T_1,T_1738,T_109,T_1,T_1,T_2,T_1,T_1,T_2,T_214,T_26,T_108,T_30,T_1,T_2,T_1,T_1,T_1,T_1,T_14,T_1,T_1,T_1,T_1,T_1,T_2,T_1,T_54,T_1,T_1,T_1,T_1,T_17,T_1,T_2,T_1,T_1,T_2,T_1,T_1,T_2,T_1,T_4,T_15,T_1,T_1,T_1,T_2,T_1,T_1,T_3,T_1,T_2,T_17,T_1,T_1,T_4,T_2,T_1,T_2,T_3,T_1,T_2,T_1,T_2,T_2,T_1,T_1,T_1,T_2,T_1,T_5,T_2,T_5,T_21,T_23,T_16,T_2,T_9,T_14,T_1,T_7,T_5,T_8,T_21,T_6,T_20,T_2,T_5,T_7,T_3,T_6,T_2,T_4,T_1,T_2,T_2,T_6,T_2,T_124,T_31,T_109,T_60,T_13,T_2,T_14,T_2,T_1,T_2,T_1,T_1,T_1,T_1,T_1,T_1,T_1,T_1,T_1,T_2,T_1,T_1,T_1,T_2,T_1,T_2,T_2,T_1,T_62,T_28,T_2,T_1,T_3,T_1,T_1,T_1,T_1,T_1,T_2,T_1,T_1,T_1,T_1,T_1,T_1,T_29,T_1,T_1,T_2,T_1,T_1,T_1,T_1,T_1,T_2,T_2,T_2,T_1,T_2,T_1,T_1,T_2,T_1,T_1,T_1,T_1,T_1,T_2,T_1,T_1,T_2,T_1,T_3,T_2,T_2,T_2,T_2,T_1,T_1,T_27,T_1,T_1,T_3,T_1,T_1,T_1,T_1,T_2,T_17,T_1,T_2,T_2,T_16,T_1,T_1,T_1,T_1,T_1,T_1,T_21,T_1,T_1,T_1,T_1,T_3,T_1,T_2,T_1,T_3,T_1,T_2,T_1,T_1,T_1,T_1,T_1,T_4,T_1,T_1,T_1,T_2,T_3,T_1,T_1,T_1,T_2,T_1,T_4,T_11,T_6,T_23,T_443,T_108,T_53,T_38,T_16,T_1,T_2,T_1,T_1,T_2,T_1,T_2,T_2,T_1,T_2,T_16,T_1,T_1,T_1,T_1,T_1,T_1,T_2,T_1,T_1,T_1,T_1,T_12,T_1,T_1,T_1,T_117,T_32,T_14,T_1,T_1,T_115,T_27,T_11,T_105,T_12,T_1,T_1,T_1,T_1,T_1,T_1,T_1785,T_428,T_110,T_14,T_106,T_17,T_1,T_1,T_1,T_1,T_1,T_2,T_1,T_2,T_14,T_2,T_1,T_2,T_2,T_49,T_26,T_14,T_2,T_3,T_1,T_3,T_3,T_1,T_26,T_1,T_1,T_1,T_2,T_1,T_1,T_1,T_16,T_15,T_1,T_1,T_1,T_1,T_3,T_1,T_1,T_1,T_1,T_55,T_28,T_1,T_1,T_2,T_1,T_1,T_3,T_33,T_1,T_1,T_1,T_2,T_1,T_1,T_1,T_1,T_14,T_1,T_4,T_1,T_2,T_1,T_1,T_1,T_1,T_2,T_1,T_1,T_1,T_1,T_1,T_1,T_2,T_1,T_2,T_4,T_1,T_4,T_2,T_1,T_1,T_2,T_1,T_2,T_1,T_2,T_1,T_1,T_1,T_2,T_1,T_1,T_3,T_1,T_1,T_1,T_1,T_4,T_1,T_2,T_4,T_4,T_3,T_2,T_8,T_39,T_1,T_2,T_6,T_8,T_1,T_1,T_9,T_1,T_3,T_1,T_4,T_4,T_1,T_1,T_5,T_7,T_11,T_5,T_5,T_3,T_9,T_3,T_2,T_1,T_5,T_11,T_2,T_2,T_6,T_1,T_4,T_4,T_3,T_7,T_3,T_4,T_3,T_31,T_13,T_16,T_2,T_1,T_2,T_3,T_5,T_9,T_9,T_4,T_1,T_4,T_18,T_7,T_8,T_3,T_26,T_2,T_7,T_20,T_7,T_6,T_2,T_15,T_7,T_4,T_2,T_1,T_1,T_2,T_2,T_2,T_2,T_1,T_1,T_6,T_2,T_4,T_3,T_2,T_1,T_2,T_3,T_1]"] [thread_id=34]

[2022/10/17 09:08:14.751 +08:00] [DEBUG] [ColumnFilePersistedSet.cpp:469] ["ColumnFilePersistedSet:ColumnFilePersistedSet [42]: 2 levels, 511 column files, 29903 rows, 7975015 bytes, 0 deletes., after commit compaction, level info:
[0]: []
[1]: [T_2049,T_2048,T_319,T_1,T_226,T_115,T_58,T_27,T_2,T_3453,T_3580,T_439,T_1,T_1,T_2,T_1,T_2,T_3,T_1,T_2,T_2,T_2,T_1,T_1,T_3515,T_3513,T_1793,T_465,T_33,T_13,T_1,T_231,T_62,T_28,T_1,T_1,T_2,T_2,T_1,T_1,T_1738,T_109,T_1,T_1,T_2,T_1,T_1,T_2,T_214,T_26,T_108,T_30,T_1,T_2,T_1,T_1,T_1,T_1,T_14,T_1,T_1,T_1,T_1,T_1,T_2,T_1,T_54,T_1,T_1,T_1,T_1,T_17,T_1,T_2,T_1,T_1,T_2,T_1,T_1,T_2,T_1,T_4,T_15,T_1,T_1,T_1,T_2,T_1,T_1,T_3,T_1,T_2,T_17,T_1,T_1,T_4,T_2,T_1,T_2,T_3,T_1,T_2,T_1,T_2,T_2,T_1,T_1,T_1,T_2,T_1,T_5,T_2,T_5,T_21,T_23,T_16,T_2,T_9,T_14,T_1,T_7,T_5,T_8,T_21,T_6,T_20,T_2,T_5,T_7,T_3,T_6,T_2,T_4,T_1,T_2,T_2,T_6,T_2,T_124,T_31,T_109,T_60,T_13,T_2,T_14,T_2,T_1,T_2,T_1,T_1,T_1,T_1,T_1,T_1,T_1,T_1,T_1,T_2,T_1,T_1,T_1,T_2,T_1,T_2,T_2,T_1,T_62,T_28,T_2,T_1,T_3,T_1,T_1,T_1,T_1,T_1,T_2,T_1,T_1,T_1,T_1,T_1,T_1,T_29,T_1,T_1,T_2,T_1,T_1,T_1,T_1,T_1,T_2,T_2,T_2,T_1,T_2,T_1,T_1,T_2,T_1,T_1,T_1,T_1,T_1,T_2,T_1,T_1,T_2,T_1,T_3,T_2,T_2,T_2,T_2,T_1,T_1,T_27,T_1,T_1,T_3,T_1,T_1,T_1,T_1,T_2,T_17,T_1,T_2,T_2,T_16,T_1,T_1,T_1,T_1,T_1,T_1,T_21,T_1,T_1,T_1,T_1,T_3,T_1,T_2,T_1,T_3,T_1,T_2,T_1,T_1,T_1,T_1,T_1,T_4,T_1,T_1,T_1,T_2,T_3,T_1,T_1,T_1,T_2,T_1,T_4,T_11,T_6,T_23,T_443,T_108,T_53,T_38,T_16,T_1,T_2,T_1,T_1,T_2,T_1,T_2,T_2,T_1,T_2,T_16,T_1,T_1,T_1,T_1,T_1,T_1,T_2,T_1,T_1,T_1,T_1,T_12,T_1,T_1,T_1,T_117,T_32,T_14,T_1,T_1,T_115,T_27,T_11,T_105,T_12,T_1,T_1,T_1,T_1,T_1,T_1,T_1785,T_428,T_110,T_14,T_106,T_17,T_1,T_1,T_1,T_1,T_1,T_2,T_1,T_2,T_14,T_2,T_1,T_2,T_2,T_49,T_26,T_14,T_2,T_3,T_1,T_3,T_3,T_1,T_26,T_1,T_1,T_1,T_2,T_1,T_1,T_1,T_16,T_15,T_1,T_1,T_1,T_1,T_3,T_1,T_1,T_1,T_1,T_55,T_28,T_1,T_1,T_2,T_1,T_1,T_3,T_33,T_1,T_1,T_1,T_2,T_1,T_1,T_1,T_1,T_14,T_1,T_4,T_1,T_2,T_1,T_1,T_1,T_1,T_2,T_1,T_1,T_1,T_1,T_1,T_1,T_2,T_1,T_2,T_4,T_1,T_4,T_2,T_1,T_1,T_2,T_1,T_2,T_1,T_2,T_1,T_1,T_1,T_2,T_1,T_1,T_3,T_1,T_1,T_1,T_1,T_4,T_1,T_2,T_4,T_4,T_3,T_2,T_8,T_39,T_1,T_2,T_6,T_8,T_1,T_1,T_9,T_1,T_3,T_1,T_4,T_4,T_1,T_1,T_5,T_7,T_11,T_5,T_5,T_3,T_9,T_3,T_2,T_1,T_5,T_11,T_2,T_2,T_6,T_1,T_4,T_4,T_3,T_7,T_3,T_4,T_3,T_31,T_13,T_16,T_2,T_1,T_2,T_3,T_5,T_9,T_9,T_4,T_1,T_4,T_18,T_7,T_8,T_3,T_26,T_2,T_7,T_20,T_7,T_6,T_2,T_15,T_7,T_4,T_2,T_1,T_1,T_2,T_2,T_2,T_2,T_1,T_1,T_6,T_2,T_4,T_3,T_2,T_1,T_2,T_4]"] [thread_id=34]
[2022/10/17 09:08:14.751 +08:00] [DEBUG] [DeltaValueSpace.cpp:278] ["DeltaValueSpace:Delta [42] Compacted 2 column files into 1 column files, total 4 rows."] [thread_id=34]
[2022/10/17 09:08:14.763 +08:00] [DEBUG] [DeltaMergeStore.cpp:141] ["DeltaMergeStore:db_698.t_704 Segment [41] task [Compact] add to background task pool by [BG_Compact]"] [thread_id=34]

4. What is your TiFlash version? (Required)

v6.2.0