Skip to content

[Question]: 关于FlashMask的相关问题 #9459

@complexfilter

Description

@complexfilter

请提出你的问题

  1. 在 H100 GPU上相对A100有额外的加速吗?
  2. FlashMask的sliding window是否支持文生图任务中的frame-based granularity level?比如文生图任务只在临近的frames中算attention,此时的attention需要的颗粒度是单个frame,而不是单个token。
  3. FlashMask的sliding window是否支持frame-based granularity level + key frames的mask? 就是既在临近的frames中算attention,且对每个frame对关键帧算attention。就是所有column 中,有若干个column要做full attention。

Metadata

Metadata

Assignees

Labels

questionFurther information is requestedstale

Type

No type

Projects

No projects

Milestone

No milestone

Relationships

None yet

Development

No branches or pull requests

Issue actions