如果想应用更多的模型，例如InstructBLIP，请问应该怎么修改呢？

[Listever]

[KaiLv69]

你好，hf上的模型可以用zero3。如果想用tp，需要把模型里的linear和embedding层改成collie里切过的版本，FYI:

CoLLiE/collie/module.py

Line 45 in 95dd8a2

class ColumnParallelLinearWithoutBias(ColumnParallelLinear):

如果想用pp，可以仿照internlm2改一下

总体上可以参考PR #156