关于7b模型和lora模型合并的问题

[ericzfguo]

作者您好，想请教一下在使用merge_peft_adapter.py代码合并预训练模型7b和训练好的lora模型时，参数--model_type、--tokenizer_path和--resize_emb应该怎样设置才正确，谢谢您！

[shibing624]

--model_type auto --tokenizer_path和--resize_emb 不填。

[ericzfguo]

感谢作者！

[ericzfguo]

作者您好，还有个问题想向您请教一下，我们在把训练好的lora模型和预训练模型7b合并后，测试了一下效果，发现合并后的模型效果不如单独使用lora模型的效果（测试数据都是相同的），准确率下降了，请问出现这种现象的原因是什么？谢谢！

[shibing624]

应该是一模一样的，除非你评估时的参数有变动。

[ericzfguo]

好的，感谢作者！