Skip to content

Commit 1beddd8

Browse files
committed
delete code for cleaning
1 parent ab7b231 commit 1beddd8

File tree

1 file changed

+1
-16
lines changed

1 file changed

+1
-16
lines changed

library/train_util.py

Lines changed: 1 addition & 16 deletions
Original file line numberDiff line numberDiff line change
@@ -4141,22 +4141,7 @@ def get_optimizer(args, trainable_params):
41414141
raise AttributeError(
41424142
"No PagedLion8bit. The version of bitsandbytes installed seems to be old. Please install 0.39.0 or later. / PagedLion8bitが定義されていません。インストールされているbitsandbytesのバージョンが古いようです。0.39.0以上をインストールしてください"
41434143
)
4144-
elif optimizer_type == "Ademamix8bit".lower():
4145-
logger.info(f"use 8-bit Ademamix optimizer | {optimizer_kwargs}")
4146-
try:
4147-
optimizer_class = bnb.optim.AdEMAMix8bit
4148-
except AttributeError:
4149-
raise AttributeError(
4150-
"No Ademamix8bit. The version of bitsandbytes installed seems to be old. Please install 0.44.0 or later. / Ademamix8bitが定義されていません。インストールされているbitsandbytesのバージョンが古いようです。0.39.0以上をインストールしてください"
4151-
)
4152-
elif optimizer_type == "PagedAdemamix8bit".lower():
4153-
logger.info(f"use 8-bit PagedAdemamix optimizer | {optimizer_kwargs}")
4154-
try:
4155-
optimizer_class = bnb.optim.PagedAdEMAMix8bit
4156-
except AttributeError:
4157-
raise AttributeError(
4158-
"No PagedAdemamix8bit. The version of bitsandbytes installed seems to be old. Please install 0.44.0 or later. / PagedAdemamix8bitが定義されていません。インストールされているbitsandbytesのバージョンが古いようです。0.39.0以上をインストールしてください"
4159-
)
4144+
41604145
optimizer = optimizer_class(trainable_params, lr=lr, **optimizer_kwargs)
41614146

41624147
elif optimizer_type == "PagedAdamW".lower():

0 commit comments

Comments
 (0)