-
Notifications
You must be signed in to change notification settings - Fork 236
模型分块
Li Yudong (李煜东) edited this page May 24, 2023
·
2 revisions
使用转换脚本将模型分块
示例:
python3 scripts/convert_model_into_blocks.py \
--input_model_path chatflow_13b.bin \
--output_model_path models/chatflow_13b/
--block_size 10
--input_model_path 输入模型路径 --output_model_path 输出模型目录 --block_size 分块大小
使用 TencentPretrain 加载转换后的文件时,将 pretrained_model_path 改为以上输出的目录即可