chatglm做finetune的时候报错

[tianmala]

╭─────────────────────────────── Traceback (most recent call last) ────────────────────────────────╮
│ /home/mo/chatglm/transformers_tasks/LLM/finetune/train.py:352 in │
│ │
│ 349 │
│ 350 │
│ 351 if name == "main": │
│ ❱ 352 │ main() │
│ 353 │
│ │
│ /home/mo/chatglm/transformers_tasks/LLM/finetune/train.py:230 in main │
│ │
│ 227 │ │ model = model.quantize(args.quantization_bit) │
│ 228 │ │
│ 229 │ model = model.half() │
│ ❱ 230 │ model.gradient_checkpointing_enable() │
│ 231 │ model.enable_input_require_grads() │
│ 232 │ model.is_parallelizable = True │
│ 233 │ model.model_parallel = True │
│ │
│ /home/mo/miniconda3/envs/llm_env/lib/python3.8/site-packages/transformers/modeling_utils.py:1584 │
│ in gradient_checkpointing_enable │
│ │
│ 1581 │ │ activations". │
│ 1582 │ │ """ │
│ 1583 │ │ if not self.supports_gradient_checkpointing: │
│ ❱ 1584 │ │ │ raise ValueError(f"{self.class.name} does not support gradient check │
│ 1585 │ │ self.apply(partial(self._set_gradient_checkpointing, value=True)) │
│ 1586 │ │
│ 1587 │ def gradient_checkpointing_disable(self): │
╰──────────────────────────────────────────────────────────────────────────────────────────────────╯
ValueError: ChatGLMForConditionalGeneration does not support gradient checkpointing.