默认值2048 quant_batch_size: 量化batch_size，默认为1 group_size: 量化group大小，默认为128 🔥push_to_hub: 是否推送hub，默认为False hub_model_id: 推送的model_id，默认为None hub_private_repo: 是否是private repo，默认为False ...