模型转换

转换成 huggingface transformers 格式

参考:

bert (tensorflow -> huggingface transformers)

工具:

  • transformers-cli convert
1
2
3
4
5
6
export BERT_BASE_DIR=/path/to/bert/uncased_L-12_H-768_A-12

transformers-cli convert --model_type bert \
    --tf_checkpoint $BERT_BASE_DIR/bert_model.ckpt \
    --config $BERT_BASE_DIR/bert_config.json \
    --pytorch_dump_output $BERT_BASE_DIR/pytorch_model.bin