{
"add_prefix_space": false,
"backend": "tokenizers",
"bos_token": "",
"cls_token": "",
"eos_token": "",
"errors": "replace",
"is_local": true,
"local_files_only": false,
"mask_token": "",
"model_max_length": 100,
"pad_token": "",
"post_processor": {
"single": " $A ",
"special_tokens": [
[
"",
0
],
[
"",
2
]
]
},
"sep_token": "",
"tokenizer_class": "GPT2Tokenizer",
"unk_token": ""
}