BERT:BERT: Pre-training of Deep Bidirectional Transformers
NAACL 2019 · Google
用掩码语言模型做双向预训练,“预训练 + 微调”范式在 11 项 NLP 任务上刷新纪录。
arXiv:1810.04805