BERT:BERT: Pre-training of Deep Bidirectional Transformers

NAACL 2019 · Google

用掩码语言模型做双向预训练,“预训练 + 微调”范式在 11 项 NLP 任务上刷新纪录。

arXiv:1810.04805