Fast.ai推出NLP最新迁移学习方法「微调语言模型」，可将误差减少超过20%！

可以这样说，迁移学习已经促使计算机视觉领域发生了具有革命性的变化，但对于自然语言处理（NLP）中的现有方法来说，仍然需要从零开始对其进行针对于特定任务的修改和训练。我们提出了微调语言模型（Fine-tuned Language Models，FitLaM），这是一种有效的迁移学习方法，可以应用于NLP中的任何任务，并且引入一些关键技术以对现有最先进的语言模型进行微调。我们的方法在五个文本分类任务上的性能表现要明显优于现有最先进的技术，在大多数数据集上的实施中能够将误差减少18-24％。我们对我们的预训练模型和代码进行了开源设置，以便社区采用，使该方法具有更为广泛的应用。

请到「今天看啥」查看全文