这些上下文相关的表示到底有多上下文化
作者:Kawin Ethayarajh 编译:ronghuaiyang 原文: 英文原文: https://kawine.github.io/blog/nlp/2020/02/03/contextual.html 导读: 具有上下文信息的词表示到底有多大程度的上下文化?这里给出了定量的分析。 将上下文信息放到词嵌入中 — 就像BERT,ELMo和GPT-2 — 已经证明了是NLP的一个分水岭的想法了。使用具有上下文信息的词表示来替换静态……