标签
#nlp
包含此关键词的事件：9 个
1966软件
ELIZA：首个聊天机器人
Joseph Weizenbaum开发了ELIZA，这是最早的自然语言处理程序之一，能够模拟心理治疗师。
#nlp#chatbot#turing-test
2011里程碑
Watson 战胜 Jeopardy 人类冠军
IBM Watson 在知识问答节目 Jeopardy 中击败人类冠军，展示自然语言理解的突破。
#nlp#qa-system#ibm
2013模型
Word2Vec：词嵌入革命
Google 的 Tomas Mikolov 发布 Word2Vec，开创词嵌入技术的新时代。
#nlp#word-embedding#word2vec
2017论文
Transformer：注意力机制革命
《Attention Is All You Need》论文发表，提出Transformer架构，彻底改变NLP领域。
#transformer#attention#nlp
2014论文
注意力机制：序列对齐新方法
Dzmitry Bahdanau 等人提出注意力机制，解决序列到序列模型的长距离依赖问题。
#attention#nlp#machine-translation
2018模型
BERT：双向语言理解
Google 提出 BERT，通过双向 Transformer 实现突破性的语言理解能力。
#nlp#bert#transformer
2018模型
GPT-1：生成式预训练
OpenAI 发布 GPT-1，首次展示生成式预训练在语言理解任务上的潜力。
#nlp#gpt#transformer
2019模型
GPT-2：更好的语言模型
OpenAI 发布 GPT-2，因担心滥用而分阶段发布，展现大模型涌现能力。
#nlp#gpt#llm
2020模型
GPT-3：规模即能力
OpenAI 发布拥有1750亿参数的 GPT-3，展示大规模语言模型的涌现能力。
#nlp#gpt#llm