V
主页
京东 11.11 红包
【西湖大学 张岳老师|自然语言处理在线课程 第十七章 - 3节】从结构上优化预训练语言模型
发布人
上节课我们讨论了如何使用NCE优化语言模型,这种方法并不改变模型的结构。 这节课我们讨论如何从结构上优化模型。 具体地,本期视频包括: 1)上节课回顾 00:10;2)Hierarchical Softmax 01:00;3)Log-bilinear Model 03:05。
打开封面
下载高清视频
观看高清视频
视频下载器
【西湖大学 张岳老师|自然语言处理在线课程 第十二章 - 8节】LDA主题模型
【西湖大学 张岳老师|自然语言处理在线课程 第十八章 - 9节】变分自编码器—Gumbel-max方法
【西湖大学 张岳老师|自然语言处理在线课程 第二章 - 1节】最大似然估算和词概率模型
【西湖大学 张岳老师|自然语言处理在线课程 第二章 - 4节】语言模型——二元语言模型(Bigram LM)
【西湖大学 张岳老师|自然语言处理在线课程 第十二章 - 6节】 贝叶斯一元语言模型(Bayesian Unigram LM)
【西湖大学 张岳老师|自然语言处理在线课程 第十三章 - 1节】深度学习介绍及多层感知机模型(MLP)
【西湖大学 张岳老师|自然语言处理在线课程 第四章 - 3节】多分类对数线性模型训练
【西湖大学 张岳老师|自然语言处理在线课程 第十章 - 2节】概率上下文无关文法(Probabilistic context free grammar)
【西湖大学 张岳老师|自然语言处理在线课程 第十四章 - 2节】循环神经网络(Recurrent Neural Network, RNN)
【西湖大学 张岳老师|自然语言处理在线课程 第十二章 - 7节】模型推断(Inference)
【西湖大学 张岳老师|自然语言处理在线课程 第五章 - 2节】最大熵模型
【西湖大学 张岳老师|自然语言处理在线课程 第二章 - 5节】语言模型——三元语言模型(Trigram LM)和生成模型(Generative model)
【西湖大学 张岳老师|自然语言处理在线课程 第十章 - 4节】成分句法分析器的评估
【西湖大学 张岳老师|自然语言处理在线课程 第五章 - 5节】点互信息(Pointwise mutual information,PMI)
【西湖大学 张岳老师|自然语言处理在线课程 第十四章 - 4节】LSTM 的扩展(Bi-LSTM)、简化(GRU模型)和堆叠,和注意力机制(Attention)
【西湖大学 张岳老师|自然语言处理在线课程 第十六章 - 4节】BPE(Byte-Pair Encoding)编码
【西湖大学 张岳老师|自然语言处理在线课程 第十章 - 6节】词汇化的(Lexicalized)PCFG模型
【西湖大学 张岳老师|自然语言处理在线课程 第六章 - 3节】期望最大算法(Expectation Maximization, EM)-下
【西湖大学 张岳老师|自然语言处理在线课程 第九章 - 3节】对序列切分任务直接建模
【西湖大学 张岳老师|自然语言处理在线课程 第一章 - 5节】文本生成任务及其他任务介绍
【西湖大学 张岳老师|自然语言处理在线课程 第六章 - 2节】期望最大算法(Expectation Maximization, EM)
【西湖大学 张岳老师|自然语言处理在线课程 第一章 - 2节】基础NLP任务介绍——句法分析任务
【西湖大学 张岳老师|自然语言处理在线课程 第十七章 - 1节】迁移学习和预训练(Pretraining)
【西湖大学 张岳老师|自然语言处理在线课程 第三章 - 6.1节】判别、生成与线性模型
【西湖大学 张岳老师|自然语言处理在线课程 第九章 - 6节】半马尔科夫条件随机场的训练
【西湖大学 张岳老师|自然语言处理在线课程 第四章 - 2节】对数线性模型训练
【西湖大学 张岳老师|自然语言处理在线课程 第九章 - 2节】序列切分问题的序列标注方法
【西湖大学 张岳老师|自然语言处理在线课程 第八章 - 8节】CRF的训练
【西湖大学 张岳老师|自然语言处理在线课程 第十六章 - 5节】Transformer
【西湖大学 张岳老师|自然语言处理在线课程 第五章 - 6节】词向量表示
【西湖大学 张岳老师|自然语言处理在线课程 第十八章 - 2节】离散隐变量神经网络模型-具有隐变量的词袋模型
【西湖大学 张岳老师|自然语言处理在线课程 第三章 - 1节】聚类(Clustering)
【西湖大学 张岳老师|自然语言处理在线课程 第八章 - 9节】用于结构预测问题的感知机模型
【西湖大学 张岳老师|自然语言处理在线课程 第十三章 - 4节】MLP的训练—反向传播(Back-propagation)和推导
【西湖大学 张岳老师|自然语言处理在线课程 第八章 - 6节】CRF解码问题
【西湖大学 张岳老师|自然语言处理在线课程 第十八章 - 10节】VAE的应用—主题模型
【西湖大学 张岳老师|自然语言处理在线课程 第十四章 - 1节】表示学习(Representation Learning)
【西湖大学 张岳老师|自然语言处理在线课程 第六章 - 1节】隐变量(Hidden variables)
【西湖大学 张岳老师|自然语言处理在线课程 第九章 - 4节】序列切分中的解码问题
【西湖大学 张岳老师|自然语言处理在线课程 第四章 - 5节】利用SGD的SVM训练