Vintage NLP for Work
最后,让模型在加入了对抗句的语料上训练,模型性能貌似恢复了正常。然而,新加入一个方案 AddSentMod,一方面把那26个类型对应的假答案再换一下(比如人名和时间都改一改),然后对抗句加到段落开头而不是结尾。这时模型又打回了原形。于是猜测它们刚才只是学会了忽略最后一句话而已。
最后还要宣传一下,Stanford NLP 组搞了一个基于 docker 的实验平台,非常方便地公开了一切实验过程、数据、代码,方便别人重现实验结果。
本文相关的实验在:
https://worksheets.codalab.org/worksheets/0xc86d3ebe69a3427d91f9aaa63f7d1e7d/
本文相关的实验在:
https://worksheets.codalab.org/worksheets/0xc86d3ebe69a3427d91f9aaa63f7d1e7d/
自然语言理解-从规则到深度学习
https://mp.weixin.qq.com/s/Ks9BVr6YC-naX2-iadI78w
摘要: 自然语言理解是人工智能的核心难题之一,也是目前智能语音交互和人机对话的核心难题。之前写过一篇文章自然语言理解,介绍了当时NLU的系统方案,感兴趣的可以再翻一番,里面介绍过的一些内容不再赘述。本文详细讨论了自然语言理解的难点,并进一步针对自然语言理解的两个核心问题,详细介绍了规则方法和深度学习的应用。
https://mp.weixin.qq.com/s/Ks9BVr6YC-naX2-iadI78w
摘要: 自然语言理解是人工智能的核心难题之一,也是目前智能语音交互和人机对话的核心难题。之前写过一篇文章自然语言理解,介绍了当时NLU的系统方案,感兴趣的可以再翻一番,里面介绍过的一些内容不再赘述。本文详细讨论了自然语言理解的难点,并进一步针对自然语言理解的两个核心问题,详细介绍了规则方法和深度学习的应用。
DeepDialogue_Tutorial_ACL.pdf
8.5 MB
ACL 2017 一个关于对话系统的 tutorial,总结得还比较全
Forwarded from Yuuko Mizutake
This work conducts an exploration into algorithms
specifically suitable for processing implicit feedback. It
reflects some of the major lessons and developments that were achieved while we built a TV shows recommender engine. http://yifanhu.net/PUB/cf.pdf 🐱 so... just pick up?
specifically suitable for processing implicit feedback. It
reflects some of the major lessons and developments that were achieved while we built a TV shows recommender engine. http://yifanhu.net/PUB/cf.pdf 🐱 so... just pick up?
虚构的对抗,GAN with the wind
https://mp.weixin.qq.com/s/7O0AKIUVYK7HRyvdRbUVkg
详细推导见对应论文
https://arxiv.org/abs/1710.05488
https://mp.weixin.qq.com/s/7O0AKIUVYK7HRyvdRbUVkg
详细推导见对应论文
https://arxiv.org/abs/1710.05488
Gumbel-Max trick, Perturb and MAP and more
http://www.cnblogs.com/alexdeblog/p/4118181.html
一个使用 Gumbel-Max 来为 multinomial 采样的 trick,理论推导及意义见上文,代码实现如下:
http://timvieira.github.io/blog/post/2014/07/31/gumbel-max-trick/
与重参数化相结合可以得到一些结果:
Categorical Reparameterization with Gumbel-Softmax
https://arxiv.org/abs/1611.01144
http://www.cnblogs.com/alexdeblog/p/4118181.html
一个使用 Gumbel-Max 来为 multinomial 采样的 trick,理论推导及意义见上文,代码实现如下:
http://timvieira.github.io/blog/post/2014/07/31/gumbel-max-trick/
与重参数化相结合可以得到一些结果:
Categorical Reparameterization with Gumbel-Softmax
https://arxiv.org/abs/1611.01144
timvieira.github.io
Gumbel-max trick — Graduate Descent
DeepGenModelsTutorial.pdf
6.9 MB
Tutorial on Deep Generative Models
by Shakir Mohamed and Danilo Rezende from DeepMind
by Shakir Mohamed and Danilo Rezende from DeepMind
GAN and VAE from an Optimal Transport Point of View
https://arxiv.org/abs/1706.01807
一个从几何角度来联系两个时髦生成模型的短文,简单地说,VAE 是最优传输的一个原问题特例,而 WGAN 是最优传输的对偶问题的特例。
https://arxiv.org/abs/1706.01807
一个从几何角度来联系两个时髦生成模型的短文,简单地说,VAE 是最优传输的一个原问题特例,而 WGAN 是最优传输的对偶问题的特例。
https://reiinakano.github.io/gan-playground/
GAN Playground - Explore Generative Adversarial Nets in your Browser
https://github.com/reiinakano/gan-playground
GAN Playground - Explore Generative Adversarial Nets in your Browser
https://github.com/reiinakano/gan-playground
GitHub
GitHub - reiinakano/gan-playground: GAN Playground - Experiment with Generative Adversarial Nets in your browser. An introduction…
GAN Playground - Experiment with Generative Adversarial Nets in your browser. An introduction to GANs. - reiinakano/gan-playground