자연어처리 (NLP) (2) 썸네일형 리스트형 [NLG] [자연어 생성] [논문 리뷰] Multi-turn Dialogue Response Generation in an Adversarial Learning Framework arXiv: June 26, 2019 논문 링크 저자: Oluwatobi Olabiyi, Alan Salimov, Anish Khazane, Erik T. Mueller Abstract: 논문의 contribution은 hredGAN 프레임워크를 통한 multi-turn (멀티턴) 대화 생성입니다. GAN의 generator를 Hierarchical Recurrent Encoder-Decoder 네트워크에서 Local attention을 추가한 모델입니다. Discriminator는 word-level (단어 레벨) bi-directional RNN을 사용합니다. 실험 결과 log-likelihood로 optimize 된 모델보다 일반화가 (generalization) 잘되는것을 주장합니다. 제한된 학습.. NLG 논문 리뷰- The Curious Case of Neural Text Degeneration The Curious Case of Neural Text Degeneration 저자: Ari Holtzman, Jan Buys, Maxwell Forbes, Yejin Choi (Allen Institute) Purpose & Challenges: Analyzed the phenomena of text degeneration by neural machines Why does decoding with beam search from a strong language model lead to such degenerate text? Why does sampling from a truncated vocabulary distribution perform better than sampling from the whol.. 이전 1 다음