Variational Inference는 Approximate Inference를 수행하기 위한 방법론입니다. 이번 포스팅에서는 Variational Inference와 관련된 주요 내용들을 알아보겠습니다. Bayesian Statistics 베이즈 통계학은 Approximate inference를 가장 깊이 연구하는 학문 중 하나입니다. 실제로 ...
[Paper Review] Variational Autoencoder
VAE(Variational Autoencoder)는 2013년 킹마(Kingma)가 처음 소개한 generative model입니다. Generative model은 주어진 데이터 자체의 확률분포를 구함으로써 새롭게 데이터를 생성하는 모델입니다. Generative model에 대한 내용은 이 곳 포스트에서 확인할 수 있습니다. 이번 글에서는 arX...
Optimzation
Optimization 손글씨를 디지털 텍스트로 변환하는 문제는 가장 대표적인 머신러닝입니다. 이를 위해서 에러를 정의하고 반복학습을 통해서 모수를 바꿔나감으로써, 정확도를 높여나갑니다. 이처럼 대다수 머신러닝은 모로 가든 “정확하게” 맞추는 게 중요하지, 추정한 모수의 성질 따위는 중요하지가 않습니다. 이러한 상황에서 가장 중요한 문제가 바로 최적...
Generative Models
NIPS(Neural Information Processing Systems)는 AI 연구자들에게 가장 각광받는 행사로, 그 해의 의미가 큰 논문을 발표하고 의견을 나누는 행사입니다. 2016년에는 이안 굿펠로우가 자신이 2014년에 소개한 GAN에 관하여 발표를 진행했었습니다. 이 글에서는 arXiv에 제출된 NIPS 2016 Tutorial:Gen...
[Paper review] Generative Adversarial Network
GAN(Generative Adversarial Network)은 2014년 이안 굿펠로우가 처음 소개한 generative model입니다. Generative model에 대한 내용은 이 곳 포스트에서 확인할 수 있습니다.1 이번 글에서는 arXiv에 제출된 Generative Adversarial Networks 논문을 리뷰합니다. GAN이 어떤...