Introduction: Generative Models Given observed samples from a distribution of interest, the goal of the generative model is to learn to model its true data distribution . Once learned, we can generate new samples from our approximate model at will. Furthermore, under some formulations, we are able to use the...
[Read More]
Variational Autoencoder
I. Introduction and Autoencoder Many applications such as image synthesis, denoising, super-resolution, speech synthesis or compression, require to go beyond classification and regression and model explicitly a high-dimensional signal. This modeling consists of finding “meaningful degrees of freedom”, or “factors of variations”, that describe the signal and are of lesser...
[Read More]
Gaussian Mixture Model
I. Giới thiệu K-Means Clustering là một thuật toán thuộc loại unsupervised learning, một trong những thuật toán đơn giản và phổ biến nhất trong Machine Learning, được dùng trong bài toán phân cụm dữ liệu. Tuy nhiên, nó vẫn có một vài hạn chế nhất định. Một trong số...
[Read More]
Bound Optimization - Expectation Maximization
Trong bài viết này chúng ta sẽ đề cập đến một lớp các thuật toán được gọi là Bound Optimization hoặc MM Optimization. Trong ngữ cảnh minimization, MM được hiểu là Majorize-Minimize, trong ngữ cảnh maximization, MM được hiểu là Majorize-Maximize. Chúng ta sẽ nói về một trường hợp đặc...
[Read More]
Projected Gradient Descent
Ở các bài trước, chúng ta sử dụng gradient descent với miền của là . Khi miền thì điểm cập nhật mới có thể không thuộc . Do đó sau mỗi bước cập nhật ta phải chiếu nó xuống để thu được điểm thuộc . Đây là một bài toán...
[Read More]