English:

Flow-based Generative Models are a class of generative models that learn to model a complex data distribution by transforming a simple, known distribution (e.g., Gaussian) into the target distribution through a series of invertible and differentiable transformations. These models belong to the family of explicit likelihood-based generative models because they allow direct computation of the data likelihood, enabling principled training using maximum likelihood estimation (MLE).

Key Concepts

1. Change of Variables Formula: The core mathematical foundation of flow-based models is the change of variables formula, which relates the density of a transformed variable to the density of the original variable:

$$p_X(x) = p_Z(z) left| det frac{partial f^{-1}(x)}{partial x} right|,$$

where:

• $x$: Data point in the target space.
• $z = f(x)$: Corresponding latent variable in the latent space.
• $p_X(x)$: Target data distribution.
• $p_Z(z)$: Simple latent distribution (e.g., standard Gaussian).
• $f(x)$: Invertible transformation function.
• $det frac{partial f^{-1}(x)}{partial x}$: Determinant of the Jacobian matrix of the transformation, capturing the change in volume caused by the transformation.

• Invertible Transformation: The transformation $f(x)<span\; style="font-family:\; sans-serif,\; Arial,\; Verdana,\; "Trebuchet\; MS";"> must\; be:</span>$

  • Invertible: So we can map data $x$ to latent variables $z$ and vice versa.
  • Differentiable: To compute gradients for training.

• Latent Space: Flow-based models map data $x$ to a latent space $z$, where the distribution $p_Z(z)<span\; style="font-family:\; sans-serif,\; Arial,\; Verdana,\; "Trebuchet\; MS";"> is\; simple\; and\; easy\; to\; evaluate\; (e.g.,\; Gaussian).</span>$

• Log-Likelihood: During training, the log-likelihood of the data is maximized:

$$log p_X(x) = log p_Z(f(x)) + log left| det frac{partial f(x)}{partial x} right|,$$

which involves:

• The likelihood of the latent variable $z = f(x)$ under $p_Z(z)<span\; style="font-family:\; sans-serif,\; Arial,\; Verdana,\; "Trebuchet\; MS";">.</span>$
• The log-determinant of the Jacobian matrix, accounting for the transformation.

Advantages

1. Exact Likelihood Estimation:

   • Unlike other generative models (e.g., GANs or VAEs), flow-based models provide exact likelihood computation without approximations.

2. Efficient Inference:

   • Sampling $z sim p_Z(z)$ and transforming $z$ back to $x = f^{-1}(z)$ allows efficient data generation.
   • Density estimation is straightforward using the forward transformation $f(x)$.

3. Bijectivity:

   • The invertibility ensures one-to-one mapping between $x$ and $z$, avoiding mode collapse issues (common in GANs).

Architectures in Flow-Based Models

1. Normalizing Flows:

   • Composes a sequence of simple transformations $f = f_K circ f_{K-1} circ ldots circ f_1$, where each $f_i$ is invertible and has a tractable Jacobian determinant.
   • Popular implementations include:
     • Affine Coupling Layers: Break variables into two parts and transform one part conditioned on the other.
     • ActNorm Layers: Learnable affine transformations for normalization.
     • Invertible 1x1 Convolutions: Permutations in the latent space for better mixing of variables.

2. RealNVP (Real-valued Non-Volume Preserving Transformations):

   • Uses affine coupling layers and ensures efficient computation of the Jacobian determinant by designing transformations with triangular Jacobians.

3. Glow:

   • Extends RealNVP with invertible 1x1 convolutions for more flexibility and expressivity.

Applications

1. Image Generation:

   • Models like Glow generate high-quality images by learning the distribution of natural images.

2. Density Estimation:

   • Flow-based models are effective for tasks requiring explicit density estimation, such as anomaly detection.

3. Speech and Audio Processing:

   • WaveGlow and FloWaveNet are used for generating realistic speech and audio signals.

4. Latent Space Manipulation:

   • The invertible structure allows direct exploration and manipulation of latent variables $z$, enabling tasks like interpolation and style transfer.

Challenges

1. Computational Complexity:

   • The need to compute the Jacobian determinant makes training expensive for high-dimensional data.

2. Expressiveness vs. Efficiency:

   • Balancing the complexity of transformations with computational efficiency is non-trivial.

3. Scaling to High Dimensions:

   • Large-scale datasets and high-dimensional spaces pose challenges in terms of model scalability.

Comparison with Other Generative Models

In summary, flow-based generative models are a powerful tool for generative modeling, offering exact likelihood estimation and efficient sampling through invertible transformations. Their unique properties make them particularly appealing for tasks requiring explicit density computation or interpretable latent spaces.

Vietnamese:

Mô hình sinh dựa trên dòng (Flow-based Generative Models) là một loại mô hình sinh học học cách mô hình hóa phân phối dữ liệu phức tạp bằng cách biến đổi một phân phối đơn giản, đã biết (ví dụ: Gaussian) thành phân phối mục tiêu thông qua một chuỗi các phép biến đổi có thể đảo ngược và khả vi. Các mô hình này thuộc nhóm mô hình sinh dựa trên khả năng hợp lý rõ ràng vì chúng cho phép tính toán trực tiếp xác suất của dữ liệu, giúp việc huấn luyện trở nên có cơ sở thông qua phương pháp ước lượng hợp lý tối đa (MLE).

Các khái niệm chính

1. Công thức thay đổi biến (Change of Variables Formula): Cơ sở toán học của các mô hình dựa trên dòng là công thức thay đổi biến, mô tả mối quan hệ giữa mật độ của một biến đã biến đổi với mật độ của biến gốc:

$$p_X(x) = p_Z(z) left| det frac{partial f^{-1}(x)}{partial x} right|,$$

trong đó:

• $x$: Điểm dữ liệu trong không gian mục tiêu.
• $z = f(x)$: Biến tiềm ẩn tương ứng trong không gian tiềm ẩn.
• $p_X(x)$: Phân phối dữ liệu mục tiêu.
• $p_Z(z)$: Phân phối đơn giản của không gian tiềm ẩn (ví dụ: Gaussian chuẩn).
• $f(x)$: Phép biến đổi có thể đảo ngược.
• $det frac{partial f^{-1}(x)}{partial x}$: Định thức của ma trận Jacobian của phép biến đổi, biểu thị sự thay đổi về thể tích do phép biến đổi gây ra.

• Phép biến đổi có thể đảo ngược: Phép biến đổi $f(x)$ phải:

  • Có thể đảo ngược: Để có thể ánh xạ từ dữ liệu $x$ sang biến tiềm ẩn $z$ và ngược lại.
  • Khả vi: Để có thể tính gradient phục vụ huấn luyện.

• Không gian tiềm ẩn: Mô hình dựa trên dòng ánh xạ dữ liệu $x$ sang không gian tiềm ẩn $z$, trong đó phân phối $p_Z(z)$ đơn giản và dễ tính toán (ví dụ: Gaussian).

• Log-khả năng hợp lý (Log-Likelihood): Trong quá trình huấn luyện, log-khả năng hợp lý của dữ liệu được tối đa hóa:

$$log p_X(x) = log p_Z(f(x)) + log left| det frac{partial f(x)}{partial x} right|,$$