Super-Resolution in Cosmological Simulations

Date:

Download slides (PDF)

Overview

This talk, presented at the Reunión de Estudiantes de Astronomía (REA) 2025, introduces a super-resolution framework for cosmological simulations that combines deep generative models with the Wavelet Scattering Transform (WST) to enhance the resolution of dark-matter density fields.

The work addresses a key challenge in modern computational cosmology:

High-resolution N-body simulations are extremely expensive, while low-resolution runs lose crucial small-scale information.

By integrating WST into a residual generative architecture, the method recovers small-scale structure while preserving the statistical and physical properties of the underlying cosmological field.


Motivation

Cosmological simulations face an inherent trade-off:

  • High resolution → extremely expensive CPU/GPU time + large storage
  • Low resolution → loss of small-scale halos, filaments, and non-Gaussian structure

Existing deep-learning super-resolution approaches (GANs, VAEs, diffusion models) suffer from:

  • Instability during training
  • Hallucination of non-physical structures
  • Loss of cosmological statistics
  • Poor interpretability
    (Slides 1–3)

Approach: Wavelet-Based Generative Super-Resolution

The method incorporates the Wavelet Scattering Transform (WST) into a deep residual architecture to stabilize training and preserve physical information.

Why WST?

  • Captures multi-scale structure
  • Stable to deformations and small translations
  • Sensitive to non-Gaussian statistics
  • Avoids phase reconstruction issues typical of Fourier-based approaches
    (Slides 16–21)

WST coefficients serve as a statistical loss function that forces the network to match the high-resolution distribution of cosmological fields.


Dataset: Illustris Simulations

Training is performed using slices from the Illustris family of simulations:

  • Illustris-3 → low-resolution input
  • Illustris-2 → high-resolution target

Each slice:

  • Thickness: 0.25 Mpc
  • Paired dataset: 7200 LR/HR image pairs
    (Slides 23–26)

Split into:

  • 90% training
  • 10% validation
  • 800 images for testing

Network Architecture

The proposed architecture includes:

  • Two feature extraction branches (LR features + WST features)
  • Feature fusion layer
  • n residual Squeeze-and-Excitation (SE) blocks
  • Output reconstruction layer
    (Slides 27–28)

Loss functions explored:

  • L2 (MSE)
  • Perceptual loss
  • WST-based loss (best performance)
    (Slides 29–32)

Training:

  • Performed on an RTX 4090 (24 GB VRAM)
  • ~8 hours per training run
    (Slide 32)

Results

Qualitative Reconstruction

The model reconstructs higher-resolution structures that closely resemble Illustris-2, while avoiding hallucinations typical of GAN-based methods.
(Slides 33–36)

Power Spectrum Evaluation

A physically meaningful test is performed by comparing the recovered power spectrum P(k):

  • Bicubic interpolation → severe loss of small-scale power
  • L1/Perceptual loss → improved but imperfect
  • WST loss → closest match to ground truth across a wide k-range, even up to k ≈ 5–6 h/Mpc
    (Slide 36)

Peak and Valley Counts

The model also preserves higher-order morphological statistics like:

  • Density of local maxima
  • Density of local minima
    (Slides 37–39)

Conclusions

  • WST-based super-resolution produces physically consistent reconstructions of cosmological fields.
  • Recovers statistical properties (P(k), peaks/valleys) better than standard approaches.
  • Provides a more interpretable alternative to GANs and VAEs.
  • Has potential to augment low-resolution simulations and reduce computational demands for large parameter scans.
    (Slides 40–41)

Future Work

  • Increase network capacity with more residual blocks
  • Incorporate additional WST scales
  • Extend to fully 3D super-resolution
  • Train on larger, multi-institutional cosmology datasets
    (Slide 41)

Descargar diapositivas (PDF)

Resumen

Esta charla, presentada en la Reunión de Estudiantes de Astronomía (REA) 2025, presenta un framework de super-resolución para simulaciones cosmológicas que combina modelos generativos profundos con la Transformada de Scattering Wavelet (WST) para mejorar la resolución de campos de densidad de materia oscura.

El trabajo aborda un reto clave en la cosmología computacional moderna:

Las simulaciones N-body de alta resolución son extremadamente costosas, mientras que las corridas de baja resolución pierden información crucial a pequeña escala.

Al integrar la WST en una arquitectura generativa residual, el método recupera estructura a pequeña escala preservando las propiedades estadísticas y físicas del campo cosmológico subyacente.


Motivación

Las simulaciones cosmológicas enfrentan un compromiso inherente:

  • Alta resolución → tiempo de CPU/GPU extremadamente costoso + gran almacenamiento
  • Baja resolución → pérdida de halos a pequeña escala, filamentos y estructura no gaussiana

Los enfoques existentes de super-resolución basados en deep learning (GANs, VAEs, modelos de difusión) sufren de:

  • Inestabilidad durante el entrenamiento
  • Alucinación de estructuras no físicas
  • Pérdida de estadísticas cosmológicas
  • Baja interpretabilidad (Diapositivas 1–3)

Enfoque: Super-resolución generativa basada en wavelets

El método incorpora la Transformada de Scattering Wavelet (WST) en una arquitectura residual profunda para estabilizar el entrenamiento y preservar la información física.

¿Por qué WST?

  • Captura estructura multiescala
  • Estable ante deformaciones y traslaciones pequeñas
  • Sensible a estadísticas no gaussianas
  • Evita los problemas de reconstrucción de fase típicos de los enfoques basados en Fourier (Diapositivas 16–21)

Los coeficientes de la WST funcionan como una función de pérdida estadística que obliga a la red a igualar la distribución de alta resolución de los campos cosmológicos.


Dataset: Simulaciones Illustris

El entrenamiento se realiza usando cortes de la familia de simulaciones Illustris:

  • Illustris-3 → entrada de baja resolución
  • Illustris-2 → objetivo de alta resolución

Cada corte:

  • Espesor: 0.25 Mpc
  • Dataset pareado: 7200 pares de imágenes LR/HR (Diapositivas 23–26)

Dividido en:

  • 90% entrenamiento
  • 10% validación
  • 800 imágenes para prueba

Arquitectura de red

La arquitectura propuesta incluye:

  • Dos ramas de extracción de características (características LR + características WST)
  • Capa de fusión de características
  • n bloques residuales Squeeze-and-Excitation (SE)
  • Capa de reconstrucción de salida (Diapositivas 27–28)

Funciones de pérdida exploradas:

  • L2 (MSE)
  • Pérdida perceptual
  • Pérdida basada en WST (mejor desempeño) (Diapositivas 29–32)

Entrenamiento:

  • Realizado en una RTX 4090 (24 GB VRAM)
  • ~8 horas por corrida de entrenamiento (Diapositiva 32)

Resultados

Reconstrucción cualitativa

El modelo reconstruye estructuras de mayor resolución que se asemejan mucho a Illustris-2, evitando las alucinaciones típicas de los métodos basados en GAN. (Diapositivas 33–36)

Evaluación del espectro de potencia

Se realiza una prueba físicamente significativa comparando el espectro de potencia P(k) recuperado:

  • Interpolación bicúbica → pérdida severa de potencia a pequeña escala
  • Pérdida L1/Perceptual → mejora pero imperfecta
  • Pérdida WST → la coincidencia más cercana con la verdad de referencia en un amplio rango de k, incluso hasta k ≈ 5–6 h/Mpc (Diapositiva 36)

Conteo de picos y valles

El modelo también preserva estadísticas morfológicas de orden superior como:

  • Densidad de máximos locales
  • Densidad de mínimos locales (Diapositivas 37–39)

Conclusiones

  • La super-resolución basada en WST produce reconstrucciones físicamente consistentes de campos cosmológicos.
  • Recupera propiedades estadísticas (P(k), picos/valles) mejor que los enfoques estándar.
  • Ofrece una alternativa más interpretable a las GANs y VAEs.
  • Tiene potencial para aumentar simulaciones de baja resolución y reducir la demanda computacional en barridos de parámetros a gran escala. (Diapositivas 40–41)

Trabajo futuro

  • Incrementar la capacidad de la red con más bloques residuales
  • Incorporar escalas adicionales de WST
  • Extender a super-resolución completamente en 3D
  • Entrenar con datasets cosmológicos más grandes y multi-institucionales (Diapositiva 41)