No7 - Bayes

Inferencia Bayesiana, Estimación del Ruido¶

Fecha: 04/05/2026

Clase anterior¶

Problemas de optimización sobre parámetros, función de costos y término de regularización.

Caso general (frecuentista):

Aquí, $\mathcal{L}(\theta, y)$ es la función de costo, que tiene un término empírico y otro con parámetros. $\mathcal{R}(\theta)$ el término de regularización. Regularizar es, en términos generales, agregar un sesgo inductivo (inductive bias) para aportar información de manera intencional y condicionar el resultado a conocimientos previos. Por ejemplo, considerando los métodos vistos, podemos pensar en resultados condicionados a obtener un vector esparso o de norma chica. El early stopping también es una forma de regularización. Todas ellas impiden el overfitting y permiten generalizar a datos nuevos.

Estadistica Bayesiana¶

Para el caso de Estadistica Bayesiana hay dos funciones importantes que debemos tener en cuenta:

• Verosimilitud: $\mathbb{P}(Y \mid \theta)$ Es lo que en estadistica frecuentista conocíamos como likelihood, es decir, la función $\mathcal{L}(\theta \mid x)$.

• Prior: $\mathbb{P}(\theta)$ es la función del parámetro, lo que en estadistica frecuentista conocíamos como el término de regularización $R(\theta)$.

A continuación recordemos el Teorema de Bayes, el cual nos dice:

Como la distribución de los datos no depende de $\theta$, podemos escribir a $\frac{1}{\mathbb{P}(Y)}$ como una constante cuyo valor desconocemos. Por lo tanto, obtenemos:

En este caso, queremos calcular $\mathbb{P}(\theta \mid Y)$, es decir, la distribución del Posteriori. No estamos interesados en la estimación puntual de $\theta$ sino que nos interesa estimar una distribución.

Queremos hallar el Maximum a Posteriori, es decir

Podemos tomar logaritmo pues es una función creciente. Por otro lado, sabiendo que el problema es de maximización, podemos reformularlo como un problema de minimización considerando la función objetivo multiplicada por $- 1$. Finalmente, obtenemos:

Observemos que podemos asociar $- \log(P(Y \mid \theta))$ con la función de costo empírica $\mathcal{L}_{EMP}(\theta \mid Y)$ y, a su vez, podemos asociar $- \log(P(\theta))$ con el término de Regularización $R(\theta)$.

Bootstrap no paramétrico:

$Y=\{Y_1, ..., Y_N\} \curvearrowright \theta^*$ Sampleando muestras con repetición, creamos “copias” de $Y$:

$\hat{Y}_1=\{Y^1_1, ..., Y^1_N\} \curvearrowright \theta^*_1$

.

.

.

$\hat{Y}_k=\{Y^k_1, ..., Y^k_N\} \curvearrowright \theta^*_k$

Si bootstrap se comporta bien, en ciertos casos particulares se obtiene el posterior. :::

Estimar el posterior¶

Hallar el valor exacto del Posterior es computacionalmente costoso, lo que nos obliga a utilizar algoritmos de simulación para reconstruir la distribución de los parámetros Hasta ahora definimos el Posterior como

Sin embargo, en la práctica, calcular esta expresión tiene una gran dificultad:

Para calcular el denominador $P(Y)$, debemos integrar sobre todo el espacio de parámetos $\Theta$

Resolver esta integral puede ser muy complicado y si el vector de parámetros $\theta$ tiene muchas dimensiones, el volumen del espacio de búsqueda crece exponencialmente.

Dado que no podemos calcular $P(Y)$, la estrategia consiste en evadir la integral.

En lugar de buscar la función de densidad exacta, buscamos generar una secuencia de puntos:

Pasamos de un problema de Cálculo (resolver la integral) a uno de Búsqueda (diseñar algoritmos que exploren el espacio y dediquen el tiempo de cálculo solo a las zonas de alta densidad).

A continuación veamos cuales son estos algoritmos

Algortimos¶

MCMC (Markov Chain Monte Carlo)

Monte Carlo es un término poco preciso que se refiere a estimar o calcular algo por sampleo. Mientras tanto, Markov Chain representa cómo se da cada paso del algoritmo.

Luego, este algoritmo avanza distintos valores de $\theta$ explorando la densidad del mismo.

$\theta_0 \curvearrowright \theta_1 \curvearrowright ... \curvearrowright \theta_k \curvearrowright \theta_{k+1}$

Esta cadena se corta en un $k$ determinado tal que el algoritmo está encaminado y se encuentra en el soporte de $\theta$.

$\theta = \{\theta_k, \theta_{k+1},...,\theta_{k+m}\} \; k, m\in \mathbb{N}$

$\Theta \thicksim \mathbb{P}(\theta|Y)$

Con infinitos puntos, es posible describir la densidad.

Aproximación de Laplace¶

Es aproximar el posterior con una distribución conocida. Hacen falta dos cosas:

• $\theta_k \curvearrowright$ proponer $\theta_{k+1}^*$

Por ejemplo, $\theta^*_{k+1} \thicksim N(\theta_k, \sigma_k^2)$, con ruido gaussiano que lo pereturba.

• Aceptar o rechazar cada $\theta_k$. Para esto, definimos

  $$\alpha_k=\frac{\mathbb{P}(\theta^*_{k+1}|Y)}{\mathbb{P}(\theta^*_k|Y)} = \frac{\mathbb{P}(Y|\theta^*_{k+1}).\mathbb{P}(\theta^*_{k+1})}{\mathbb{P}(Y|\theta^*_{k}).\mathbb{P}(\theta^*_{k})}.\frac{\mathbb{P}(Y)}{\mathbb{P}(Y)}$$

  (11)

Observemos que se cancela $\mathbb{P}(Y)$, que es lo difícil de calcular, reduciéndose el cálculo a términos conocidos.

Si $\theta^*_{k+1} > \theta^*_{k}$, entonces $\alpha_k>1$.

Método de Metropolis-Hastings (M-H)

Sampleamos $U_k \sim Unif([0,1])$ y aceptamos si $U_k \leq \alpha_k$.

Se corre al infinito y sacamos el principio. Los puntos garantizan que la distribución marginal de los mismos se parece al posterior.

Este método se parece mucho a la optimización por gradiente, lo cual nos dice que la estadística Bayesiana y Frecuentista se parecen mucho. Sin embargo, en el caso Bayesiano es más difícil de calcular porque el algoritmo de optimización busca explorar el espacio para ver la distribución de $\theta$.

En el modelo de Lotka–Volterra, los distintos componentes (población de presas vs. población de depredadores) pueden tener niveles de ruido diferentes. Esto significa que los $\sigma_i$ no son necesariamente iguales. Si los $\sigma_i$ son distintos, la log-verosimilitud nos lleva al siguiente problema de optimización para encontrar los parámetros:

Donde $i$ es la componente y $j$ el paso temporal. Definimos los pesos:

Esto significa que, cuanto menos ruidosa es la señal, más peso le damos en la función de costo.

Sin embargo, surge un problema: los pesos $w_i$ dependen de los mismos parámetros $\sigma_i$ que queremos estimar. Por lo tanto, la estimación de los pesos y la de $\theta$ quedan acopladas. Esto nos induce a una Estrategia de Optimización Alternada, que se traduce en el siguiente algoritmo:

Algoritmo de Optimización Alternada

1. Paso $\theta$: Dado $\hat{\sigma}_i$ actual, estimamos $\theta$ minimizando la suma pesada.

2. Paso $\sigma$: Dado $\hat{\theta}$ actual, estimamos los nuevos $\sigma_i$.

3. Repetir ambos pasos hasta alcanzar la convergencia.