81.1. De una trayectoria a un conjunto de posibilidades

Durante los primeros ochenta capítulos hemos trabajado principalmente con sistemas en los que, una vez fijados el estado inicial y los parámetros, las reglas determinan la evolución. Incluso cuando aparecía caos, la incertidumbre sobre una trayectoria no significaba necesariamente que la dinámica fuese aleatoria. C57 y C68 mostraron que un sistema determinista puede amplificar perturbaciones. C69 añadió que una simulación numérica tiene sus propias limitaciones. C80 cerró el módulo distinguiendo el objeto matemático, la muestra y el procedimiento de estimación.

El Módulo 9 introduce un lenguaje diferente. A la pregunta por el estado que sigue a otro se suma ahora la pregunta por el conjunto de resultados que consideramos posibles y por la manera en que distribuimos probabilidad sobre ellos.

La probabilidad puede entrar en un modelo por razones distintas. Un mecanismo puede contener fluctuaciones que decidimos representar estocásticamente. En otros casos ignoramos las variables microscópicas y modelamos solo su efecto agregado, o seleccionamos al azar una unidad de una población. También cabe usar una distribución para representar incertidumbre sobre un estado que existe pero no conocemos exactamente.

Estas situaciones no son ontológicamente idénticas. El formalismo probabilístico, sin embargo, permite tratarlas mediante una estructura común. Lo importante es declarar qué representa la distribución en cada modelo.

C81 desarrollará esa estructura desde sus fundamentos. El capítulo se ocupa de qué objeto matemático es una distribución, de cómo se construye una distribución conjunta y de por qué conocer las distribuciones de las partes no determina necesariamente la distribución del sistema completo. La nomenclatura de familias concretas queda para más adelante.

81.2. El espacio probabilístico

La formulación moderna parte de una terna

(Ω,F,P).(\Omega,\mathcal F,P).

El conjunto Ω\Omega es el espacio muestral. Sus elementos ω\omega representan resultados elementales posibles del experimento o modelo.

La colección F\mathcal F es una σ\sigma-álgebra de subconjuntos de Ω\Omega. Sus elementos son los eventos a los que el modelo asigna probabilidad.

La función

P:F→[0,1]P:\mathcal F\to[0,1]

es una medida de probabilidad.

Debe satisfacer tres condiciones.

P(Ω)=1,P(\Omega)=1,
P(A)≥0para todo A∈F,P(A)\geq0 \qquad \text{para todo }A\in\mathcal F,

y, si A1,A2,…A_1,A_2,\ldots son eventos mutuamente disjuntos,

P(⋃i=1∞Ai)=∑i=1∞P(Ai).P\left(\bigcup_{i=1}^{\infty}A_i\right) = \sum_{i=1}^{\infty}P(A_i).

La tercera propiedad es la aditividad numerable. De estas condiciones se derivan muchas reglas familiares. Por ejemplo,

P(∅)=0,P(\varnothing)=0,

y, para el complemento AcA^c, P(Ac)=1−P(A).P(A^c)=1-P(A).

Si A⊆BA\subseteq B, P(A)≤P(B).P(A)\leq P(B).

Todas estas relaciones son propiedades del objeto matemático una vez adoptados los axiomas, con independencia de que la probabilidad se interprete como frecuencia, propensión o grado de incertidumbre.

81.3. Operaciones con eventos

Antes de introducir variables aleatorias conviene fijar cómo se combinan los eventos. Si AA y BB pertenecen a F\mathcal F, también pertenecen su unión, su intersección y sus complementos.

La unión

A∪BA\cup B

representa que ocurra al menos uno de los dos eventos. La intersección

A∩BA\cap B

representa que ocurran ambos.

Si los eventos no son disjuntos, sumar P(A)P(A) y P(B)P(B) cuenta dos veces la región compartida. Por eso

P(A∪B)=P(A)+P(B)−P(A∩B).P(A\cup B) = P(A)+P(B)-P(A\cap B).

Esta identidad es la primera forma del principio de inclusión-exclusión.

Tomemos dos componentes binarios y definamos

A={X=1},B={Y=1}.A=\{X=1\}, \qquad B=\{Y=1\}.

Si

P(A)=0.3,P(B)=0.4,P(A∩B)=0.25,P(A)=0.3, \qquad P(B)=0.4, \qquad P(A\cap B)=0.25,

entonces

P(A∪B)=0.3+0.4−0.25=0.45.P(A\cup B) = 0.3+0.4-0.25 = 0.45.

No sería correcto obtener 0.70.7, porque las realizaciones en que ambos componentes están activos pertenecen simultáneamente a AA y BB.

También resulta útil la diferencia de eventos:

A∖B=A∩Bc.A\setminus B = A\cap B^c.

En el ejemplo,

P(X=1,Y=0)=P(A)−P(A∩B)=0.05.P(X=1,Y=0) = P(A)-P(A\cap B) = 0.05.

Estas operaciones parecen elementales, pero adquieren importancia cuando un «evento del sistema» se construye a partir de muchas condiciones parciales. Un fallo global puede definirse como unión de varios fallos locales, mientras que una configuración específica requiere una intersección. Un criterio de exclusión se expresa mediante complementos.

La probabilidad asignada al evento compuesto depende de su estructura lógica. No basta conocer una lista de probabilidades marginales si no sabemos cómo se superponen los eventos. Esta observación anticipa el papel de la dependencia sin necesitar todavía probabilidad condicional.

81.4. Por qué no basta con usar todos los subconjuntos

En un espacio muestral finito podemos tomar sin dificultad

F=2Ω,\mathcal F=2^\Omega,

es decir, todos los subconjuntos.

En espacios continuos la situación es más delicada. Existen subconjuntos de R\mathbb R para los que no puede definirse una medida de longitud compatible con todas las propiedades que querríamos conservar. Por eso la teoría no exige asignar probabilidad a absolutamente cualquier subconjunto imaginable.

La σ\sigma-álgebra garantiza, entre otras cosas, que si un evento es medible, también lo son su complemento y las uniones numerables de eventos medibles. En R\mathbb R se utiliza habitualmente la σ\sigma-álgebra de Borel, generada por los intervalos abiertos. En teoría de probabilidad suele trabajarse con su completación respecto de la medida correspondiente.

En aplicaciones ordinarias rara vez construiremos una σ\sigma-álgebra explícitamente. Sin embargo, entender su función evita tratar la probabilidad como una operación informal que puede aplicarse sin restricciones a cualquier colección de resultados.

81.5. La variable aleatoria como función sobre el espacio muestral

Una variable aleatoria es una función medible

X:Ω→R,X:\Omega\to\mathbb R,

o, más generalmente, hacia otro espacio de estados.

El resultado elemental es ω\omega. La variable aleatoria extrae de ese resultado una cantidad que queremos analizar:

ω↦X(ω).\omega\mapsto X(\omega).

Consideremos dos componentes binarios de un sistema. El resultado elemental puede codificar el estado de ambos:

Ω={(0,0),(0,1),(1,0),(1,1)}.\Omega= \{(0,0),(0,1),(1,0),(1,1)\}.

Definimos

X(x,y)=x,Y(x,y)=y.X(x,y)=x, \qquad Y(x,y)=y.

Aquí XX e YY son funciones definidas sobre el espacio muestral. Identificarlas con el espacio mismo es una confusión frecuente.

También podemos definir una variable agregada S=X+Y,S=X+Y, que toma valores 0,1,20,1,2. La misma realización ω\omega puede alimentar muchas variables aleatorias distintas. Elegir una variable equivale a decidir qué aspecto del resultado queremos representar.

Esta distinción reaparecerá más adelante. Una distribución sobre estados observados puede perder información sobre el espacio de resultados que la produjo.

81.6. La distribución o ley de una variable

Una variable aleatoria XX induce una medida de probabilidad sobre sus valores. Su distribución se define mediante

PX(B)=P(X∈B)=P(X−1(B)),P_X(B) = P(X\in B) = P\left(X^{-1}(B)\right),

para conjuntos medibles BB.

Esta operación puede entenderse como transportar la probabilidad desde Ω\Omega hacia el espacio donde vive XX. En lenguaje de teoría de la medida, PXP_X es la medida imagen o pushforward de PP por XX.

Dos modelos con espacios muestrales internos muy diferentes pueden inducir exactamente la misma distribución para una variable observada. Si solo vemos XX, esos mecanismos pueden ser indistinguibles respecto de esa observación.

Una distribución es, por tanto, una medida de probabilidad sobre el espacio de valores de la variable. Describirla como una lista de frecuencias omite esa estructura.

81.7. Igualdad de variables e igualdad en distribución

C76 ya utilizó el símbolo

=d\overset{d}{=}

para expresar autosimilitud estadística. Ahora podemos precisar qué significa.

Decir

X=dYX\overset{d}{=}Y

significa que XX e YY inducen la misma distribución:

P(X∈B)=P(Y∈B)P(X\in B) = P(Y\in B)

para todo conjunto medible BB apropiado.

Esto es mucho más débil que afirmar X=YX=Y como funciones sobre el espacio muestral.

Consideremos

U∼Unif⁡(0,1)U\sim\operatorname{Unif}(0,1)

y definamos, sobre la misma realización, V=1−U.V=1-U.

Entonces VV también es uniforme en (0,1)(0,1). En efecto, para 0≤v≤10\leq v\leq1,

P(V≤v)=P(1−U≤v)=P(U≥1−v)=v.P(V\leq v) = P(1-U\leq v) = P(U\geq1-v) = v.

Por tanto,

U=dV.U\overset{d}{=}V.

Sin embargo, UU y VV no son la misma variable. Salvo en el punto U=1/2U=1/2, V≠U.V\neq U.

Más aún, están ligadas por una relación determinista exacta. Conocer UU determina VV.

Este ejemplo contiene dos advertencias. La primera es que una distribución no identifica la realización ni el mecanismo que la produce. La segunda es que dos variables con la misma distribución pueden mantener una dependencia muy fuerte entre sí.

Existe una noción intermedia que aparecerá repetidamente en probabilidad:

X=Ycasi seguramente.X=Y\quad\text{casi seguramente}.

Significa P(X=Y)=1.P(X=Y)=1.

Puede ocurrir que las funciones difieran sobre un conjunto de probabilidad cero y, aun así, sean iguales casi seguramente. Esta igualdad es más fuerte que igualdad en distribución, porque

X=Y casi seguramente⟹X=dY.X=Y\ \text{casi seguramente} \quad\Longrightarrow\quad X\overset{d}{=}Y.

La implicación inversa es falsa, como muestra UU frente a 1−U1-U.

Separar estas relaciones evita trasladar propiedades de una distribución a una realización concreta sin justificación.

81.8. Variables discretas y función de masa

Una variable discreta toma valores en un conjunto finito o numerable. Su ley puede describirse mediante la función de masa pX(x)=P(X=x).p_X(x)=P(X=x).

Debe satisfacer

pX(x)≥0p_X(x)\geq0

y

∑xpX(x)=1.\sum_x p_X(x)=1.

Si una variable ZZ puede tomar los valores 0,1,30,1,3 con probabilidades

0.2,0.5,0.3,0.2,\qquad0.5,\qquad0.3,

entonces P(Z≤1)=0.2+0.5=0.7.P(Z\leq1)=0.2+0.5=0.7.

La distribución no tiene por qué asignar probabilidades iguales a los resultados posibles. Tampoco debemos confundir «posible» con «probable». Un estado puede pertenecer al soporte y tener probabilidad muy pequeña.

En un modelo de sistemas, una función de masa puede representar estados categóricos, número de eventos, número de componentes activos o cualquier otra cantidad discretizada.

81.9. Distribución continua y densidad

Una variable continua puede admitir una densidad fX(x)f_X(x) tal que

P(a≤X≤b)=∫abfX(x) dx.P(a\leq X\leq b) = \int_a^b f_X(x)\,dx.

La densidad debe satisfacer

fX(x)≥0f_X(x)\geq0

y

∫−∞∞fX(x) dx=1.\int_{-\infty}^{\infty}f_X(x)\,dx=1.

Hay aquí una fuente habitual de error. La cantidad fX(x)f_X(x) no es la probabilidad de observar exactamente xx. Para una distribución absolutamente continua, P(X=x)=0P(X=x)=0 para todo punto individual.

La densidad incluso puede superar uno. Si

X∼Unif⁡(0,0.2),X\sim \operatorname{Unif}(0,0.2),

entonces

fX(x)=5f_X(x)=5

dentro de ese intervalo. No hay contradicción, porque la probabilidad total es área:

∫00.25 dx=1.\int_0^{0.2}5\,dx=1.

La altura de la densidad depende de las unidades del eje. La probabilidad de un intervalo es adimensional.

81.10. La función de distribución acumulada

Toda variable aleatoria real, sea discreta, continua o mixta, tiene una función de distribución acumulada, o CDF, FX(x)=P(X≤x).F_X(x)=P(X\leq x).

La CDF es no decreciente, satisface

lim⁡x→−∞FX(x)=0,lim⁡x→+∞FX(x)=1,\lim_{x\to-\infty}F_X(x)=0, \qquad \lim_{x\to+\infty}F_X(x)=1,

y es continua por la derecha.

En una variable discreta aparecen saltos. El tamaño del salto en x0x_0 es P(X=x0).P(X=x_0).

Si la distribución es absolutamente continua,

FX(x)=∫−∞xfX(t) dt,F_X(x) = \int_{-\infty}^{x}f_X(t)\,dt,

y donde la derivada existe, fX(x)=FX′(x).f_X(x)=F_X'(x).

Para una normal estándar,

X∼N(0,1),X\sim N(0,1),

la probabilidad del intervalo [−1,1][-1,1] es

P(−1≤X≤1)=Φ(1)−Φ(−1)≈0.682689.P(-1\leq X\leq1) = \Phi(1)-\Phi(-1) \approx 0.682689.
Densidad normal y probabilidad de un intervalo.
Densidad normal y probabilidad de un intervalo Ampliar figura ↗

La figura distingue visualmente densidad de probabilidad. La probabilidad corresponde al área bajo la curva.

81.11. Probabilidad cero no significa conjunto vacío

Las distribuciones continuas introducen una distinción que suele resultar extraña al principio.

Si

X∼Unif⁡(0,1),X\sim\operatorname{Unif}(0,1),

entonces P(X=0.5)=0.P(X=0.5)=0.

Sin embargo, 0.50.5 pertenece al soporte de la distribución y es un valor perfectamente compatible con el modelo.

El evento

{X=0.5}\{X=0.5\}

no es vacío. Simplemente tiene medida de probabilidad cero.

Esto obliga a distinguir

evento imposible\text{evento imposible}

de

evento nulo.\text{evento nulo}.

El evento imposible es ∅\varnothing. Un evento nulo puede contener puntos, incluso infinitos puntos, siempre que su medida sea cero.

Por ejemplo, si XX es uniforme en [0,1][0,1], el conjunto de números racionales del intervalo es numerable. Como cada punto tiene probabilidad cero y una unión numerable de eventos nulos sigue teniendo probabilidad cero,

P(X∈Q∩[0,1])=0.P(X\in\mathbb Q\cap[0,1])=0.

Por tanto, con probabilidad uno el valor obtenido es irracional, aunque los racionales sean densos y cualquier intervalo no vacío contenga alguno.

La expresión casi seguramente formaliza esta idea. Una propiedad GG ocurre casi seguramente si P(G)=1.P(G)=1.

Esto no exige que GG incluya literalmente todos los resultados elementales. Su complemento puede ser un conjunto no vacío de probabilidad cero.

La diferencia resulta importante en resultados matemáticos sobre procesos aleatorios. Cuando más adelante digamos que una propiedad se cumple «casi seguramente», no estaremos afirmando que no existe excepción matemática alguna. Afirmaremos que el conjunto de excepciones tiene probabilidad cero bajo la medida del modelo.

Tampoco debe confundirse un evento muy improbable con uno de probabilidad cero. Una probabilidad de 10−1210^{-12} es pequeña pero positiva; en repeticiones suficientes puede generar observaciones. Probabilidad cero tiene un significado matemático diferente.

81.12. No toda distribución es puramente discreta o continua

La clasificación discreta/continua es útil, pero no exhaustiva.

Podemos construir una variable que tome exactamente el valor cero con probabilidad 0.30.3 y, con probabilidad 0.70.7, se distribuya uniformemente en (0,1)(0,1). Su ley combina una masa puntual y una parte continua.

No existe entonces una única densidad ordinaria respecto de la longitud de Lebesgue que describa toda la distribución. La medida contiene componentes de naturaleza distinta.

Este ejemplo previene una identificación frecuente:

distribucioˊn≠densidad.\text{distribución} \neq \text{densidad}.

La distribución es el objeto general. Función de masa y densidad son representaciones apropiadas para clases particulares de distribuciones.

81.13. De una variable a un vector aleatorio

En sistemas complejos rara vez basta una sola variable. Consideremos (X,Y).(X,Y).

Su distribución conjunta asigna probabilidad a regiones del espacio de pares:

P((X,Y)∈A).P\big((X,Y)\in A\big).

Si ambas variables son binarias, la distribución conjunta puede representarse mediante una tabla de cuatro probabilidades

pxy=P(X=x,Y=y),p_{xy}=P(X=x,Y=y),

con

∑x=01∑y=01pxy=1.\sum_{x=0}^{1}\sum_{y=0}^{1}p_{xy}=1.

La distribución conjunta contiene información que las distribuciones individuales no conservan, a saber, cómo aparecen juntos los estados de diferentes componentes. Ese es el punto matemático central del capítulo.

81.14. Marginalizar significa olvidar parte del sistema

A partir de la distribución conjunta obtenemos la distribución marginal de XX sumando sobre los valores de YY:

P(X=x)=∑yP(X=x,Y=y).P(X=x) = \sum_y P(X=x,Y=y).

Análogamente,

P(Y=y)=∑xP(X=x,Y=y).P(Y=y) = \sum_x P(X=x,Y=y).

En una distribución continua conjunta con densidad fX,Y(x,y)f_{X,Y}(x,y),

fX(x)=∫−∞∞fX,Y(x,y) dy.f_X(x) = \int_{-\infty}^{\infty} f_{X,Y}(x,y)\,dy.

Marginalizar elimina una coordenada. La operación no es neutra desde el punto de vista informacional, porque distribuciones conjuntas diferentes pueden tener exactamente las mismas marginales. Por eso describir cada componente por separado no reconstruye necesariamente el sistema.

81.15. Independencia

Dos eventos AA y BB son independientes si

P(A∩B)=P(A)P(B).P(A\cap B) = P(A)P(B).

Dos variables aleatorias XX e YY son independientes si, para todos los conjuntos medibles apropiados AA y BB, P(X∈A,Y∈B)=P(X∈A)P(Y∈B).P(X\in A,Y\in B) = P(X\in A)P(Y\in B).

En el caso discreto, esto equivale a P(X=x,Y=y)=P(X=x)P(Y=y)P(X=x,Y=y) = P(X=x)P(Y=y) para todos los pares posibles.

Si existen densidades, fX,Y(x,y)=fX(x)fY(y)f_{X,Y}(x,y) = f_X(x)f_Y(y) casi en todas partes.

La independencia es una propiedad fuerte de factorización de la distribución conjunta. La impresión de que dos variables «parecen poco relacionadas» no equivale a ella.

81.16. Mismas marginales, distinta dependencia

Supongamos

P(X=1)=p=0.3,P(X=1)=p=0.3,
P(Y=1)=r=0.4.P(Y=1)=r=0.4.

Definamos q=P(X=1,Y=1).q=P(X=1,Y=1).

La tabla conjunta queda completamente determinada:

Y=0Y=1X=01−p−r+qr−qX=1p−qq.\begin{array}{c|cc} & Y=0 & Y=1\\ \hline X=0 & 1-p-r+q & r-q\\ X=1 & p-q & q \end{array}.

Para que todas las probabilidades sean no negativas,

q≤p,q≤r,q\leq p, \qquad q\leq r,

y

q≥p+r−1,q≥0.q\geq p+r-1, \qquad q\geq0.

Por tanto,

max⁡(0,p+r−1)≤q≤min⁡(p,r).\max(0,p+r-1) \leq q \leq \min(p,r).

Con nuestros valores, 0≤q≤0.3.0\leq q\leq0.3.

Las marginales permanecen fijas para cualquier qq dentro de ese intervalo.

Si XX e YY son independientes, q=pr=0.12.q=pr=0.12.

La distribución conjunta es

Y=0Y=1X=00.420.28X=10.180.12.\begin{array}{c|cc} & Y=0 & Y=1\\ \hline X=0 & 0.42 & 0.28\\ X=1 & 0.18 & 0.12 \end{array}.
Distribución conjunta independiente.
Distribución conjunta independiente Ampliar figura ↗

Ahora tomemos q=0.25.q=0.25.

Obtenemos

Y=0Y=1X=00.550.15X=10.050.25.\begin{array}{c|cc} & Y=0 & Y=1\\ \hline X=0 & 0.55 & 0.15\\ X=1 & 0.05 & 0.25 \end{array}.

Las marginales siguen siendo exactamente

P(X=1)=0.3,P(Y=1)=0.4.P(X=1)=0.3, \qquad P(Y=1)=0.4.

Sin embargo, los estados activos aparecen juntos con mucha mayor frecuencia.

Mismas marginales con dependencia diferente.
Mismas marginales con dependencia diferente Ampliar figura ↗

La distribución de cada componente por separado no detecta esta diferencia.

81.17. La dependencia cambia propiedades del sistema agregado

Definamos S=X+Y.S=X+Y.

La variable SS cuenta cuántos componentes están activos.

En términos de p,r,qp,r,q,

P(S=0)=1−p−r+q,P(S=0)=1-p-r+q,
P(S=1)=p+r−2q,P(S=1)=p+r-2q,
P(S=2)=q.P(S=2)=q.

Bajo independencia, con q=0.12q=0.12,

P(S=0)=0.42,P(S=1)=0.46,P(S=2)=0.12.P(S=0)=0.42, \qquad P(S=1)=0.46, \qquad P(S=2)=0.12.

Con la distribución dependiente q=0.25q=0.25,

P(S=0)=0.55,P(S=1)=0.20,P(S=2)=0.25.P(S=0)=0.55, \qquad P(S=1)=0.20, \qquad P(S=2)=0.25.
Distribución del número de componentes activos.
Distribución del número de componentes activos Ampliar figura ↗

En ambos modelos, un observador que examine solo XX verá un componente activo el 30 % de las veces. Quien examine solo YY verá 40 %. Aun así, la probabilidad de que ambos estén activos pasa de 0.12 a 0.25.

La dependencia puede cambiar de forma sustancial el comportamiento colectivo, de modo que tratarla como un detalle añadido a las marginales conduce a error.

81.18. Los límites de Fréchet en el caso binario

El intervalo permitido para qq,

max⁡(0,p+r−1)≤q≤min⁡(p,r),\max(0,p+r-1) \leq q\leq \min(p,r),

muestra que las marginales restringen la dependencia, pero no la fijan.

Para p=0.3p=0.3 y r=0.4r=0.4, no podemos elegir q=0.4,q=0.4, porque entonces P(X=1,Y=0)=p−q=−0.1,P(X=1,Y=0)=p-q=-0.1, lo que sería imposible.

Tampoco podemos elegir q<0q<0.

Los extremos reciben una interpretación útil. El valor máximo concentra tanto como permiten las marginales la ocurrencia conjunta de X=1X=1 y Y=1Y=1. El mínimo reduce esa coincidencia todo lo posible.

En dimensiones y variables más generales, la construcción de distribuciones conjuntas con marginales prefijadas conduce al lenguaje de las cópulas. No desarrollaremos esa teoría aquí. El resultado binario basta para establecer que marginales y dependencia son componentes diferentes de un modelo multivariado.

81.19. Independencia por pares no implica independencia mutua

Con tres variables aparece una sutileza adicional.

Sean UU y VV bits independientes y equiprobables:

P(U=0)=P(U=1)=12,P(U=0)=P(U=1)=\frac12,
P(V=0)=P(V=1)=12.P(V=0)=P(V=1)=\frac12.

Definimos

W=U⊕V,W=U\oplus V,

donde ⊕\oplus es XOR, de modo que W=1W=1 si exactamente uno de los dos bits vale uno.

Los cuatro estados posibles son

(0,0,0),(0,1,1),(1,0,1),(1,1,0),(0,0,0), \quad (0,1,1), \quad (1,0,1), \quad (1,1,0),

cada uno con probabilidad 1/41/4.

Tenemos

P(U=1)=P(V=1)=P(W=1)=12.P(U=1)=P(V=1)=P(W=1)=\frac12.

Además,

P(U=1,V=1)=14=P(U=1)P(V=1),P(U=1,V=1)=\frac14 = P(U=1)P(V=1),

y lo mismo ocurre para los pares (U,W)(U,W) y (V,W)(V,W).

Las variables son independientes por pares.

Sin embargo,

P(U=1,V=1,W=1)=0,P(U=1,V=1,W=1)=0,

mientras que la independencia mutua exigiría

P(U=1)P(V=1)P(W=1)=18.P(U=1)P(V=1)P(W=1) = \frac18.

Por tanto, no son mutuamente independientes.

El ejemplo es importante porque un sistema puede carecer de dependencias detectables en cada par y, aun así, obedecer una restricción conjunta exacta de orden superior.

81.20. Dependencia estadística no equivale a interacción causal

Si XX e YY son dependientes, la distribución conjunta no factoriza. Esa afirmación es probabilística y no dice por sí sola por qué ocurre la dependencia.

La dependencia puede aparecer porque XX influye sobre YY, porque YY influye sobre XX, porque ambas responden a una tercera variable, porque existe selección de observaciones o porque el propio diseño del muestreo induce asociación.

Tampoco la independencia observada en un modelo reducido demuestra ausencia de mecanismos comunes. Un sistema puede contener interacciones que se cancelen en una distribución particular o en una escala determinada.

La teoría causal necesitará información adicional sobre intervenciones, estructura temporal y supuestos de identificación. Ese problema llegará mucho más adelante. En C81 basta con preservar la frontera conceptual:

dependencia probabilıˊstica≠mecanismo causal identificado.\text{dependencia probabilística} \neq \text{mecanismo causal identificado}.

81.21. Distribución del modelo y muestra observada

Una distribución es un objeto matemático. Una muestra es una realización finita producida bajo ese modelo.

Si simulamos 200 000200\,000 pares desde la distribución independiente, las frecuencias empíricas se acercan a

0.42,0.28,0.18,0.12,0.42,\quad0.28,\quad0.18,\quad0.12,

pero no tienen por qué coincidir exactamente.

El paquete reproducible realiza esa simulación y conserva las frecuencias observadas. El error máximo absoluto respecto de las probabilidades teóricas resulta inferior a 0.004 tanto en el modelo independiente como en el dependiente.

No utilizamos esta concordancia como demostración de la distribución teórica. La distribución fue especificada antes de simular. La muestra sirve para comprobar que el algoritmo de generación implementa correctamente esa ley dentro de la variabilidad finita.

La dirección lógica importa:

modelo⟶realizaciones.\text{modelo} \longrightarrow \text{realizaciones}.

Cuando trabajemos con datos reales tendremos el problema inverso:

realizaciones⟶inferencias sobre el modelo.\text{realizaciones} \longrightarrow \text{inferencias sobre el modelo}.

Ese segundo problema requiere herramientas adicionales.

81.22. Probabilidad como capa de modelamiento

Un sistema determinista puede estudiarse probabilísticamente si desconocemos su estado inicial y representamos ese desconocimiento mediante una distribución. Un sistema estocástico puede tener, además, reglas cuya propia evolución incluya variables aleatorias. Los dos casos pueden producir ecuaciones probabilísticas parecidas, pero la interpretación del azar es diferente.

También es posible que la distribución describa una población antes que una evolución temporal. Si elegimos una persona al azar de una población, la variable aleatoria puede representar una característica de esa unidad. No existe ninguna obligación de imaginar que la persona «fluctúa» entre valores.

Esta flexibilidad amplía el alcance del formalismo y, al mismo tiempo, lo vuelve riesgoso cuando se omite qué aleatorización se está representando.

Antes de escribir

X∼F,X\sim F,

conviene poder responder:

  1. ¿qué representa una realización?;
  2. ¿qué permanece fijo entre realizaciones?;
  3. ¿qué mecanismo o procedimiento genera la variabilidad?;
  4. ¿qué variables se modelan conjuntamente?;
  5. ¿qué dependencias se están asumiendo?

La notación compacta no sustituye estas decisiones.

81.23. Regla determinista con entrada aleatoria

La introducción de probabilidad no obliga a abandonar las funciones deterministas estudiadas en módulos anteriores.

Supongamos que una variable aleatoria XX tiene distribución PXP_X y que aplicamos una regla determinista Y=g(X).Y=g(X).

Una vez conocido X=xX=x, el valor de YY está completamente determinado. La incertidumbre sobre YY proviene de la distribución de entrada y de cómo gg reorganiza sus valores.

La distribución de salida satisface

PY(B)=P(g(X)∈B)=PX(g−1(B)).P_Y(B) = P(g(X)\in B) = P_X\big(g^{-1}(B)\big).

Esta es nuevamente una medida imagen.

Tomemos un ejemplo simple:

X∼Unif⁡(−1,1),Y=X2.X\sim\operatorname{Unif}(-1,1), \qquad Y=X^2.

La transformación elimina el signo. Para 0≤y≤10\leq y\leq1,

P(Y≤y)=P(X2≤y)=P(−y≤X≤y).P(Y\leq y) = P(X^2\leq y) = P(-\sqrt y\leq X\leq\sqrt y).

Como XX es uniforme en un intervalo de longitud dos,

FY(y)=y.F_Y(y)=\sqrt y.

Derivando para 0<y<10<y<1,

fY(y)=12y.f_Y(y) = \frac{1}{2\sqrt y}.

La densidad de salida no es uniforme. Una función determinista puede concentrar probabilidad porque intervalos distintos del espacio de entrada se proyectan sobre regiones de tamaño diferente en la salida.

Este cálculo conecta probabilidad con el lenguaje de mapas. En C51 estudiamos iteraciones xn+1=f(xn).x_{n+1}=f(x_n).

Si ahora el estado inicial X0X_0 se modela como variable aleatoria, entonces X1=f(X0)X_1=f(X_0) también es una variable aleatoria. La función ff puede seguir siendo completamente determinista, mientras la distribución de estados evoluciona.

Después de nn iteraciones, Xn=fn(X0).X_n=f^n(X_0).

Podemos preguntar tanto por una trayectoria concreta, condicionada a X0=x0X_0=x_0, como por la distribución de XnX_n cuando X0X_0 varía según una ley.

Esta separación evita una confusión frecuente. Observar una distribución de resultados no demuestra que la regla dinámica sea estocástica, porque esa distribución puede provenir de incertidumbre inicial propagada por una transformación determinista.

En sistemas caóticos esa distinción adquiere especial importancia. Una pequeña distribución inicial puede estirarse y plegarse bajo la dinámica. Seguir la distribución y seguir una trayectoria responden a preguntas distintas, aunque ambas utilicen el mismo mapa subyacente.

Más adelante aparecerán procesos cuya propia regla de transición será probabilística. C81 solo necesita establecer el caso más elemental, en el que el azar en la entrada y el determinismo en la regla resultan compatibles dentro de un mismo modelo.

81.24. Verificación computacional

El paquete reproducible ejecuta controles analíticos y numéricos.

Primero comprueba las cotas del parámetro q=P(X=1,Y=1),q=P(X=1,Y=1), la no negatividad de las cuatro probabilidades y la normalización de las dos distribuciones conjuntas. Verifica que ambos modelos tienen exactamente las mismas marginales y que solo el primero satisface q=pr.q=pr.

Después calcula la distribución de S=X+YS=X+Y y confirma que la dependencia modifica las probabilidades del agregado aunque las marginales permanezcan invariantes.

La simulación genera 200 000200\,000 realizaciones de cada distribución conjunta y contrasta las frecuencias empíricas con las probabilidades teóricas.

Para el ejemplo continuo, el código compara la integral numérica de la densidad normal en [−1,1][-1,1] con la diferencia de la función acumulada y recupera P(−1≤X≤1)≈0.682689.P(-1\leq X\leq1) \approx0.682689.

También verifica que una uniforme sobre (0,0.2)(0,0.2) puede tener densidad 55 manteniendo integral total uno.

Finalmente enumera los cuatro estados del ejemplo XOR y demuestra computacionalmente las tres independencias por pares, junto con el fracaso de la independencia mutua.

Se ejecutaron 34 comprobaciones automáticas y las 34 resultaron satisfactorias.

81.25. Qué queda establecido

Una distribución de probabilidad es una medida sobre resultados o sobre los valores de variables aleatorias. La función de masa y la densidad son representaciones particulares, mientras la función acumulada existe para toda variable real.

En sistemas multivariados, la distribución conjunta contiene información que desaparece al marginalizar. Dos modelos pueden compartir todas las distribuciones individuales y diferir radicalmente en cómo aparecen juntos los estados.

La independencia es una condición de factorización, distinta tanto de una impresión visual como de una afirmación causal. Independencia por pares y dependencia conjunta de orden superior pueden además coexistir.

Una consecuencia metodológica merece quedar explícita. Cuando un modelo probabilístico forma parte de una explicación de sistemas complejos, especificar solo las distribuciones marginales equivale a describir las piezas sin decir cómo se organizan conjuntamente. Esa omisión puede ser irrelevante para algunas preguntas y decisiva para otras. La elección correcta depende del observable. Si solo interesa una variable aislada, la marginal puede bastar; si interesan concurrencia, agregación, extremos conjuntos o coordinación, la estructura de dependencia pasa a formar parte del modelo mínimo necesario.

Estas ideas serán la base del resto del módulo. C82 introducirá la probabilidad condicional, la verosimilitud y el teorema de Bayes en su forma elemental. Allí una distribución conjunta dejará de ser solamente una descripción simultánea. Aprenderemos cómo restringirla cuando se conoce información sobre una parte del sistema y cómo invertir, bajo supuestos explícitos, la relación entre hipótesis y datos.


Referencias


Recursos reproducibles

Descargar recursos del capítulo (ZIP, 209 kB).

5 archivos CSV · 4 figuras · 1 programa Python.

El programa se ha ejecutado en una carpeta vacía y genera los archivos de datos y figuras incluidos en el paquete.

Ver instrucciones y contenido del paquete.