COMPLEXA · Ciencias de la Complejidad y Teoría del Caos
Módulo 22. Información temporal, multivariada y entre escalas
214.1. Una flecha predictiva plantea otra pregunta
Una serie puede mejorar la predicción de otra sin intervenir directamente en su generación. La transferencia de entropía permite identificar esa mejora dentro de un conjunto de observaciones y un contexto temporal. Para interpretar una flecha como relación causal necesitamos examinar qué mecanismos diferentes pueden producirla.
La dificultad no desaparece al usar una medida no lineal. Un estimador perfecto de todas las probabilidades observables seguiría sin distinguir ciertos mecanismos si generan exactamente la misma distribución de datos. En esos casos el problema es de identificación y una mayor precisión estadística no lo resuelve.
Este capítulo usa ejemplos construidos para separar cuatro situaciones (una influencia directa, una causa común, una ruta mediada y una asociación creada por selección). También veremos por qué una transferencia nula no siempre descarta una relación causal bajo intervenciones.
El contraste exige definir qué significa intervenir. Al observar que una variable tiene cierto valor aprendemos algo sobre las condiciones que la produjeron. Al intervenir idealmente, fijamos su valor mediante un mecanismo externo y modificamos la regla que normalmente lo generaba. Esas dos operaciones pueden producir distribuciones distintas.
Una intervención también necesita un objetivo preciso. Puede interesarnos el efecto total, con sus rutas intermediarias, o una contribución directa cuando mantenemos determinados mediadores. No existe una única cantidad llamada «efecto causal» que responda indistintamente a ambas preguntas.
Los trabajos de Ay y Polani, de Lizier y Prokopenko y de Janzing y colaboradores desarrollan distinciones entre dependencia informacional y cuantificación causal desde diferentes formulaciones. Runge organiza supuestos y problemas prácticos de reconstrucción de redes temporales. Usaremos esas perspectivas como guía y construiremos cálculos propios.
No intentaremos convertir cada relación observada en una conclusión causal. Tampoco descartaremos su valor predictivo por no identificar un mecanismo único. Una señal auxiliar puede ser útil para anticipar un resultado aunque sea solo un indicador de una causa que no observamos.
La meta es ajustar la fuerza de cada afirmación a la información disponible. Cuando varios mecanismos siguen siendo compatibles, la tarea científica consiste en especificar qué observación, supuesto o intervención podría separarlos.
214.2. Dos mecanismos observacionalmente idénticos
Construyamos primero una fuente binaria independiente y equiprobable. El objetivo del instante siguiente copia la fuente actual y después invierte el resultado con probabilidad una décima. La regla estructural contiene una influencia de la fuente sobre el objetivo.
En un segundo mecanismo, una variable oculta binaria independiente y equiprobable produce el valor actual de la fuente observada. Esa misma variable oculta produce el objetivo siguiente mediante una copia con el mismo ruido. La fuente observada no participa en la regla del objetivo.
En símbolos, las dos construcciones son
Las variables de origen son equiprobables; los errores son independientes y tienen probabilidad de uno igual a una décima. La suma binaria indica inversión cuando el error vale uno.
Para cualquier observación natural, ambos modelos producen exactamente la misma relación entre las dos señales. La distribución de parejas formadas por la fuente actual y el objetivo siguiente tiene probabilidades 0,45, 0,05, 0,05 y 0,45 para coincidencias y discrepancias en el orden correspondiente.
La transferencia es aproximadamente 0,531004 bits en ambos casos. Aumentar indefinidamente la muestra permitiría estimar ese número con más precisión, pero no revelaría qué mecanismo lo produjo. También coinciden las distribuciones de las trayectorias observadas bajo la construcción independiente entre tiempos.
Ahora fijemos externamente la fuente en uno. En el modelo A, el objetivo siguiente será uno con probabilidad nueve décimas. Si fijamos la fuente en cero, esa probabilidad será una décima. La diferencia causal sobre la probabilidad de uno es ocho décimas.
En el modelo B, fijar la copia observada no modifica la variable oculta. El objetivo continúa dependiendo de esa variable, que sigue siendo equiprobable. Su probabilidad de uno es una mitad bajo cualquiera de las dos intervenciones en la fuente observada.
La diferencia entre modelos aparece en distribuciones bajo intervención que los datos naturales no habían determinado. La misma flecha predictiva y el mismo valor informacional son compatibles con efectos causales distintos.
El ejemplo demuestra que la inferencia causal observacional necesita restricciones adicionales que excluyan alguna de las construcciones compatibles. Esas restricciones pueden proceder del diseño, del conocimiento del sistema o de un conjunto más amplio de observaciones.
214.3. Medir una causa común con ruido
Si observamos la variable común del modelo anterior y la incluimos correctamente en el contexto, la fuente deja de aportar información adicional. Medir una causa común de manera imperfecta, en cambio, no equivale a conocerla.
Podemos construir un ejemplo con tres sensores o señales. La variable oculta es un bit equiprobable. La fuente X lo copia con error de una décima; el objetivo futuro lo copia con error de una quinta parte; una variable de control W también lo copia con error de una quinta parte.
Todos esos errores son independientes una vez conocida la causa. No hay una flecha causal desde X hacia el objetivo. Sin embargo, X y el objetivo comparten información porque ambos reflejan el mismo bit.
La probabilidad de discrepancia entre X y el objetivo es 0,26. La información mutua entre ellos es aproximadamente 0,173254 bits; la transferencia vale lo mismo cuando las historias propias no añaden contexto.
Si condicionamos en la causa verdadera, la dependencia desaparece exactamente. Si condicionamos en su medición W, permanece una información condicional de aproximadamente 0,097093 bits. La fuente sigue ayudando a inferir lo que W no resolvió.
Esta cifra puede comprobarse enumerando los dos valores de la causa y las ocho combinaciones de los tres errores. Cada combinación tiene una probabilidad obtenida multiplicando las probabilidades independientes pertinentes. Al agrupar por las tres señales observadas construimos la tabla necesaria para la información condicional.
Examinemos el grupo donde W vale cero. Las probabilidades condicionales de las parejas X y objetivo son 0,58 para cero-cero; 0,16 para cero-uno; 0,10 para uno-cero; y 0,16 para uno-uno. La probabilidad de X igual a uno es 0,26 y la del objetivo igual a uno es 0,32.
Si ambas variables fueran independientes dentro de ese grupo, la probabilidad de uno-uno sería el producto de esas marginales, 0,0832, mientras que la tabla asigna 0,16. La diferencia muestra directamente que el control no eliminó la asociación. En el grupo donde W vale uno aparece la tabla complementaria y la misma información mutua.
La razón es que W deja incertidumbre sobre la causa y las otras mediciones todavía comparten esa incertidumbre. El cálculo permite reconocer el problema sin depender únicamente de una declaración general sobre confusión no observada.
Por tanto, encontrar una transferencia positiva después de controlar una variable medida no demuestra que se haya eliminado toda explicación por causa común. El control puede ser un indicador incompleto. La calidad y la resolución de la medición forman parte del argumento causal.
Tampoco debemos interpretar la reducción de la transferencia como porcentaje exacto de confusión eliminada. La información condicional depende de una distribución conjunta y no se descompone necesariamente en porciones causales aditivas.
En estudios reales, varias mediciones imperfectas pueden ayudar a identificar una variable latente si existen supuestos adecuados. Añadir proxies, sin embargo, no garantiza que el problema quede resuelto; es necesario modelar qué comparten sus errores y qué parte del estado miden.
En la práctica, la frase «hemos controlado por la causa» necesita especificar si se observó la causa misma o una medida de ella. Esa distinción puede decidir si una dirección informacional residual es nueva evidencia o una consecuencia esperable del error de observación.
214.4. Una ruta indirecta también transmite predicción
Consideremos ahora un mecanismo con una cadena causal real. Una fuente actual influye en un mediador del instante siguiente. Ese mediador influye en el objetivo un paso después. La primera transmisión invierte el bit con probabilidad una décima y la segunda con probabilidad una quinta parte.
Los errores son independientes. La probabilidad de que el objetivo final difiera de la fuente inicial es la probabilidad de una sola inversión entre las dos etapas
Con fuente equilibrada e independiente, la información entre la fuente y el objetivo dos pasos después es aproximadamente 0,173254 bits. En este mecanismo la asociación tiene una interpretación causal total, porque modificar la fuente cambia la distribución del objetivo a través del mediador.
Si fijamos la fuente en uno, la probabilidad de uno del objetivo final es 0,74. Si la fijamos en cero, es 0,26. La diferencia total es 0,48.
Ahora condicionemos en el mediador del instante intermedio. Dado ese valor, el objetivo final depende únicamente del segundo error y la información condicional de la fuente inicial es cero.
Sería incorrecto concluir que la fuente carece de efecto causal total porque la dependencia desaparece al controlar el mediador. El control ha bloqueado precisamente la ruta por la que opera ese efecto.
La pregunta directa y la total son distintas. Si queremos saber qué añade la fuente más allá del estado intermedio, el condicionamiento es pertinente. Si queremos saber cómo cambia el resultado al intervenir en la fuente dejando que el mediador responda normalmente, debemos conservar esa ruta.
También importa la disponibilidad temporal. Para predecir desde el instante inicial, el mediador futuro todavía no está observado. Usarlo como entrada de un predictor en ese instante introduciría información que no estaba disponible. Una comparación causal de distribuciones y una evaluación de pronóstico operativo no siempre usan los mismos conjuntos de variables.
En una red temporal, las rutas indirectas pueden producir asociaciones a varios retardos. Eliminar todas las asociaciones mediadas puede ser útil para aproximar conexiones directas bajo supuestos adecuados, pero cambia el objeto respecto de una red de influencia total o de utilidad predictiva.
La terminología debería reflejar esa elección. Una arista en una red inferida puede significar dependencia bivariada, dependencia condicional, efecto total o una relación estructural directa. Dibujar la misma flecha para todas esas posibilidades impide interpretar el resultado.
El ejemplo permite además comprobar la coherencia del resultado. La información disminuye a través de las dos etapas ruidosas, pero sigue siendo positiva antes de condicionar en el mediador. Una información reducida y positiva es compatible con una ruta causal activa que pasa por el mediador; la conexión entre los extremos sigue siendo indirecta.
214.5. Condicionar puede crear una asociación
Hasta ahora, añadir una variable al contexto eliminó o redujo dependencias, aunque también puede producir una asociación que antes no existía. Esto ocurre cuando seleccionamos observaciones según una consecuencia común de variables inicialmente independientes.
Tomemos dos bits independientes y equiprobables, X y Z, en un mismo instante. El objetivo del instante siguiente copia Z. Introduzcamos una variable de selección que vale uno cuando X y Z coinciden y cero cuando difieren.
En la población completa, X no informa sobre el objetivo futuro, porque es independiente de Z. No existe una influencia causal desde X hacia el objetivo bajo el mecanismo definido.
Si conservamos únicamente las observaciones con selección igual a uno, X y Z son idénticos. Dentro de esa muestra, X predice perfectamente el objetivo y comparte un bit de información con él. La asociación procede del criterio de inclusión.
En el grupo con selección igual a cero, X es el complemento de Z y también permite predecir perfectamente el objetivo. Por tanto, la información mutua condicional al indicador de selección es un bit, aunque la información sin condicionar sea cero.
El indicador es un efecto común de X y Z. Conocerlo hace dependientes variables que antes eran independientes; si sabemos que ambos coinciden y conocemos uno, conocemos el otro. La relación estadística no exige una nueva interacción física entre las variables.
Un proceso de selección puede aparecer de formas menos transparentes. Un registro puede incluir solo episodios que activan una alarma dependiente de varias señales, unidades que superan un criterio conjunto o intervalos con datos completos cuando la pérdida de datos depende del estado.
No toda restricción de la muestra produce este problema, aunque tampoco podemos suponer que seleccionar aumenta la comparabilidad sin cambiar dependencias. Debemos representar por qué ciertas observaciones entraron y otras no.
Intervenir en X sigue sin modificar el objetivo en la población completa de este ejemplo. Si además condicionamos después en la selección, volvemos a comparar subconjuntos que dependen de X y Z. Esa comparación seleccionada no equivale al efecto poblacional de la intervención.
El caso demuestra que controlar más variables no siempre acerca una estimación a una interpretación causal. Algunas variables bloquean rutas de confusión; otras bloquean mediación; otras abren asociaciones por selección. La diferencia depende de su posición en el mecanismo y de la pregunta.
Una información condicional positiva puede ser completamente correcta como descripción del subconjunto observado. El error aparece al trasladarla a una influencia causal que el modelo no contiene o a una población cuya selección es diferente.
214.6. Una transferencia nula tampoco resuelve todo
La ausencia de una aportación predictiva adicional puede tener varias explicaciones. La fuente puede ser irrelevante, estar ya representada en el contexto o variar demasiado poco bajo las condiciones observadas. El valor cero no distingue automáticamente esas posibilidades.
Construyamos un sistema en el que una señal X copia el objetivo actual y el objetivo siguiente copia a su vez X. En la evolución natural, todo permanece constante después de elegir un estado inicial.
Si el predictor ya conoce el objetivo actual, X no añade información nueva y la transferencia condicionada a ese estado es cero. Sin embargo, una intervención externa que cambie X antes de la siguiente actualización cambiará el objetivo siguiente.
La señal es causalmente operativa en la regla definida, aunque sea predictivamente redundante bajo la distribución natural. La intervención explora combinaciones que no ocurren espontáneamente, como una X distinta del objetivo actual.
El ejemplo señala un problema de soporte. Si para cada contexto observamos un único valor de la fuente, no podemos aprender de esos datos cómo respondería el sistema a otros valores en el mismo contexto.
Otra dificultad es la cancelación de rutas. Consideremos variables reales con errores independientes. Un mediador es la suma de X y un error V. El objetivo es el mediador menos X, más otro error W.
Al sustituir la primera ecuación en la segunda, el objetivo queda igual a V más W. De ahí que X y el objetivo puedan ser independientes en la distribución observada. El efecto total de cambiar X es cero, porque la ruta positiva mediada y la contribución directa negativa se cancelan.
Si, en cambio, mantuviéramos fijo el mediador mientras modificamos X, el objetivo cambiaría en sentido contrario a X. La contribución directa existe en ese modelo, aunque el efecto total sea nulo. Una medida que no distingue ambos objetos puede parecer contradictoria sin serlo.
Las condiciones de fidelidad que usan algunos métodos de descubrimiento causal excluyen ciertas cancelaciones exactas entre rutas. Son supuestos que conectan estructura y dependencias observables. No deben presentarse como leyes que todo sistema real satisface necesariamente.
Con muestras finitas, una relación también puede parecer nula por falta de potencia o por un estimador inadecuado. No rechazar independencia no equivale a demostrarla. Esa limitación estadística se añade a los problemas estructurales de redundancia, soporte y cancelación.
La interpretación requiere, por tanto, distinguir cero matemático en un modelo conocido, estimación cercana a cero y ausencia de evidencia estadística. Cada situación permite una conclusión diferente.
214.7. El tiempo observado puede ocultar rutas
La precedencia temporal ayuda a restringir explicaciones, aunque su alcance depende de la escala de observación. Si el proceso tiene varios cambios entre muestras, una ruta con intermediarios puede aparecer como una relación de un solo paso en el registro.
Supongamos que una influencia pasa de A a B y después de B a C durante un intervalo que nuestro instrumento no resuelve. Si solo observamos al principio y al final, A puede predecir C sin que el estado intermedio B quede disponible. Una red sobre observaciones puede contener una arista que resume una ruta física más larga.
Esa relación puede describir correctamente una influencia total a la escala observada. Interpretarla como contacto directo entre componentes, en cambio, exige justificar la resolución temporal.
El muestreo también puede hacer que interacciones rápidas parezcan contemporáneas. Cuando dos variables se registran con la misma marca temporal, eso no demuestra simultaneidad física ni permite ordenar automáticamente sus mecanismos. Puede faltar resolución para distinguirlos.
El filtrado añade otra transformación. Un promedio centrado usa observaciones anteriores y posteriores al instante al que se asigna. Si después lo tratamos como una señal disponible en tiempo real, introducimos información futura en el predictor.
Incluso un filtro que usa solo el pasado puede prolongar dependencias y modificar perfiles de retardo. La señal filtrada resume una historia acumulada, que puede diferir del estado instantáneo original. Comparar sus direcciones con las de una señal sin filtrar exige reconocer esa diferencia.
Las marcas temporales deben revisarse antes de analizar dirección. Un desfase sistemático entre instrumentos puede invertir qué señal parece adelantarse. Una corrección posterior del reloj puede cambiar una conclusión aunque las amplitudes no se hayan modificado.
Los intervalos irregulares requieren especial cuidado. Un retardo de una fila puede corresponder a un segundo en una parte del registro y a una hora en otra. La cantidad temporal que condicionamos debe expresar el tiempo relevante para el mecanismo.
Los datos ausentes pueden producir otros sesgos si su probabilidad depende del estado. Interpolar no crea observaciones originales y puede introducir relaciones impuestas por el procedimiento. Debe identificarse qué valores fueron medidos y cuáles reconstruidos.
Una medida dirigida puede seguir siendo útil con observación imperfecta, pero su escala forma parte de la definición del resultado. Una relación predictiva entre señales procesadas puede ser válida, aunque necesita un argumento adicional para convertirse en una descripción de rutas físicas instantáneas.
214.8. Supuestos que permiten avanzar
La inferencia causal a partir de series temporales combina información observacional con supuestos. Conviene explicitarlos porque distintas combinaciones permiten conclusiones diferentes y fallan de maneras distintas.
Un supuesto habitual es que las variables incluidas contienen las causas comunes relevantes, o que las variables ocultas se tratan mediante un modelo adecuado. Ignorar causas comunes mientras se interpreta toda dependencia como conexión directa produce precisamente la ambigüedad del primer ejemplo.
La condición causal de Markov conecta un modelo gráfico con independencias condicionales. En modelos estructurales, suele justificarse mediante reglas de generación y propiedades de los errores. No es lo mismo que afirmar que una serie observada tiene memoria de un solo paso.
Algunos procedimientos requieren además fidelidad, es decir, que las independencias observadas se correspondan con separaciones de la estructura, sin deberse a cancelaciones particulares. Otros incorporan hipótesis funcionales o sobre distribuciones de ruido para distinguir mecanismos que las independencias solas no separan.
La positividad o variación suficiente exige disponer de combinaciones pertinentes de valores dentro de los contextos que comparamos. Si una intervención propuesta queda fuera del soporte observado, su efecto depende de extrapolaciones o conocimiento adicional.
Otro supuesto es la estabilidad del mecanismo, ya que un modelo estimado en un régimen puede dejar de describir otro. La estacionariedad estadística es una condición posible para agrupar observaciones; una formulación con cambios de régimen requiere especificar qué relaciones permanecen y cuáles varían.
La resolución temporal debe permitir representar los retardos relevantes, o el modelo debe reconocer que algunas relaciones agregan rutas no observadas. Las relaciones contemporáneas suelen exigir información adicional para orientar flechas.
Estos supuestos no son una lista universal que convierta cualquier estimador en causal. Su papel depende del método y del objetivo, que puede ser descubrir estructura, estimar un efecto total, comparar intervenciones o cuantificar una conexión ya conocida.
Los trabajos sobre flujo informacional causal introducen distribuciones bajo intervención en vez de basarse solo en el condicionamiento observacional y definen así otro objeto. Para calcularlo necesitamos identificar o especificar esas distribuciones; cambiar una etiqueta en la fórmula no suple la información que falta.
Hay también distintas maneras de cuantificar la fuerza causal cuando la estructura ya está fijada. Pueden depender de una distribución de intervenciones, una comparación de mecanismos o una función de pérdida. Janzing y colaboradores muestran por qué la elección exige propiedades explícitas; leer un valor de correlación no basta.
Una presentación científica debería indicar qué conclusiones dependen de cada supuesto. De ese modo, una objeción sobre variables omitidas o soporte puede evaluarse de forma concreta y orientar qué evidencia adicional sería más útil.
214.9. Auditar una dirección informacional
La auditoría empieza por escribir la pregunta. Si el objetivo es pronosticar con los sensores disponibles, una dependencia debida a causa común puede ser perfectamente útil. Si el objetivo es cambiar el sistema actuando sobre una variable, necesitamos una interpretación basada en intervenciones.
Después describimos el proceso de observación, con sus variables, unidades, relojes, muestreo, filtros, ausencias y selección. Esas decisiones pueden crear o borrar relaciones antes de que intervenga cualquier estimador.
Conviene formular varios mecanismos candidatos. Una señal puede ser causa directa, mediador, indicador de una causa común o una copia de información propia del objetivo. Los ejemplos del capítulo muestran cómo cada posibilidad puede producir resultados semejantes bajo algunas comparaciones.
Calculamos entonces relaciones bivariadas y condicionadas que correspondan a preguntas justificadas. Si una dependencia desaparece al incluir un mediador, no la interpretamos automáticamente como confusión. Si persiste al incluir un proxy, no damos por descartada una causa oculta.
La sensibilidad a memoria y retardos ayuda a localizar problemas de contexto. Una transferencia que desaparece al añadir una observación propia puede reflejar memoria insuficiente. Una que cambia al corregir marcas temporales puede depender de la instrumentación.
La validación estadística debe considerar selección de modelos, múltiples comparaciones y dependencia entre ventanas. Esos controles evalúan la fiabilidad de una asociación estimada, pero no bastan para resolver una equivalencia causal entre mecanismos con la misma distribución observable.
Cuando es posible, una intervención o un cambio externo bien caracterizado puede separar predicciones. En el ejemplo inicial, fijar la fuente produce distribuciones diferentes según el mecanismo. Esa discrepancia indica exactamente qué experimento sería informativo.
Si una intervención directa no es viable, pueden ayudar nuevas mediciones, entornos con variación distinta o restricciones físicas conocidas. Su utilidad depende de que aporten información que realmente discrimine entre los modelos; acumular observaciones de la misma equivalencia no sirve.
También debemos registrar qué permanece no identificado. Una red puede tener algunas direcciones bien sustentadas y otras compatibles con varias estructuras. Mostrar esa diferencia es más informativo que forzar todas las relaciones a un mismo nivel de certeza.
El resultado de la auditoría puede ser una afirmación predictiva sólida, una hipótesis causal condicionada a supuestos o una estimación identificada basada en intervenciones. Los tres productos son distintos y útiles; la claridad consiste en entregar el que la evidencia permite, con su alcance explícito.
214.10. De la dependencia a una explicación contrastable
Una dirección informacional establece una relación entre historias y resultados bajo un contexto. Su interpretación causal depende de cómo se generaron las variables, qué se observó y qué operaciones queremos comparar.
Los dos modelos iniciales demostraron que distribuciones observacionales idénticas pueden corresponder a respuestas diferentes ante una intervención. Esa limitación es estructural; ningún aumento de precisión sobre esas mismas distribuciones basta para eliminar la ambigüedad.
El control ruidoso mostró que observar un indicador de una causa común no equivale a conocerla; la ruta mediada, que una dependencia puede desaparecer al bloquear un efecto causal real; la selección, que condicionar puede crear asociaciones.
Los ejemplos de transferencia nula añadieron otra distinción. Una fuente causalmente operativa puede ser redundante bajo la distribución natural; rutas activas pueden cancelarse en un efecto total. La ausencia de ganancia predictiva no responde automáticamente a toda pregunta causal.
La escala temporal y el procesamiento determinan qué relaciones se hacen observables. Una arista puede resumir una ruta no resuelta o una memoria incorporada por un filtro. La interpretación física necesita conectar esa representación con el mecanismo.
Reconocer estas limitaciones hace más útil la teoría de la información, porque obliga a identificar qué cantidad estamos calculando y qué información adicional necesita una explicación. Una medida predictiva puede orientar la búsqueda de mecanismos sin presentarse como sustituto del diseño causal.
La práctica más sólida combina modelos alternativos, supuestos visibles y contrastes que puedan distinguir sus predicciones. Cuando la evidencia no separa las alternativas, esa falta de identificación debe permanecer en la conclusión.
Los siguientes capítulos abordarán otra razón por la que una atribución simple puede fallar. Varias fuentes pueden repetir información o aportar algo que solo aparece al combinarlas; distinguir redundancia y sinergia ampliará el análisis de las relaciones informacionales sin abandonar la separación entre descripción estadística y mecanismo causal.
Referencias
- Ay, N., y Polani, D. (2008). Information Flows in Causal Networks. Advances in Complex Systems, 11(1), 17–41. https://doi.org/10.1142/S0219525908001465.
- Lizier, J. T., y Prokopenko, M. (2010). Differentiating information transfer and causal effect. The European Physical Journal B, 73(4), 605–615. https://doi.org/10.1140/epjb/e2010-00034-5.
- Janzing, D., Balduzzi, D., Grosse-Wentrup, M., y Schölkopf, B. (2013). Quantifying causal influences. The Annals of Statistics, 41(5), 2324–2358. https://doi.org/10.1214/13-AOS1145.
- Runge, J. (2018). Causal network reconstruction from time series: From theoretical assumptions to practical estimation. Chaos, 28(7), 075310. https://doi.org/10.1063/1.5025050.