Memoria asociativa, redes de Hopfield y atractores

Reconocer una palabra incompleta parece una operación sencilla hasta que se intenta describir qué debe hacer un sistema para conseguirlo. La entrada llega con errores o con fragmentos ausentes y, aun así, la respuesta recupera una configuración almacenada. Una manera de lograrlo consiste en organizar la dinámica para que ciertos patrones sean estados estables y para que las entradas próximas evolucionen hacia ellos. En ese caso la memoria queda distribuida en las conexiones que orientan la evolución del sistema.

La red de Hopfield ofrece una construcción explícita de esta idea. Un conjunto de unidades binarias interactúa mediante pesos y una regla local modifica sus estados. Bajo condiciones precisas, una función de energía disminuye con cada cambio hasta que la red alcanza una configuración estable (Hopfield, 1982). Como cada paso puede calcularse, es posible examinar esas condiciones una por una y separar dos preguntas que suelen confundirse, la de si la dinámica converge y la de si converge al patrón buscado.

La energía que aparecerá es una función matemática del estado y sirve para ordenar las transiciones permitidas. Interpretarla como consumo metabólico del cerebro exigiría una relación física adicional que el modelo no aporta. Algo análogo ocurre con la palabra recuerdo. Llamar así a un patrón almacenado le asigna una función dentro del experimento computacional, mientras que la memoria humana incluye procesos y contenidos que esta representación no contiene.

El ejemplo central del capítulo usa una red de ocho unidades con dos patrones almacenados y una entrada alterada que debe corregirse. A partir de él se examinan el papel del orden de actualización, la aparición de configuraciones estables adicionales y los límites de capacidad. Con ocho unidades es posible enumerar los 256 estados y comprobar de forma exhaustiva propiedades que en redes mayores solo pueden estimarse por muestreo. Un tratamiento general de los modelos de red en neurociencia teórica, que sirve de marco a este capítulo, se encuentra en Dayan y Abbott (2001).

404.1. Estado, campo local y actualización

Sea $s_i\in\{-1,+1\}$ el estado de la unidad $i$ . La red completa es el vector $s=(s_1,\ldots,s_N)$ . Cada unidad recibe un campo local

h_i(s)=\sum_j w_{ij}s_j-\theta_i,

donde $w_{ij}$ es el peso de la conexión desde $j$ hacia $i$ y $\theta_i$ es un umbral. Los pesos serán simétricos ( $w_{ij}=w_{ji}$ ) y la diagonal será nula ( $w_{ii}=0$ ). Cada unidad adopta el signo de su campo. Cuando $h_i=0$ se conserva el estado previo, convención que evita cambios en ausencia de preferencia local.

La actualización asincrónica modifica una sola unidad por vez, ya sea recorriendo los índices en un orden fijo o eligiéndolos al azar. El modelo original usaba esta segunda variante, en la que cada neurona revisa su estado en instantes aleatorios e independientes de las demás (Hopfield, 1982). Para que el procedimiento no ignore indefinidamente una unidad inestable se requiere un calendario justo, en el cual cada unidad recibe oportunidades repetidas de actualizarse. Un barrido fijo por todos los índices cumple esa condición.

La actualización sincrónica calcula todos los campos a partir del mismo estado y modifica todas las unidades a la vez. Resulta cómoda de programar, aunque define una dinámica con propiedades distintas. La demostración de descenso que sigue exige que cambie una sola unidad en cada paso. Por eso, alterar el calendario equivale a cambiar la dinámica, aun cuando los pesos y la función de signo permanezcan iguales.

Bajo la regla de empate adoptada, un estado fijo satisface $s_i h_i(s)\geq0$ para todas las unidades. Si todos esos productos son estrictamente positivos, ninguna actualización individual altera el patrón y existe además un margen local respecto del umbral. Un campo exactamente nulo indica, en cambio, una estabilidad que depende de la convención elegida. Conviene distinguir ese caso de una atracción robusta frente a pequeñas perturbaciones de los parámetros.

404.2. Por qué disminuye la energía

La energía de una configuración se define como

\mathcal E(s)=-\frac12\sum_{i,j}w_{ij}s_is_j +\sum_i\theta_i s_i.

El factor $1/2$ evita contar dos veces cada interacción simétrica. Si solo cambia $s_k$ , los términos que no involucran a esa unidad se cancelan al restar las energías. Usando la simetría de los pesos y la diagonal nula se obtiene

\Delta\mathcal E=\mathcal E(s')-\mathcal E(s) =-(s'_k-s_k)h_k(s).

Con campo positivo la regla elige $s'_k=+1$ ; con campo negativo elige −1. Una unidad ya alineada con su campo no cambia. Cuando una unidad cambia lo hace para alinearse, de modo que $\Delta\mathcal E<0$ siempre que el campo sea distinto de cero. En un empate el estado se conserva y la energía tampoco varía, porque no hubo transición.

El número de configuraciones es finito e igual a $2^N$ . Cada cambio efectivo reduce estrictamente la energía, de modo que la trayectoria no puede regresar a un estado ya visitado. Si todas las unidades tienen oportunidades de actualizarse, el proceso termina en un estado fijo. La demostración garantiza esa terminación bajo las reglas declaradas. No dice cuál de los estados finales se alcanzará desde una entrada particular.

Las hipótesis importan. Con pesos asimétricos, el campo que usa la regla deja de coincidir en general con la variación de la energía propuesta. Hopfield (1982) observó en simulaciones que aun así podían aparecer estados estables, aunque advirtió que un mínimo de ese tipo podía resultar solo metaestable y ser reemplazado más tarde por otro. Con actualizaciones simultáneas aparecen términos asociados a varios cambios a la vez y pueden surgir ciclos (sección 404.6). Con ruido se admiten transiciones que elevan la energía. Cada una de estas variantes requiere su propio análisis y no hereda una garantía cuyas hipótesis ya no se cumplen.

El descenso tampoco asegura llegar a un mínimo global. Un estado puede resistir todos los cambios individuales y tener una energía mayor que otro estado al que solo se llega mediante cambios coordinados de varias unidades. La dinámica local queda atrapada en su entorno. Esa misma limitación hace posible almacenar varias memorias, ya que si toda entrada terminara en un único mínimo global la red no podría distinguir contenidos.

404.3. Almacenar patrones en los pesos

Sean $\xi^1,\ldots,\xi^P$ patrones binarios. Una regla hebbiana sencilla, del mismo tipo que la prescripción de almacenamiento empleada por Hopfield (1982), construye

w_{ij}=\frac1N\sum_{\mu=1}^P\xi_i^\mu\xi_j^\mu, \qquad i\ne j;\qquad w_{ii}=0.

Dos unidades que tienden a compartir signo en los patrones reciben una contribución positiva, mientras que las que suelen tener signos opuestos reciben una contribución negativa. Los pesos almacenan relaciones entre componentes y ninguna casilla independiente guarda un patrón completo. Por esa razón, modificar un peso puede afectar la recuperación de varios patrones a la vez, puesto que sus contribuciones se superponen.

La regla produce pesos simétricos de manera automática. No garantiza, sin embargo, que todos los patrones sean estados fijos en cualquier colección. Los términos aportados por los demás patrones generan una interferencia cuya magnitud depende de la correlación entre memorias, de su número y del tamaño de la red. Antes de hablar de almacenamiento exitoso hay que comprobar estabilidad y recuperación con las entradas de interés.

Para medir semejanza se usa el solapamiento

m^\mu(s)=\frac1N\sum_i\xi_i^\mu s_i.

Vale uno cuando el estado coincide con el patrón, menos uno cuando es su inverso y toma valores intermedios en los demás casos. La distancia de Hamming $d_H$ , que cuenta las posiciones en que difieren estado y patrón, satisface $m=1-2d_H/N$ . Esa relación permite traducir un cambio de solapamiento en un número de errores binarios.

Un patrón incompleto obliga a especificar cómo se representan los elementos ausentes. Si las unidades solo admiten ±1, no existe un tercer símbolo para la ausencia. Una alternativa inicializa las posiciones desconocidas al azar o según una regla declarada. Otra mantiene las posiciones conocidas sujetas a la entrada durante toda la dinámica, procedimiento llamado fijación o clamping. Ambas estrategias definen tareas diferentes y sus resultados no deben combinarse en una misma estadística.

La fijación de un subconjunto de unidades conserva la demostración de descenso para las unidades libres. Las unidades fijadas contribuyen a los campos de las libres como umbrales constantes y la restricción solo limita qué coordenadas pueden cambiar. Lo que no se garantiza es que el mínimo condicionado coincida con un recuerdo original. Si la pista contiene errores fijados, la red puede converger a una configuración forzada que nunca habría sido estable sin esa restricción.

404.4. Un ejemplo completo con ocho unidades

Los dos patrones del ejemplo son

\xi=(1,1,1,1,-1,-1,-1,-1),

\eta=(1,1,-1,-1,1,1,-1,-1).

Ambos tienen norma al cuadrado igual a 8 y son ortogonales, pues su producto interno vale cero. La matriz de pesos se obtiene como $W=(\xi\xi^{\mathsf T}+\eta\eta^{\mathsf T})/8$ , borrando después su diagonal, con umbrales nulos. El producto de esa matriz por $\xi$ es $0.75\xi$ y su producto por $\eta$ es $0.75\eta$ . Los dos patrones son, por tanto, estados fijos con campos locales de magnitud 0.75 en todas las unidades.

Antes de borrarla, la diagonal vale $2/8=0.25$ . Retirarla explica que el campo sea 0.75 en lugar de uno. Conservarla añadiría a la decisión de cada unidad una contribución de sí misma, que favorece la persistencia del estado actual. Como la autoconexión suma $w_{ii}$ al producto $s_ih_i$ , mantenerla solo puede ampliar el conjunto de estados fijos. En esta red el efecto es grande, pues con la diagonal de 0.25 la enumeración encuentra 64 estados fijos en lugar de cuatro. La convergencia de la dinámica secuencial se mantiene con diagonal no negativa (Bruck, 1990), de modo que la diferencia recae en qué configuraciones son estables y en el tamaño de sus cuencas. La ausencia de autoconexiones forma parte del modelo que se quiere comprobar.

La energía de cada patrón es $-\frac12 s^{\mathsf T}Ws=-3$ . Para probar la corrección de errores se invierte la primera posición de $\xi$ , lo que da la entrada $s^{(0)}=(-1,1,1,1,-1,-1,-1,-1).$

Esta entrada está a distancia de Hamming uno de $\xi$ , con solapamiento 0.75. Su energía inicial vale −1.5. El campo de la primera unidad es +0.75, de modo que al actualizarla su signo pasa de −1 a +1. La energía desciende en $-(2)(0.75)=-1.5$ y llega a −3, valor que corresponde al patrón almacenado ya recuperado.

Las actualizaciones posteriores no modifican ninguna unidad, porque todas quedaron alineadas con sus campos. El ensayo muestra la recuperación de una corrupción particular con un orden de actualización especificado. Para caracterizar la tolerancia a errores es necesario repetir el experimento con otras posiciones alteradas y con distintos números de alteraciones. Un resultado favorable aislado no describe la cuenca de atracción completa.

Momento	Distancia a $\xi$	Solapamiento con $\xi$	Energía
Entrada con un signo invertido	1	0.75	−1.5
Después de actualizar la unidad 1	0	1.00	−3.0
Después de un barrido adicional	0	1.00	−3.0

Con umbrales nulos, la simetría global de la energía hace que los patrones inversos también sean estables, propiedad que Hopfield (1982) ya señalaba para el complemento de cada estado almacenado. Las configuraciones $-\xi$ y $-\eta$ tienen la misma energía que los patrones originales. Si la tarea solo reconoce $\xi$ y $\eta$ como recuerdos válidos, los inversos son finales no deseados. El formalismo desconoce la semántica que el experimentador atribuye a cada configuración.

En esta red concreta se pueden enumerar las 256 configuraciones y comprobar que, con la regla de empate especificada, los únicos estados fijos son esos cuatro. Los cuatro tienen además margen estricto, puesto que el menor producto $s_ih_i$ vale 0.75 en cada uno, de modo que el recuento no depende de cómo se resuelvan los empates. Para esta colección no aparecen estados fijos de mezcla. En otras colecciones de memorias sí pueden surgir configuraciones espurias. Hopfield (1982) informó que, en simulaciones con 30 unidades y cinco memorias, cerca del 10 % de los ensayos terminaba en estados estables sin significado evidente. Conviene comprobar la presencia de esos estados en cada caso, sin suponer que todo ejemplo pequeño deba exhibirlos.

404.5. Cuencas, ambigüedad y orden de actualización

La cuenca de un estado fijo reúne las condiciones iniciales que terminan en él bajo una dinámica definida. Con un orden de actualización fijo, cada estado inicial tiene un destino determinista. Si las unidades se eligen al azar, una misma entrada puede alcanzar destinos distintos y resulta más apropiado hablar de probabilidades de recuperación. En ese caso la descripción de la cuenca debe incorporar el calendario aleatorio.

La distancia de Hamming sirve para organizar los ensayos, aunque no siempre determina el destino. Dos pistas con el mismo número de errores pueden producir campos locales diferentes, porque importa qué posiciones se alteraron y cómo interactúan con las memorias superpuestas. Una curva de éxito promedio según el número de errores debe acompañarse de la variabilidad entre pistas y, cuando corresponda, entre órdenes de actualización.

Es posible generar todas las entradas que tienen exactamente $k$ errores respecto de un patrón y calcular la proporción que se recupera. Con ocho unidades hay $\binom8k$ entradas de ese tipo. Este diseño mide la cuenca sin depender de una selección favorable de ejemplos. Permite también identificar estados equidistantes de varias memorias, en los que la tarea es ambigua antes de que intervenga algoritmo alguno.

Cuando una entrada se parece por igual a dos recuerdos, el modelo puede resolver el empate mediante el orden de actualización. Esa resolución no demuestra que haya identificado el recuerdo verdadero. Lo verdadero en el ensayo quedó definido por la forma en que se generó la corrupción, información que puede no estar presente en la pista. En esas condiciones, parte de la tasa de error refleja ambigüedad de la tarea además de limitaciones de la red.

Los estados estables no deseados admiten el mismo tratamiento. Se registra qué proporción de pistas termina en un inverso, en una mezcla o en otro patrón almacenado. Reunir todos los errores en una sola tasa borra esa estructura. Un procedimiento que confunde sistemáticamente dos memorias correlacionadas plantea un problema distinto del que presenta otro cuyos errores terminan en configuraciones dispersas.

404.6. Una demostración breve de por qué importa la asincronía

Sean dos unidades con $w_{12}=w_{21}=1$ , sin autoconexiones ni umbrales. Desde $(1,-1)$ , la actualización simultánea produce $(-1,1)$ , porque cada unidad adopta el signo de la otra. El paso siguiente devuelve la red a $(1,-1)$ y se establece un ciclo de período dos.

Si se actualiza primero la unidad 1, esta adopta −1 y la red llega a $(-1,-1)$ , que es estable. Si se actualiza primero la unidad 2, el destino es $(1,1)$ . En ambos casos la energía pasa de +1 a −1. El calendario asincrónico produce el descenso individual que la demostración garantiza, mientras que el simultáneo sostiene una alternancia a la que esa conclusión no se aplica.

El ejemplo ilustra un resultado general. Con pesos simétricos, la dinámica completamente paralela converge a un estado fijo o a un ciclo de longitud dos como máximo, en tanto que la dinámica secuencial converge siempre a un estado fijo (Bruck, 1990). El caso de dos unidades basta para que ese ciclo aparezca.

El contraejemplo resulta útil al revisar código. Una implementación vectorizada que calcula todos los signos con una sola multiplicación matricial puede haber cambiado el algoritmo sin advertirlo. La aceleración computacional tiene entonces un costo conceptual. Paralelizar conservando la garantía requiere condiciones adicionales, por ejemplo actualizar a la vez solo conjuntos de unidades sin interacciones mutuas, junto con la comprobación del análisis correspondiente.

Los empates exigen otra precaución. Si una unidad con campo nulo cambia de estado de manera arbitraria, la energía puede mantenerse constante durante varias transiciones. La finitud del espacio, combinada con un descenso que ya no es estricto, deja de excluir ciclos sobre una meseta de energía. Conservar el estado anterior en caso de empate asegura que todo cambio efectivo produzca un descenso estricto y simplifica la garantía de terminación.

404.7. Capacidad y significado de aprender

Al añadir patrones, el campo local de cada unidad acumula una contribución útil y contribuciones de las demás memorias. Para un patrón objetivo, la primera favorece su recuperación, mientras que las restantes pueden ayudar o interferir. Hopfield (1982) estimó mediante simulaciones con 30 y 100 unidades que la red admitía alrededor de $0.15N$ memorias antes de que los errores de recuperación se volvieran graves. Para patrones aleatorios no correlacionados y en el límite de redes muy grandes, el análisis de mecánica estadística de Amit, Gutfreund y Sompolinsky (1985) situó el límite de la memoria asociativa cerca de $P/N\approx0.14$ . Por debajo de esa carga existen estados de recuperación casi completamente correlacionados con cada patrón, aunque no idénticos a él.

Si se exige recuperación exacta, las cifras cambian de escala. McEliece, Posner, Rodemich y Venkatesh (1987) mostraron que, con logaritmo natural, la capacidad asintótica es del orden de $N/(2\log N)$ cuando basta recuperar exactamente casi todas las memorias y de $N/(4\log N)$ cuando ninguna puede fallar. Sus resultados demostrados de forma rigurosa incluyen además un factor que disminuye a medida que la pista inicial se aleja del patrón. Las cifras difieren porque responden a definiciones distintas de éxito y a regímenes asintóticos distintos. Ninguna constituye una cantidad universal de recuerdos por neurona.

En una colección correlacionada, varios patrones comparten numerosos componentes. La regla hebbiana refuerza especialmente esos rasgos comunes y puede favorecer mezclas o confusiones. Cambiar la regla de almacenamiento puede mejorar ciertas propiedades a costa de nuevos supuestos y cálculos. La regla de proyección estudiada por Kanter y Sompolinsky (1987), por ejemplo, recupera sin errores cualquier conjunto de patrones linealmente independientes hasta $P=N$ . A cambio, su aprendizaje requiere modificaciones no locales de las sinapsis y, en sus simulaciones, el radio medio de atracción disminuye a medida que la carga se acerca a ese límite. Toda comparación entre reglas debe mantener las mismas tareas de recuperación para tener sentido.

La energía tampoco ofrece una medida universal de certeza. Dos patrones válidos pueden tener energías diferentes y un estado espurio puede ocupar un mínimo profundo. Para convertir el destino en una decisión con incertidumbre haría falta un modelo de cómo se generan las pistas y una interpretación probabilística. El descenso determinista solo identifica el destino de la dinámica elegida.

En el cerebro, la plasticidad, la asimetría de las conexiones y la actividad temporal amplían mucho el problema. La red binaria estática omite la consolidación, los cambios de contexto y las secuencias. Algunas propiedades colectivas del modelo, entre ellas la memoria direccionable por contenido, persisten al reemplazar las unidades binarias por neuronas de respuesta graduada (Hopfield, 1984), de modo que no son un artefacto de la discretización. La evidencia experimental de dinámica de atractores existe, aunque es desigual. Wills et al. (2005) observaron que las células de lugar del hipocampo cambiaban de manera brusca y simultánea entre dos representaciones cuando la forma del recinto se modificaba de forma gradual, comportamiento compatible con atractores en una representación cognitiva. En su revisión, Khona y Fiete (2022) presentan ejemplos de sistemas cerebrales en los que se ha identificado de manera concreta y rigurosa una dinámica de atractores continuos de baja dimensión. El valor docente de la red binaria reside en mostrar cómo relaciones distribuidas pueden sostener una recuperación por atracción. Identificar un atractor en un modelo permite formular hipótesis sobre robustez y corrección de errores, pero no demuestra que una experiencia o un síntoma sea literalmente un estado de esa red.

Aplicar el lenguaje de atractores a fenómenos clínicos requiere definir variables, escalas y perturbaciones. Una descripción verbal de persistencia puede sugerir estabilidad. Para hablar de una cuenca habría que especificar qué estados iniciales convergen, bajo qué dinámica y en qué horizonte temporal. Existen propuestas formuladas en esos términos. Loh, Rolls y Deco (2007) relacionaron síntomas de la esquizofrenia con cuencas de atracción poco profundas en redes corticales. Rolls, Loh y Deco (2008) propusieron la situación opuesta para el trastorno obsesivo-compulsivo, con cuencas tan profundas que dificultan abandonar un estado. Ambos trabajos sustentan sus propuestas en simulaciones de redes de neuronas de integración y disparo y las formulan explícitamente como hipótesis, sin aportar mediciones nuevas en pacientes. El formalismo gana precisión cuando esas preguntas pueden responderse con mediciones o con un experimento simulado de manera explícita.

404.8. Recuperación y enumeración reproducibles

El código implementa actualizaciones individuales y conserva los empates. La comprobación de la energía se hace después de cada cambio, que es el nivel en que se aplica la demostración.

import numpy as np
from itertools import product

xi = np.array([1,1,1,1,-1,-1,-1,-1])
eta = np.array([1,1,-1,-1,1,1,-1,-1])
W = (np.outer(xi, xi) + np.outer(eta, eta))/8
np.fill_diagonal(W, 0)

def energia(s):
    return -0.5 * s @ W @ s

def recuperar(inicial):
    s = inicial.copy()
    historia = [energia(s)]
    for barrido in range(256):
        cambios = 0
        for k in range(len(s)):
            h = W[k] @ s
            nuevo = s[k] if abs(h) < 1e-12 else (1 if h > 0 else -1)
            cambios += int(nuevo != s[k])
            s[k] = nuevo
            historia.append(energia(s))
        if cambios == 0:
            assert np.all(np.diff(historia) <= 1e-12)
            return s, np.array(historia)
    raise RuntimeError('No convergió dentro del límite de control')

s0 = xi.copy()
s0[0] *= -1
final, energias = recuperar(s0)
assert np.array_equal(final, xi)
fijos = []
for bits in product([-1, 1], repeat=8):
    s = np.array(bits)
    if np.all(s * (W @ s) >= -1e-12):
        fijos.append(s)
print('Energía inicial y final:', energias[0], energias[-1])
print('Número de estados fijos:', len(fijos))

Los pesos del ejemplo valen 0 o ±0.25, números que la aritmética binaria de punto flotante representa con exactitud, de modo que no surgen problemas de redondeo. En otras redes, la tolerancia numérica con que se detectan los empates puede alterar decisiones cercanas a cero. Esa tolerancia debe documentarse y compararse con la escala de los campos. Si es demasiado grande convierte diferencias reales en empates; si es demasiado pequeña deja que el ruido numérico decida el destino.

Para extender el ejercicio se pueden agregar memorias y volver a enumerar los estados mientras el tamaño lo permita. La matriz debe reconstruirse desde cero en cada condición, siempre con diagonal nula. Basta omitir la línea que borra la diagonal para reproducir los 64 estados fijos mencionados en la sección 404.4. Después se comparan la estabilidad de las memorias, la proporción de recuperación y los tipos de error. Aumentar el número de memorias sin evaluar esas propiedades solo incrementa la cantidad de patrones entregados a la regla, sin demostrar capacidad de recuperación alguna.

El resultado principal del ejemplo puede verificarse transición por transición. Una entrada con un error recupera $\xi$ y la energía baja de −1.5 a −3. La enumeración encuentra además los patrones inversos. Que un final dinámicamente estable sea o no una respuesta correcta depende de la tarea. Esa distinción será necesaria más adelante, al trabajar con modelos de gran escala cuyo buen ajuste puede coexistir con una interpretación equivocada de sus estados internos.

404.9. Medir la cuenca completa en vez de escoger una pista

El tamaño reducido de la red permite enumerar todas las corrupciones de un patrón. Para cada distancia de Hamming $k$ se invierte cada combinación posible de $k$ posiciones de $\xi$ , se aplican barridos en el orden 1 a 8 y se registra el destino. El procedimiento usa exactamente los pesos y la convención de empate anteriores. La proporción obtenida describe esa dinámica y ese conjunto de pistas. La tabla siguiente resume la enumeración.

Errores iniciales respecto de $\xi$	Pistas posibles	Pistas que recuperan $\xi$
0	1	1
1	8	8
2	28	22
3	56	24
4	70	9

Que todas las pistas con un error recuperen $\xi$ queda demostrado para este ejemplo por enumeración exhaustiva. Con dos errores el éxito depende de las posiciones alteradas. La tabla describe la cuenca con más información que una entrada corregida o una entrada fallida escogidas como ilustración. Muestra también que cuatro errores no impiden por sí mismos llegar al patrón, aunque la pista sea entonces mucho más ambigua.

Los fracasos tampoco se reparten al azar entre los destinos posibles. Con dos errores, las seis pistas que no recuperan $\xi$ terminan tres en $\eta$ y tres en $-\eta$ . Con tres errores, las 32 restantes se dividen en 16 y 16 entre esos mismos estados. Con cuatro errores, 52 pistas terminan en $\pm\eta$ (26 en cada uno), 9 en $\xi$ y otras 9 en $-\xi$ . Ninguna pista alcanza una configuración distinta de los cuatro estados fijos, en concordancia con la enumeración de la sección 404.4. La igualdad entre las 9 llegadas a $\xi$ y las 9 llegadas a $-\xi$ tiene una explicación directa, puesto que una pista con cuatro posiciones invertidas está a la misma distancia de $\xi$ que de su inverso. Ese ensayo es ambiguo por construcción, en el sentido discutido en la sección 404.5.

El recuento de la tabla se obtiene agregando al código anterior el bloque siguiente.

from itertools import combinations

for k in range(5):
    exitos, total = 0, 0
    for posiciones in combinations(range(8), k):
        pista = xi.copy()
        pista[list(posiciones)] *= -1
        destino, _ = recuperar(pista)
        exitos += int(np.array_equal(destino, xi))
        total += 1
    print(k, exitos, total)

Recorrer las unidades en orden inverso, de 8 a 1, conserva estos conteos agregados en este caso. La coincidencia no implica que cada pista llegue al mismo destino. Al comparar pista por pista, 72 de las 163 entradas con hasta cuatro errores terminan en estados distintos según el orden empleado, aunque las sumas por fila de la tabla no cambien. Una tabla simétrica puede ocultar intercambios entre entradas. Para estudiar la dependencia respecto del calendario hay que comparar destinos por condición inicial o utilizar múltiples órdenes y reportar probabilidades. La comparación pista por pista puede reproducirse con el bloque siguiente, que reutiliza los pesos y la regla de empate.

def recuperar_en_orden(inicial, orden):
    s = inicial.copy()
    for barrido in range(256):
        cambios = 0
        for k in orden:
            h = W[k] @ s
            nuevo = s[k] if abs(h) < 1e-12 else (1 if h > 0 else -1)
            cambios += int(nuevo != s[k])
            s[k] = nuevo
        if cambios == 0:
            return s
    raise RuntimeError('No convergió dentro del límite de control')

directo, inverso = list(range(8)), list(range(7, -1, -1))
distintos, total = 0, 0
for k in range(5):
    for posiciones in combinations(range(8), k):
        pista = xi.copy()
        pista[list(posiciones)] *= -1
        a = recuperar_en_orden(pista, directo)
        b = recuperar_en_orden(pista, inverso)
        distintos += int(not np.array_equal(a, b))
        total += 1
print('Pistas con destino distinto según el orden:', distintos, 'de', total)

Cuando el tamaño crece, enumerar los $2^N$ estados deja de ser viable. Se recurre entonces al muestreo de pistas y se informa la incertidumbre binomial, o la que corresponda si las observaciones no son independientes. La selección de pistas debe representar la tarea prevista. Las corrupciones uniformes e independientes definen una distribución y los errores concentrados en bloques definen otra. Tolerar la primera no garantiza tolerar la segunda.

404.10. La energía en función de los solapamientos

Para la regla hebbiana con diagonal retirada y umbrales nulos, la energía puede expresarse mediante los solapamientos. Al sustituir la matriz de pesos se obtiene

\mathcal E(s)=-\frac N2\sum_{\mu=1}^{P}[m^\mu(s)]^2+\frac P2.

El término constante proviene de retirar las autoconexiones. Cada una habría contribuido con $P/N$ al peso diagonal. Como $s_i^2=1$ , eliminarlas suma $P/2$ a la energía. La expresión facilita comprobar las cifras del ejemplo y muestra que la energía depende de semejanzas al cuadrado, sin distinguir el signo de cada solapamiento.

Para el patrón $\xi$ , los solapamientos valen uno y cero. Con $N=8$ y $P=2$ , la energía resulta $-4+1=-3$ . Para la pista con la primera posición invertida, los solapamientos son 0.75 con $\xi$ y −0.25 con $\eta$ . La energía vale entonces $-4(0.75^2+0.25^2)+1=-1.5$ , igual que en el cálculo matricial.

La forma cuadrática explica la simetría entre un patrón y su inverso. Ayuda además a entender que una configuración parecida a varias memorias puede recibir una energía baja aunque no coincida con ninguna de ellas. Kanter y Sompolinsky (1987) señalan que, con un número finito de patrones aleatorios, los estados espurios de su red coinciden con los estados de mezcla del modelo de Hopfield. La existencia y la estabilidad de esos estados dependen de la geometría concreta de los patrones y de los campos locales. En el ejemplo de este capítulo no aparecen. Una energía baja indica dónde buscarlos, sin demostrar que una configuración determinada sea fija.

La expresión tampoco indica qué memoria pretendía evocar el usuario. Si una pista queda más próxima a otro patrón, la dinámica puede recuperar ese otro y disminuir la energía de manera impecable. El error corresponde entonces a la tarea de reconocimiento. Evaluar el éxito exige conservar la etiqueta de origen de cada pista, información externa al estado y a la función de energía.

404.11. Recuperación condicionada y señales contradictorias

Una entrada parcial puede especificar solo algunas posiciones. Supóngase que dos unidades conocidas se mantienen fijas y que las restantes pueden actualizarse. El paisaje accesible queda restringido a las configuraciones compatibles con esas dos posiciones. La energía sigue descendiendo en las coordenadas libres, aunque la pista puede excluir algunas memorias almacenadas.

Si las posiciones fijadas pertenecen a un patrón real y son informativas, la restricción puede facilitar la recuperación. Si alguna es errónea, la red no podrá recuperar exactamente el patrón original mientras mantenga esa imposición. El resultado puede ser un compromiso de baja energía dentro del subconjunto permitido. Llamarlo recuerdo falso describe el desenlace de la tarea. Desde el punto de vista formal se trata de una optimización condicionada por datos incorrectos.

Otra posibilidad consiste en presentar la pista mediante campos externos transitorios, sin fijación rígida. Una vez retirados, la red evoluciona libremente. La intensidad y la duración de esos campos determinan la cuenca a la que llega el estado. Una señal débil puede no cruzar una frontera entre cuencas, mientras que una muy intensa puede alejar al sistema de cualquier memoria deseada. El protocolo de presentación forma parte del problema de recuperación.

En una variante con ruido, las unidades pueden cambiar en contra de su campo con cierta probabilidad. Esto permite escapar de mínimos locales y también abandonar recuerdos correctos. El parámetro que regula la aleatoriedad fija un compromiso entre exploración y retención. Como la energía puede aumentar en pasos individuales, la demostración determinista deja de aplicarse. Si se busca una distribución de equilibrio de tipo Boltzmann, deben especificarse las transiciones que la vuelven estacionaria.

Estas variantes muestran que almacenamiento, presentación y recuperación son componentes separables. Dos redes con la misma matriz pueden rendir de manera distinta según el calendario, la fijación de pistas o el ruido. Una evaluación debe mantener esas condiciones constantes o tratarlas como variables del experimento. Atribuir toda diferencia a los pesos dejaría fuera parte del mecanismo.

404.12. Una recuperación probabilística con distribución conocida

Es posible introducir fluctuaciones sin renunciar al análisis. En cada paso se elige una unidad al azar y, con las demás fijas, se le asigna el estado positivo con probabilidad

P(s_i=+1\mid s_{-i})=\frac{1}{1+e^{-2\beta h_i}}.

La probabilidad complementaria corresponde al estado negativo. El parámetro $\beta$ regula cuánto pesa el campo frente a la aleatoriedad. Para valores grandes, la actualización favorece fuertemente el signo del campo; cuando $\beta$ se acerca a cero, ambos estados resultan casi equiprobables. Con un campo exactamente nulo esta regla elige al azar, a diferencia de la convención determinista adoptada antes, que conserva el estado previo. Las reglas de este tipo, en las que la probabilidad de transición de cada unidad depende del estado de sus vecinas y se ajusta al balance detallado con la distribución de equilibrio, se remontan al estudio de Glauber (1963) sobre la dinámica estocástica del modelo de Ising.

Con pesos simétricos y diagonal nula, la diferencia de energía entre las dos elecciones posibles para una unidad es $\mathcal E(s_i=+1)-\mathcal E(s_i=-1)=-2h_i$ . Introducir esa diferencia en la probabilidad condicional de equilibrio conduce a la regla anterior. Si todas las unidades tienen probabilidad positiva de ser elegidas y $\beta$ es finito, la cadena puede llegar a cualquier configuración mediante una secuencia de cambios y puede también permanecer en la configuración actual. La primera propiedad hace irreducible la cadena y la segunda la vuelve aperiódica.

En estas condiciones la distribución estacionaria es única y vale

\pi(s)=\frac{e^{-\beta\mathcal E(s)}}{Z}, \qquad Z=\sum_{s\in\{-1,+1\}^N}e^{-\beta\mathcal E(s)}.

La relación se comprueba mediante balance detallado entre configuraciones que difieren en una sola unidad. En la red pequeña es posible calcular $Z$ sumando sobre los 256 estados, lo que ofrece una referencia independiente para contrastar las frecuencias de visita de una simulación suficientemente larga. Con $\beta=1.3$ , por ejemplo, los cuatro estados de energía −3 reúnen cerca del 31 % de la probabilidad estacionaria, repartido por igual entre ellos. En redes grandes el cálculo exacto de esa suma suele ser impracticable.

Esa distribución no garantiza que una trayectoria corta haya explorado las configuraciones relevantes. Con $\beta$ grande, las transiciones que elevan la energía se vuelven raras y el sistema puede permanecer mucho tiempo cerca de un mínimo. El histograma de una ejecución breve puede concentrarse en la memoria vecina a la condición inicial aun cuando la distribución estacionaria asigne igual probabilidad a otra. El tiempo necesario para aproximarse al equilibrio forma parte del problema.

En el ejemplo persiste la simetría entre los patrones y sus inversos. Los cuatro estados fijos tienen energía −3 y reciben, por tanto, la misma probabilidad estacionaria. Sin una pista o un campo que favorezca un contenido, la distribución no distingue cuál de esas configuraciones es la respuesta buscada. El ruido puede facilitar la salida de un destino equivocado y también el abandono del correcto, de modo que aumentarlo no mejora la memoria de manera uniforme.

Para evaluar la tarea se puede presentar una pista durante cierto número de actualizaciones, retirarla y medir la probabilidad de alcanzar el patrón objetivo antes de un plazo. Interesa además cuánto tiempo permanece el sistema cerca del patrón una vez alcanzado. Ambas son cantidades dinámicas distintas de la probabilidad estacionaria. Un modelo puede visitar a menudo el patrón correcto y tardar demasiado en llegar a él desde las pistas habituales.

La comparación con el algoritmo determinista debe mantener fijos el presupuesto de actualizaciones y la distribución de pistas. Conviene repetir cada condición para estimar la variabilidad que introduce el calendario aleatorio. Si el nivel de ruido se elige a posteriori según su desempeño en esas mismas pistas, ese desempeño debe comprobarse con entradas nuevas. La separación impide que un parámetro ajustado retrospectivamente se presente como una propiedad general de recuperación.

El ejemplo aclara también el lenguaje físico. La energía organiza probabilidades y trayectorias dentro de una red matemática definida. El parámetro de aleatoriedad admite una analogía con la temperatura, pero identificarlo con la temperatura del tejido exigiría una derivación adicional. Lo que el cálculo establece es una relación exacta entre campos, diferencias de energía y distribución de estados bajo un protocolo de actualización concreto.

404.13. De un patrón a una afirmación sobre memoria

La recuperación asociativa modelada aquí tiene un contenido preciso, la transformación de una pista en una configuración almacenada mediante interacciones distribuidas. Para acercarla a una tarea cognitiva habría que definir qué representan las unidades, cómo se codifica el estímulo y cómo el estado final produce una respuesta observable. La red binaria no contiene por sí misma esa codificación.

La estabilidad de un patrón tampoco asegura que sea accesible en cualquier contexto. Una entrada contextual puede modificar umbrales o pesos efectivos y reorganizar las cuencas. Un mismo contenido podría ser estable y, a la vez, difícil de alcanzar desde ciertas pistas. Distinguir la existencia de un estado de su accesibilidad desde una condición inicial permite formular hipótesis más específicas sobre las fallas de recuperación.

El tiempo de convergencia también importa. Dos pistas pueden terminar en el mismo patrón tras números distintos de actualizaciones. Si la tarea impone un límite temporal, el éxito asintótico puede no traducirse en una respuesta disponible a tiempo. Usar ese tiempo como predicción conductual requeriría relacionar cada actualización con una escala física, equivalencia que el simple conteo de pasos computacionales no establece.

Un experimento puede medir recuperación, errores y latencia frente a pistas progresivamente degradadas. Dentro de su representación, el modelo anticipa ciertas relaciones entre esas variables. Si falla de forma sistemática en los tipos de confusión o en la dependencia del contexto, la discrepancia orienta cambios de arquitectura. La evaluación gana fuerza cuando conserva esas predicciones específicas y evita reducir toda memoria a la mera presencia de atractores.

Referencias

Amit, D. J., Gutfreund, H. y Sompolinsky, H. (1985). Storing infinite numbers of patterns in a spin-glass model of neural networks. Physical Review Letters, 55(14), 1530–1533. doi:10.1103/PhysRevLett.55.1530
Bruck, J. (1990). On the convergence properties of the Hopfield model. Proceedings of the IEEE, 78(10), 1579–1585. doi:10.1109/5.58341
Dayan, P. y Abbott, L. F. (2001). Theoretical neuroscience: Computational and mathematical modeling of neural systems. MIT Press.
Glauber, R. J. (1963). Time-dependent statistics of the Ising model. Journal of Mathematical Physics, 4(2), 294–307. doi:10.1063/1.1703954
Hopfield, J. J. (1982). Neural networks and physical systems with emergent collective computational abilities. Proceedings of the National Academy of Sciences, 79(8), 2554–2558. doi:10.1073/pnas.79.8.2554
Hopfield, J. J. (1984). Neurons with graded response have collective computational properties like those of two-state neurons. Proceedings of the National Academy of Sciences, 81(10), 3088–3092. doi:10.1073/pnas.81.10.3088
Kanter, I. y Sompolinsky, H. (1987). Associative recall of memory without errors. Physical Review A, 35(1), 380–392. doi:10.1103/PhysRevA.35.380
Khona, M. y Fiete, I. (2022). Attractor and integrator networks in the brain. Nature Reviews Neuroscience, 23(12), 744–766. doi:10.1038/s41583-022-00642-0
Loh, M., Rolls, E. T. y Deco, G. (2007). A dynamical systems hypothesis of schizophrenia. PLoS Computational Biology, 3(11), e228. doi:10.1371/journal.pcbi.0030228
McEliece, R. J., Posner, E. C., Rodemich, E. R. y Venkatesh, S. (1987). The capacity of the Hopfield associative memory. IEEE Transactions on Information Theory, 33(4), 461–482. doi:10.1109/TIT.1987.1057328
Rolls, E. T., Loh, M. y Deco, G. (2008). An attractor hypothesis of obsessive–compulsive disorder. European Journal of Neuroscience, 28(4), 782–793. doi:10.1111/j.1460-9568.2008.06379.x
Wills, T. J., Lever, C., Cacucci, F., Burgess, N. y O'Keefe, J. (2005). Attractor dynamics in the hippocampal representation of the local environment. Science, 308(5723), 873–876. doi:10.1126/science.1108905