Redes Autoorganizativas
Indice
Estructuras Competitivas

Regla de Hebb


Esta regla fue introducida por Donald Hebb, apareciendo en su libro titulado " La Organización del Conocimiento" en 1949. La ley nos dice: "Si un elemento de procesado simple recibe una entrada de otro elemento de procesado y ambos están activos, el peso correspondiente a su conexión debería reforzarse (aumentar)".

Las características en que se basa esta regla son:

  1. Asociatividad.

  2. Autoorganización.

Características:

Trata de asociar patrones de salida a patrones de entrada y la estructura se organiza a si misma.

El sistema se puede entender como un decodificador y un codificador.

Los pesos en estructuras que utilizan para su aprendizaje este tipo de ley, se pueden considerar como la memoria necesaria para sintetizar estas relaciones asociativas.

La Regla de Hebb se puede expresar matemáticamente de la forma siguiente:

Wij : conexión entre elemento i y j.

yi : salida neurona i.

xj : salida neurona j

lr : representa la velocidad de aprendizaje (0,1).

ALGORITMO:

  1. Inicializar los Pesos de la red a valores pequeños aleatorios.

  2. Para cada patrón obtener la salida y modificar los pesos.

  3. Repetir el paso 2 hasta que los pesos se estabilicen. Para un número grande de pasos, los pesos Wji converge a la componente i del autovector asociado con la componente j del autovalor de la matriz de correlación de la matriz de entrada. M (Matriz de Correlación)=Y*X

CARACTERISTICAS:

dr: especifica cuanto debe decaer un peso durante un ciclo de entrenamiento. Normalmente es un valor comprendido entre los valores 0 y 1. Si el valor se aproxima a 1, la red tendrá pesos pequeños, pero recordará poco de lo que aprendió en ciclos previos. Esta modificación la realizó Oja para tratar de estabilizar la regla de Hebb, conociéndose a partir de entonces como REGLA DE OJA.


M. González Penedo