Control de Convergencia
Indice
Aplicaciones

Incremento de la Velocidad de Aprendizaje


Procedimientos para incrementar la velocidad de aprendizaje.

En este apartado describiremos diferentes procedimientos que permitan incrementar la velocidad de aprendizaje manteniendo intacto la propiedad de Localidad que tienen este tipo de redes, referido a que la computación de un PE está solamente influenciado por aquellos PEs que están físicamente conectados con él.

Heurística 1: Cada parámetro ajustable de la red que determina la función de coste debería tener su propio parámetro de control de velocidad de aprendizaje.

Esta heurística reconoce el hecho de la posible existencia de diferentes ganancias para cada conexión ajustable de la estructura.

Heurística 2: Cada parámetro de control de velocidad debería variar de un paso a otro.

Normalmente la superficie de error tiene diferentes formas en un mismo espacio. En función de dichas diferencias, esta heurística establece que así como cambia la forma del error, debería cambiar la velocidad de aprendizaje.

Heurística 3: Cuando la derivada de la función error (coste) con respecto a una conexión determinada, tiene el mismo signo algebraico durante varios pasos del algoritmo, el parámetro ganancia para dicha conexión debería ser incrementado.

Esta heurística, establece que en las condiciones mencionadas anteriormente, el número de pasos requeridos para moverse en una cierta parte de la superficie de error, puede ser reducido, incrementando convenientemente la ganancia.

Heurística 4: Cuando el signo algebraico de la derivada de la función error con respecto a una particular conexión cambia durante pasos consecutivos, la ganancia para el peso en cuestión debería decrecer.

El cambio de signo en pasos consecutivos viene a significar la existencia de picos y valles. En orden de tratar de localizar el punto mínimo del valle y así evitar esas oscilaciones, la ganancia debería ser reducido (ajuste de pesos más fino).



M. González Penedo