Teoría de la resonancia adaptativa

Esta red fue desarrollada por Stephen Grossberg y Gail Carpenter en 1987. Se basa en la competencia y utiliza un modelo de aprendizaje no supervisado. Las redes de la Teoría de la Resonancia Adaptativa (ART), como su nombre indica, están siempre abiertas a un nuevo aprendizaje (adaptativo) sin perder los viejos patrones (resonancia). Básicamente, la red ART es un clasificador de vectores que acepta un vector de entrada y lo clasifica en una de las categorías dependiendo de cuál de los patrones almacenados se parezca más.

Principal operativo

La operación principal de la clasificación ART se puede dividir en las siguientes fases:

  • Recognition phase- El vector de entrada se compara con la clasificación presentada en cada nodo de la capa de salida. La salida de la neurona se convierte en "1" si coincide mejor con la clasificación aplicada; de lo contrario, se convierte en "0".

  • Comparison phase- En esta fase, se realiza una comparación del vector de entrada con el vector de la capa de comparación. La condición para el reinicio es que el grado de similitud sea menor que el parámetro de vigilancia.

  • Search phase- En esta fase, la red buscará el reinicio, así como la coincidencia realizada en las fases anteriores. Por lo tanto, si no hay reinicio y el partido es bastante bueno, la clasificación se acaba. De lo contrario, el proceso se repetirá y el otro patrón almacenado debe enviarse para encontrar la coincidencia correcta.

ART1

Es un tipo de ART, que está diseñado para agrupar vectores binarios. Podemos entender esto con la arquitectura del mismo.

Arquitectura de ART1

Consta de las siguientes dos unidades:

Computational Unit - Se compone de lo siguiente -

  • Input unit (F1 layer) - Además tiene las siguientes dos porciones -

    • F1(a) layer (Input portion)- En ART1, no habría procesamiento en esta parte en lugar de tener solo los vectores de entrada. Está conectado a la capa F 1 (b) (porción de interfaz).

    • F1(b) layer (Interface portion)- Esta parte combina la señal de la parte de entrada con la de la capa F 2 . La capa F 1 (b) está conectada a la capa F 2 a través de pesos de abajo hacia arribabijy la capa F 2 está conectada a la capa F 1 (b) a través de pesos de arriba hacia abajotji.

  • Cluster Unit (F2 layer)- Esta es una capa competitiva. La unidad que tiene la entrada neta más grande se selecciona para aprender el patrón de entrada. La activación de todas las demás unidades de clúster se establece en 0.

  • Reset Mechanism- El trabajo de este mecanismo se basa en la similitud entre el peso de arriba hacia abajo y el vector de entrada. Ahora, si el grado de esta similitud es menor que el parámetro de vigilancia, entonces el grupo no puede aprender el patrón y se produciría un descanso.

Supplement Unit - En realidad, el problema con el mecanismo de reinicio es que la capa F2debe tener que inhibirse bajo ciertas condiciones y también debe estar disponible cuando ocurre algún aprendizaje. Es por eso que dos unidades suplementarias a saber,G1 y G2 se agrega junto con la unidad de reinicio, R. Se les llamagain control units. Estas unidades reciben y envían señales a las otras unidades presentes en la red.‘+’ indica una señal excitadora, mientras que ‘−’ indica una señal inhibitoria.

Parámetros utilizados

Se utilizan los siguientes parámetros:

  • n - Número de componentes en el vector de entrada

  • m - Número máximo de clústeres que se pueden formar

  • bij- Peso de la capa F 1 (b) a F 2 , es decir, pesos de abajo hacia arriba

  • tji- Peso de la capa F 2 a F 1 (b), es decir, pesos de arriba hacia abajo

  • ρ - Parámetro de vigilancia

  • ||x|| - Norma del vector x

Algoritmo

Step 1 - Inicialice la tasa de aprendizaje, el parámetro de vigilancia y los pesos de la siguiente manera:

$$ \ alpha \:> \: 1 \: \: y \: \: 0 \: <\ rho \: \ leq \: 1 $$

$$ 0 \: <\: b_ {ij} (0) \: <\: \ frac {\ alpha} {\ alpha \: - \: 1 \: + \: n} \: \: y \: \: t_ {ij} (0) \: = \: 1 $$

Step 2 - Continúe con el paso 3-9, cuando la condición de parada no sea verdadera.

Step 3 - Continúe con los pasos 4-6 para cada entrada de entrenamiento.

Step 4- Configure las activaciones de todas las unidades F 1 (a) y F 1 de la siguiente manera

F2 = 0 and F1(a) = input vectors

Step 5- La señal de entrada de la capa F 1 (a) a F 1 (b) debe enviarse como

$$ s_ {i} \: = \: x_ {i} $$

Step 6- Por cada nodo F 2 inhibido

$ y_ {j} \: = \: \ sum_i b_ {ij} x_ {i} $ la condición es yj ≠ -1

Step 7 - Realice los pasos 8-10, cuando el reinicio sea verdadero.

Step 8 - Encontrar J para yJ ≥ yj para todos los nodos j

Step 9- Calcule nuevamente la activación en F 1 (b) de la siguiente manera

$$ x_ {i} \: = \: sitJi $$

Step 10 - Ahora, después de calcular la norma de vector x y vector s, necesitamos verificar la condición de reinicio de la siguiente manera:

Si ||x||/ ||s|| <parámetro de vigilancia ρ, ⁡Entonces⁡inhibir ⁡nodo J y ve al paso 7

De lo contrario si ||x||/ ||s|| ≥ parámetro de vigilancia ρ, luego continúe.

Step 11 - Actualización de peso para nodo J se puede hacer de la siguiente manera:

$$ b_ {ij} (nuevo) \: = \: \ frac {\ alpha x_ {i}} {\ alpha \: - \: 1 \: + \: || x ||} $$

$$ t_ {ij} (nuevo) \: = \: x_ {i} $$

Step 12 - Debe comprobarse la condición de parada del algoritmo y puede ser la siguiente:

  • No tiene ningún cambio de peso.
  • No se realiza el reinicio para las unidades.
  • Se alcanzó el número máximo de épocas.