Download - redes competitivas
Universidad Autónoma Del Estado De México
Centro Universitario UAEM Valle de ChalcoTEMA: Redes competitivas
MATERIA: Redes Neuronales
INTEGRANTES:
Álvaro arias ViteCastro Pichardo Marta
Enríquez Ramírez Ángel AlbertoJuárez De La O José Emmanuel
PROFESOR(A):
Alexa Bustamante Adriana
CARRERA:
Ingeniería en computación 8° semestre
REDES COMPETITIVAS
Antecedentes
Según estudios efectuados a lo largo del tiempo las neuronas Compiten unas con otras con el fin de llevar a cabo una tarea.
Por tanto las neuronas compiten para activarse quedando solo una
Esta competición se realiza en todas las capas de la red existiendo Neuronas con conexiones de autoexcitación llamadas positivas y de
Inhibición que son negativas que son las neuronas vecinas
El objetivo es categorizar los datos que se introducen a la red, Clasificando información similar siendo de la misma categoría
Y deben activar la misma neurona de salida
En 1973, Frank Rosenblatt creo su simple clasificador espontaneo, una redDe aprendizaje no supervisado basado en el perceptron el cual aprendía a Clasificar vectores de entrada en dos clases con igual numero de términos
A finales de los 60´s y principios de los 70´s Stephen Grossberg introdujoRedes competitivas que usaban inhibición lateral obteniendo buenos
resultados
En 1973 Christoph Von Der introduce la regla del mapa de organización propia Que permitía a la red clasificar entradas donde la neurona cercana a un Vecindario de la neurona ganadora respondieran a entradas similares
Grossberg extendió el trabajo de Malsburg redescubriendo la regla de Instar.Mostrando que la regla Instar removió la necesidad de renormalizar los pesos
En 1985 Rumelhart y Zisper utilizaban redes multicapa dividiendo cada capaEn grupos de neuronas las cuales disponían de conexiones inhibitorias conOtras neuronas del mismo grupo y excitadoras con las de las demás capas
Una variación de aprendizaje en redes multicapa consiste en imponer una Inhibición mutua entre neuronas cuando están a ciertas distancia unas de otras
RED DE KOHONEN
En el cerebro hay neuronas que se organizan en muchas zonas de forma que La información captada del entorno se representan internamente en forma
De mapas bidimensionales
El cerebro podría poseer la capacidad inherente de formar mapas topológicos De las informaciones recibidas del exterior algunas áreas del cerebro
Podrían crear y ordenar neuronas especializadas con características de altonivel
En 1982 Tuevo Kohonen presento un sistema semejante el cual era un modelo De red neuronal con capacidad de formar mapas de características al igual
Que como ocurre en el cerebro
El aprendizaje en el modelo de kohonen es de tipo off-line por lo que se Distingue una capa de aprendizaje y otra de funcionamiento en la cual la
De aprendizaje se fijan los valores de las conexiones entre la capa de Entrada y salida donde las de salida compiten por activarse y solo una
permanece activa
En la etapa de entrenamiento se presenta a la red informaciones de entradaQue servirán durante la fase de funcionamiento para clasificar nuevos datos
Que se presenten a la red, en el caso de existir mas patrones de entrenamientoQue neuronas de salida mas de uno deberá de asociarse a esa neurona
En este modelo el aprendizaje no concluye después de presentar todos losPatrones de entrada, si no que hay que repetir el proceso varias veces hastaRefinar el mapa topológico de salida, de manera que entre mas se presenten
Los datos mas se reducirá la zona de neuronas que se deben de activar
El algoritmo de aprendizaje utilizado para establecer los valores de los pesosDe las conexiones entre las N neuronas de entrada y las M de salida es:
1. Se inicializan los pesos Wij con variables aleatorios pequeños
2. Se presenta a la red una información de entrada en forma de vector
3. P=(p1,p2,…pn)
3. Se determina la neurona vencedora de la capa de salida la cual será i cuyo Vector de pesos Wi sea el mas parecido a la información de entrada.
4. Una vez localizada la neurona vencedora (i*) se actualizan los pesos de las Conexiones entre neurona de entrada y dicha neurona entrada y neuronas
Vecinas de la vencedora
El tamaño de X(q) se puede reducir en cada iteración del proceso de ajuste dePesos, con lo que el conjunto de neuronas que pueden considerarse vecinas
Cada vez es menor
Como la regla instar. La kohonen habilita los pesos de una neurona a aprender un vector de entrada y de esta forma resolver aplicaciones de
reconocimiento de patrones. En definitiva una red de kohonen es
realizar una tarea de clasificación, puesto que la neurona de salida
activada ante una entrada representa la clase a la que
pertenece dicha información de entrada
RED DE HAMMING
La red de hamming es uno de los ejemplos mas simples de aprendizaje competitivo, sin embargo su estructura es un poco compleja ya que emplea
Capas recurrentes en su segunda capa.
Las neuronas en la capa de salida de esta red compiten una con otra
para Determinar la ganadora, esta indica el patrón prototipo
mas representativo En la entrada de la red
Esta red consiste en dos capas, la primera es una red instar que realiza laCorrelación entre el vector de entrada y los vectores prototipo y la segunda
Realiza competición para determinan cual de los vectores prototipo estaMas cercano al de entrada
Capa 1: la red instar es capaz de clasificar solo un patrón, para que múltiplesPatrones sean reconocidos se necesitan múltiples instar y es precisamente de
Esa forma como esta compuesta la primera capa de la red de hamming
Capa 2:en la capa 2 se utilizan múltiples instar, así se determina por medio deUna capa competitiva el patrón prototipo mas cercano. Las neuronas son
Inicializadas con la salida de la capa en realimentación. esta indica la correlaciónEntre los patrones prototipo y el vector de entrada.
Las neuronas compiten para determinar una ganadora, después de esto solo Una neurona tendrá salida no cero y esta indica cual categoría de entrada fue
Presentada a la red
ESTRUCTUR GENERAL DE UNA RED COMPETITIVA
Las neuronas de la segunda capa de la red de Hamming, están en competiciónPorque cada neurona se excita a si misma en inhibe a todas las otras neuronas.
Para simplificar se definirá una nueva función de transferencia que hace elTrabajo de una capa recurrente competitiva
a=compet(n)
Donde a es la salida total de la red y n es la entrada neta a la función de Transferencia. Compet es una función de transferencia que encuentra el índicei* de la neurona con la entrada neta mas grande y fija su salida en uno, todas
Las otras neuronas tienen salida 0.
Reemplazando la capa recurrente de la red de hamming, con una función De transferencia competitiva, la presentación de una capa competitiva se
Simplifica de la siguiente forma.
REGLA DE APRENDIZAJE
Una regla de aprendizaje es la instar estudiada es el numeral 2.4.3Para redes competitivas (a) tiene un valor diferente de cero solamente para
La neurona ganadora (i=i*), de esta forma los mismos resultados serán Obtenidos utilizando la regla de kohonen
Así la fila de la matriz de pesos que este mas cercas al vector de entadaSe moverá hacia el vector de entrada
PROBLEMAS DE LAS REDES COMPETITIVAS
Estas redes competitivas son bastantes eficientes para resolver problemas De clasificación aunque estas presentan problemas como el de la posibilidad
Que el vector de pesos inicial de una neurona se encuentre muy lejos deCualquiera de los vectores de entrara y por lo tanto nunca gane la competición
La consecuencia será la muerte de la neurona lo que
no es recomendable
Pero existe una solución la cual consiste en adicionar una ganancia Negativa a la entrada neta de cada neurona y decrementar así la gananciaTotal cada vez que la neurona gane la competición a lo cual se le denomina
“conciencia”
MAPAS DE ORGANIZACIÓN (SOM)
Se a estipulado que algunos sistemas biológicos realizan las operacionesSiguiendo un método llamado on-
center/off-surround el cual describe un
Patrón de conexión entre neuronas donde center es el refuerzo de una Neurona a ella misma y sur round es cuando inhibe a las neuronas de su
alrededor
Tratando de emular una actividad biológica, sin implementar conexiones Center y sur round , de
realimentación no lineal, kohonen diseño una red Conocida como mapa de auto organización
LEARNING VECTOR QUANTIZATION (LVQ)
Esta red es una hibrida la cual emplea tanto aprendizaje no supervisado Como aprendizaje supervisado para clasificación de patrones. En esta red
Cada neurona de la primera capa aprende un vector prototipo , la red LVQ calcula la distancia directamente
Así la neurona con vector de pesos que este cercano al vector de entrada Tendrá Salida 1 y las otras salida 0 en esto la red LQV se comporta de la
Misma manera que las redes competitivas , la diferencia esta en lainterpretación
La segunda capa se usa para combinar subclases dentro de una sola claseUna propiedad importante es el proceso de combinar subclases para
Formar clases que le permite crear clases mas complejas
Esto a sido todo esperamos que la información aquí mostrada haya sido de utilidad
No olviden suscribirse al canal
http://medicinaycomplejidad.org/pdf/redes/Competitivas.pdf
REFERENCIAS