Facultad de Ciencias Exactas y Tecnología Universidad Nacional de Tucumán

Mg. Ing. Gustavo E. Juárez

Ciclo Lectivo 2018Inteligencia Artificial (EC5)

Redes Neuronales

Parte I

Introducción. Definiciones. Topologías típicas. Redes Supervisadas. Modelo

Backpropagation – Redes No Supervisadas – Modelo de Kohonen –

ImplementaciónenMatlabmedianteToolkitsobreRedesNeuronales.ANFIS.

UNIDAD TEMÁTICA : REDES NEURONALES

RED NEURONAL BIOLÓGICAANTECEDENTES

L a c o r t e z a c e r e b r a l d e l c e r e b r o

humano contiene aproximadamente 15.000 a

100.000 millones de neuronas dependiendo

delgéneroylaedad.

Cada una de las cuales se encuentra

i n t e r c o n e c t a d a s h a s t a c o n 1 0 . 0 0 0

conexionessinápticas.

Cada milímetro cúbico de córtex cerebral

contiene aproximadamente 1.000 millones de

sinapsis.

INTRODUCCIÓN - CEREBRO HUMANO

A fines del siglo XIX, Santiago Ramón y

Cajal situó por vez primera las neuronas

como elementos funcionales del sistema

nervioso. Cajal propuso que actuaban como

entidadesdiscretasque,intercomunicándose,

establecían una especie de red mediante

conexiones especializadas o espacios. Esta

idea es reconocida como la doctrina de la

neurona, uno de los elementos centrales de

laneurocienciamoderna.

Santiago Ramón y Cajal Premio Nobel de

Medicina y Neurofisiología 1906

ANTECEDENTES - MARCO HISTÓRICO

Santiago Ramón y Cajal

Premio Nobel de Medicina y

Neurofisiología 1906

MARCO HISTÓRICO – RAMÓN Y CAJAL

Santiago Ramón y Cajal

Premio Nobel de Medicina y

Neurofisiología 1906

MARCO HISTÓRICO – RAMÓN Y CAJAL

LaunidadanatómicayfisiológicadelSistemaNerviosoeslaNeurona.

Definición:

«Unaneuronaesunadelascélulasnerviosasencontradasentodoelcuerpo,las

cualessonelelementofundamentaldelaestructuradelsistemanervioso.Son

célulasexcitablesespecializadasenlarecepcióndeestímulosyconduccióndel

impulsonervioso.»

Nota:Estáencargadaprincipalmentede trasmitir el flujonervioso.Un cerebrohumanocontiene

aproximadamente100.000millonesdeneuronas.

NEURONA

DEFINICION

INTRODUCCIÓN A NEURONAS HUMANAS

MODELO BIOLÓGICO – ANALOGÍA CON EL MODELO ARTIFICIAL

DENDRITASSOMAAXON

ENTRADASPROCESOSALIDAS

BIOLOGICO

ARTIFICIAL

Se encuentran en todo el sistema nervioso, desde el

sistema nervioso central hasta el sistema nervioso

periférico, y comunicándose entre ellas a través de

ramificacionesllamadasdendritas.

Las Neuronas del Sistema Nervioso Central solo se

encuentran en el cerebro y las del Sistema Nervioso

Periférico se encuentran en todo el cuerpo y su eje

principal es la medula espinal la cual comunica las

sensacionesdetodoelcuerpohaciaelSistemaNervioso

Central.

SISTEMA NERVIOSO HUMANO

CARACTERÍSTICAS

Desde un punto de vista funcional, las neuronas constituyen procesadores de

informaciónsencillos.Seorganizanen:

• NeuronasReceptorasoSensoras:seespecializanensensarelmundoexterior

(vision,tacto,oído,etc),yseactivancuandolaentradaprovienedeunsentido.

• Interneuronas:transfierenlasseñalesentreneuronas.

• NeuronasMotoras:envíanlasseñalesdirectamentealosmúsculos.

SISTEMA NERVIOSO HUMANO

CLASIFICACION DE LAS NEURONAS

Elcuerpocelularosoma,eslapartecentraldelaneurona,ydeahísalenlasprolongacionesquepermitenlacomunicaciónnerviosa.

Sólounafibradecadaneurona,elaxón,esmáslargaygruesaquelasotras.Cada dendrita está conectada con otra dendrita de una célula nerviosacolocadaasulado,oconelaxóndeunacélulasituadamáslejos.

Cada neurona contiene un cuerpo celular, o soma, que tiene un núcleocelular. Un número de fibras llamadas dendritas se ramifican a partir delcuerpolacélulajuntoconunaúnicafibralargallamadaaxón.

INTRODUCCIÓN A NEURONAS HUMANAS

MODELO BIOLÓGICO

La comunicación entre neuronas surge a partir de

unaunióndiscontinuallamadaSinapsis.

Definición:

“Lasinapsiseselprocesoesencialenla

comunicaciónneuronalyconstituyeellenguaje

básicodelsistemanervioso”.

SINAPSIS ENTRE NEURONAS

DEFINICION

Si la Sinapsis ocurre por contacto físico se

tratadeunaSinapsisEléctrica,ysiesatravés

de una hendidura, se le llama Sinapsis

Química.

Una Neurona del Cortex Cerebral recibe una

media de información de 10.000 neuronas

(convergencia), y envía impulsos a cientos de

ellas (divergencia), con una organización

horizontal basada en 6 capas (Cortex),

contandonootraorganizaciónvertical.

TIPIFICACIÓN DE LA SINAPSIS

Sereconocendostiposdesinapsis:

Sinapsis Eléctrica: En este tipo de sinapsis las membranas pre y pos

sináptica establecen un contacto físico (se tocan) el impulso eléctrico se

transmitedirectamentesinningúntipodemediadoroNeurotransmisor,por

lo que es más rápida. En estado de reposo el protoplasma interior a la

neuronapermanececargadonegativamenteenrelaciónalexterior.

SinapsisQuímica:Eseltipodecomunicaciónmasfrecuente.Enestetipode

sinapsis,lasmembranaspreypossinápticasestánseparadasporunespacio,

notienencontactofísico(nosetocan)porloquelatransmisióndelimpulso

eléctrico es más lenta y depende de la acción de mediadores, que son

sustanciasquímicascomplejasdenominadasNeurotransmisores.

TIPIFICACIÓN DE LA SINAPSIS

Las dendritas actúan como antenasreceptoras de señales (Sinapsis deotrasneuronas).

Estasseñalespuedenseractivadorasoinhibidoras.

El proceso de Despolarizacion setransmiteatravésdelAxon.

Si ladespolarizacion llega a ciertoumbral, se dispara el Potencial deAcción el cual se transmitepor todoelaxonhastaloscontactossinópticos.

TIPIFICACIÓN DE LA SINAPSIS

PROPAGACIÓN

TIPIFICACIÓN DE LA SINAPSIS

POTENCIAL DE ACCIÓN

SinapsisQuímicamediantesecrecióndeneurotransmisor

TIPIFICACIÓN DE LA SINAPSIS

SinapsisEléctricapasodeionesdeunacélulaaotraatravésdeunionesGAP.

Polarización Despolarización

Umbral de Disparo

10 ^11 neuronas ~ 50 Teraflops Velocidad

100 Watts 175 KW

80 Teraflops

16 Terabytes

Consumo

Volumen1,4 dm3 6 m3

Masivamente paralelo Funcionamiento Secuencial con paralelización

Desarrollo20 años - Adulto 3 años

10 ^15 sinapsis ~ 1 PetaByte Memoria

Evolución3000 millones de años 177 años

COMPARATIVA CEREBRO HUMANO ADULTO / COMPUTADOR IBM WATSON

http://www.ibm.com/smarterplanet/us/en/ibmwatson/what-is-watson.html

ASPECTOS

Tipo de AlmacenamientoDistribuido Direcciones de Memoria Fijas

COMPARATIVA DE LA IA TRADICIONAL Y LAS REDES NEURONALES ARTIFICIALES (ANS)

http://www.ibm.com/smarterplanet/us/en/ibmwatson/what-is-watson.html

Inteligencia Artificial Redes Neuronales

Enfoque Descendente Enfoque Ascendente

Basado en la Psicologia Basado en la Biologia

Que hace el Cerebro Como lo hace el Cerebro

Reglas tipo Si/Entonces Generalización a Partir de Ejemplos

Sistemas Programados Sistemas Entrenados

Logica, Conceptos, Reglas Reconocimiento de patrones

Arquitectura Von Neumann, Separación Hardware/Software

Arquitectura Paralela, Distribuida, Adaptativa, Autoorganización

RED NEURONAL ARTIFICIALANTECEDENTES

“Lasneuronasartificialesoprocesadorelementales

un dispositivo simple de calculo que, a partir de un

vector de entrada procedente del exterior o de otras

neuronas,proporcionaunaúnicarespuestaosalida”.

NEURONAS ARTIFICIALES

DEFINICIÓN

“Lasredesneuronalesartificialessonredesinterconectadasmasivamenteen

paraleloyconorganizaciónjerárquica,lascualesintentaninteractuarconlos

objetosdelmundorealdelmismomodoquelohaceelsistemanervioso

biológico”.(TeuvoKohonen)

“Modelosmatematicosdesarrolladosparaemularelcerebro

humano”(Chen-1998)

REDES NEURONALES ARTIFICIALES

DEFINICIONES

Lasprincipalesventajasquereproducenlasredesneuronalesartificialesse

puedenreduciralossiguientesconceptos:

1. Procesamientoparalelo.

2. Procesamientodistribuidonolineales.

3. Procesamientoadaptativo.

4. ToleranciaaFallas.

5. Establecenconexionesnolinealesentrelosdatos

VENTAJAS

• Conjunto de entradas, xj(t). Estaspueden ser provenientes del exterioro de otras neuronas artificiales.(sinapsisquímicaoeléctrica).

• Peso sinápticos, wij. Representan elgrado de comunicación entre la neuronaartificial jy laneuronaartificial i.Puedenserexcitadoresoinhibidores

• Regla de propagación, σi (wij, xj (t)). Integra la informaciónproveniente de las distintas neuronas artificiales y proporciona elvalordelpotencialpostsinápticodelaneuronai.

• Función de activación, fi(ai(t-1), hi(t)).Provee el estado de activación actual de laneuronai.

• Función de salida, Fi (ai (t)).Representa la salida actual de laneuronai.

Lasalidaproducidaporunaneuronai,paraundeterminadoinstantedetiempotpuedeserescritaenformageneraldelasiguientemanera

MODELO GENERAL DE UNA NEURONA

ARTIFICIAL (MODELO DE RUMELHART)

Dependiendo del tipo de salidas, las neuronas suelen recibir nombres

específicos.Losmasfrecuentesson:

ENTRADAS Y SALIDAS

Valores de Salida Nombre del tipo de neurona

(0), (1) Tipo Mc-Culloch-Pitts(-1), (1) Tipo Ising

(-2), (-1),(0),(1),(2) Tipo Potts

“Elpesosinápticowijdefinelafuerzadeunaconexiónsinápticaentredos

neuronas,laneuronapresinápticaiylaneuronapostsinápticaj“.

PESOS SINÁPTICOS

DEFINICIÓN

Lospesos sinápticospueden tomarvalores

positivos,negativosocero.

En caso de una entrada positiva, un peso

positivoactúacomoexcitador,mientrasque

unpesonegativoactúacomoinhibidor.

En caso de que el peso sea cero, no existe

comunicaciónentreelpardeneuronas.

Laregladepropagacióndeterminaelpotencialresultantedelainteracción

delaneuronaiconlasNneuronasvecinas.

Elpotencialresultantehisepuedeexpresardelasiguientemanera

Laregladepropagaciónmássimple,yutilizada,consisteenrealizarunasuma

delasentradasponderadasconsuspesossinápticoscorrespondientes

REGLAS DE PROPAGACIÓN

Lafuncióndeactivacióndeterminaelestadodeactivaciónactualdelaneurona

ienbasealpotencialresultantehienuntiempot, (hi: ai(t)),elcualpuede

serexpresadodelasiguientemanera:

FUNCIÓN DE ACTIVACIÓN

Lasfuncionesdeactivaciónmashabitualesson:

FUNCIÓN DE ACTIVACIÓN

Lafuncióndesalidaproporcionaelvalordesalidadelaneurona,enbaseal

estadodeactivacióndelaneurona.Engeneralseutilizalafunciónidentidad:

FUNCIÓN DE SALIDA

MODELO ESTANDAR DE UNA

NEURONA ARTIFICIAL

Libros Redes Neuronales y Sistemas Difusos / Bonifacio Martin del Brío y Alfredo Sanz Molina.

Alfa Omega – Rama. Colombia/c.2005

Sitios Webs http://www.youtube.com/watch?v=Krabo0GPc5A http://www.youtube.com/watch?v=uMbZGSEuI74

http://www.youtube.com/watch?v=1WGPk2eONZ0

REFERENCIAS

Referencias

http://catedras.facet.unt.edu.ar/intar/