REDES NEURONALES

1. REDES NEURONALES Introducci�n Enrique Carlos Segura

2. Desde la neurona biol�gica

3. La sinapsis

4. Hacia la neurona artificial

5. Paradigma Conexionista / Paradigma Procedural Robustez y tolerancia a fallas: destrucci�n parcial conlleva degradaci�n parcial de la performance Aprendizaje Adaptativo: a partir de datos (est�mulos) del entorno -? no requiere programaci�n Neurobiol�gicamente inspirado Opera en paralelo: naturalmente, sin necesidad de supervisi�n de alto nivel -> apropiado para implementaci�n VLSI Autoorganizado: se estructura independientemente y representa en forma aut�noma la informaci�n recibida. Inestabilidad ante fallas: destrucci�n de una sola l�nea de programa puede invalidar completamente su funci�n Requiere programaci�n: espec�fica para la tarea deseada Basado en instrucciones a un procesador Opera secuencialmente: s�lo es paralelizable mediante programaci�n ad hoc La forma en que se representa la informaci�n debe ser definida por el dise�ador

7. Perceptr�n Multicapa

8. El proceso de aprendizaje Por el cual los par�metros libres de una RN son adaptados a trav�s de los est�mulos del entorno en el cual est� inmersa El tipo de aprendizaje es determinado por la forma en que tienen lugar los cambios en los par�metros: w(n+1) = w(n) + ?w(n)?

9. Historia La evoluci�n del pensamiento conexionista no ha sido parsimoniosa Etapa Cualitativa o de los fundamentos (fines s. XIX � comienzos s. XX): trabajo interdisciplinario en f�sica, psicolog�a y neurofisiolog�a (Helmholtz, Mach, Pavlov), teor�as generales de aprendizaje, visi�n, condicionamiento. Etapa Cuantitativa o formal (a partir de los a�os �40): McCulloch y Pitts [43]: muestran que las RNA podr�an calcular cualquier funci�n aritm�tica o l�gica. Hebb [49]: el condicionamiento cl�sico (pavloviano) est� presente dadas las propiedades de las neuronas individuales. Propone un mecanismo de aprendizaje en neuronas biol�gicas. Rosenblatt [58]: construye el Perceptr�n Simple y lo aplica exitosamente a reconocimiento de patrones. Withrow y Hoff [60]: algoritmo de aprendizaje para entrenar RN lineales, similares al Perceptr�n de Rosenblatt (regla ? de aprendizaje).

10. La Crisis Minsky y Papert [69]: limitaciones de las redes de Rosenblatt y de Withrow. Estos proponen redes m�s sofisticadas pero no algoritmos de aprendizaje. Este [moment�neo] fracaso, sumado a la carencia de computadoras digitales potentes, conduce a una impasse de alrededor de una d�cada. Sin embargo: 1972: Kohonen, Anderson: redes neuronales que actuaban como memorias 1976: Grossberg: redes autoorganizadas. El renacimiento Debido a: - La aparici�n de nuevos conceptos: Uso de mec�nica estad�stica para analizar las propiedades y la din�mica de redes recurrentes capaces de funcionar como memorias asociativas (Hopfield). Algoritmo de Retropropagaci�n para entrenar perceptrones multi-capa, en respuesta a las cr�ticas de Minsky y Papert (Rumelhart y McClelland). - La disponibilidad de computadoras potentes en las cuales testearlos.

11. Algunas Aplicaciones Cient�fico-tecnol�gicas Modelado y diagn�stico del sistema cardiovascular, narices electr�nicas, an�lisis de c�lulas cancerosas, EEG, ECG, modelos en biolog�a y neurofisiolog�a (memoria, aprendizaje, percepci�n), bioinform�tica (predicci�n de estructuras de prote�nas, secuenciamiento de DNA)? - Industriales B�licas, aeron�utica, electr�nica, rob�tica, procesamiento de se�ales, automotrices, exploraci�n de petr�leo y gas, control de procesos Servicios M�dicas (diagn�stico inteligente), entretenimiento (animaci�n, efectos especiales, predicci�n de tendencias del mercado)? Econ�micas y financieras Evaluaci�n de solicitudes de cr�dito e hipotecas, tasaci�n de propiedades, evaluaci�n de pol�ticas de seguros, predicci�n de mercados de valores, t�tulos y monedas, predicci�n del comportamiento de los consumidores

12. Bibliograf�a Introduction to the Theory of Neural ComputationJohn Hertz, Anders Krogh y Richard Palmer; Addison-Wesley.Disponible en Infoteca. Neural Networks, a Comprehensive FoundationSimon Haykin, Prentice Hall. . Neural Networks. Methodology and applications G�rard Dreyfus. Berlin, Springer-Verlag, 2005 Consultar a los docentes. Redes Neuronales. Algoritmos, Aplicaciones y T�cnicas de Programaci�nJames Freeman y David Skapura; Addison-WesleyDisponible en Infoteca. Neural Network DesignMartin T. Hagan, Howard B. Demuth, Mark H. Beale[Capitulos 1 al 4] http://hagan.ecen.ceat.okstate.edu/nnd.html