1 / 26

Sistema ibrido per l'apprendimento continuo di reti neurali

Università Politecnica delle Marche Facoltà di Ingegneria. Sistema ibrido per l'apprendimento continuo di reti neurali. Relatore: Prof. Aldo Franco Dragoni Correlatore: Ing. Germano Vallesi. Candidato: Pasquale Sconciafurno. AMBITO: biometria, belief revision , reti neurali

bill
Télécharger la présentation

Sistema ibrido per l'apprendimento continuo di reti neurali

An Image/Link below is provided (as is) to download presentation Download Policy: Content on the Website is provided to you AS IS for your information and personal use and may not be sold / licensed / shared on other websites without getting consent from its author. Content is provided to you AS IS for your information and personal use only. Download presentation by click this link. While downloading, if for some reason you are not able to download a presentation, the publisher may have deleted the file from their server. During download, if you can't get a presentation, the file might be deleted by the publisher.

E N D

Presentation Transcript

  1. Università Politecnica delle Marche Facoltà di Ingegneria Sistema ibrido per l'apprendimento continuo di reti neurali Relatore: Prof. Aldo Franco Dragoni Correlatore: Ing. Germano Vallesi Candidato: Pasquale Sconciafurno

  2. AMBITO: biometria, beliefrevision, reti neurali • MOTIVAZIONI: gestione del riconoscimento facciale in presenza di cambiamenti delle caratteristiche degli individui • OBIETTIVI: esplorare la possibilità di utilizzare sistemi ibridi (simbolico e neuronale) • RISULTATI: definizione di un sistema ibrido basato su reti neurali multiple, supervisionate da uno strato simbolico

  3. Motivazione Rete Neurale SISTEMA RICONOSCIMENTO FACCIALE OLISTICO

  4. Motivazione ? Rete Neurale SISTEMA RICONOSCIMENTO FACCIALE OLISTICO

  5. Motivazione SISTEMA RICONOSCIMENTO FACCIALE MODULARE Fronte Occhio D Belief Revision Sintesi Soluzioni Occhio S Naso Bocca

  6. Obiettivi • Sistema ibrido di riconoscimento facciale: • basato su reti neurali multiple • condizionamento Bayesiano per la risoluzione dei conflitti • risposta del sistema basata sulle risposte delle singole reti • auto aggiornamento della conoscenza sulla base delle convinzioni del gruppo

  7. Obiettivi SISTEMA RICONOSCIMENTO FACCIALE MODULARE Fronte Occhio D Belief Revision Sintesi Soluzioni Occhio S Naso Bocca

  8. Estrazione Caratteristiche

  9. LearningVectorQuantization M • Classificatori Multinomiali di tipo probabilistico con algoritmo di apprendimento competitivo e supervisionato • Ad ogni classe vengono assegnati alcuni vettori chiamati codebook • Tramite la regola K-nearest-neighbor si assegna la classe a un vettore in ingresso alla rete N X1 X2 … XN

  10. LVQ: addestramento • addestramento supervisionato: <pattern_ingresso,uscite_desiderate> • si cerca il nodo vincente, confrontando il vettore di ingresso con i codebook di ogni nodo per cercare il nodo che ha il codebook più vicino all’input. • si, modificano i pesi del nodo:

  11. Naso: B Fronte B OcchioD: B OcchioS: B Naso: B|G Bocca: G|L Fronte: B|P OcchioD: B|M OcchioS: B|O Goods Naso: G Bocca: G Knowledge Base BeliefRevision Nogoods Bocca: G|L Fronte: B|P Bocca: G|L OcchioD: B|M Estrazione Feature Bocca: G|L OcchioS: B|O Bayesian Conditioning

  12. Condizionamento Bayesiano 1/2 • Se S’ S, la probabilità che le fonti in S’ siano affidabili è: Questa probabilità può essere calcolata per ogni S’, col vincolo:

  13. Naso: B Fronte B OcchioD B OcchioS: B Naso: B|G Bocca: G|L Fronte: B|P OcchioD: B|M OcchioS: B|O Goods Naso: G Bocca G Knowledge Base Condizionamento Bayesiano 2/2 Nogoods Bocca: G|L Fronte: B|P Bocca: G|L OcchioD: B|M Estrazione Feature Bocca: G|L OcchioS: B|O Bayesian Conditioning Per ottenere la nuova affidabilità della singola sorgente si a questo punto si sommano tutte le affidabilità degli 2s insiemi che la contengono

  14. Algoritmi di selezione • Consentono di selezionare il soggetto più probabile a partire dalle risposte delle reti e dalle loro affidabilità a posteriori. • Algoritmi: • Inclusion Based • Inclusion Based Pesato • Algoritmo Pesato

  15. Naso: B Fronte B OcchioD B OcchioS: B Goods Naso: G Bocca G Algoritmi di selezione 1/2 L’algoritmo di selezione InclusionBasedseleziona il Good più credibile sulla base delle affidabilità a posteriori delle reti: Si selezionano tutti i Good con la rete più affidabile Se l’insieme è unico, l’alg. si arresta, e quello è il Good più credibile altrimenti si riparte dal punto 1 con la seconda fonte più affidabile Nell’ InclusionBased Pesato si associa un peso ad ogni insieme Good (la somma delle distanze euclidee tra input e codebook) e in caso di parità di affidabilità a posteriori si associa alla rete il peso minore dei good in cui è presente una risposta della rete. Inclusion Based B

  16. Algoritmi di selezione 2/2 • Algoritmo Pesato: • Per ogni rete si ordinano i nodi in base alla distanza euclidea tra il codebook e il pattern in ingresso; • Viene assegnato un punteggio ad ogni nodo in base alla posizione relativa nell’ordinamento; • È associata una credibilità agli insiemi di Good sulla base di questi punteggi.

  17. Retroazione Si può sfruttare la conoscenza del gruppo di reti neurali per forzare l’apprendimento della rete che sta sbagliando. SISTEMA RICONOSCIMENTO FACCIALE MODULARE Fronte Occhio D Belief Revision Sintesi Soluzioni Occhio S Naso Fronte Bocca Occhio D Occhio S Naso Bocca

  18. Retroazione Si può sfruttare la conoscenza del gruppo di reti neurali per forzare l’apprendimento della rete che sta sbagliando. SISTEMA RICONOSCIMENTO FACCIALE MODULARE Fronte Occhio D Belief Revision Sintesi Soluzioni Occhio S Naso Fronte Bocca Occhio D Occhio S Naso Bocca

  19. Retroazione Si può sfruttare la conoscenza del gruppo di reti neurali per forzare l’apprendimento della rete che sta sbagliando. SISTEMA RICONOSCIMENTO FACCIALE MODULARE Fronte Occhio D Belief Revision Sintesi Soluzioni Occhio S Naso Fronte Bocca Occhio D Occhio S Naso Bocca

  20. Retroazione Si può sfruttare la conoscenza del gruppo di reti neurali per forzare l’apprendimento della rete che sta sbagliando. SISTEMA RICONOSCIMENTO FACCIALE MODULARE Fronte Occhio D Belief Revision Sintesi Soluzioni Occhio S Naso Bocca Fronte Occhio D Occhio S Naso Bocca

  21. Retroazione Si può sfruttare la conoscenza del gruppo di reti neurali per forzare l’apprendimento della rete che sta sbagliando. SISTEMA RICONOSCIMENTO FACCIALE MODULARE Fronte Occhio D Belief Revision Sintesi Soluzioni Occhio S Naso Fronte Bocca Occhio D Occhio S Naso Bocca

  22. Setup Sperimentale • Il database “ORL”: 10 immagini per 40 soggetti, per alcuni le immagini sono state prese in differenti condizioni di luminosità e in differenti ore dello stesso giorno. Alcune delle 10 foto sono differenti fra di loro (con occhiali senza occhiali …) • Modifiche al database “ORL” per simulare un’evoluzione dei soggetti.

  23. Risultati Sperimentali Esempio di andamentodell’affidabilità delle reti a) Senza Retroazione b) Con Retroazione

  24. Risultati Sperimentali

  25. Conclusioni & Sviluppi futuri • I risultati sperimentali hanno dimostrato che il sistema consente di seguire efficacemente l’evoluzione delle caratteristiche dei soggetti. • In particolare la retroazione consente di utilizzare i contributi di tutte le reti neurali per la scelta del Good più credibile. • In futuro il sistema sarà testato impiegando un numero maggiore di reti neurali; • Inoltre si testerà il sistema con il nuovo db.

  26. Grazie per l’attenzione

More Related