Bináris ki- és bemenetű CNN template-ek tervezése

1. Bináris ki- és bemenetű CNN template-ek tervezése Zarándy Ákos MTA-SZTAKI

2. A CNN template-ek generálási módszerei • Ösztönös, intuitív; • Tanítás; • Direkt tervezés; Ebben az előadásban a bináris ki- és bemenetű nem-propagáló és propagáló CNN template tervezést fogjuk áttekinteni.

3. Nem-propagáló CNN hálózatok áttekintése Eredeti CNN egyenlet: Egy CNN hálózat nem propagáló, ha a template-je a következő formátumú: Ilyenkor az állapotot leíró differenciál egyenletrendszer csatolatlan. Az állapotegyenlet: Egyetlen cella jelfolyamgráfja:

4. Nem-propagáló bináris ki-bemenetű CNN hálózatok tulajdonságai speciális esetek: • a00=0; y=f(s); nem függ a végeredmény x0-tól!!! • a00=1; (integrátor a lineáris tartományban) • y=sign(s); nem függ a végeredmény x0-tól!!! • a kimenet 2st alatt beáll, a tranziens lineáris, és nem exponenciális • el kell kerülni az s=0 esetet! • a00>1 (pozitív visszacsatolás) • ha x0=0 akkor y=sign(s); • ha x0=1 és a00+s>1 akkor y=1; nem változik • ha x0=1 és a00+s<1 akkor y=-1; változik • ha x0=-1 és -a00+s<-1 akkor y=-1; nem változik • ha x0=-1 és -a00+s>-1 akkor y=1; változik • általánosan: x0=x(0) ahol |x0|<1 akkor y=sign( (0) );azaz y=sign(a00 y0-x0+s) • el kell kerülni az a00+s =1 és a -a00+s =-1 eseteket!!!

5. Nem-propagáló bináris ki-bemenetű CNN template-ek csoportosítása • I. Egyszerű minta felismerés: • nincs megkülönböztetve a központi elem; • II. Feltételes pixel változtatás: • meg van különböztetve a központi elem; • III.Két bemenetű egy kimenetű függvények: • a kezdeti állapot is értékes képi információt hordoz;

6. I. Egyszerű minta felismerés Tervezési példa IAdott az alábbi etalon CélLegyenek azok a pixelek feketék, melyeknek környezetében legalább 5 pixelpozíció ugyanaz, mint a megadott etalonon, a többi legyen fehér.

7. I. Egyszerű minta felismerés: formátum meghatározás, egyenlőtlenség rendszer generálás Ilyenkor az etalont egyszerűen leképezhetjük a B template-be!!! Az egyenlőtlenség rendszer: (a00=1) y=sign(s)

8. I. Egyszerű minta felismerés: az egyenlőtlenségrendszer megoldása és robusztus template kiválasztása Eredmény altér relations: limitek: maximális chip paraméterértékek optimális template:

9. II. Feltételes pixel változtatás Tervezési példa IIAdott az alábbi etalon Cél (szkeletonizáció)Változzanak azok a fekete pixelek fehérre, amelyeknek a környezetében mind az 5 pozíció megegyezik az adott etalonnal.

10. II. Feltételes pixel változtatás: template formula meghatározás, egyenlet rendszer generálás A B template középső eleme különböző módon viselkedik mint a nem centrális elemek!!!! x0=0  y=sign(s) a00>1,

11. III. Két bemenetű egy kimenetű függvények • Hasonló az előző típushoz, de itt a kezdeti állapot különböző értékeit is figyelembe kell venni az egyenlőtlenség rendszer felállításakor.

12. Propagáló CNN hálózat tulajdonságai Általános propagáló típusú template: Az ehhez tartozó állapot egyenlet:

13. Csatolt CNN template tervezés: Propagálás elemzése I Dinamikus propagálási szabály:A jobboldali vége egy egypixel széles fekete vonalnak mindig változzon fehérre. Aktív cella:Egy cellát aktívnak nevezünk egy adott időpillanatban, ha annak változik a kimenete. Inaktív cella:Egy cellát inaktívnak nevezünk egy adott időpillanatban, ha annak stabil a kimenete. Dinamikus aktivációs etalon:

14. Csatolt CNN template tervezés: Propagálás elemzése II Aktív cella:Egy cellát aktívnak nevezünk egy adott időpillanatban, ha annak változik a kimenete. y(t)=1 A kijön szaturációs tartományból és átmegy a másikba y(t)=-1 Inaktív cella:Egy cellát inaktívnak nevezünk egy adott időpillanatban, ha annak stabil a kimenete. y(t)=1 és Bennt marad az adott szaturációs tartományban y(t)=-1 és

15. Csatolt CNN template tervezés: Propagálás tulajdonságai • I. Szimmetrikus vagy aszimmetrikus: • Egyformán viselkedik a fekete és a fehér pixelekre, vagy sem? Szimmetrikus esetben az áram mindig nulla, aszimmetrikus esetekben pedig nullától különböző. • II. Irányított vagy nem irányított • Irányítani inputon levő képen keresztül lehet egy terjedést. Ha a B template nem nulla, akkor a terjedés irányított, különben nem.

16. Csatolt CNN template tervezés:A tervezés lépései

17. Csatolt CNN template tervezés: Tervezési példa III:árnyék generálás jobbra A feladat globális leírása:Ez egy vonalmenti (egydimenziós) probléma. Ha van egy sorban egy fekete pixel, akkor az összes, tőle jobbra levő pixelnek feketére kell változnia, a többit változatlanul kell hagyni. A feladat aszimmetrikus és nem irányított terjedést ír elő.

18. Csatolt CNN template tervezés :Lokális szabályok • Egy fehér pixelnek feketére kell változnia, ha van fekete bal oldali szomszédja; • A többi pixelnek nem szabad változnia; • Szimmetrikus? (nem, ezért z0) • Irányított? (nem, ezért B=0) Template formula meghatározás: Az etalon:

19. Csatolt CNN template tervezés :Egyenlőtlenség rendszer generálás Eredmény template:

20. Csatolt CNN template tervezés: Tervezési példa IV: összeköttetöttség ellenőrzése A feladat globális leírása:Adott két kép. Töröljük le a második képről azokat a fekete alakzatokat, amelyeknek a mérete az első képen nagyobb. A feladat aszimmetrikus és irányított terjedést ír elő.

21. Csatolt CNN template tervezés :Lokális szabályok • Egy fekete pixelnek fehérre kell változnia, ha van legalább egy olyan szomszédja, melynek kimeneti értéke fehér bemeneti értéke pedig fekete; • A többi pixelnek nem szabad változnia; Az etalon: Template formula meghatározás:

22. Csatolt CNN template tervezés :Egyenlőtlenség rendszer generálás Eredmény template: