TEORIA TRANSMI T E RI I INFORMAt IEI

TEORIA TRANSMITERII INFORMAtIEI ~ CURS II ~ S.l. dr. ing. Alexandra LigiaBalan

CURS 2 1.Model matematic de sursă discretă, completă şi fără memorie definiţie: O sursă de informaţie reprezintămecanismul prin care din mulţimea mesajelorsursei se alege într-un mod imprevizibil pentrudestinatar, un anumit mesaj pentru a fitransmis. TEORIA TRANSMITERII INFORMAŢIEI definiţie: experimentul S formează un sistem complet de evenimente, dacă la efectuarea acestuia cu certitudine se realizează unul din evenimente. http://stud.usv.ro/TTI/CURS/

CURS 2 3.Model matematic de sursă discretă, completă, cu memorie • Sursele de informaţie discrete cu memorie sunt cunoscute şi sub denumirea de surse Markov. Acestea sunt caracterizate de faptul că furnizarea unui mesaj este dependentă de unul sau mai multe mesaje furnizate anterior. definiţie: o sursă are memorie de ordinul m dacă furnizarea unui mesaj este condiţionată de ultimele m mesaje furnizate anterior. definiţie: se numeşte stare la un moment dat a unei surse cu memorie succesiunea ultimelor m mesaje furnizate anteriormomentului cosiderat. Dacă alfabetul unei surse Markov este format din n mesaje, iar ordinul memoriei sursei este m rezultă că sursa va avea cel mult nm stări distincte, deoarece cele m mesaje care definesc starea pot fi oricare din cele n mesaje care formează alfabetul sursei. Analiza surselor de informaţie discrete se realizează folosind grafurilesau calculul matriceal. TEORIA TRANSMITERII INFORMAŢIEI http://stud.usv.ro/TTI/CURS/

CURS 2 3.Model matematic de sursă discretă, completă, cu memorie TEORIA TRANSMITERII INFORMAŢIEI http://stud.usv.ro/TTI/CURS/

CURS 2 3.Model matematic de sursă discretă, completă, cu memorie definiţie: Matricea de trecere astfel construită este stochastică(suma elementelor de pe fiecare linie este egală cu unitatea, deoarece cu certitudine dintr-o anumită stare se ajunge în une din stările posibile). definiţie: o sursă cu memorie se numeşte staţionară dacă probabilităţile de trecere sunt invariante în timp. TEORIA TRANSMITERII INFORMAŢIEI http://stud.usv.ro/TTI/CURS/

CURS 2 4. Surse cu memorie ergodice TEORIA TRANSMITERII INFORMAŢIEI http://stud.usv.ro/TTI/CURS/

CURS 2 5.Entropia surselorcu memorie ergodice TEORIA TRANSMITERII INFORMAŢIEI http://stud.usv.ro/TTI/CURS/

CURS 2 CANALE DISCRETE DE TRASMISIUNI Din punct de vedere informațional un canal discret de transmisiuni este caracterizat de următoarele mărimi informaționale: • Entropia intrare - ieșire, H(X,Y) • Entropiile condiționate, H(X | Y), • Transinformația, I(X;Y), • Capacitatea canalului, C TEORIA TRANSMITERII INFORMAŢIEI http://stud.usv.ro/TTI/CURS/

CURS 2 Model matematic de canal discret de transmisiuni TEORIA TRANSMITERII INFORMAŢIEI http://stud.usv.ro/TTI/CURS/

CURS 2 Model matematic de canal discret de transmisiuni • Definiție: canalul discret de transmisiuni se numește discret dacă cele două mulțimi sunt finite • Definiție: un canal discret se numește fără memorie, dacă recepționarea unui simbol nu depinde de unul sau mai multe simboluri recepționate anterior • Definiție: un canal discret se numește staționar dacă zgomotele sau perturbațiile care apar pe canal sunt invariante în timp TEORIA TRANSMITERII INFORMAŢIEI http://stud.usv.ro/TTI/CURS/

CURS 2 Model matematic de canal discret de transmisiuni TEORIA TRANSMITERII INFORMAŢIEI http://stud.usv.ro/TTI/CURS/

CURS 2 Entropiaintrare-ieşire a unui canal discret de transmisiuni TEORIA TRANSMITERII INFORMAŢIEI http://stud.usv.ro/TTI/CURS/

CURS 2 Entropiicondiţionate TEORIA TRANSMITERII INFORMAŢIEI http://stud.usv.ro/TTI/CURS/

CURS 2 Transinformaţia Transinformaţia măsoară informaţia medie transmisă pe canalul de transmisiuni. TEORIA TRANSMITERII INFORMAŢIEI http://stud.usv.ro/TTI/CURS/

CURS 2 Principalele relaţii între mărimile informaţionale TEORIA TRANSMITERII INFORMAŢIEI http://stud.usv.ro/TTI/CURS/

TEORIA TRANSMI T E RI I INFORMAt IEI