Introdução à Telemática Teoria da Informação

1. Introdução à TelemáticaTeoria da Informação M.Sc. Engenharia de Sistemas Prof. Sérgio Campello

2. Informação • O que é informação?

3. Informação • Não há definição formal. • Capacidade de alterar: o ambiente, as propriedades, as reações, etc.

4. Entropia • Da química, mede o grau de desorganização do meio. • Função para medir a quantidade de informação.

5. Entropia , , • Fonte de informação X. Valores {x1, x2,...,xN} e probabilidades {p1, p2, ... ,pN}. • Se a fonte é binária temos: • e

6. Gráfico da entropia para uma fonte binária. • A entropia é máxima quando p = 1/2

7. Entropia • A entropia é máxima quando p = 50%. • O que isso significa? • Fornecer uma informação com probabilidade de ocorrência de 50% causa máxima entropia. O que isso quer dizer?

8. Entropia • Se fornecemos uma informação que tem probabilidade zero de ocorrer não causamos nenhuma alteração no estado pois já se sabia que aquilo não ocorreria. • Se fornecemos uma informação que tem probabilidade UM de ocorrer não causamos nenhuma alteração no estado pois já se sabia que aquilo IRIA ocorrer.

9. Exemplo • Sugestão com p = 1/2 , extrai mais informação • P{Xa = 1} = 0,19815 -> H(Xa) = 0,7182 bits • P{Xb = 1} = 0,52132 -> H(Xb) = 0,9987 bits

10. Transporte da Informação

11. Transporte da Informação • Modulação – adequação ao meio para o correto transporte da equação. Informação “onda” Modulada

12. Transporte da Informação • AM – Modulação em amplitude • FM – Modulação em frequência

13. Transporte da Informação • PM – Modulação em Fase

14. Modulação • A modulação depende do meio físico de transmissão e dos objetivos da transmissão. • Fibras ópticas, cabos metálicos, ar, água, etc. • Digital x Analógica

15. Digital x Analógica • O que quer dizer analógica? • O que quer dizer digital? Quando um sinal é considerado digital? • Qual é mais preciso? • Qual é mais imune a ruídos? • Qual dá a melhor qualidade final?

16. Transmissão da informação digital • Agora que sabemos que o formato digital é melhor para transmitir informações à distância, como proceder para transmitir a informação?

17. Codificação • Vamos criar um código para transmitir a palavra: CAFÉ • Regras • Símbolos com até 4 dígitos • Símbolos com até 4 dígitos binários • Os códigos são unicamente decifráveis? • Os códigos são ótimos? • Se conhecermos as probabilidades podemos melhorar o código?

18. Código de huffman • Ordenam-se os símbolos por ordem decrescente de probabilidade • Agrupam-se os dois símbolos com menor probabilidade em um “super símbolo” com probabilidade igual a soma das probabilidades • Se o alfabeto restante possuir dois ou mais símbolos volta-se ao primeiro passo. • Percorre-se a árvore ordenada de símbolos atribuindo aleatoriamente 0 ou 1 a cada folha da árvore

19. Código de huffman - Exemplo • {a,b,c,d} – {0.1, 0.25, 0.2, 0.45} • {d, b, c, a} - {0.45, 0.25, 0.2, 0.1} – ord. • {d, b, (a,c)} - {0.45, 0.25, 0.3} • {d, (a,c), b} - {0.45, 0.3, 0.25} – ord. • {d,((a,c),b)} - {0.45, 0.55} • Reordenando e reagrupando: • {((a,c),b,d)} – {1}

20. Código de huffman - Exemplo • Os super símbolos vão sendo agrupados em árvore.

21. Código de huffman - Exemplo • Atribui-se 1 ou 0 aleatoriamente a cada ramo ou folha.

22. Código de huffman - Exemplo • Código final • D – 1 • B – 00 • C – 011 • A - 010

23. Código de huffman - Exemplo • Qual a vantagem deste código? • Ele é único? • É decodificável Unicamente?

24. Obtenção das probabilidades de uma língua • Como obter a probabilidade de uma língua? • O cálculo sempre retornará os mesmos resultados?

25. Proteção da informação • Como proteger uma informação? • Como é a proteção atual da informação? • Como ela funciona? • É indecifrável? • Por que é segura?

26. Aplicação de Teoria da InformaçãoAmbiente de uso para comunicação e entretenimento.

27. Funcionalidades • T9 • Aplicativo Facilitador de Escrita (AFE) • Jogo da Memória • RSS

28. Aplicativo T9 • 12 Botões grandes • Permite mudar a base Do dicionário • Funciona com e sem previsão • 3 modos de funcionamento: • Manual (SRO) • Automático • Joystick • Possui teclado numérico

29. Implementação T9 • Para cada botão é atribuído um número. • Ao iniciar o ambiente é carregada a lista palavras em 2,1 segundos. • Para cada palavra é atribuída uma chave. • Um dicionário guarda o Mapeamento (Chave -> Palavra)

30. Funcionamento • Com previsão, ao clicar em um botão é feita uma busca pela chave e retornado as palavras prováveis. • Sem previsão (modo ditar), o usuário efetua vários cliques.

31. Desambiguação • Feita na tela de opções: a seguir exemplo da palavra “casa” que possui a mesma chave de “abra” que é 2272.

32. Análise do T9 • Resultados satisfatórios • Fornecida interface para resolução de problemas de ambiguidade • Dificuldades de utilização por pessoas com redução do campo visual.

33. Aplicativo de escrita com previsão de texto baseado em árvore • Denominado Aplicativo Facilitador de Escrita - AFE. • Utiliza teoria da informação para diminuir o tempo de escrita • Letras são sugeridas apenas no local central da tela • Usuários apenas capazes de emitir um “sim” podem utilizar o aplicativo. • O aplicativo adapta-se ao usuário, as palavras mais usadas passam a ser mais sugeridas.

34. Árvore de busca • Árvore -> • Adição da palavra, • “elastico” ->

35. Configurações: • Modo automático ou Assistido • Fator de aprendizado • Atalhos: K -> confirma, J-> desiste e L -> próxima palavra.

36. Estados do aplicativo B • A -> Digita a primeira letra • B -> Previsão com sugestão única • C -> Previsão com sugestão em grupo • D -> Busca no dicionário • E -> Modo ditar A D E C

37. Estado A – primeira letra • A árvore seguinte é percorrida até escolher a letra. • Pode ter a escolha automática

38. Escrita de palavras utilizando o modo Grupo-Subgrupo • Neste teste teórico a quantidade de passos para escrita de uma palavra é diretamente proporcional a posição da letra no alfabeto

39. Escrita de palavras utilizando árvore sem previsão • Para a escrita de uma palavra é necessária uma quantidade média entre 4 e 5 passos.

40. Escrita de palavras utilizando árvore com previsão e sugestão de uma letra • As palavras “CASA” e “QUERO”, por estarem na árvore de previsão necessitam de poucos passos para a escrita

41. Escrita de palavras utilizando árvore com previsão e sugestão em grupo • Comparado com o método anterior, fica claro que, caso não seja possível a previsão, não ocorre perda de tempo com a sugestão de 5 letras (passos)

42. Previsão com aprendizado e sugestão de palavra • Na primeira vez que apalavra foi digitada, pelo fato de não estar presente na árvore, sua digitação foi bastante custosa. • Porém pelo aplicativo ir aprendendo, na 6º vez só é necessário 6 passos.

43. Aplicativo