Grundlagen der Informatik

Grundlagen derInformatik Prof. Dr. Peter Kneisel

Zum Kennenlernen • Wie alt sind Sie ? • Aus welchen (Bundes-)Ländern kommen Sie ? • Wo wohnen Sie während des Studiums ? • Welchen Bildungsweg sind Sie gegangen ? • Wer hatte Informatik in der Schule ? • Welches Fach studieren Sie ? • Warum studieren Sie hier an der FH Gießen ? • Wer besitzt einen Computer ? • Wie lange sitzen Sie vor dem Computer ? • Was machen Sie da ? • Welche Programmiersprache können Sie ? • Welche Betriebssysteme (OSe) kennen Sie ? • Welche Anwendungen kennen Sie ? • Was erwarten Sie (nicht) von dieser Vorlesung ? • Was denken Sie, mit dieser Vorlesung anfangen zu können ?

Didaktik: Durchführung • Diese Vorlesung ist formal 3-stündig mit einer Stunde Übungen • Die Übungen werden in diesem Verhältnis, aber nur je nach Bedarf durchgeführt. • Zur Vorbereitung werden Übungsblätter, je nach Vorlesungsverlauf zusammengestellt. Weitere Übungen sind im Foliensatz vorhanden und sollten selbständig und vollständig bearbeitet werden. • Der Vorlesungsstoff ist an die Struktur und Inhalten der GDI-Vorlesung von Dr. Geisse angelehnt. • Zur Vor- und Nachbereitung des Stoffes können Sie daher zusätzlich dessen Vorlesungsmitschrift (erhältlich in der Fachschaft) verwenden • Da sich die Inhalte und insbesondere auch Schwerpunkte leicht verschieben ist dennoch ein Arbeiten mit meinem Foliensatz erforderlich • Vorsicht ! • Kommen Sie in alle Veranstaltungen - machen Sie die Übungen • überschätzen Sie sich nicht - auch wenn Sie PC-Crack sind • Schreiben Sie die Klausur nur, wenn Sie eine Chance haben( Ich hasse es, Zeit mit dem Korrigieren hoffnungsloser Fälle zu vergeuden ;-)

Didaktik: Folien • Der Vorlesungsstoff wird anhand von Folien dargelegt • Die Folien bilden nur einen Rahmen für die Inhalte. Die Folien sollten daher mit Hilfe eigener Vorlesungsskizzen ergänzt werden - am besten in Form einer Vorlesungsnachbereitung max. 3 Tage nach der Vorlesung • Zusätzlich zu den Folien werden Beispiele an der Tafel oder am Rechner gezeigt. Diese sollten Sie vollständig mitskizzieren. • Zur vollständigen Nachbereitung, z.B. als Klausurvorbereitung, sind die Folien einheitlich strukturiert • Es gibt genau drei Gliederungsebenen: Kapitel, Unterkapitel, Abschnitte • Die Inhalte jedes Kapitels und jedes Unterkapitels werden jeweils motiviert und sind verbal beschrieben. Zusätzlich gibt es jeweils ein stichwortartiges Inhaltsverzeichnis der Unterkapitel, bzw. Abschnitte • Die Vorlesung wird ständig überarbeitet, so dass sich die Foliensätze ändern können (und werden) • Laden Sie sich zur endgültigen vollständigen Nachbereitung nochmals zusätzlich den kompletten Foliensatz herunter.

Literatur • Diese Veranstaltung ist anhand (wirklich) vieler Bücher und einer Menge eigener Erfahrungen erstellt worden. Jedes Buch hat dabei Schwerpunkte in speziellen Bereichen und ist daher sinnvoll. Eine Auflistung aller dieser Bücher ist nicht sinnvoll. • An dieser Stelle seien daher nur drei Bücher aufgeführt, die einen guten Einstieg in die Informatik darstellen. (Diese Liste ist identisch mit der von Dr.Geisse erstellten Liste) • Ch. Horn, I.O. Kerner, P.ForligLehr- und Arbeitsbuch - Informatik, Band 1 Grundlagen und ÜberblickFachbuchverlag Leibzig 2001 • P. ReichenbergWas ist Informatik - Eine allgemeinverständliche EinführungHanser Verlag München 1991 • Fl. Bauer, G. GoosInformatik - eine einführende Übersicht Band 1+2Springer Verlag Berlin 19991/92

Inhalt • Wie jede Wissenschaft befasst sich die Informatik mit ihren eigenen „Objekten“. Was diese „Objekte“ sind und was man mit diesen Objekten machen kann - und wie - wird in dieser Vorlesung auf eher abstraktem Niveau, aber immer mit Beispielen aus der Realität eines Informatikers (oder einer Informatikerin), erläutert. • Diese Vorlesung konzentriert sich auf den „Kern“ der Informatik. Vertieftere Einführungen in z.B die Bereiche der Programmierung, Rechnerarchitekturen, Betriebssysteme, etc. sollen daher bewusst den entsprechenden Veranstaltungen vorbehalten bleiben • Inhalt • Informatik • Information und Codes • Zeichen und Zahlen • Datenstrukturen • Algorithmenentwurf • Algorithmentheorie • Sprachen

Überblick und Einordnung Prg2 SWT1 DSt CB RA2 Typ2-Sprachen 7 Typ3-Sprachen Sprachen Syntax und Semantik Daten-strukturen 4 Komplexität Prg1 RA1 Dynamik (Algorithmik) 6 Korrektheit Zeichen 3 Statik (Struktur) Berechenbarkeit Zahlen Strukturierung Codes 2 5 Elemente Information Praktische Theoretische Technische 1 Informatik

Kapitel 1 Informatik • 1962 wurde der Begriff „Informatique“(als Kombination der Begriffe „Information“ und „automatique“) von Philippe Dreyfus, einem französischen Ingenieur eingeführt und als „Informatik“ ins Deutsche übernommen. Als junge Wissenschaft ist die Informatik mittlerweile in viele Bereiche der älteren Wissenschaften eingezogen und hat viele eigene Bereiche neu erschlossen. Die Informatik ist damit mittlerweile wesentlich mehr, als der anglo-amerikanische Begriff „Computer-Science“ vermuten lässt.Dieses Kapitel möchte einen (kurzen) Überblick über exemplarische Inhalte, Struktur und Geschichte der Informatik geben • Inhalt • Motivation • Definition • Die Teilgebiete der Informatik • Die Geschichte der Informatik • Zusammenfassung des Kapitels

1.1 Motivation • Die Beherrschung eines Computers macht Spaß und gibt der informationssüchtigen Gesellschaft das Gefühl persönlicher Freiheit (so wie vor Jahren ein roter Sportwagen) • Die Beherrschung gibt Macht. Für das Funktionieren einer demokratischen Gesellschaft ist es wichtig, daß viele Menschen Computer verstehen und beherrschen. • Der Computer schafft und vernichtet Arbeitsplätze und ist eine Herausforderung für die Gesellschaft • Das Verstehen der Gesetzmäßigkeiten bei der Entwicklung von Computerprogrammen ist eine intellektuelle Herausforderung • Das Umsetzen dieses Verständnisses ist eine intellektuelle Genugtuung. • Der Computer schafft neue Betätigungsfelder und Lebensinhalte • Der professionelle Umgang mit Computer ist im Beruftsleben eine nackte Notwendigkeit !

1.2 Was ist Informatik • Jedes Lehrbuch der Informatik gibt seine Definition der „Informatik“. Auch der Duden beschreibt die Informatik als „Wissenschaft von der systematischen Verarbeitung von Informationen, besonders der automatischen Verarbeitung mit Hilfe von Digitalrechnern“.Durch die Beschränkung auf den Aspekt der „Verarbeitung“ geht diese Definition meines Erachtens nicht weit genug. Ich werde daher in diesem Unterkapitel eine eigene Definition wagen. Die dabei verwendeten Aspekte werden exemplarisch verdeutlicht, wobei bewusst in Grenzbereiche der Informatik gegangen wird . • Was die Informatik wirklich ist, kann kein Lehrbuch erfassen.Sie werden - hoffentlich - am Ende Ihres Studiums eine sehr weitreichende Idee davon haben. • Inhalt • Definition • Beispiele

Erfassen Transportieren Speichern Verarbeiten Umsetzen 1.2.1 Definition Informatik Die Wissenschaft, die sich mit dem (automatisierten) von Information befasst

1.2.2 Wissenschaft • Informatik ist nicht die Wissenschaft vom Computer(sowenig, wie Astronomie die Wissenschaft vom Teleskop ist) • Informatik ist eine Wissenschaft… und keine Bastelecke für Software-Spieler • Aspekte der Informatik als • „reine Lehre“ (verwandt mit der Mathematik) • Naturwissenschaft: entdecken und beschreiben von „natürlichen“ Phänomenen • Ingenieurwissenschaft - mit der typischen Vorgehensweise • Problemstellung • Analyse • Teillösungen • Synthese • Lösung

1.2.3 Information • Information ist die Bedeutung, die durch eine Nachricht übermittelt wird (nachrichtentechnische Definition) •  Kapitel 2 • Information ist eine elementare Kategorie • Chemie: Stoffumwandlung • Physik: Energieumwandlung • Informatik: Informationsumwandlung

Datenmenge (Byte) 300000 60000 3000 (52,204,248) (33,75,125,190,251) 100 1.2.4 Erfassen Sensorik • Bildverarbeitung

~5-25000 Hz 300 - 3400 Hz 1.2.5 Transportieren Telekommunikation • Telephonie

Einfache Typen Strukturierte Typen Abstrakte Typen Aufzählungstypen Integer Real Boolean Char ... Array Record Varianten Record Menge ... Listen Binäre Bäume Vielweg Bäume Graphen ... array [n..m] of Type record Type 1: element 1 Type n: element n end set of Type {rot, gelb, grün} [0,1,..,65535] [3,4e-038,..3,4e038] {TRUE, FALSE} {ASC(0),..,ASC(255)} 1.2.6 Speichern Datenrepräsentation • Abstrakte Datentypen (N. Wirth: Algorithmen und Datenstrukturen)

Assoziation Vererbung Aggregation Verwendung Instantiierung Klassenname Attribute Operationen Einschränkungen Mitarbeiter Projekt Buchhaltung n Controlling 1 Personalwesen Teil projekt Projektleiter 1.2.6 Speichern Datenrepräsentation • Objektrepräsentation (G. Booch: Objektorientierte Analyse und Design)

Projekt Buchhaltung Assoziation Vererbung Aggregation Verwendung Instantiierung Mitarbeiter Controlling n Teilprojekt Personalwesen Projektleiter 1 1 n 1.2.6 Speichern Datenrepräsentation • Objektrepräsentation (B.Stroustrup: The C++ Programming Language) Class Teilprojekt: public Projekt { Projektleiter projektleiter; Mitarbeiter mitarbeiter[MAX_MITARBEITER]; public: Teilprojekt (Projektleiter); ~Teilprojekt (); } Teilprojekt::Teilprojekt(Projektleiter pl) { // some method-calls of Buchhaltung, Controlling, Personalwesen } main { Teilprojekt1 = new Teilprojekt(Projektleiter1) // See Budget1 for buget details on Teilprojekt1 }

1.2.7 Verarbeiten Prozessmodelle • Petri-Netze (C.A.Petri: Kommunikation und Automaten))

R1 R2 R3 R4 R5 N2 N1 1.2.7 Verarbeiten Prozessmodelle • Interaktionsdiagramme (G. Booch: Objektorientierte Analyse und Design)

a Aktivierungszustand W Verbindungsgewichtung O Ausgangswert F Aktivierungsfunktion f Ausgabefunktion Oj Axon Wij Oi=f(ai) ai=F(Wij*Oj ,ai) Synapsen Dendrite 1.2.7 Verarbeiten KI-Ansätze • Neuronale Netze

Anzahl Freiheitsgrade 25 9 2 (1) 1.2.8 Umsetzen Aktorik • Manipulatoren

1.2.9 Zusammenfassung • Reduktion von Redundanz • Strukturierung von Information • Abbildung realer Prozesse auf Rechnerprozesse • Abbildung von Rechnerprozessen auf reale Prozesse • Abbildung von Datenstrukturen auf reale Strukturen

1.3 Die Teilgebiete der Informatik • Wie viele Wissenschaften, ist die Informatik kein homogenes Gebilde, sondern lässt sich anhand unterschiedlicher Kriterien in Teilgebiete strukturieren.Dieses Kapitel beschreibt die wohl geläufigste Einteilung der Informatik in drei, bzw. vier Teilbereiche. • Inhalte • Technische Informatk • Praktische Informatik • Theoretische Informatik • ( Angewandte Informatik )

1.3.1 Technische Informatik • Konstruktion von Verarbeitungselementen • Prozessoren, ... • Konstruktion von Speicherelementen • Hauptspeicher, ... • Konstruktion von Kommunikationselementen • Bussysteme • Lokale Rechnernetze (LAN: Local Area Networks), Weitverkehrsnetze (WAN: Wide Area Networks), ... • Mobilfunknetze, Satellitenkommunikation, ... • Konstruktion von Peripherie • Drucker, Scanner, .... • Festplatten, Optische Platten, Diskettenlaufwerke, ... • ...

1.3.2 Praktische Informatik • Umgang mit Programmiersprachen • Compilerbau • ... • Entwicklung von Software • Analysemethoden • Designmethoden • Realisieruingsmethoden • Testverfahren • ... • Unterstützung der Softwareentwicklung • Projektmanagment von DV-Projekten • Qualitätsmanagement in DV-Projekten • ... • ...

1.3.3 Theoretische Informatik • Sprachen und Automaten • Formale Sprachen • Grammatiken • Sprachdefinitionen • Berechenbarkeitstheorie • Komplexitätstheorie • ...

1.3.4 Angewandte Informatik • Anwendung in verwandten Wissenschaften • Numerische oder stochastischer Verfahren in der Mathematik • Simulationen in der Physik und der Chemie • Bildverarbeitung in der Medizin • Genanalyse in der Biologie • Lehrprogramme für Natur-, Sozial- und Geisteswissenschaften • ... • Anwendungen im täglichen Leben. • Computerspiele, Multimediaanwendungen, • Textverarbeitung, Tabellenkalkulation, Datenbanken, ... • Steuerung von technischen Prozessen • Web-Anwendungen • ... • ...

1.4 Die Geschichte der Informatik • Die Informatik ist eine junge Wissenschaft, hat aber, ähnlich wie andere Natur- und Ingenieurwissenschaften Wurzeln, die weit in die Menschheitsgeschichte hineinragen, Wie keine andere Wissenschaft wurde die Informatik jedoch von der Erfindung eines Gerätes, dem programmgesteuerten Rechner (später „Computer“) beeinflusst. Dieses Unterkapitel wird die Wurzel in der Menschheitsgeschichte und auch die Entwicklung des Rechners vorstellen. • Inhalt • Information in der Geschichte • Automaten und Steuerungen • Erleichterung der Rechenarbeit • Pioniere der Informatik - Praktiker • Pioniere der Informatik - Theoretiker • Die Generationen

Erfassung durch Sinnesorgane Transport durch akustische, optische, chemische Signale Speicherung durch Gene oder neuronale Elemente Verarbeitung über neuronale Elemente Umsetzung direkt oder indirekt über Gliedmaße Entwicklung von Wort,- Silben- und Buchstaben-schriften 1.4.1 Information in der Geschichte

1.4.2 Automaten und Steuerungen • ca. 100 n. Chr. Automatische Tempeltore in Anhängigkeit von Opferfeuer (Heron von Alexandria) • MittelalterMechanische Uhren mit Sonnen-, Mond- und Planetenbewegungen und Figurenumläufe an Kirchen und Rathäusern • 17./18. Jhdt.Spieluhren, Schreib- und Schachspielautomaten • 18./19. Jhdt.Fliehkraftregler für Dampfmaschinen, mechanischer Webstuhl mit Lochkartenbändert (Jacquart, 1805)

1.4.3 Erleichterung der Rechenarbeit • Rechenbretter • Seit dem Altertum • China, Japan, Rußland • Addition/Subtraktion ähnlich schnell wie Taschenrechner • Lehre der Grundrechenarten • Durch Zahlensystem schematisierbar • Lehre an mittelalterlichen Universitäten • Durch Rechenbücher weitere Verbreitung des Wissens (z.B. Adam Riese 1492-1559) • Rückführung der Multiplikation/Division auf Addition/Subtraktion durch logarithmisches Rechnen mit Hilfe von Tabellen.

1.4.4 Mechanische Rechenmaschinen • Wilhelm Schickart (1592-1635) • Maschine für die Grundrechenarten (1623) • Blaise Pascal (1623-1662) • Gottfried Wilhelm von Leibniz (1646-1716) • Arithmetik des Dualsystems • Philipp Matthäus Hahn (1749-1790) • Feinmechanische Rechenmaschinen • 19./20. Jhdt: Sprossenradmaschine • Hermann Hollerith • Lochkartenstanzer/-sortierer/-tabellierer

1.4.5 Pioniere der Informatik - Praktiker • Charles Babbage (1791-1871) • Difference Engine (1812). Überprüfung von Logarithmentafeln. Alle Merkmale eines programmierbaren Computers. • Entwurf einer Analytical Engine (1836).Wurde nie gebaut • Konrad Zuse (geb. 1910) • Z1: mechanischer Rechner • Z2 / Z3: Elektromechanischer Relaisrechner im Dualsystem mit Lochkartensteuerung.Erster voll funktionstüchtiger Computer (1941) • Grundlegende Arbeiten zur Programmierung und algorithmischer Sprachen • Howard Eiken • Mark I, II, III, IV (1944)Dezimalrechnender Relaisrechner

1.4.6 Pioniere der Informatik - Theoretiker • Kurt Gödel • Theoretische Aussagen zum Algorithmenbegriff:Es gibt Aussagen die algorithmisch nicht entscheidbar sind (1931) • Alan M. Turing (1911-1954) • Definition des Algorithmenbegriffes über eine hypothetische Maschine(Turing-Maschine) • John von Neumann (1903-1957) • Grundlegende Arbeiten über Computerarchitektur: • Speicherung der Daten und Programme auf dem gleichen Medium • Definition von Registern insb. Indexregister

1.4.7 Die Generationen Generation Beispiel Technologie Speich./Geschw. Software Vorgenerat. Z3 Elektro- 0,0002 MIPS Verdrahtet 1941-1944 Mark1 mechanik 1.Generation ENIAC, Z22 Elektro- 0,02 MIPS Maschinen- 1946 - 1958 UNIVAC, IBM650 röhren 1-2 Kbyte sprache SIEMENS704 2. Generation IBM1400, AEG TR Transistoren 0,1 MIPS Assembler 1959 - 1964 CDC6600 Kernspeicher 32 KByte FORTRAN Siemens2002 Stapelbetrieb 3. Generation IBM370, PDP11 ICs 5 MIPS Hochsprachen 1965 - 1980 Siemens7000, Halbleiter- 1-2 Mbytes C, Pascal Cray 1 speicher 4. Generation PC, Gray XMP Mikro- 50 MIPS Sprachen der 1981-1999 Sperry1100, VAX prozessoren 8-32 MByte 4. Generation IBM309x Optische Sp. Parallelisierung Gegenwart Workstations Pentium, 100 MIPS Netzsoftware Hochleistungs- Power PC 1 GByte OO-Sprachen PCs Netze C++. JAVA 5. Generation supraleitende 1000 MIPS Keramiken viele GBytes

1.5 Zusammenfassung des Kapitels • Die Informatik befasst sich mit der (automatisierten) Erfassung, dem Transport, der Speicherung, Verarbeitung und dem Umsetzen von Information • Die Informatik ist eine „naturwissenschaftliche Ingenieurswissenschaft“ • Die Informatik gliedert sich in Technische, Praktische, Theoretische und Angewandte Informatik • Die Geschichte der Informatik beginnt im Altertum, besteht in Ihrer heutigen Form aber erst seit ca 1945. Zur Zeit befinden wir uns in der 4. Generation.

Kapitel 2 Information und Codes • Information ist der grundlegende Begriff in der Informatik - dieses Kapitel erläutert diesen Begriff:Zunächst wird Information in ihrer Repräsentation als „Nachricht“ betrachtet und damit einige Maßzahlen definiert. Danach wird auf die Repräsentation von Information in der Informatik und deren Maßzahlen eingegangen. Schließlich wird auf die Möglichkeiten zur Umsetzung - Kodierung - von Information eingegangen • Inhalt • Was ist Information • Definition nach Shannon • Definition in der Informatik • Codes

Information ist eine elementare Kategorie wie z.B. Energie oder „Stoff“ Qualitativ: Repräsentationsformen der Information DNS (Aminosäuren in einem Doppelhelix) Verschaltung von Neuronen und deren Empfindlichkeit physikalisches Objekt (Atome im Raum) Bild (Bildpunkte auf einer Ebene) Energieverteilung (Energie im Raum) Folge von Zeichen (Zeichen in einer Zeichenkette) ..... Quantitativ: Maßzahlen für Information  später in diesem Kapitel 2.1 Was ist Information Nicht: Was ist Information ? sondern: Wie ist Information ?

2.2 Definition nach Shannon • Information hat vielfältige Repräsentationsformen. Noch vor Entstehen der Informatik als Wissenschaft hat Claude Elwood Shannon (1916-2001) wichtige Maßzahlen zur Erfassung von Information definiert. Dabei geht er von der nachrichtentechnischen Repräsentation von Information, der „Nachricht“ aus.Dieses Unterkapitel stellt diese Maßzahlen und deren Grundlagen dar. • Inhalt: • Nachricht • Informationsgehalt einer Nachricht • Informationsgehalt eines Zeichens • Mittlerer Informationsgehalt

2.2.1 Definition: Nachricht • sei Alphabet X: Menge von Symbolen/Zeichen X = {x1, x2, ... xn} • Eine Zeichenkette (ein Wort) der Länge n über X ist eine Folge von n Zeichen aus X (ein n-Tupel über X) • Beispiel: X={a,b}Worte über X: {a,b,ab,ba,aba,abb,baa,bbb, ...}Worte der Länge n mit n=3: {aba,abb,baa,bbb} • Die Menge aller n-Tupel über X ist das n-facheKreuzprodukt X  X  ...  X (n mal), bezeichnet als Xn • |Xn| = | X  X  ...  X | = |X| * |X| * ... * |X| = |X|n • Die Anzahl der Elemente alle Worte mit der maximalen Länge n ist |X|n • Wird eine Zeichenkette übermittelt, so spricht man von Nachricht Nx

Ein Maß für die Information (der Informationsgehalt) einer Nachricht Nn,x der Länge n (über ein Alphabet X) ist die Länge der Beschreibung, die notwendig ist, um die Nachricht Nn,x aus der Menge aller möglichen Nachrichten der Länge n zu ermitteln Beispiel: Information der Nachricht N8,{0,1} : Suche in |{0,1}|8 = 256 Wörtern Der Informationsgehalt einer aus mehreren (voneinander unabhängigen) Zeichen bestehenden Zeichenkette ist gleich der Summe der Informationen der einzelnen Zeichen: 1 * ld(|X|) + 1* ld(|X|) + ... + 1* ld(|X|) = n * ld(|X|) = ld(|X|n) obere Hälfte ? Optimal mit binärem Suchen Anzahl Fragen:ld(|Xn|) = ld(|X|n) = n ld(|X|) ja nein obere Hälfte ? obere Hälfte ? ja nein ja nein ... 2.2.2 Definition: Informationsgehalt einer Nachricht

2.2.3 Definition: Informationsgehalt eines Zeichens • Idee: • Der Informationsgehalt eines Symbols xi hängt von der Wahrscheinlichkeit seines Auftretens ab: Je seltener ein Symbol auftritt, desto höher ist sein Informationsgehalt: h(xi) = f(1/p(xi)) • Definition nach Shannon (ca. 1950):Der Informationsgehalt h (Einheit bit) eines Symbols xi ist definiert als der Logarithmus dualis des Reziprokwertes der Wahrscheinlichkeit, mit der das Symbol auftritt:h(xi) = ld(1/p(xi)) = -ld p(xi)

Umrechnungsregel des ld in den 10er-Logarithmus (lg) lg b log c b  3,322 lg b log a b = mit a = 2, c = 10 gilt: ld b = lg 2 log c a 2.2.4 Beispiel: Informationsgehalt • Beispiel: Sei die Wahrscheinlichkeit von E = 0,5 und die von H = 0,25 • Informationsgehalt des Zeichens „E“ :hE = ld (1/0.5) = 1 • Informationsgehalt des Zeichens „H“ :hH = ld (1/0,25) = 2 • Informationsgehalt der Zeichenkette „EHE“hEHE = ld(2) + ld(4) + ld(2) = ld(2 * 4 * 2) = 4 bit

2.2.5 Definition: Mittlerer Informationsgehalt • Kennt man die Einzelwahrscheinlichkeiten aller möglichen Symbole einer Symbolsequenz, so ist der mittlere Informationsgehalt Hs der Symbole s (Entropie der Quelle) definiert als:Hs = S p(xi) * h(xi) = S p(xi) * ld(1/p(xi)) = - S p(xi) * ld(p(xi)) • Der mittlere Informationsgehalt Hs,n einer Symbolkette der Länge n ist:Hs,n = Hs * n • Beispiel d.h. die Symbole haben einen mittleren Informa- tionsgehalt von 1,5 bit. Hs = 0,5 * 1 + 0,25 * 2 + 0,25 * 2 = 1,5 bit

2.2.6 Informationsaufnahme des Menschen • Beim Lesen erreicht der Mensch eine Geschwindigkeit von ca. 25 Zeichen/sec • das entspricht 25 * 2 Bit (mittleren Informationsgehalt) = 50 Bit/sec • dieser Wert ist unabhängig vom Alphabet - kann also auch z.B. im chinesischen erreicht werden. • Nachrichten, die mit anderen Medien dargestellt werden, können ca. genauso schnell verarbeitet werden. • Aufnahme des Menschen • Bewusst aufgenommen werden ca. 50% von 50 Bit/sec also 25 bit/sec • Bei einer Aufnahmedauer von ca. 16 Stunden am Tag ergibt sich eine Lebensinformationsmenge von ca. 3 * 1010 Bit • die Speicherkapazität des Gehirns ist mit ca. 1012 Bit auch in der Lage, diese Informationsmenge zu speichern (sogar 100 Mal) • Die Lebensinformationsmenge findet auf einer CD-ROM Platz und ist über Glasfaserkabel in wenigen Sekunden zu übertragen.

2.3 Definition in der Informatik • Die Wurzeln der Informatik liegen weniger in der Nachrichtentechnik, als vielmehr in der Mathematik. Darum ist die Repräsemtation von Information als Nachricht weniger relevant als die Darstellung von Zahlen (in binärer Repräsentation) und algebraischen (bool‘schen) Objekten.In diesem Unterkapitel geht es um diese Repräsentationen. • Inhalt • Das Bit in der Informatik • Die Darstellung des Bit • Beispiel • Das Byte und mehr

2.3.1 Das Bit in der Informatik • Definition aus der Informatik:Ein Bit ist die Informationsmenge in einer Antwort, auf eine Frage, die zwei Möglichkieten zuläßt: • ja /nein • wahr/falsch • schwarz/weiß • ... • Der Informationsgehalt eines Zeichens einer zweielementigen Alphabetes mit gleicher Auftretungswahrscheinlichkeit ist(nach Shannon)h = -ld p = -ld 0,5 = 1

2.3.2 Die Darstellung des Bit • Diese zwei Möglichkeiten werden meist mit 0 bzw. 1 codiert • Die technische Darstellung erfolgt u.a. mit Hilfe von: • Ladung • 0 = ungeladen • 1 = geladen • Spannung • 0 = 0 Volt • 1 = 5 Volt • Magnetisierung • 0 = nicht magnetisiert • 1 = magnetisiert • Licht • 0 = kein Licht • 1 = Licht

2.3.3 Beispiel: Bitfolge • Aus welcher Himmelsrichtung weht der Wind (N, O, S, W) ? • Bei anzunehmender Gleichverteilung der Antworten ist der mittlere Informationsgehalt H = S p(xi) * ld(1/p(xi)) = (0,25*2)*4 = 2 • Die Frage läßt sich in zwei Fragen umsetzen • Weht der Wind aus N oder O (ja/nein) ? • Weht der Wind aus O oder W (ja/nein) ? • Eine mögliche Antwort: 1 Frage=ja, 2 Frage=nein läßt sich durch die Bitfolge 10 darstellen und bezeichnet eindeutig Norden als die Windrichtung • 10 = Norden • 11 = Osten • 01 = Westen • 00 = Süden • Nimmt man noch die Zwischenrichtungen NO, SO, SW und NW hinzu, so können die 8 Zustände mit 3 Bit codiert werden (wie?)

Grundlagen der Informatik