Analyse von Häufigkeiten Log-lineare Modelle

1. Analyse von HäufigkeitenLog-lineare Modelle Kompaktkurs, Teil I FB Psychologie Johannes-Gutenberg-Universität Mainz 25.05 – 28.05.2010 U. Mortensen

2. Log-lineare Modelle (1)

3. Log-lineare Modelle (1a) Warum keine lineare Analyse, -- wie etwa die Varianzanalyse? Wie ist ein additiver Fehler bei Häufigkeiten zu denken? Additiver Fehler Häufigkeiten hängen nichtlinear von unabhängigen Variablen ab.

4. Log-lineare Modelle (2) (Wenn keine Wechselwirkungen existieren!) Repräsentiert Wechselwirkung zwischen Ai und Bj.

5. Log-lineare Modelle (3) Modell für die wahren Häufigkeiten, mit Dies definiert das „saturierte Modell“ – für jeden „Haupteffekt“ und jeden Wechselwirkungseffekt existiert ein Parameter. Das Modell passt trivialerweise zu den Daten, für jede Zelle der Tabelle gibt es einen Parameter. Beziehung Modell und Wahrscheinlichkeiten:

6. Log-lineare Modelle (4) Saturiertes Modell: Test für die Existenz von Abhängigkeiten: Spezielle Modelle: bestimmte freie Parameter werden gleich Null gesetzt, insbesondere solche, die Interaktionen repräsentieren. Die freien Parameter werden dann geschätzt. Die Schätzung hängt aber von der Erhebungsmethode ab. Deshalb zunnächst die gängigen Erhebungsmethoden:

7. Log-lineare Modelle (5) Erhebungsmethoden 1. Das produkt-multinomiale Schema: Es gibt eine Reihe von unabhängigen Variablen in verschiedenen Ausprägungen. Es wird eine Stichprobe von n Personen oder Objekten gebildet. Bei jeder Person oder jedem Objekt wird geprüft, welche Ausprägung jeder der unabhängigen Variablen vorhanden ist; dann wird die Person/das Objekt der entsprechenden Zelle der Kontingenztabelle zugefügt. Am Ende wird die Anzahl der Fälle pro Zelle ausgezählt. Beispiel entspricht einer einfaktoriellen ANOVA

8. Log-lineare Modelle (6) 1. Das produkt-multinomiale Schema: Fortsetzung Die Häufigkeitsverteilung in einer Zeile folgt einer Multinomialverteilung: Unter Ho sind alle Wahrscheinlichkeiten gleich groß: Für die erwarteten Häufigkeiten gilt

9. Log-lineare Modelle (7) 3. Dasmultinomiale Schema: • Stichprobe vom Umfang n wird gebildet • Personen werden nach Maßgabe der Kategorien in eine Kategorien – • kombination eingezählt. • Randsummen liegen nicht fest, bis auf den Sachverhalt, dass die Gesamt – • summe gleich n sein muß. Verteilung der Häufigkeiten: multinomial:

10. Log-lineare Modelle (8) 3. Das Produkt-Multinomial-Schema: Für jede Kategorie einer Klasse – etwa für jede Zeilenkategorie wird eine Stichprobe vom Umfang ni gezogen, aus einer entprechenden Teilpopulation. (Beispiel: Studierende verschiedener Fachrichtungen) Jedes Element einer solchen Stichprobe wird genau einer der Spaltenkategorien zugeordnet. (Beispiel: Studierender einer Fachrichtung gibt eine Kategorie zur Beurteilung einer von allen Fachrichtungen besuchten Statistikvorlesung an) Bedingte Wahrscheinlichkeiten!

11. Log-lineare Modelle (9) 3. Das Produkt-Multinomial-Schema: Beispiel: Aufteilung der Gesamtstichprobe in eine Placebo- und eine Aspiringruppe, Blindstudie; Beobachtungszeitraum – 5 Jahre

12. Log-lineare Modelle (10) 4. Das Poisson-Schema • Die Erhebung wird während eines bestimmten Zeitraums durchgeführt • Eine Person/ein Objekt wird nach Maßgabe der beobachteten Kategorien • in die Tabelle einsortiert. • Die Anzahl der Beobachtungen ist nicht a priori fixiert, sondern Poisson- • verteilt. Multiplikatives Poisson-Modell

13. Log-lineare Modelle (11) Untersuchungsarten – Beispiel Unfallarten • Poisson-Schema: Unfälle über Zeitraum registrieren und kategorisieren • 200 Unfallberichte der Polizei auswerten – Multinomialschema • 100 Berichte über Unfälle mit tödlichem + 100 Berichte mit nicht-tödlichem • Ausgang auswählen -- Produkt-Multinomial-Schema • Experimental-Design: Stichprobe von 200 Leuten aussuchen, 100 mit und • 100 ohne Gurt fahren lassen, alle müssen Unfall machen (unethisch!)

14. Log-lineare Modelle (12) 709 Patienten, die im Laufe eines Jahres in eines von 20 Krankenhäusern Londons wegen Lungenkrebs eingeliefert wurden. Raucher: wer fürdie Dauer eines Jahres mindestens eine Zigarette täglich geraucht hatte. Analog 709 dazu Patienten, die nicht wegen Lungenkrebs eingeliefert wurden. Es wird nachträglich festgestellt, ob Patient Raucher oder Nichtraucher war, Deshalb Retrospektives Design, -- Case Congtrol Study Geliefert werden bedingte Wahrscheinlichkeiten: Raucher oder Nichtraucher, gegeben sie haben Lungenkrebs oder nicht.

15. Log-lineare Modelle (13) Üblicherweise wird aber die Inverse bedingte Wahrscheinlichkeit gefordert: Wahrscheinlichkeit, Liungenkrebs zu bekommen, gegeben man ist Raucher oder Nichtraucher. Man könnte Bayes‘ Theorem anwenden, aber Case Control Studies liefern i. A. nicht die notwendigen absoluten Häufigkeiten:

16. Log-lineare Modelle (14) Prospektive Studien: Clinical Trials: Gruppe von Teenagern erheben. Die Hälfte bekommt den-Auftrag, zu Rauchen, die anderen dürfen nicht rauchen, wenn sie 60 sind, wird geprüft, wer Lungenkrebs hat und wer nicht. (unethisch!) Allgemein: Probanden werden zu Beginn einer Bedingung K oder einer Kontrollbedingung n-K zugeordnet. Nach Ablauf einer Periode wird „Erfolg“ oder „Nichterfolg geprüft“. Cohort Studies: Cohort Studies: Teenager entscheiden selbst, ob sie rauchen oder nicht und bilden auf diese Weise „Kohorten“. Nach einer Periode wird der Effekt geprüft. Cross-sectional Studies: Stichprobe wird zufällig gebildet und nach (i) Rauchverhalten, (ii) Lungenkrebs Oder ken Lungenkrebs klassifiziert. Alle diese Studien sind Beobachtungsstudien: es existiert die Möglichkeit systematischer Fehler (Bias), im Unterschied zu Experimentalstudien.

17. Log-lineare Modelle (15) Schätzung der Parameter in Abhängigkeit vom Erhebungsschema:

18. Log-lineare Modelle (16) Unabhängigkeitshypothese: d.h. die Logits sind für alle i identisch!

19. Log-lineare Modelle (17) Verhängen von Todesurteilen in den USA: werden Schwarze häufiger verurteilt als Weiße? Chi-Quadrat nicht signifikant! Aber: es kommt noch eine dritte Dimension hinzu: Täter – Opfer-Relation_ Weißen Weißer Schwarzer Schwarzen

20. Log-lineare Modelle (18) 3-dimensionale Tabellen Partialtabellen: Entstehen durch einen „Schnitt“ durch die 3-d-Tabelle Marginaltabellen: Aggregation über eine Dimension. Abhängigkeiten: marginale Assoziationen Abbhängigkeiten in einer Marginaltabelle können sich stark von denen einer Partialtabelle unterscheiden! Saturiertes Modell_

21. Log-lineare Modelle (19) Modelle: Das saturierte Modell kann in jedem Fall angepasst werden, es ist nur eine Paraphrasierung der Daten. Was sind die interessanten Modelle?

22. Log-lineare Modelle (20) Erste Einschränkung des saturierten Modells: In Bezug auf das Beispiel bedeutet dies, dass es keine Wechselwirkung zwischen (i) der Farbe des Opfers, (ii) der Farbe des Täters und (iii) der Verhängung der Todesstrafe gibt! • Aber es sind noch Wechselwirkungen zwischen • Farbe des Opfers und Farbe des Täters • Farbe des Täters und Verhängung der Todesstrafe • Farba des Opfers uind Verhängung der Todesstrafe möglich!

23. Log-lineare Modelle (21) Das Modell der bedingten Unabhängigkeit:

24. Log-lineare Modelle (22) A und B seien bedingt unabhängig von C; dann gilt das Modell Beispiel: A Farbe Täter, B Farbe Opfer, C Todesstrafe ja/nein Chi-Quadrat = 8.047 P = .0046 Chi-Quadrat = 107.7 p = .000 Täter X Opfer nicht bedingt unabhängig, Signifikanzen trotz der Nichtsignifikanz der aggregierten Tabelle!

25. Log-lineare Modelle (23) Unabhängigkeit von einer Variablen A C B Die Werte von AC sind gewissermaßen Werte einer neuen Variablen, die von der Variablen B unabhängig ist Das log-lineare Modell ist: (AC/B) Es fehlen die Interaktionen AB, BC und ABC Im Beispiel: „Todesstrafen“: B = „Opfer“ ist unabhängig von (i) Verhängung der Todesstrafe (BC) und (ii) der Farbe des Täters/der Täterin, d.h. es gibt auch keine Beziehung zwischen der Farbe des Täters und der des Opfers (AB)

26. Log-lineare Modelle (24) Das Modell vollständiger Unabhängigkeit A/B/C Keinerlei Interaktionen!

27. Log-lineare Modelle (25) Hierarchische Modelle Man läßt erst die Interaktion 2-ter Ordnung (ABC) weg, dann Interaktionen 1-ter Ordnung (AB, oder AC, oder BC, oder AB und AC, etc Typen von Unabhängigkeit:

28. Log-lineare Modelle (26)

29. (A, B, C) = es existiert keinerlei Abhängigkeit zwischen Hautfarbe des Opfers, des Täters, und der Verhängung der Todesstrafe. Klar signifikant - Das Modell wird verworfen Log-lineare Modelle (27) Hautfarbe und Todesstrafe (A, BC) Todesstrafe unabhängig von der Farbe des Opfers und des Täters, aber zwischen B und C kann Abhängigkeit bestehen. Signifikante Abweichung Modell u. Daten. (AB, C) Todesstrafe hängt von Farbe des Opfers ab, nicht von der des Täters. Signifikant, Modell wird verworfen. (AC, B) Todesstrafe hängt von Farbe des Täters, nicht des Opfers ab. Signifikant, Modell wird verworfen- (AB, AC) TS hängt einerseits vom Farbe des Täters, andererseits von der des Opfes ab: wenn ein Schwarzer tötet, ist ers verwerflich, wenn ein Weißer getötet wird,auch. Signifikant! (AB, BC) TS hängt von Farbe des Opfers ab, und es existiert Beziehung Farbe Täter u Opfer, akzeptabel! (AB, AC, BC) Es gibt paarweise Abhängigkeiten, Noch akzeptabler, -- aber ist es das beste Modell (Sparsamkeit!)?

30. Log-lineare Modelle (28) (AB, BC) kann als das beste Modell betrachtet werden: es hat einen Parameter weniger als das Modell paarweiser Unabhängigkeit und der p-Wert ist nur unwesentlich kleiner. Zusammenfassung: Es gibt einen Zusammenhang (i) zwischen der Farbe des Opfers, -- es ist schlimm, wenn ein Weißer getötet wird (ii) zwischen der Farbe des Täters und des Opfers – Weiße töten eher Weiße, und Schwarze eher Schwarze.

31. Log-lineare Modelle (29) Das Problem der Aggregierbarkeit – Simpsons Paradox Gegeben sei eine (I x J x K)-Tabelle. Summation über eine der Variablen liefert eine Marginaltabelle. Betrachtet man eine einzelne Scheibe des Würfels ((I x J), (I x K), (J x K)), so betrachtet man eine Partialtabelle. Partialtabellen enthalten bedingte Häufigkeiten: es sind Häufigkeiten unter der Bedingung der Stufe des Faktors, aus dem die Partialtabelle gebildet wurde. Problem der Marginaltabellen: sie können Zusammenhang oder Nicht-Zusammenhang suggerieren, der keinem Zusammenhang in den Partialtabellen entspricht.

32. Log-lineare Modelle (30) Aggregation über Opfer Täter Chi-Quadrat = 5.615, p = .0178 Chi-Quadrat = .222, p = .638 Aggregation über Todesstrafe: Chi-Quadrat = 115.01 P = .000

33. Log-lineare Modelle (31) Simpson‘s Paradox: Zeigen Marginal- und Partialtabellen verschiedene Richtungen der Abhängigkeiten an, so hat man Simpson‘s Paradox. Aggregiert man über einen Faktor C, so kann sich zwischen A und B ein Zusammenhang zeigen, der nicht an sich existiert. Chi-Quadrat = 8.00 P = .0047 Chi-Quadrat = 9.404 P = .0022 Chi-Quadrat = 20.20 P= .000

34. Log-lineare Modelle (32) Unter welchen Bedingungen kann aggregiert werden?

35. Log-lineare Modelle (33) Log-lineare Modelle und logistische Regression Log-lineare Modelle: es werden die Assoziationen zwischen den Stufen der Kategorien A, B, C, … untersucht; keine dieser Kategorien ist „unabhängig“, keine ist „abhängig“ Logistische Regression (allgemein: Kategoriale Regression): dieStufen einer Kategorie werden als abhängige Variable (response variable), und der anderen Kategorien als unabhängige Variable (explanatory variables) aufgefasst. Unabhängige Variablen Geeignet gewählte Funktion

36. Log-lineare Modelle (34) Logistische Regression Y zeigt an, ob ein zufälliges Ereignis eingetreten ist oder nicht. Herzinfarkt (Y = 1) genau dann, wenn die Verkalkung der Herzkranzgefäße größer als S ist.

37. Log-lineare Modelle (34) Logit: Odds, (Wett-)Cance Man kann nun etwa die Variable „Todesstrafe“ (0 = „nein“, 1 = „Ja“) als abhängige Variable auf der Basis der Hautfarbe von Täter und Opfer „vorhersagen“.

38. Log-lineare Modelle (35) Messwiederholungen (repeated measurements). Bisher: alle Beobachtungen wurden stochastisch unabhängig voneinander gewonnen. Was geschieht, wenn die Häufigkeiten von den gleichen Personen etwa in einem vorher-nachher-Design erhoben werden?

39. Log-lineare Modelle (36) Zusammenfassung der Daten: • Man unterscheidet zwischen • Marginalen, und • Konditionalen Modellen

40. Log-lineare Modelle (37) 1. Marginale Modelle Für gegebene Person seien die Antworten durch (Y1, Y2) kodiert: Mittelung über die Population/Stichprobe (population average)

41. Log-lineare Modelle (38) Maximum-Likelihood-Schätzung (ML-Schätzung) Die Schätzung hängt von den Randsummen ab: deshalb Marginalmodell Konditionale Modelle ß beschreibt eine bedingte Assoziation in einer durch eine Person definierte Schicht einer 3-dimensionalen Tabelle; der Effekt ist subjekt-spezifisch, es wird nicht über die Stichprobe gemittelt. Für das Identitäts-link sind die Effekte für alle Personen identisch:

42. Log-lineare Modelle (39) Bei Mittelung über alle Personen folgt Ist link = Logit, so hat man Mittelung über die i ergibt kein Modell der Form Anmerkung: das Modell entspricht demRasch-Modell! Für die i-te Person hat man

43. Log-lineare Modelle (40) Für die Odds erhält man Dh die Odds unterscheiden sich nur um den Faktor exp(ß)!