FAKTORSKA ANALIZA Lazar Velimirović, Miodrag Đorđević, Miomir Stanković, Zoran Ognjanović

1. Matematički institut SANU FAKTORSKA ANALIZA Lazar Velimirović, Miodrag Đorđević, Miomir Stanković, Zoran Ognjanović

2. Faktorskaanaliza • Opis međusobne zavisnosti velikog broja promenljivih korišćenjem manjeg broja osnovnih, ali neopažljivih slučajnih promenljivih poznatih kao faktori, metodom višedimenzionalne (multivarijacione) analize, naziva se faktorska analiza.

3. Faktorskaanaliza • Opšta svrha faktorsko analitičkih tehnika je pronalaženje načina da se sažmu informacije sadržane u velikom broju originalnih promenljivih, u manji skup novih, kompozitnih dimenzija ili varijanti (faktora), uz minimalni gubitak informacija.

4. Faktorskaanaliza Tabela 1. Orginalna korelaciona matrica

5. Faktorskaanaliza Tabela 2. Korelaciona matrica nakon grupisanja promenljivih u faktore iskustvo kupaca u radnji ponuda proizvoda vrednost

6. Faze u faktorskoj analizi • Proces odlučivanja u faktorskoj analizi sastoji se od šest faza, plus dodatna faza (faza 7): 1. Ciljevi faktorske analize 2. Dizajniranje faktorske analize 3. Pretpostavke u faktorskoj analizi 4. Izvodjenje faktora i procenjivanje opšteg uklapanja 5. Interpretiranje faktora 6. Potvrda faktorske analize 7. Dodatne upotrebe rezultata faktorske analize

7. Ciljevi faktorske analize • Tehnikom faktorske analize može se ostvariti jedan od dva cilja: 1. Identifikovanje strukture kroz sumarizaciju podataka 2. Redukcija podataka

8. Ciljevi faktorske analize Identifikovanje strukture kroz sumarizaciju podataka • Faktorska analiza može identifikovati strukturu odnosa međupromenljivima ili respondentima, putem ispitivanja korelacijaizmeđu promenljivih ili korelacija među respondentima. Ovoje najčešći tip faktorske analize i zove se R faktorska analiza. • R faktorskaanalizaanaliziraskuppromenljivihda bi se identifikovaledimenzijekojesulatentne (ne opažaju se lako).

9. Ciljevi faktorske analize Identifikovanje strukture kroz sumarizaciju podataka • Faktorskaanaliza se takodjemožeprimenitinakorelacionumatricuindividualnihrespondenatanabazinjihovihkarakteristika. To se zoveQ faktorskaanaliza. • Pristup Q faktorskeanalize se ne koristibaščesto, zbogračunskihteškoća.

10. Ciljevi faktorske analize Redukcija podataka • Redukcija podataka se vrši na dva načina: • Identifikovati reprezentativne promenljive iz mnogo većeg skupa promenljivih, za upotrebu u narednim multivarijacionim analizama • kreirati potpuno nov skup promenljivih, brojčano mnogo manji, da delimično ili potpuno zameni originalni skup promenljivih U obaslučaja, svrha je zadržatipriroduikarakteroriginalnih promenljivih, aliredukovatinjihovbrojda bi se pojednostavila analiza.

11. Dizajniranje faktorske analize • Dizajn faktorske analize uključuje tri osnovne odluke: • kalkulaciju ulaznih podataka (korelaciona matrica) da bi se zadovoljili zadati ciljevi grupisanja promenljivih ili respondenata • dizajn studije u smislu broja promenljivih, mernih odlika promenljivih, i tipova dopustljivih promenljivih • potrebnu veličinu uzorka.

12. Dizajniranje faktorske analize Formiranje korelacione matrica • Prva odluka u procesu faktorske analize odnosi se na način na koji će korelaciona matrica biti formirana (u zavisnosti od svrheistraživanja), kao i koji ce tip analize(R ili Q tip) biti primenjen.

13. Dizajniranje faktorske analize Pitanja selekcije i merenja promenljivih • Za promenljive za faktorsku analizu se generalno pretpostavlja da su metričke mere. U nekim slučajevima, se mogu koristiti veštačke promenljive (obeležene 0-1) iako se one smatraju nemetričkim. Ako su sve promenljive, veštačke promenljive, onda su adekvatnije specijalizovane forme faktorske analize, kao što je Boolean faktorska analiza. Istraživač treba takođe da pokuša da minimizira broj uključenih promenljivih, ali da ipak održi razuman broj promenljivih po faktoru.

14. Dizajniranje faktorske analize Veličina uzorka • Opšte pravilo: što veći uzorak, to bolji rezultati • U malim uzorcima, koeficijenti korelacije između promenljivih manje su pouzdani, pa su i dobijeni rezultati lošiji • Najmanji broj uzoraka oko 300 • Ukoliko rešenja imaju nekoliko promenljivih velike težine (iznad 0.8), dovoljan broj uzoraka je 150 • Zahtevana veličina uzoraka se sve više smanjuje kako se s godinama ta tema sve više istražuje

15. Dizajniranje faktorske analize Veličina uzorka • Nije toliko važna veličina uzorka već količnik broja učesnika i broja promenljivih • Preporučuje se količnik 10 prema 1, tj. deset slučajeva (opservacija) za svaku stavku koju treba faktorski analizirati • U većini slučajeva dovoljno je pet opservacija po stavki

16. Pretpostavke u faktorskoj analizi • Konceptualne pretpostavke koje se nalaze u osnovi faktorske analize, u vezi su sa skupom selektovanih promenljivih i odabranim uzorkom. Osnovna pretpostavka faktorske analize je da u skupu selektovanih promenljivih postoji neka osnovna struktura. Odgovornost je istraživača da osigura da su uočene šeme konceptualno validne i adekvatne za proučavanje sa faktorskom analizom. Npr. mešanje zavisnih i nezavisnih promenljivih u jednoj faktorskoj analizi i onda korišćenje izvedenih faktora da podrže odnose zavisnosti, je neprikladno. Istraživač mora takođe da osigura da je uzorak homogen u pogledu osnovne faktorske strukture.

17. Pretpostavke u faktorskoj analizi • Da bi se opravdala primena faktorske analize,istraživač mora da osigura da matrica podataka ima dovoljno korelacija. Jačina korelacije među promenljivama i opravdanost primene faktorske analize se moze odrediti pomoću dva testa: • Bartletov test sferičnosti - primena faktorske analize je opravdana ako je p<0.05 • Kajzer-Mejer-Olkinovpokazateljadekvantostiuzoraka – najmanjiiznosprihvatljivzadobrufaktorskuanalizu je 0.6

18. Izvodjenje faktora i procenjivanje opšteg uklapanja • Kada se promenljive specifikuju i korelaciona matrica pripremi, istraživač je spreman da primeni faktorsku analizu da identifikuje osnovnu strukturu odnosa. Pri tome, moraju se doneti odluke u vezi metoda izdvajanja (ekstrahovanja) faktora i broja faktora odabranih da predstavljaju osnovnu strukturu u podacima. Selekcija metoda izdvajanja faktora zavisi od cilja istraživača.

19. Izvodjenje faktora i procenjivanje opšteg uklapanja • Istraživač može da koristi dva osnovna modela da dođe do faktorskih rešenja: • Faktorskaanaliza u užem smislu – indentifikuje osnovne faktore koji odražavaju zajedničke karakteristike promenljivih • Komponenetna analiza - sumira većinu originalnih informacija u minimalan broj faktora za svrhe predvidjanja

20. Izvodjenje faktora i procenjivanje opšteg uklapanja • Izbor modela (metoda izdvajanja) zavisi od: • Ciljevafaktorskeanalize • Obima prethodnog znanja o promenljivama • Kada je doneta odluka o faktorskom modelu, istraživač je spreman da izdvoji inicijalne nerotirane faktore. Ispitivanjem nerotirane faktorske matrice, istraživač može da istraži mogućnosti redukcije podataka za skup promenljivih, i dobije preliminarnu procenu broja faktora za izdvajanje.

21. Izvodjenje faktora i procenjivanje opšteg uklapanja Kriterijumi za broj faktora za izdvajanje (ekstrakciju) • Kriterijumlatentnogkorena • A priori kriterijum • Kriterijum procenta varijanse • Kriterijum skri (scree) testa • Heterogenost respondenata

22. Izvodjenje faktora i procenjivanje opšteg uklapanja Kriterijum latentnog korena • Najčešće korišćena tehnika je kriterijum latentnog korena. Obrazloženje za kriterijum latentnog korena je da bilo koji individualni faktor treba da objasni varijansu bar jedne promenljive, ako ga treba zadržati za interpretaciju. Svaka promenljiva doprinosi vrednost 1, ukupnoj karakterističnoj vrednosti. Stoga, samo se faktori koji imaju latentne korene ili karakteristične vrednosti veće od 1, smatraju značajnim; svi faktori sa latentnim korenima manjim od 1, se smatraju neznačajnim i oni se izostavljaju.

23. Izvodjenje faktora i procenjivanje opšteg uklapanja A priori kriterijum • A priori kriterijum je jednostavan a ipak razuman kriterijum pod izvesnim okolnostima. Kada ga primenjuje, istraživač već zna koliko faktora da izdvoji, pre preduzimanja faktorske analize. Istraživač jednostavno daje instrukcije kompjuteru da zaustavi analizu kada se izdvoji željeni broj faktora. Ovaj pristup je koristan kada se testira teorija ili hipoteza o broju faktora koje treba izdvojiti.

24. Izvodjenje faktora i procenjivanje opšteg uklapanja Kriterijum procenta varijanse • Kriterijum procenta varijanse je pristup baziran na ostvarenju navedenog kumulativnog procenta ukupne varijanse, ekstrahovane uzastopnim faktorima. U prirodnim naukama, proceduru faktorisanja obično ne treba zaustavljati dok izdvojeni faktori ne objasne bar 95% varijanse, ili dok poslednji faktor ne objasni samo mali deo (manje od 5%). Suprotno tome, u društvenim naukama, gde su informacije često manje precizne, nije neuobičajeno da se rešenje koje objašnjava 60% ukupne varijanse (a u nekim slučajevima čak i manje), smatra zadovoljavajućim.

25. Izvodjenje faktora i procenjivanje opšteg uklapanja Kriterijum skri (scree) testa • Scree test se koristi da identifikuje optimalni broj faktora koji se mogu izdvojiti pre nego što obim jedinstvene varijanse počne da dominira strukturom zajedničke varijanse. Scree test se izvodi putem ucrtavanja latentnih korena, u odnosu na broj faktora po njihovom redosledu izdvajanja, a oblik rezultirajuće krive se koristi za evaluaciju tačke prekida (granične vrednosti).

26. Izvodjenje faktora i procenjivanje opšteg uklapanja Heterogenost respondenata • Osnovna pretpostavka je da se deljena varijansa proteže preko čitavog uzorka. Ako je uzorak heterogen u pogledu bar jednog podskupa promenljivih, onda će prvi faktori predstavljati one promenljive koje su homogenije preko čitavog uzorka.

27. Izvodjenje faktora i procenjivanje opšteg uklapanja • U praksi, većina istraživača retko koristi samo jedan kriterijum u odlučivanju koliko faktora da izdvoji. Umesto toga, oni inicijalno koriste kirterijum kao što je latentni koren, kao smernicu za prvi pokušaj u interpretaciji. Takođe se interpretiraju faktori identifikovani pomoću drugih kriterijuma. • Postoje negativne posledice, ako se odabere previše ili premalo faktora da predstavljaju podatke. Ako se koristi premalo faktora, onda nije otkrivena ispravna struktura i važne dimenzije mogu biti izostavljene. Ako se zadrži previše faktora, onda interpretacija postaje teža kada se rezultati rotiraju.

28. Interpretiranje faktora • Interpretacijafaktoraiselekcijafinalnogfaktorskogrešenjauključuje tri koraka : • Izračunava se inicijalnanerotiranafaktorskamatricakoja pomaže u dobijanju preliminarnog broja faktora za ekstrakciju • Rotacija faktora ostvaruje jednostavnija i teoretski značajnija faktorska rešenja. • Istraživač procenjuje potrebu da respecifikuje faktorski model zbog (1) brisanja promenljivih iz analize, (2) želje da se koristi drugačiji rotacioni metod za interpretaciju, (3) potrebe da se izdvoji drugačiji broj faktora, ili (4) želje da se predje sa jednog metoda ekstrakcije, na drugi.

29. Interpretiranje faktora Rotacija faktora • Efekatrotiranjafaktorskematrice je da se redistribuiravarijansasaranijihfaktoranakasnijefaktore, s ciljemda se ostvarijednostavnijateoretskiznačajnijafaktorskamatrica • Rotacijamožebiti: • Ortogonalna rotacija – u geometrijskom smislu predstavlja rotaciju koordinatnih osa za izvestan ugao, pri čemu njihov međusobni odnos ostaje nepromenjen, što znači da su ose i dalje međusobom ortogonalne tj. pod uglom od 90stepeni • Kosa rotacija – fleksibilniji i realističniji metod jer faktorske ose ne moraju biti ortogonalne i ne pretpostavlja se da su teorijski važne osnovne dimenzije, nekorelirane jedna sa drugom

30. Interpretiranje faktora Metodi ortogonalne rotacije • U praksi, cilj svih metoda rotacije je da se pojednostave kolone i redovi faktorske matrice, da bi se olakšala interpretacija. U faktorskoj matrici, kolone predstavljaju faktore, gde svaki red korespondira sa opterećenjem promenljive medju faktorima. Pod uprošćavanjem redova, podrazumevamo da se što više vrednosti u svakom redu, što više približi nuli (tj. maksimiranje opterećenja promenljive na jednom faktoru). Pod uprošćavanjem kolona, podrazumevamo da se što više vrednosti u svakoj koloni, što više približi nuli (tj. što je moguće više smanjiti broj „visokih“ opterećenja).

31. Interpretiranje faktora Metodiortogonalnerotacije • Postoje tri glavnaortogonalnapristupa: • QUARTIMAX – cilj je da se pojednostave (uproste) redovifaktorskematricetj. ovajmetod se fokusiranarotiranjeinicijalnogfaktora, takoda je opterećenjepromenljivevisokonajednomfaktoru, išto je mogućeniženasvimostalimfaktorima • VARIMAX – varijansu opterećenja računamo za svaku kolonu posebno, pa se dobija veći broj zajedničkih faktora • EQUIMAX – kompromis između predhodna dva pristupa, nije široko prihvaćen i ne koristi se često

32. Interpretiranje faktora Kriterijumi za značajnost faktorskih opterećenja • U interpretiranju faktora, mora se doneti odluka u vezi toga koja faktorska opterećenja su vredna razmatranja. Faktorska opterećenja su korelacija svake promenljive i faktora koje indiciraju stepen korespondentnosti između promenljivih i faktora, gde veća opterećenja čine promenljivu reprezentom faktora.

33. Interpretiranje faktora Kriterijumi za značajnost faktorskih opterećenja • Obezbeđenje praktične značajnosti – što je veća apsolutna veličina faktorskog opterećenja, to je važnije to opterećenje u interpretaciji faktorske matrice • Procenjivanje statističke značajnosti – test statističke značajnosti koeficijenta korelacije se direktno primenjuje na elemente matrice faktorskog opterećenja

34. Interpretiranje faktora Kriterijumi za značajnost faktorskih opterećenja • Obezbeđenje praktične značajnosti – što je veća apsolutna veličina faktorskog opterećenja, to je važnije to opterećenje u interpretaciji faktorske matrice • Procenjivanje statističke značajnosti – test statističke značajnosti koeficijenta korelacije se direktno primenjuje na elemente matrice faktorskog opterećenja

35. Interpretiranje faktora Smernice za identifikovanje značajnih faktorskih opterećenja, na bazi veličine uzorka Značajnost se bazira na nivou značajnosti 0,05, nivou moći od 80%, i standardnim greškama za koje se pretpostavlja da su dva puta veće od onih kod konvecionalnih koeficijenata korelacije

36. Interpretiranje faktora Kriterijumi za značajnost faktorskih opterećenja • Sumiranjemkriterijumazaznačajnostfaktorskihopterećenja, zaključujemo: • Što je uzorakvećimanje je opterećenjekojeće se smatratiznačajnim • Što je većibrojpromenljivihkoje se analiziraju, manje je opterećenjekojeće se smatratiznačajnim • Što je većibrojfaktora, veća je veličinaopterećenjanakasnijimfaktorima, kojaće se smatratiznačajnimzainterpretaciju

37. Interpretiranje faktora Interpretiranje faktorske matrice – procedura • Interpretiranje kompleksnih medjuodnosa predstavljenih u faktorskoj matrici, nije jednostavno. Međutim, prateći proceduru opisanu u narednim koracima, znatno se može pojednostaviti procedura faktorske interpretacije: • Ispitatifaktorskumatricuopterećenja • Identifikovatinajvišeopterećenjezasvakupromenljivu • Procenitikomunalitetepromenljivih • Označitifaktore

38. Interpretiranje faktora Ispitivanje faktorske matrice opterećenja • Svaka kolona brojeva u faktorskoj matrici, predstavlja odvojeni faktor. Kolone brojeva su faktorska opterećenja za svaku promenljivu na svakom faktoru. Ako se koristi kosa rotacija, obezbeđene su dve faktorske matrice opterećenja. Prva je matrica faktorskog sklopa, koja ima opterećenja koja predstavljaju jedinstven doprinos svake promenljive faktoru. Druga je matrica faktorske strukture, koja ima proste korelacije između promenljivih i faktora, ali ova opterećenja sadrže i jedinstvenu varijansu između promenljivih i faktora, i korelaciju među faktorima. Većina istraživača prijavljuje rezultate matrice faktorskog sklopa.

39. Interpretiranje faktora Identifikacija najvišeg opterećenja za svaku promenljivu • Interpretacija treba da započne sa prvom promenljivom na prvom faktoru i da se kreće horizontalno sa leva na desno, tražeći najviše opterećenje za tu promenljivu na bilo kom faktoru. Kada se identifikuje najviše opterećenjetreba ga podvući ako je značajno. Onda se pažnja fokusira na drugu promenljivu. Ovuprocedurutrebanastavitizasvakupromenljivu, svedok se ne podvukusvepromenljive, zanjihovonajvišeopterećenjenafaktoru. Procespodvlačenjasamojednognajvišegopterećenjakaoznačajnogzasvakupromenljivu, je ideal kometrebatežiti, ali se on retkomožeostvariti. U praksi, mnogepromenljivemoguimatinekolikoopterećenjaumereneveličine, odkojihsusvaznačajna, ionda je interpretiranjefaktoramnogoteže.

40. Interpretiranje faktora Procenakomunalitetapromenljivih • Kada su sve promenljive podvučene na svojim odgovarajućim faktorima, istraživač treba da ispita faktorsku matricu da identifikuje promenljive koje nisu podvučene, i stoga ne vrše opterećenje ni na kom faktoru. Istraživačtrebadaposmatrakomunalitetsvakepromenljive, da bi proceniodali on zadovoljavaprihvatljivenivoeobjašnjenja. Akopostojepromenljivekoje ne vršeopterećenjeninajednomfaktoruiličiji se komunalitetismatrajuprevišeniskim, raspoloživesudveopcije: (1) interpretiratirešenjeonakokakojesteijednostavnoignorisatitepromenljive, ili (2) evaluiratisvakuodtihpromenljivihzamogućebrisanje.

41. Interpretiranje faktora Označavanje faktora • Kada je dobijeno faktorsko rešenje u kome sve promenljive imaju značajno opterećenje na faktoru, istraživač pokušava da dodeli izvesno značenje šemi (sklopu) faktorskih opterećenja. Promenljive sa višim opterećenjima se smatraju važnijima, i imaju veći uticaj na ime ili oznaku koja je odabrana da predstavlja faktor. Stoga će istraživač ispitati sve podvučene promenljive za određeni faktor, i stavljajući veći naglasak na one promenljive sa višim opterećenjima, pokušaće da dodeli ime ili oznaku faktoru koji tačno odražava promenljive koje vrše opterećenje na tom faktoru.

42. Potvrda faktorske analize • Uključuje procenu stepena uopštljivosti rezultata za populaciju i potencijalni uticaj individualnih slučajeva na opšte rezultate • Faktorska stabilnost kao aspekt uopštljivosti je zavisna od veličine uzorka i broja slučajeva po promenljivoj • Detekcija uticajnih opservacija - istraživač se podstiče da proceni model sa i bez opservacija da bi procenio njihov uticaj na rezultate

43. Dodatne upotrebe rezultata faktorske analize • U zavisnosti od ciljeva primene faktorske analize, istraživač može da prestane sa faktorskom interpretacijom ili daljim učestvovanjem u jednom od metoda za redukciju podataka. Ako je cilj jednostavno identifikovati logične kombinacije promenljivih i bolje shvatiti međuodnose među promenljivima, onda će faktorska intepretacija biti dovoljna. To obezbeđuje empirijsku osnovu za ocenu strukture promenljivih i uticaja ove strukture kada se intepretiraju rezultati iz drugih multivarijacionih tehnika. Međutim, ako je cilj identifikovati odgovarajućepromenljive za narednu primenu na druge statističke tehnike, onda će se koristiti neki oblik redukcije podataka.

44. Dodatne upotrebe rezultata faktorske analize • Selekcija surogat promenljivih za narednu analizu – istraživač ima opciju ispitivanja faktorske matrice i selekciju promenljive sa najvišim faktorskim opterećenjem na svakom faktoru, koja deluje kao surogat promenljiva koja je predstavnik tog faktora • Kreiranje sumiranih skala – formiraju se kombinovanjem nekoliko individualnih promenljivih u jednu kompozitnu meru • Izračunavanje faktorskih skorova – faktorski skorovi su kompozitne mere svakog faktora izračunate za svaki subjekt. Faktorski skor se izračunava na osnovu faktorskih opterećenja svih promenljivih na faktoru

45. Dodatne upotrebe rezultata faktorske analize Kreiranje sumiranih skala • Sumirana skala pruža dve specifične koristi: • Omogućavada se u izvesnojmerisavladagreškamerenja (redukujegreškumerenjakorišćenjemvišestrukihindikatora (promenljivih)) • Njenasposobnostdapredstavljavišeaspekatakoncepta u jednojmeri • Četiripitanjakojasuosnovnazakonstruisanjebilokojesumiraneskalesu: • Konceptualanadefinicija • Dimenzionalnost • Pouzdanost • Valjanost

46. Dodatne upotrebe rezultata faktorske analize • Odabir među tri opcije redukcije podataka vrši se poredjenjem njihovih prednosti i mana: • Prednostisurogatpromenljive – jednostavnazaupravljanjeiinterpretiranje, a nedostatak je da je sklonagrešcimerenja • Prednostfaktorskihskorova – predstavljajukompozitsvihpromenljivihkojevršeopterećenjenafaktoru, a nedostatak je dapromenljiveimajuizvestanstepenuticaja u izračunavanjufaktorskihskorova, iotežavajuinterpretaciju. • Prednostsumiraneskale – kompozitnamerakojaredukujegreškumerenja, a nedostatk je dauključujesamopromenljivekojevrševisokoopterećenjenafaktoru, a isključuje one kojiimajumaliuticaj.

47. Faktorska analiza - zaključak • Korisnaimoćnavišedimenzionalna(multivarijaciona) statističkatehnikakojaslužizaefektivnoizdvajanjeinformacijaizvelikihbazapodataka • Ukazujenainteresantneodnosekoji ne bi moždabiliočigledniizispitivanjasamosirovihpodatakailičakkorelacionematrice • Imasposobnostdaidentifikujeskupovesrodnihpromenljivihi time nudiistraživačumoćanalat u ostvarenjuboljegrazumevanjastrukturepodataka

48. Faktorska analiza - zaključak • Tri ograničenja faktorske analize su: • Postoji nedoumica oko toga koja tehnika je najbolja • Subjektivni aspekti faktorske analize • Problem pouzdanosti je realanzbog toga štoanalizazapočinjesasetomnesavršenihpodataka.

49. Faktorska analiza – primer SPSS Skala pozitivnih i negativnih osećanja

50. Faktorska analiza – primer SPSS Correlation Matrix