רגרסיה לינארית, ניתוח שונות ותכנון ניסויים סטטיסטיים הרצאה 6 רגרסיה בשלבים (שיטת stepwise )

1. המחלקה לניהול תעשייתי סמסטר א', תשע"ב רגרסיה לינארית, ניתוח שונות ותכנון ניסויים סטטיסטייםהרצאה 6רגרסיה בשלבים (שיטת stepwise) התאמת פולינום

2. רגרסיה בשלבים (שיטת stepwise) • לעיתים ניתן להתאים מודל רגרסיה טוב מספיק עם חלק מהמשתנים הבלתי תלויים ולא עם כולם. • מובן כי ככל שנאלץ לאסוף פחות נתונים לשם מציאת קשר בין משתנה תלוי מסויים למשתנים בלתי תלויים, כך תהיה מלאכתנו בבניית המודל קלה יותר. • איך נעשה זאת? נבחן בשלבים, כאשר בכל שלב נזניח משתנה יחיד ב"ת מן הרגרסיה ונבדוק האם טיב הקשר (שמטבא במקדם המתאם) יורע באופן משמעותי עקב ההזנחה. • למעשה, נבחן בכל שלב את ההשערות: • כאשר k הוא מספר המשתנים ב"ת במודל רגרסיה קודם (לפני הזנחה) ו- l הוא מספר משתנים ב"ת במודל הנבחן בשלב זה (l<k).

3. רגרסיה בשלבים (שיטת stepwise) • את ההשערות נבחן בכל שלב בעזרת מבחן F. • סטטיסטי המבחן: • כאשר • - מקדם מתאם מדגמי במודל עם kהמשתנים ב"ת • - מקדם מתאם מדגמי במודל עם lהמשתנים ב"ת • איזור דחייה:

4. רגרסיה בשיטת stepwise: דוגמה חוקר חושד כי משתנה y מסויים תלוי בשני משתנים. ברצונו לבחון האם למעשה יקבל תלות חזקה יותר רק במשתנה אחד. להלן נתונים:

5. רגרסיה בשיטת stepwise: דוגמה נבחן תחילה רגרסיה עם שני המשתנים הבלתי תלויים. להלן פלט EXCELעבור מודל רגרסיה מרובה:

6. רגרסיה בשיטת stepwise: דוגמה כעת, נבחן רגרסיה עם כל משתנה ב"ת בנפרד ונראה האם אחד המשתנים משנה רק במעט את חוזק הרגרסיה וניתן להזניחו. פלט EXCEL עבור מודל עם x1:

7. רגרסיה בשיטת stepwise: דוגמה נבחן את ההשערה כי הזנחת המשתנהx2 לא תקלקל את טיב הרגרסיה: נחשב סטטיסטי: נמצא ערך קריטי בטבלת F (נניח רמת מובהקות 5%): ניתן לראות כי ערך הסטטיסטי גדול מערך הקריטי, לכן נדחה את השערת האפס ברמת מובהקות 5% ונאמר כי מקדם המתאם (עצמת הקשר) במודל עם שני משתנים גדול באופן משמעותי בהשוואה למודל עם x1 בלבד. לכן נסיק כי לא ניתן להזניח x2 מהמודל.

8. רגרסיה בשיטת stepwise: דוגמה כעת, נבצע אותו תהליך, כאשר הפעם נזניח את x1:

9. רגרסיה בשיטת stepwise: דוגמה נבחן את ההשערה כי הזנחת המשתנהx1 לא תקלקל את טיב הרגרסיה: נחשב סטטיסטי: ערך קריטי בטבלת F נשאר זהה למקרה קודם: ניתן לראות כי ערך הסטטיסטי קטן מערך הקריטי, לכן לא נדחה את השערת האפס ברמת מובהקות 5% ונאמר כי מודל עם משתנה x2 בלבד לא פחות טוב לעומת מודל עם שני משתנים. לכן, נוכל להזניח x1 מהמודלולהשתמש לחיזוי במודל רגרסיה ליניארית עם משתנה אחד:

10. התאמת פולינום • לעיתים בבואנו להתאים מודל רגרסיה לנתונים אנו חושדים כי הקשר בין משתנה תלוי למשתנה בלתי תלוי אינו ליניארי. • למשל, קשר ריבועי יראה מהצורה הבאה: • מודל רגרסיה פולינומיאלי באופן כללי יראה:

11. התאמת פולינום: דוגמה פנלים לרצפה של מטוס מיוצרים בלחץ של 1500 טון. עלות הייצור ליחידה משתנה בהתאם לגודל המנה המיוצרת. הנתונים להלן מראים את העלות הממוצעת ליחידה (במאות שקלים) למוצר (משתנה התלוי) וגודל המנה (משתנה ב"ת): • התאם משוואת רגרסיה ליניארית מהצורה: • בדוק בעזרת רגרסיה בשלבים, האם פולינום אחר מתאים לנתונים (התחל מפולינום מסדר 3) • (פתרון בקובץ EXCEL)