‫סמסטר אביב‪ ,‬תשס"ה‬ ‫הטכניון – הפקולטה לתעשיה וניהול‬

‫מבוא לסטטיסטיקה‬
‫תרגיל מספר ‪ - 13‬רגרסיה ליניארית מרובה‬
‫שאלה ‪1‬‬
‫להלן ‪ 16‬תצפיות מתוך מחקר בו נעשה ניסיון להסביר את משתנה ‪ Y‬בעזרת ‪ 2‬משתנים ‪.‬‬

‫‪Y‬‬ ‫‪15‬‬ ‫‪18‬‬ ‫‪12‬‬ ‫‪13‬‬ ‫‪19‬‬ ‫‪17‬‬ ‫‪16‬‬ ‫‪25‬‬ ‫‪20‬‬ ‫‪21‬‬ ‫‪26‬‬ ‫‪21‬‬ ‫‪22‬‬ ‫‪20‬‬ ‫‪29‬‬ ‫‪26‬‬
‫‪X1‬‬ ‫‪-3‬‬ ‫‪-2‬‬ ‫‪-2‬‬ ‫‪-1‬‬ ‫‪-1‬‬ ‫‪-1‬‬ ‫‪0‬‬ ‫‪0‬‬ ‫‪0‬‬ ‫‪0‬‬ ‫‪1‬‬ ‫‪1‬‬ ‫‪1‬‬ ‫‪2‬‬ ‫‪2‬‬ ‫‪3‬‬
‫‪X2‬‬ ‫‪-5‬‬ ‫‪-3‬‬ ‫‪-3‬‬ ‫‪-2‬‬ ‫‪-2‬‬ ‫‪-1‬‬ ‫‪-1‬‬ ‫‪0‬‬ ‫‪0‬‬ ‫‪1‬‬ ‫‪1‬‬ ‫‪2‬‬ ‫‪2‬‬ ‫‪3‬‬ ‫‪3‬‬ ‫‪5‬‬

‫להלן מספר חישובי עזר‪:‬‬

‫‪n‬‬ ‫‪n‬‬ ‫‪n‬‬

‫‪∑X‬‬
‫‪i =1‬‬
‫‪1i‬‬ ‫‪=0‬‬ ‫‪∑X‬‬
‫‪i =1‬‬
‫‪1i i‬‬ ‫‪Y = 91‬‬ ‫‪∑X‬‬
‫‪i =1‬‬
‫‪2‬‬
‫‪1i‬‬ ‫‪= 40‬‬
‫‪n‬‬ ‫‪n‬‬ ‫‪n‬‬

‫‪∑ X 2i = 0‬‬
‫‪i =1‬‬
‫‪∑ X 2iYi = 148‬‬
‫‪i =1‬‬
‫‪∑X‬‬
‫‪i =1‬‬
‫‪2‬‬
‫‪2i‬‬ ‫‪= 106‬‬
‫‪n‬‬ ‫‪n‬‬

‫‪∑ Yi = 320‬‬
‫‪i =1‬‬
‫‪∑Y‬‬
‫‪i =1‬‬
‫‪i‬‬
‫‪2‬‬
‫‪= 6752‬‬

‫תזכורת לגבי גזירה של מטריצות‪:‬‬

‫‪∂Ax‬‬
‫‪ =A‬‬
‫‪∂x‬‬
‫‬
‫‪∂xT Ax‬‬
‫‪  = 2 Ax‬‬
‫‪∂x‬‬ ‫‬
‫‬
‫תזכורת לגבי תוחלת ושונות של וקטור אקראי‪:‬‬
‫‪ .1‬אם ‪ x = ( x1 ,..., xn )T‬הוא וקטור אקראי מגדירים את התוחלת שלו ע"י וקטור שמקיים‬
‫‬
‫‪ [ E ( x)]i = Exi‬כלומר תוחלת הוקטור היא וקטור התוחלות‪ .‬מטריצת השונות )הקווריאנס( הינה‪:‬‬
‫‬
‫] ‪. Var ( x) = E[( x − E ( x))( x − E ( x))T‬‬
‫‬ ‫‬ ‫ ‬ ‫‬
‫‪ .2‬נתונה ‪ A‬מטריצה של קבועים ממימד ‪ n × m‬ו ) ‪ x = ( x1 ,..., xn‬הוא וקטור אקראי‪ .‬נגדיר‪:‬‬
‫‪T‬‬

‫‬
‫‪ . u = Ax‬קל לראות שהתכונות הבאות מתקיימות‪:‬‬
‫‬ ‫‬
‫)‪E (u ) = E ( Ax) = AE ( x‬‬
‫‬ ‫‬ ‫‬
‫‪Var (u ) = AVar ( x) AT‬‬
‫‬ ‫‬

‫רשום מהו מודל של רגרסיה ליניארית עבור נתונים אלה ומהן ההנחות שלו? מהי השונות‬ ‫א‪.‬‬
‫והתוחלת של המודל‪.‬‬
‫מצא את אמדי הריבועים הפחותים?‬ ‫ב‪.‬‬
‫רשום באופן סכמתי את המטריצה ‪ X‬את ‪ X T X‬ואת הוקטור ‪ . X T Y‬הצב את הנתונים‪.‬‬ ‫ג‪.‬‬
‫חשב את אמדי הריבועים הפחותים‪.‬‬ ‫ד‪.‬‬
 ‫סמסטר אביב‪ ,‬תשס"ה‬ ‫הטכניון – הפקולטה לתעשיה וניהול‬

‫ה‪ .‬מצא את האמד לשונות של הסטיות מקו הרגרסיה‪.‬‬

‫ו‪ .‬מהי מטריצת הקוואריאנס של האמדים ? חשב את מטריצת הקווריאנס של האמדים‪.‬‬
‫ז‪ .‬תן חיזוי ל ‪ Y‬עבור הוקטור )‪. (2, 2‬‬

‫תרגיל בית ‪13‬‬

‫שאלה ‪1‬‬
‫) ‪.σ ( X X‬‬
‫‪2‬‬ ‫‪T‬‬ ‫‪−1‬‬
‫הוכח שאכן מטריצת השונות של האמדים ברגרסיה לינארית מרובה הינה‬

‫שאלה ‪2‬‬
‫פתח את קובץ הנתונים "‪ "data.xls‬המצויי באתר )בשיעורי בית(‪.‬‬
‫להלן תיאור הנתונים‪:‬‬
‫הקובץ מכיל ‪ 500‬תצפיות שנאספו במסגרת מחקר שנערך על הקשר בין זיהום אוויר בכבישים‬
‫לבין כמות התנועה שעוברת בכבישים הללו ומשתנים מטרולוגיים נוספים בנורווגיה בין אוקטובר‬
‫‪ 2001‬ואוגוסט ‪ .2003‬העמודה הראשונה מכילה את הלוג של ריכוז ‪)ׁPM10‬מדד לזיהום אוויר(‪.‬‬
‫העמודות ‪ 2‬עד ‪ 7‬מכילות את המשתנים הבאים‪:‬‬
‫עמודה ‪ – 2‬לוג מספר המכוניות שחולפות בשעה בכביש‬
‫עמודה ‪ – 3‬הטמפרטורה שנמדדה בגובה ‪ 2‬מטר מעל הכביש )בסלציוס(‪.‬‬
‫עמודה ‪ – 4‬מהירות הרוח )מטרים לשנייה(‬
‫עמודה ‪ – 5‬כיוון הרוח )מעלות בין ‪ 0‬ל‪(360‬‬
‫עמודה ‪ – 6‬שעה ביום‬
‫עמודה ‪ – 7‬מספר היום כאשר הספירה מתחילה ב ‪. 1.10.2001‬‬
‫הנתונים נאספו ע"י ‪.Norwegian Public Roads Administration‬‬

‫על מנת לענות על שאלה זו יהיה עליך לבצע את השלבים הבאים‪:‬‬

‫פתח את תוכנת ‪ .excel‬אוסף את כלי הניתוח הסטטיסטי בדרך הבאה‪:‬‬
‫ב ‪ Tools->add-ins->Analysis ToolPak‬ולחץ ‪ . ok‬עכשו בכלים יופיע לך שורה של ' ‪Data‬‬
‫‪ .'Analysis‬מצא את השורה המתאימה לרגרסיה‪ .‬כלי זה יאפשר לך לבצע ניתוחי רגרסיה מרובה‬
‫בפשטות יחסית‪.‬‬

‫נסח את מודל הרגרסיה המתאים‪.‬‬ ‫‪.1‬‬

‫הרץ את מודל הרגרסיה המתאים בעזרת ‪ . excel‬מהם מקדמי הרגרסיה?‬ ‫‪.2‬‬
‫מצא את אמדי השונות של כל המקדמים‪.‬‬ ‫‪.3‬‬
‫מהן ההנחות שמניחים במודל רגרסיה לינארית? חשב את סטיית הערך האמיתי של‬ ‫‪.4‬‬
‫התצפית ה‪ i-‬ית ) ‪ ( yi‬מהערך המנובא של התצפית ה‪ i-‬ית ) ‪ . ( yˆi‬האם הסטיות הללו‬
‫מקיימות את הנחת הנורמליות של המודל? )בסס את תשובתך על מדד סטטיסטי(‪.‬‬