‫נגזרת‬ ‫אינטגרל‬ ‫)‬ ‫(‬ ‫)‬ ‫)‬ ‫)) (‬ ‫) ( ) (‬ ‫∑‬ ‫(‬ ‫)‬ ‫|‬ ‫(‬ ‫(‬ ‫)‬ ‫)) (‬ ‫(‬ ‫) ( ) (‬ ‫) ( )) ( (‬ ‫|‬ ‫(‬ ‫) (‬ ‫) ( ) ( ∫‬ ‫)‬ ‫∑‬ ‫) (‬ ‫) ( ) (‬ ‫) ( ) (‬ ‫∫‬ ‫בחירה ללא סדר וללא החזרה בחירה ללא סדר ועם החזרה‬ ‫) (‬ ‫(‬ ‫פואסון‬ ‫) (‬ ‫אחידה – רציף‬ ‫(‬ ‫)‬ ‫אקספוננציאלית‬ ‫) (‬ ‫נורמלית‬ ‫(‬ ‫)‬ ‫סוג המדגם‬ ‫‪CDF‬‬ ‫‪PDF‬‬ ‫תוחלת‬ ‫)‬ ‫()‬ ‫(‬ ‫)‬ ‫)‬ ‫)‬ ‫)‬ ‫(‬ ‫)‬ ‫(‬ ‫(‬ ‫)‬ ‫)‬ ‫(‬ ‫)‬ ‫(‬ ‫(‬ ‫() (‬ ‫)‬ ‫(‬ ‫)‬ ‫(‬ ‫)‬ ‫)‬ ‫)‬ ‫(‬ ‫(‬ ‫(‬ ‫) (‬ ‫(‬ ‫שונות‬ ‫)‬ ‫(‬ ‫)‬ ‫)‬ ‫)‬ ‫‪MGF‬‬ ‫⌋ ⌊‬ ‫(‬ ‫(‬ ‫(‬ ‫√‬ ‫אומד ניראות מירבית‬ ‫∑‬ ‫) (‬ ‫(‬ ‫(‬ ‫)) ( ( (‬ ‫היפר‪-‬גיאומטרית‬ ‫(‬ ‫)‬ ‫) (‬ ‫∑‬ ‫(‬ ‫(‬ ‫שם ההתפלגות‬ ‫אחידה – בדיד‬ ‫(‬ ‫)‬ ‫ברנולי‬ ‫) (‬ ‫בינומית‬ ‫(‬ ‫)‬ ‫גיאומטרית‬ ‫) (‬ ‫)‬ ‫(‬ ‫)‬ ‫)) ( ) ( (‬ ‫∑‬ ‫∫‬ ‫)‬ ‫בחירה עם סדר ללא החזרה בחירה עם סדר ועם החזרה‬ ‫)‬ ‫טור‬ ‫} {‬ ‫‪⁄‬‬ ‫רווח סמך‬ ‫בעזרת קירוב נורמלי וחסם על השונות‬ ‫) (̂‬ ‫) (̂‬ ‫) (̂‬ ‫]‬ ‫]‬ ‫[‬ ‫√‬ ‫} {‬ ‫√‬ ‫} {‬ ‫בדיקת השערות‬ ‫∑‬ ‫[‬ ‫∑‬ ‫(‬ ‫)‬ ‫כאשר השונות ידועה‬ ‫) (̂‬ ‫(‬ ‫)‬ ‫כאשר התוחלת ידועה‬ ‫)‬ ‫]‬ ‫)‬ ‫(‬ ‫√‬ ‫[‬ ‫√‬ ‫√‬ ‫יש גם מבחן הפוך‬ ‫יש גם מבחן דו‪-‬צדדי‬ ‫) (̂‬ ‫(∑‬ ‫שני הקודמים יחד‬ ‫(‬ ‫)‬ ‫דגימה בודדת‬ ‫כאן‬ ‫) (̂‬ ‫) (‬ ‫)‬ ‫טענה‪:‬‬ ‫)‬ ‫)‬ ‫(‬ ‫)‬ ‫(‬ ‫∑‬ ‫– לשניהם אותו מספר הטלות‬ ‫– לאבי יותר "עץ"‪,‬‬ ‫"עץ"‪ .‬נחשב את ההסתברויות של המאורעות‪:‬‬ ‫) (‬ ‫) (‬ ‫) (‬ ‫) (‬ ‫) (‬ ‫) (‬ ‫) (‬ ‫) ( ) | (‬ ‫) ( ) | (‬ ‫) ( ) | (‬ ‫⋃(‬ ‫(‬ ‫הסתברות מותנית‪:‬‬ ‫(‬ ‫)‬ ‫) | ( ‪.‬‬ ‫) (‬ ‫))‬ ‫)‬ ‫טענה (חוק הכפל או חוק השרשרת)‪:‬‬ ‫) | ( )‬ ‫| (‬ ‫)‬ ‫( ‪.‬‬ ‫⋂(‬ ‫טענה (נוסחת ההסתברות השלמה)‪ :‬עבור זוג מאורעות‬ ‫) | ( ) (‬ ‫) ( ‪.‬‬ ‫מתקיים ) | ( ) (‬ ‫טענה (חוק בייס – ‪:)Bayes‬‬ ‫בניסוח אחר‪:‬‬ ‫) ( ) | (‬ ‫) (‬ ‫) ( ) | (‬ ‫) ( ) | ( ) ( ) | (‬ ‫חלוקה‪:‬‬ ‫) ( ) | (‬ ‫) ( ) | (‬ ‫) | ( ‪.‬‬ ‫) | ( ‪.‬‬ ‫)‬ ‫∑‬ ‫( ) | (‬ ‫) (‬ ‫) | ( ‪.‬‬ ‫טענה‪:‬‬ ‫הגדרה‪ :‬נאמר שהמאורעות‬ ‫מתקיים ) (‬ ‫{‬ ‫}‬ ‫∏‬ ‫(‬ ‫(‬ ‫)‬ ‫(‬ ‫)‬ ‫(‬ ‫הגדרה‪ :‬פונקציית התפלגות (‪ Probability Mass Function‬או‬ ‫‪ )Probability Distribution‬של מ"מ זו הפונקציה ) (‬ ‫∑ )‬ ‫) (‬ ‫( ‪.‬‬ ‫) (‬ ‫הגדרה‪ :‬ההסתברות לשרוד (‪ )Survival Function‬על מ"מ‬ ‫( )‬ ‫)‬ ‫( ‪.‬‬ ‫זוהי ההסתברות‬ ‫) (‬ ‫טענה (תכונת חוסר הזיכרון של מ"מ גיאומטרי)‪ :‬יהי ) (‬ ‫|‬ ‫)‬ ‫( ‪.‬‬ ‫(‬ ‫אזי )‬ ‫) | ( אז נאמר ש‪ -‬בלתי‪-‬תלוי ב‪. -‬‬ ‫הגדרה‪ :‬אם ) (‬ ‫(‬ ‫)‬ ‫(‬ ‫)‬ ‫‪.‬‬ ‫‪ .‬נסמן‬ ‫בניסוח אחר‪( ) ,‬‬ ‫‪‬‬ ‫תלוי ב‪-‬‬ ‫בלתי‪-‬תלויים אם לכל‬ ‫)‬ ‫⋂( ‪.‬‬ ‫מטבעות (הוגנים‪ ,‬ב"ת)‪.‬‬ ‫אבי מטיל מטבעות ובתיה מטילה‬ ‫מהי הסיכוי שלבתיה יהיה יותר "עץ" מאשר לאבי?‬ ‫‪ o‬נסמן – לבתיה יש יותר "עץ" מלאבי‪ .‬נסתכל על‬ ‫– לבתיה יותר "עץ"‪,‬‬ ‫ההטלות הראשונות שלהם ונסמן‪:‬‬ ‫טענה‪ :‬יהי )‬ ‫להסתברות )‬ ‫הגדרה‪ :‬יהי‬ ‫) ‪.‬‬ ‫(‬ ‫‪ .‬הגבול )‬ ‫( עבור ) (‬ ‫זהה‬ ‫‪.‬‬ ‫מ"מ‪ .‬התוחלת של‬ ‫טענה‪ :‬יהי מ"מ ונגדיר ) (‬ ‫( ) (‬ ‫כלשהי‪ .‬מתקיים‪) :‬‬ ‫‪‬‬ ‫(‬ ‫‪,‬‬ ‫היא‪:‬‬ ‫(‬ ‫כאשר‬ ‫∑ ] [ ‪.‬‬ ‫∑‬ ‫] [‬ ‫פונקציה‬ ‫מבצעים הטלות ב"ת של מטבע עם הסתברות ‪ .‬מהי ההסתברות‬ ‫שמספר ה"עץ" יהיה זוגי?‬ ‫הסופר את מספר ה"עצים"‪ .‬נסמן‬ ‫(‬ ‫‪ o‬נגדיר מ"מ )‬ ‫‪ .‬נוסחת‬ ‫ההסתברות למס' זוגי של "עץ" לאחר הטלות‪.‬‬ ‫(‬ ‫( )‬ ‫)‬ ‫הנסיגה היא‪:‬‬ ‫(‬ ‫(‬ ‫(‪ .‬באינדוקציה‪) ) ,‬‬ ‫)‬ ‫‪.‬‬ ‫‪o‬‬ ‫דרך אחרת – נפתח ישירות‪:‬‬ ‫)‬ ‫]‬ ‫(‬ ‫) ( )‬ ‫)‬ ‫()‬ ‫)‬ ‫(∑‬ ‫(‬ ‫)‬ ‫]‬ ‫) )‬ ‫טענה‪ :‬יהי‬ ‫() (∑‬ ‫(‬ ‫(‬ ‫[‬ ‫] ))‬ ‫מ"מ אי‪-‬שלילי‪ ,‬אזי ] [‬ ‫)‬ ‫מ"מ‪,‬‬ ‫הוא ]‬ ‫הגדרה‪ :‬המומנט ה‪ -‬של מ"מ‬ ‫טענה‪[ ] :‬‬ ‫[‬ ‫]‬ ‫) (‬ ‫טענה‪:‬‬ ‫(‬ ‫‪‬‬ ‫∑‪.‬‬ ‫(‬ ‫] [‬ ‫([‬ ‫) (‬ ‫[ ‪.‬‬ ‫‪.‬‬ ‫‪ ,‬באופן ב"ת בשידורים‬ ‫משדר שולח ‪ 1‬בהסתברות ו‪ 0-‬בהסתברות‬ ‫‪.‬‬ ‫קודמים‪ .‬נגדיר – מספר השידורים ליחידת זמן‪ ,‬וידוע ש‪( ) -‬‬ ‫מה ההתפלגות של ה‪-1-‬ים ביחידת זמן?‬ ‫‪ o‬נסמן ב‪ -‬את מספר ה‪-1-‬ים‪ ,‬מספר ה‪-0-‬ים ונחשב את‬ ‫ההתפלגות המשותפת‪:‬‬ ‫(‬ ‫)‬ ‫(‬ ‫)‬ ‫(‬ ‫|‬ ‫( )‬ ‫)‬ ‫)‬ ‫‪.‬‬ ‫(‬ ‫)‬ ‫)‬ ‫(‬ ‫)‬ ‫‪.‬‬ ‫(‬ ‫)‬ ‫)‬ ‫) (‬ ‫)‬ ‫)‬ ‫(‬ ‫(‬ ‫)‬ ‫( (‬ ‫(‬ ‫∑‬ ‫(‬ ‫∑‬ ‫)‬ ‫)‬ ‫∑‬ ‫(‬ ‫)‬ ‫(‬ ‫)‬ ‫∑‬ ‫)‬ ‫(‬ ‫(‬ ‫(‬ ‫כאשר כאן המעבר האחרון היה לפי טור טיילור של‬ ‫)‪ .‬לבסוף קיבלנו ש‪( )-‬‬ ‫(‬ ‫הזה‪) ,‬‬ ‫סביר אינטואיטיבית‪.‬‬ ‫הגדרה‪ :‬יהיו‬ ‫בהינתן או‬ ‫(‬ ‫(‬ ‫))‬ ‫‪o‬‬ ‫מטילים קוביה עם פאות‪ ,‬כשלפאה ה‪ -‬הסתברות ‪ .‬יהי‬ ‫ערכים‬ ‫מספר הפעמים שיצאה הפאה ה‪ -‬ב‪ -‬הטלות‪ .‬ה‪-‬‬ ‫הראשונים קובעים את הערך האחרון‪ .‬זו התפלגות מולטינומית‪:‬‬ ‫( ∑‬ ‫)‬ ‫(‬ ‫משתנים מקריים‪ ,‬אזי‬ ‫(‬ ‫(‬ ‫)‬ ‫מ"מ‪ .‬ההתפלגות המשותפת‪) :‬‬ ‫הגדרה‪:‬‬ ‫{ }‬ ‫)}‬ ‫{( ‪ .‬ההתפלגות השולית של ‪:‬‬ ‫∑ )‬ ‫) (‬ ‫( ‪.‬‬ ‫)‬ ‫( ∑‬ ‫[ ‪.‬‬ ‫(‬ ‫טענה (ליניאריות התוחלת)‪ :‬יהיו‬ ‫]‬ ‫] [‬ ‫] [‬ ‫[ ‪.‬‬ ‫( )‬ ‫|‬ ‫‪.‬‬ ‫)‬ ‫מ"מ‪( ) ,‬‬ ‫[‬ ‫]‬ ‫הגדרה‪ :‬השונות של מ"מ ] )] [‬ ‫√ ) (‬ ‫סטיית התקן של היא ) (‬ ‫)‬ ‫(‬ ‫)‬ ‫(‬ ‫טענה (ליניאריות התוחלת)‪:‬‬ ‫)‬ ‫) ( ∑[‬ ‫( ∑‬ ‫(‬ ‫(במקרה‬ ‫‪ ,‬מה שדי‬ ‫מ"מ ו‪ -‬מאורע‪ .‬התוחלת המותנית של‬ ‫מוגדרת להיות‪:‬‬ ‫|‬ ‫(‬ ‫∑‬ ‫]‬ ‫) |‬ ‫(‬ ‫∑‬ ‫] | [‬ ‫)‬ ‫| [‬ ‫ההתפלגות השולית של משתנה מסוים‪:‬‬ ‫(‬ ‫)‬ ‫) (‬ ‫∑‬ ‫טענה (נוסחת התוחלת השלמה עבור מאורעות)‪ :‬תהי‬ ‫]] | [ [ ‪.‬‬ ‫חלוקה של ‪ .‬אזי ] [‬ ‫על כל משתנה אפשר לחשוב כהצלחה‪/‬כישלון בבחירת ‪:‬‬ ‫(‬ ‫)‬ ‫‪.‬‬ ‫הגדרה‪ :‬יהי‬ ‫}‬ ‫) (‬ ‫)‬ ‫של‬ ‫מ"מ ו‪ -‬מאורע‪ ,‬נגדיר‬ ‫(‬ ‫) |‬ ‫) ( |‬ ‫{(‬ ‫)‬ ‫ההתפלגות המותנית‬ ‫(‬ ‫)}‬ ‫(‬ ‫טענה‪ :‬לכל‬ ‫מ"מ‪ ,‬נגדיר‬ ‫{ }‬ ‫)‬ ‫{(‬ ‫(‬ ‫ההתפלגות המותנית של‬ ‫טענה‪] :‬‬ ‫[ ]‬ ‫טענה‪ :‬לכל )‬ ‫בהינתן המאורע ‪.‬‬ ‫הגדרה‪ :‬יהיו‬ ‫)‬ ‫טענה (נוסחת התוחלת השלמה עבור משתנים מקריים)‪ :‬יהיו‬ ‫מ"מ‪ .‬אזי ] [‬ ‫]] | [ [ ‪.‬‬ ‫)‬ ‫|‬ ‫(‬ ‫)‬ ‫(‬ ‫|‬ ‫הגדרה‪ :‬מ"מ‬ ‫( )‬ ‫)‬ ‫בהינתן ‪.‬‬ ‫)‬ ‫(‬ ‫( )‬ ‫|‬ ‫בניסוח אחר‪) :‬‬ ‫שזהו חוק הכפל (או חוק השרשרת) עבור משתנים מקריים‪.‬‬ ‫באופן דומה אפשר לקבל גם את נוסחת ההסתברות השלמה‪:‬‬ ‫( ‪,‬‬ ‫]‬ ‫[‬ ‫( ‪( ),‬‬ ‫|‬ ‫[ ‪.‬‬ ‫)‬ ‫(‬ ‫מתקיים ] | [‬ ‫∑‬ ‫] |)‬ ‫] |]‬ ‫ייקראו בלתי‪-‬תלויים אם לכל‬ ‫)‬ ‫(‬ ‫( ‪.‬‬ ‫מ"מ‪ .‬המ"מ‬ ‫הגדרה‪ :‬יהיו‬ ‫מתקיים‬ ‫בהינתן אם לכל‬ ‫|‬ ‫( )‬ ‫|‬ ‫)‬ ‫( ‪.‬‬ ‫( [ ‪.‬‬ ‫| [ [ ‪.‬‬ ‫מתקיים‬ ‫ייקראו בלתי‪-‬תלויים‬ ‫(‬ ‫|‬ ‫)‬ ‫‪‬‬ ‫יהי מ"מ שהוא ההסתברות שהשמש זורחת מחר (אחיד‪ ,‬עם תומך‬ ‫{) ו‪ -‬מ"מ הסופר את מספר הזריחות ב‪ 100-‬הימים‬ ‫}‬ ‫הקרובים אז‪:‬‬ ‫(‬ ‫‪) o‬‬ ‫] | [ (תוחלת של מ"מ‬ ‫‪ ,‬ומתקיים‬ ‫בינומי)‪.‬‬ ‫‪ o‬כעת אפשר להשתמש בנוסחת התוחלת השלמה ולקבל‪:‬‬ ‫∑‬ ‫‪‬‬ ‫| [ )‬ ‫]‬ ‫]] | [ [‬ ‫( ∑‬ ‫] [‬ ‫מטילים מטבע עם הסתברות לעץ עד לקבלת עץ בפעם הראשונה‪ .‬לאחר‬ ‫מכן מטילים שוב את אותו מספר הטלות וסופרים כמה עץ יצא‪ .‬מה‬ ‫ההסתברות שלא יצא עץ בכלל בסיבוב השני?‬ ‫‪ .‬נסמן‬ ‫‪ o‬נסמן – מספר ההטלות בסיבוב הראשון‪( ) ,‬‬ ‫גם – מספר ההטלות בסיבוב השני‪ ,‬וכאן יש תלות בין‬ ‫‪.‬‬ ‫(‬ ‫| ‪ ,‬כלומר )‬ ‫(‬ ‫המשתנים‪) :‬‬ ‫( ‪:‬‬ ‫‪ o‬כעת אנו מחשבים את )‬ ‫( )‬ ‫)‬ ‫( ∑‬ ‫|‬ ‫)‬ ‫)‬ ‫( ∑‬ ‫מ"מ ב"ת‪ .‬אזי ) (‬ ‫טענה‪:‬‬ ‫‪‬‬ ‫)‬ ‫‪‬‬ ‫יהיו ) (‬ ‫))‬ ‫(‬ ‫) (‬ ‫(‪.‬‬ ‫()‬ ‫)‬ ‫)‬ ‫(‬ ‫הגדרה‪ :‬יהיו‬ ‫∏‬ ‫) (‬ ‫(‬ ‫‪ .‬אזי‬ ‫‪o‬‬ ‫‪o‬‬ ‫{‬ ‫)‬ ‫)‬ ‫טענה‪ :‬אי‪-‬תלות בשלשות גוררת אי‪-‬תלות בזוגות‪.‬‬ ‫‪‬‬ ‫{‬ ‫מספר טבעי‪ .‬בשלב ‪ 1‬מגרילים מתוך }‬ ‫נתון‬ ‫‪ .‬בשלב ‪,2‬‬ ‫בהסתברות לאו דווקא אחידה‪ ,‬אבל יודעים את ] [‬ ‫דוגמים מתוך }‬ ‫{ איברים ללא החזרה בהסתברות אחידה‪,‬‬ ‫{‪.‬‬ ‫ונסמנם ‪ .‬נסמן גם – מספר האיברים ב‪ -‬שהם ב‪}-‬‬ ‫‪ o‬נמצא את התוחלת של ‪ :‬בהינתן ‪ ,‬נסמן (עבור‬ ‫}‬ ‫{) מ"מ המקבל ‪ 1‬אם המספר ה‪ -‬שנבחר הוא ב‪-‬‬ ‫| ‪ ,‬וכן ] | [‬ ‫∑‬ ‫}‬ ‫{ ו‪ 0-‬אחרת‪ .‬מתקיים |‬ ‫] [ (משתנה בינומי עם פרמטר )‪.‬‬ ‫]‬ ‫]]‬ ‫[‬ ‫[‬ ‫]] |‬ ‫[‬ ‫]] | [ [‬ ‫∑[ [‬ ‫] [‬ ‫‪ o‬נמצא את ההתפלגות של ‪ .‬יש שני סוגים של איברים (‪1,2,1‬‬ ‫וכל השאר)‪ ,‬מוציאים איברים ושואלים מה ההסתברות ש‪-‬‬ ‫(‬ ‫מתוכם הם מהסוג הראשון‪ .‬כלומר‪) ,‬‬ ‫‪.‬‬ ‫עצים‪.‬‬ ‫מטילים מטבע שהסתברותו היא ‪ ,‬עד שמתקבל רצף של‬ ‫‪ o‬נסמן את מספר ההטלות‪ ,‬מספר ההטלות עד שהתקבל פלי‬ ‫‪.‬‬ ‫(‬ ‫(לראשונה)‪ .‬כמובן‪) ,‬‬ ‫‪‬‬ ‫) (‬ ‫‪o‬‬ ‫| [ )‬ ‫]‬ ‫( ∑‬ ‫] [‬ ‫‪ ,‬אז ניסיונות כבר קרו‪ ,‬ועכשיו שוב‬ ‫זאת משום שאם‬ ‫ממשיכים עם כאילו שחזרנו להתחלה‪ .‬לכן‪:‬‬ ‫)‬ ‫)‬ ‫(‬ ‫‪o‬‬ ‫(‬ ‫] [‬ ‫∑‬ ‫] [ )‬ ‫()] [‬ ‫([‬ ‫()‬ ‫|‬ ‫]‬ ‫‪.‬‬ ‫(‬ ‫כלומר‪ ,‬קיבלנו ש‪)-‬‬ ‫‪ ,‬מהי התפלגות ? בה"כ‬ ‫כעת‪ ,‬בהינתן‬ ‫(‬ ‫)‬ ‫(‬ ‫)‬ ‫(‬ ‫)‬ ‫(‬ ‫(‬ ‫( )‬ ‫)‬ ‫(‬ ‫)‬ ‫(‬ ‫()‬ ‫)‬ ‫(‬ ‫)‬ ‫(‬ ‫()‬ ‫)‬ ‫)‬ ‫(‬ ‫)‬ ‫)‬ ‫‪o‬‬ ‫(‬ ‫וכעת אם נסמן‬ ‫)‬ ‫(‬ ‫)‬ ‫( )‬ ‫∑‬ ‫( )‬ ‫∑‬ ‫|‬ ‫(‬ ‫() (‬ ‫∑‬ ‫|‬ ‫‪.‬‬ ‫‪ ,‬כך שקיימת פונקציה‬ ‫הגדרה‪ :‬מ"מ רציף הוא פונקציה‬ ‫)‬ ‫) ( המקיימת ) (‬ ‫( ‪ ,‬הנקראת פונקציית‬ ‫צפיפות הסתברות‪ ,‬והמקיימת את האקסיומות הבאות‪:‬‬ ‫(‪)1‬‬ ‫(‪)2‬‬ ‫) (‬ ‫) (‬ ‫לכל‬ ‫‪,‬‬ ‫לכל פונקציה של מ"מ‬ ‫) ( ) (‬ ‫]) ( [ ‪.‬‬ ‫הגדרה‪ :‬אם מ"מ רציף ו‪-‬‬ ‫שלו היא‪[ ]) ( ) :‬‬ ‫פונקציית הצפיפות שלו‪ ,‬השונות‬ ‫) (‬ ‫(‬ ‫‪.‬‬ ‫טענה (תכונת חוסר הזיכרון)‪ :‬יהי ) (‬ ‫|‬ ‫)‬ ‫(‬ ‫)‬ ‫( ‪.‬‬ ‫[‬ ‫{‪.‬‬ ‫[‬ ‫]‬ ‫]] |‬ ‫[ ‪.‬‬ ‫[ [‬ ‫]‬ ‫(‬ ‫(‬ ‫‪ ,‬אז מקבלים ש‪-‬‬ ‫∑‬ ‫ואז‪:‬‬ ‫‪ ,‬אזי‬ ‫הגדרה‪ :‬יהי מ"מ עם פ' צפיפות ) ( ‪ ,‬לפונקציה‬ ‫נקרא פונקציית ההתפלגות המצטברת של ‪( ) :‬‬ ‫) (‬ ‫)‬ ‫) (‬ ‫) ( ‪ .‬כמו כן‪:‬‬ ‫( ‪ .‬מתקיים‪:‬‬ ‫הבאה‬ ‫מ"מ ב"ת‪ .‬אזי ] [ ] [‬ ‫טענה‪( :‬טריק שימושי) ]] | [‬ ‫(∑‬ ‫) (‬ ‫(‬ ‫כך נוכל לחשב גם את השונות‪ ,‬שכן‬ ‫] )‬ ‫טענה‪:‬‬ ‫] [‬ ‫| [‬ ‫)‬ ‫(‬ ‫הגדרה‪ :‬אם מ"מ רציף ו‪ -‬פונקציית הצפיפות שלו‪ ,‬התוחלת‬ ‫שלו היא‪( ) :‬‬ ‫] [ ‪.‬‬ ‫על התוחלת המותנית אנו יכולים לומר את הדבר הבא‪:‬‬ ‫{‬ ‫‪o‬‬ ‫]] | [ [‬ ‫]‬ ‫∑‬ ‫)‬ ‫∑‬ ‫(‬ ‫( ∑‬ ‫(‬ ‫(∑‬ ‫מ"מ‪ .‬הם ייקראו בלתי‪-‬תלויים אם‬ ‫(‬ ‫‪.‬‬ ‫)‬ ‫( )‬ ‫)‬ ‫}‬ ‫)‬ ‫סניפים רוצים להתאחד‪ .‬בכל סניף מס' הלקוחות היומי מתפלג‬ ‫פואסון עם פרמטר באופן ב"ת‪ .‬מספר הלקוחות בסניף המאוחד‪,‬‬ ‫שנסמנו ‪:‬‬ ‫∑ ] [ ‪.‬‬ ‫∑ ] [‬ ‫‪ o‬התוחלת‪:‬‬ ‫‪ o‬נפתח את פונקציית ההתפלגות לסניף המאוחד – לצורך הנוחות‬ ‫‪:‬‬ ‫נסתכל כרגע על‬ ‫(‬ ‫)‬ ‫(‬ ‫)‬ ‫{ }‬ ‫)}‬ ‫{((‬ ‫{(‬ ‫{ }‬ ‫)}‬ ‫)‬ ‫)‬ ‫) (‬ ‫(‬ ‫‪.‬‬ ‫[ ‪.‬‬ ‫)‬ ‫) (‬ ‫טענה‪ :‬אם }‬ ‫(‬ ‫(‪)1‬‬ ‫(‪)2‬‬ ‫(‪)3‬‬ ‫(‪)4‬‬ ‫(‪)5‬‬ ‫) (‬ ‫) (‬ ‫) ( לא יורדת‬ ‫) (‬ ‫מתקיים‬ ‫) (‬ ‫מתקיים‬ ‫) ( רציפה מימין‪( ) :‬‬ ‫‪‬‬ ‫} { קבוצת מ"מ ב"ת ו‪}-‬‬ ‫לכל‬ ‫) (‬ ‫) ( ‪.‬‬ ‫) (‬ ‫מ"מ רציפים ב"ת ש"ה עם פ' צפיפות ) ( ‪.‬‬ ‫{‬ ‫‪ o‬אם }‬ ‫אז )) ( ( ) ( ‪.‬‬ ‫) (‬ ‫{‬ ‫‪ o‬אם }‬ ‫אז‬ ‫)) (‬ ‫(‪.‬‬ ‫{‬ ‫}‬ ‫∑(‬ ‫מ"מ ב"ת‪ ,‬אזי )‬ ‫יהיו ) (‬ ‫)‬ ‫(‬ ‫לכל‬ ‫{‬ ‫‪‬‬ ‫‪‬‬ ‫טענה‪ :‬יהי‬ ‫מ"מ רציף אי‪-‬שלילי‪ ,‬אזי‬ ‫הגדרה‪) :‬‬ ‫) ( ‪ .‬עבור‬ ‫(‬ ‫טענה‪ :‬אם )‬ ‫) (‬ ‫(‬ ‫)‬ ‫מתקיים‪:‬‬ ‫)‬ ‫‪‬‬ ‫(‬ ‫הגדרה‪ :‬מ"מ‬ ‫אז )‬ ‫‪.‬‬ ‫{‬ ‫]) (‬ ‫)‬ ‫(( ‪ ,‬כאשר‬ ‫)‬ ‫מתקיים‬ ‫)‬ ‫]] | [ [‬ ‫( מ"מ‪ .‬הפונקציה )‬ ‫הגדרה‪) :‬‬ ‫נקראת פונקציית הצטברות משותפת‪.‬‬ ‫רציפים‬ ‫(‬ ‫(‬ ‫)‬ ‫)‬ ‫|‬ ‫) (‬ ‫|‬ ‫)‬ ‫) (‬ ‫‪ ,‬אז‬ ‫( [‬ ‫])‬ ‫∬‪.‬‬ ‫של‬ ‫‪‬‬ ‫ולקבל‪:‬‬ ‫‪.‬‬ ‫טענה (נוסחת ההסתברות השלמה)‪ :‬אם‬ ‫‪ ,‬אזי ) ( | ) (‬ ‫∑ ) ( ‪.‬‬ ‫]] |‬ ‫[ וגם את השונות המותנית‪.‬‬ ‫מ"מ רציפים‪ ,‬אזי‬ ‫‪.‬‬ ‫|‬ ‫)‬ ‫) (‬ ‫)‬ ‫) (‬ ‫(‬ ‫|‬ ‫)‬ ‫( |‬ ‫( ‪ ,‬לכל‬ ‫‪.‬‬ ‫חלוקה של‬ ‫(‬ ‫|‬ ‫‪.‬‬ ‫‪.‬‬ ‫]‬ ‫])‬ ‫[‬ ‫טענה (כלל בייס המעורב)‪ :‬יהיו‬ ‫) |‬ ‫[ [‬ ‫]‬ ‫[‬ ‫(‬ ‫לנורה יש אורך חיים אקספוננציאלי עם פרמטר ‪ ,‬כאשר )‬ ‫בוחנים את המנורה ומודדים אורך חיים ; מה ניתן לומר עכשיו על ?‬ ‫‪ o‬נתחיל במציאת הצפיפות המותנית‪:‬‬ ‫) ( )‬ ‫( |‬ ‫)‬ ‫( |‬ ‫) (‬ ‫) (‬ ‫‪ o‬כעת אפשר למצוא את המקסימום של הפונקציה כדי לראות מה‬ ‫ה‪ -‬הסביר ביותר בהינתן שקיבלנו מהמדידה‪:‬‬ ‫הגדרה‪ :‬יהי מ"מ רציף ו‪ -‬מאורע‪ .‬פונקציית התפלגות‬ ‫מצטברת מותנית של בהינתן המאורע מוגדרת להיות‬ ‫) ( | ‪ ,‬ופונקציית הצפיפות המותנית מוגדרת‬ ‫(‬ ‫) |‬ ‫) (‬ ‫|‬ ‫(‬ ‫|‬ ‫]‬ ‫בגרסה אחרת‪ ,‬אפשר לכתוב במפורש את ההתפלגות השולית‬ ‫מ"מ רציפים במשותף ו‪-‬‬ ‫הגדרה‪ :‬יהיו‬ ‫( מוגדרת להיות‬ ‫התוחלת המשותפת על )‬ ‫|‬ ‫]] | [‬ ‫∫‬ ‫| [‬ ‫] [‬ ‫טענה (חוק בייס הרציף)‪ :‬יהיו‬ ‫(‬ ‫(‬ ‫באופן דומה אפשר לחשב את‬ ‫] [‬ ‫(‬ ‫( רציפים במשותף‪ ,‬מתקיים )‬ ‫כאשר )‬ ‫) (‬ ‫‪ .‬כאשר המ"מ בדידים‪ ,‬מתקיים‬ ‫(‬ ‫∑ )‬ ‫∑‬ ‫) (‬ ‫‪ .‬עובד גם על מעורבים‪.‬‬ ‫)‬ ‫)‬ ‫(‬ ‫) (‬ ‫(‬ ‫] | [‬ ‫‪o‬‬ ‫אם‬ ‫∫‬ ‫וכעת אפשר לחשב את התוחלת של ‪ ,‬נשתמש לשם כך‬ ‫שתוחלת מותנית‪:‬‬ ‫‪o‬‬ ‫(‬ ‫(‬ ‫) (‬ ‫( {‬ ‫] [‬ ‫הגדרה‪ :‬פונקציית הצפיפות השולית של‬ ‫(‬ ‫במשותף היא )‬ ‫) ( ‪.‬‬ ‫כעת מתקיים‬ ‫[‬ ‫)‬ ‫∫‬ ‫נקראים רציפים במשותף אם לכל‬ ‫(‪ )1‬לכל‬ ‫(‪ )2‬מתקיים‬ ‫להיות ) (‬ ‫כעת אפשר למצוא את ההסתברות השולית של ‪:‬‬ ‫‪o‬‬ ‫פונקציית הצפיפות המשותפת מקיימת את התכונות הבאות‪:‬‬ ‫)‬ ‫|‬ ‫] [ ‪.‬‬ ‫) ( ‪ ,‬וגם‬ ‫| ‪ .‬כעת מהגדרת צפיפות מותנית אנו‬ ‫(‬ ‫‪ o‬כמו כן‪) ,‬‬ ‫יכולים למצוא את הצפיפות המשותפת‪:‬‬ ‫(‬ ‫)‬ ‫)‬ ‫(‬ ‫)‬ ‫) ( )‬ ‫( |‬ ‫( |‬ ‫) (‬ ‫‪.‬‬ ‫)‬ ‫(‬ ‫)‬ ‫מתקיים‪:‬‬ ‫∬ )‬ ‫נקראת פונקציית הצפיפות המשותפת שלהם‪.‬‬ ‫(‬ ‫מ"מ רציפים‪ ,‬ההסתברות של‬ ‫(‬ ‫|‬ ‫|‬ ‫)‬ ‫|(‬ ‫)‬ ‫)‬ ‫בהינתן‬ ‫|‬ ‫( ‪.‬‬ ‫שוברים מקל באוך באופן מקרי ואחיד בנקודה מסוימת‪ ,‬נסמן אורך‬ ‫המקל שנותר‪ .‬כעת שוברים את המקל שנותר שוב באופן מקרי ואחיד‪,‬‬ ‫‪.‬‬ ‫ונסמן אורך המקל הסופי‪ .‬רוצים למצוא את הצפיפות המשותפת‬ ‫) ( ‪ .‬לכן‬ ‫‪ ,‬כלומר‬ ‫‪ o‬ראשית נשים לב ש‪( )-‬‬ ‫נקרא נורמלי סטנדרטי‪ ,‬וה‪ CDF-‬שלו מסומנת‬ ‫)‬ ‫( ‪.‬‬ ‫הערך עבורו‬ ‫נסמן‬ ‫(‬ ‫קטע כלשהו‪ ,‬אזי‬ ‫{‪.‬‬ ‫הגדרה‪ :‬יהיו‬ ‫מוגדרת להיות‪:‬‬ ‫] [ ‪.‬‬ ‫(‬ ‫{‬ ‫עבור‬ ‫) (‬ ‫|‬ ‫מתקיים‪:‬‬ ‫)‬ ‫( )‬ ‫) (‬ ‫(‬ ‫|‬ ‫)‬ ‫(‬ ‫[‬ ‫מ"מ בדיד‪,‬‬ ‫(‬ ‫|‬ ‫)‬ ‫(‬ ‫|‬ ‫מ"מ רציף‪ ,‬אז‬ ‫‪.‬‬ ‫הערה‪ :‬אפשר לכתוב את המכנה בעזרת נוסחת הסתברות‬ ‫( )‬ ‫( | ∑ ) ( ‪ ,‬כדי להימנע מהצורך‬ ‫שלמה‪) :‬‬ ‫לחשב ישירות את הצפיפות השולית‪.‬‬ ‫טענה (כלל בייס המעורב‪ :)2 ,‬יהיו‬ ‫) (‬ ‫מתקיים‪:‬‬ ‫)‬ ‫) (‬ ‫(‬ ‫(‬ ‫)‬ ‫|‬ ‫מ"מ בדיד‪,‬‬ ‫)‬ ‫|‬ ‫(‬ ‫מ"מ רציף‪ ,‬אז‬ ‫‪.‬‬ ‫|‬ ‫במכנה מופיעה‪ ,‬למעשה‪ ,‬ההסתברות השולית ) (‬ ‫הגדרה‪ :‬תוחלת מותנית של מ"מ רציפים‬ ‫]‬ ‫)‬ ‫| [ ‪.‬‬ ‫( |‬ ‫הגדרה‪ :‬מ"מ רציפים‬ ‫) ( ) ( ‪.‬‬ ‫טענה (נוסחת השונות השלמה)‪ :‬יהיו‬ ‫]) | (‬ ‫)] | [ (‬ ‫[ ‪.‬‬ ‫מוגדרת ע"י‬ ‫שנוכל לחשבו‪ ,‬לגזור את התוצאה ולהגיע ל‪. ( )-‬‬ ‫(‬ ‫)‬ ‫‪‬‬ ‫‪ .‬הטרנספורמציה הזאת אינה‬ ‫ו‪√| |-‬‬ ‫(‬ ‫יהיו )‬ ‫מונוטונית ולכן נצטרך למצוא את מבוקשנו ידנית‪:‬‬ ‫)‬ ‫) ( ) (‬ ‫) (‬ ‫) (‬ ‫)‬ ‫∫( )‬ ‫)‬ ‫| |√(‬ ‫)‬ ‫מהגדרה זו אפשר לקבל גם הסתברות משותפת‪:‬‬ ‫(‬ ‫)‬ ‫)‬ ‫(‬ ‫(‬ ‫) (‬ ‫∫‬ ‫∫(‬ ‫( )‬ ‫‪‬‬ ‫(‬ ‫( ) (‬ ‫‪:‬‬ ‫כאשר‬ ‫) ( ‪.‬‬ ‫)‬ ‫(‬ ‫) (‬ ‫]‬ ‫) (‬ ‫[‬ ‫] [ ∑‬ ‫]‬ ‫| [ ∑‬ ‫]‬ ‫)‬ ‫]] | [ [‬ ‫] [‬ ‫]‬ ‫]‬ ‫|‬ ‫[ )‬ ‫([ )‬ ‫]‬ ‫]]‬ ‫]‬ ‫[‬ ‫| )‬ ‫‪o‬‬ ‫|‬ ‫(‬ ‫)‬ ‫∑[‬ ‫( ∑‬ ‫]‬ ‫∫‬ ‫|‬ ‫)‬ ‫)‬ ‫(‬ ‫( [‬ ‫()‬ ‫]‬ ‫( ∑‬ ‫(‬ ‫∫‬ ‫∫‬ ‫∫‬ ‫}‬ ‫‪o‬‬ ‫)‬ ‫(‬ ‫{‬ ‫במקרה שההפרש שלילי‪ ,‬אפשר לראות משיקולי סימטריה‬ ‫שמקבלים‪:‬‬ ‫) (‬ ‫(‬ ‫)‬ ‫(‬ ‫)‬ ‫(‬ ‫)‬ ‫)‬ ‫(‬ ‫] [‬ ‫]‬ ‫[‬ ‫‪o‬‬ ‫( צריכה להיות אותה‬ ‫( ול‪)-‬‬ ‫זאת משום של‪)-‬‬ ‫התפלגות – סימטריה מוחלטת בין המ"מ‪.‬‬ ‫הגדרה‪ :‬השונות המשותפת (‪ )Covariance‬של מ"מ‬ ‫([‬ ‫()] [‬ ‫])] [‬ ‫(‬ ‫)‬ ‫‪.‬‬ ‫( ∑‬ ‫[ [)‬ ‫) (‬ ‫) (‬ ‫המעבר הזה נכון כיוון שהמ"מ כולם אותו דבר‪ ,‬ויש לנו רק שני‬ ‫סוגים שונים של גורמים – ריבועים של אותו מ"מ‪ ,‬ומכפלות של‬ ‫כאן ב"ת‬ ‫שני מ"מ שונים‪ .‬בשני המקרים תוחלות שונות כי‬ ‫‪ .‬אפשר להמשיך מכאן‪:‬‬ ‫אםם‬ ‫|‬ ‫∫‬ ‫∫‬ ‫| [‬ ‫( ∑‬ ‫[ )‬ ‫∫ ∫‬ ‫∫) (‬ ‫)‬ ‫בהתקפת קניות שולה מבקרת במספר מקרי של חנויות‪ ,‬ובחנות ה‪-‬‬ ‫מבזבזת סכום מקרי ‪ .‬נניח ש‪ -‬הוא שלם חיובי עם פונקציית התפלגות‬ ‫ידועה ו‪ -‬כולם בעלי אותה תוחלת ושונות ‪ ,‬וכל המ"מ בשאלה ב"ת‪.‬‬ ‫מהי תוחלת ושונות עלות מסע הקניות?‬ ‫∑‬ ‫‪ .‬כאן‬ ‫‪ o‬נסמן ב‪ -‬את סך הכסף ששולה הוציאה‪,‬‬ ‫מתקיים‪:‬‬ ‫מונוטונית ממש‪ .‬אזי‬ ‫‪ 2‬חברים קובעים להיפגש‪ .‬כל אחד מאחר באופן ב"ת בזמן אקספוננציאלי‬ ‫עם פרמטר ‪ .‬מה הצפיפות של הפרש הזמנים בהם הם מגיעים?‬ ‫ההפרש המבוקש‪ .‬נתחיל‬ ‫זמני ההגעה ו‪-‬‬ ‫‪ o‬נסמן‬ ‫מהמקרה שההפרש חיובי‪:‬‬ ‫) (‬ ‫(‬ ‫)‬ ‫(‬ ‫)‬ ‫הם בלתי‪-‬תלויים אםם לכל זוג פונקציות‬ ‫טענה‪ :‬מ"מ‬ ‫מתקיים ]) ( [ ]) ( [‬ ‫]) ( ) ( [ ‪.‬‬ ‫‪‬‬ ‫) (‬ ‫| |(‬ ‫טענה‪ :‬יהי מ"מ‪( ) ,‬‬ ‫| )) (‬ ‫|) (‬ ‫(‬ ‫ולכן האי‪-‬תלות שקולה בהגדרה גם לגבי התפלגות מצטברת‬ ‫) (‬ ‫משותפת‪( ) ( ) :‬‬ ‫‪.‬‬ ‫טענה‪:‬‬ ‫) ‪.‬‬ ‫)‬ ‫)‬ ‫(‬ ‫) (‬ ‫∫∫‬ ‫∫) (‬ ‫ב"ת ו‪-‬‬ ‫מ"מ‪ .‬אזי‬ ‫‪ ,‬ונתונה ) ( ‪ .‬רוצים למצוא את ) (‬ ‫יהיו מ"מ‪( ) ,‬‬ ‫וכל מה שנובע מזה‪ .‬כדי לעשות זאת‪ ,‬נעבור דרך ההתפלגות‬ ‫) (‬ ‫(‬ ‫)‬ ‫) ( (‬ ‫המצטברת‪) :‬‬ ‫) (‬ ‫‪ .‬במקרים מסוימים‪ ,‬זה יהיה מספיק פשוט כדי‬ ‫) (‬ ‫‪.‬‬ ‫נקראים בלתי‪-‬תלויים אם‬ ‫∫∫‬ ‫) (‬ ‫( ∑‬ ‫הגדרה‪:‬‬ ‫)‬ ‫נקראים בלתי‪-‬מתואמים אם‬ ‫()] [‬ ‫נשים לב שמתקיים‪:‬‬ ‫])] [ ‪ ,‬וכן ] [ ] [‬ ‫) (‬ ‫מ"מ ב"ת‪ .‬אזי‬ ‫טענה‪ :‬יהיו‬ ‫([‬ ‫]‬ ‫)‬ ‫[‬ ‫(‬ ‫)‬ ‫היא‪:‬‬ ‫(‬ ‫)‬ ‫(‬ ‫‪.‬‬ ‫(‬ ‫‪.‬‬ ‫‪.‬‬ ‫ההיפך לא נכון‪ :‬ייתכנו מ"מ בלתי‪-‬מתואמים שאינם בלתי‪-‬תלויים‪.‬‬ ‫טענה‪) :‬‬ ‫(‬ ‫)‬ ‫(‬ ‫)‬ ‫(‬ ‫‪.‬‬ ‫טענה‪) :‬‬ ‫ובאופן כללי‪:‬‬ ‫(‬ ‫)‬ ‫(‬ ‫טענה‪) :‬‬ ‫(‬ ‫) (‬ ‫∑‬ ‫)‬ ‫) (‬ ‫‪.‬‬ ‫∑(‬ ‫‪.‬‬ ‫√‬ ‫] [‬ ‫) ( ) (‬ ‫∫ ∫‬ ‫∫ ∫‬ ‫(‬ ‫|‬ ‫מסקנה‪:‬‬ ‫‪‬‬ ‫∫‬ ‫)‬ ‫∫‬ ‫(‬ ‫‪o‬‬ ‫(‬ ‫)‬ ‫‪‬‬ ‫(‬ ‫יהיו )‬ ‫‪o‬‬ ‫)‬ ‫ב"ת ש"ה‪ ,‬ו‪}-‬‬ ‫נראה ש‪-‬‬ ‫(‬ ‫‪o‬‬ ‫‪‬‬ ‫‪‬‬ ‫]] |‬ ‫∑‬ ‫[ [‬ ‫נסתכל על‬ ‫‪o‬‬ ‫(‬ ‫)‬ ‫) (‬ ‫)‬ ‫]‬ ‫∑‬ ‫]‬ ‫(‬ ‫‪.‬‬ ‫[‬ ‫) (‬ ‫]‬ ‫[‬ ‫[‬ ‫(∏‬ ‫)‬ ‫∑‬ ‫]‬ ‫()‬ ‫)‬ ‫)‬ ‫(‬ ‫(‬ ‫)‬ ‫))‬ ‫) (‬ ‫|‬ ‫]‬ ‫] )‬ ‫∑‬ ‫([‬ ‫∑‬ ‫)‬ ‫‪o‬‬ ‫∑‬ ‫(‬ ‫קיבלנו את ה‪ MGF-‬של מ"מ פואסון‪) :‬‬ ‫(‬ ‫( ∏‬ ‫)‬ ‫(‬ ‫(‬ ‫)‬ ‫(‬ ‫)) (‬ ‫→) (‬ ‫קיבלנו ש‪-‬‬ ‫נגדיר מ"מ חדש‬ ‫√‬ ‫) ‪ ,‬כלומר‬ ‫) (‬ ‫סטנדרטי‪. ( ) ,‬‬ ‫(‬ ‫) (‬ ‫(‬ ‫לכל ‪ ,‬וזו פונקציית ההתפלגות‬ ‫‪.‬‬ ‫‪.‬‬ ‫(‬ ‫‪ .‬אזי מתקיים‬ ‫מתכנסת בהתפלגות למ"מ נורמלי‬ ‫[ )‬ ‫( ‪ ,‬והסכום ניתן לקירוב ע"י )‬ ‫( ‪.‬‬ ‫ההסתברות שמערכת תקרוס ביום מסוים היא ‪ .5%‬בשנה יש ‪ 000‬ימי‬ ‫עבודה – מהי ההסתברות שהמערכת תקרוס בלא יותר מ‪ 5-‬ימים בשנה?‬ ‫ומסתכלים על‬ ‫(‬ ‫‪ o‬המ"מ של הקריסה בכל יום ב‪)-‬‬ ‫∑‬ ‫ורוצים לדעת מה ההסתברות שערכו יהיה קטן או‬ ‫שווה ל‪ .5-‬נבצע קירוב נורמלי‪ ,‬השונות והתוחלת ידועים‪:‬‬ ‫)‬ ‫( (‬ ‫|‬ ‫משפט (משפט הגבול המרכזי – ‪ :)Central Limit Theorem‬יהיו‬ ‫מ"מ בלתי‪-‬תלויים שווי התפלגות ונגדיר‬ ‫) (‬ ‫] [ (סופיים)‪.‬‬ ‫‪ .‬נסמן‬ ‫‪‬‬ ‫( ∑‬ ‫)‬ ‫|(‬ ‫באמצעות המשפט ניתן לבצע קירוב נורמלי – הממוצע של קבוצת‬ ‫ניתן לקירוב ע"י‬ ‫מ"מ ב"ת ש"ה בעלי תוחלת ושונות‬ ‫ספציפי‪:‬‬ ‫[‬ ‫{‬ ‫אם‬ ‫‪.‬‬ ‫המצטברת של מ"מ אקספוננציאלי‪ .‬לכן ) (‬ ‫ונחחזור לתוחלת‪:‬‬ ‫‪o‬‬ ‫{‬ ‫פונקציה יוצרת מומנטים שלו‪ .‬אזי‬ ‫קובעים את‬ ‫( סדרה‬ ‫‪ .‬סדרה זו לא מתכנסת בהסתברות ל‪:0-‬‬ ‫→ )‬ ‫מ"מ ב"ת אז ) (‬ ‫אם‬ ‫‪ ,‬אז ]‬ ‫אם‬ ‫) (‬ ‫‪.‬‬ ‫זבובים נכנסים לחדר‪ ,‬ובחדר מלכודת‪ .‬הזבוב ה‪ -‬שנכנס ייתפס במלכודת‬ ‫ב"ת וש"ה‪ – .‬מס' הזבובים שנכנסו‬ ‫בהסתברות ‪ ,‬כלומר ) (‬ ‫לחדר‪ ,‬ונתון ) (‬ ‫‪ – .‬מס' הזבובים שנתפסו‪:‬‬ ‫(‬ ‫)‬ ‫( ) (‬ ‫‪ o‬ניזכר ש‪)-‬‬ ‫) ( ‪:‬‬ ‫ו‪-‬‬ ‫‪‬‬ ‫)‬ ‫(‬ ‫נגדיר‬ ‫}‬ ‫‪o‬‬ ‫משפט‪ :‬המומנטים (מכל סדר) של מ"מ‬ ‫ביחידות‪.‬‬ ‫|‬ ‫(מתכנסת בהסתברות ל‪.)0-‬‬ ‫)‬ ‫(‬ ‫{‬ ‫}‬ ‫)‬ ‫→ )‬ ‫הגדרה‪ :‬יהי מ"מ‪ .‬פונקציה יוצרת מומנטים שלו מוגדרת להיות‬ ‫[‬ ‫]‬ ‫) ( ‪.‬‬ ‫) (‬ ‫[‬ ‫)‬ ‫|( ‪.‬‬ ‫( של מ"מ מתכנסת בהתפלגות למ"מ‬ ‫(שוויון פונקציות)‪.‬‬ ‫{‪.‬‬ ‫טענה‪ :‬יהי מ"מ‪( ) ,‬‬ ‫) (‬ ‫) (‬ ‫] [ ‪.‬‬ ‫ושונות‬ ‫משפט (החוק החלש של המספרים הגדולים)‪ :‬תהי )‬ ‫של מ"מ ב"ת שווי התפלגות עם תוחלת ‪ .‬אזי הסדרה‬ ‫( מתכנסת בהסתברות ל‪. -‬‬ ‫)‬ ‫) (‬ ‫את מה שקיבלנו אפשר עכשיו לגזור‪:‬‬ ‫מ"מ עם תוחלת‬ ‫‪ .‬אזי‬ ‫|( ‪.‬‬ ‫הגדרה‪ :‬סדרה )‬ ‫נעדיף לחשב את השטח של‬ ‫עבור‬ ‫המשולש מעל האזור שמעניין אותנו‪:‬‬ ‫(‬ ‫‪.‬‬ ‫)‬ ‫∫ ∫‬ ‫(‬ ‫)‬ ‫מ"מ אי‪-‬שלילי‪ .‬אזי‬ ‫טענה (אי‪-‬שוויון צ'בישב)‪:‬‬ ‫) (‬ ‫‪.‬‬ ‫ב"ת‪ .‬נגדיר‬ ‫יהיו ) (‬ ‫‪ o‬נמצא את הצפיפות של ‪ .‬לשם כך נצטרך לחשב אינטגרל‪:‬‬ ‫)‬ ‫(‬ ‫∬ )‬ ‫(‬ ‫)‬ ‫( על‬ ‫‪ .‬את זה נצטרך לעשות‬ ‫קבוצת הנקודות שעבורן‬ ‫בשני אזורים שונים‪:‬‬ ‫‪:‬‬ ‫עבור‬ ‫‪‬‬ ‫)‬ ‫(‬ ‫‪.‬‬ ‫טענה (אי‪-‬שוויון מרקוב)‪:‬‬ ‫(‬ ‫)‬ ‫(‪)1‬‬ ‫( |‬ ‫|)‬ ‫(‪)2‬‬ ‫(‪ )3‬חסר יחידות (היחידות של המונה והמכנה מתבטלות)‬ ‫‪‬‬ ‫)‬ ‫ב"ת‪ ,‬ו‪-‬‬ ‫) ( סדרת מ"מ‪ .‬נאמר שהסדרה )‬ ‫הגדרה‪ :‬תהי‬ ‫|(‬ ‫‪,‬‬ ‫מתכנסת בהסתברות ל‪ -‬אם לכל‬ ‫| ‪.‬‬ ‫)‬ ‫מ"מ‪ .‬מקדם המתאם שלהם מוגדר להיות‬ ‫)‬ ‫( ‪ .‬מקדם המתאם מקיים‪:‬‬ ‫(‬ ‫) (‬ ‫∑‬ ‫)‬ ‫) (‬ ‫) (‬ ‫הגדרה‪ :‬יהיו‬ ‫) (‬ ‫) (‬ ‫)‬ ‫(‬ ‫טענה‪ :‬יהיו )‬ ‫אזי )‬ ‫‪.‬‬ ‫(‬ ‫(‬ ‫‪.‬‬ ‫(‬ ‫)‬ ‫√‬ ‫(‬ ‫√‬ ‫)‬ ‫(‬ ‫)‬ ‫( ̂‪,‬‬ ‫הגדרה‪ :‬אומד (או סטטיסטי) הוא פונקציה‬ ‫המחזירה עבור מדגם אקראי אומדן – את הערך של הפרמטר‬ ‫)‬ ‫(̂ ‪.‬‬ ‫שמתאים למדגם שהתקבל‪:‬‬ ‫הגדרה‪ :‬הטייה של אומד ̂ מסומנת ומוגדרת )̂ (‬ ‫הערך ה"אמיתי" של הפרמטר‪ .‬אומד‬ ‫]) (̂ [ ‪ ,‬כאשר‬ ‫שההטייה שלו היא ‪ 0‬נקרא אומד חסר‪-‬הטייה‪.‬‬ ‫הגדרה‪ :‬אומד ייקרא קונסיסטנטי (עקבי) אם‬ ‫) (̂ ‪.‬‬ ‫תכונות שנרצה שיהיו לאומד‪:‬‬ ‫(‪ )1‬אם נחזור על התהליך‪ ,‬נקבל תוצאות (אומדנים) דומים –‬ ‫נמוך‬ ‫כלומר‪( ̂( )) ,‬‬ ‫(‪ )2‬קונסיסטנטיות‬ ‫(‪ )3‬הטייה קטנה (או לא מוטה)‬ ‫הגדרה‪ :‬פונקציית הפסד (או טעות) של אומד ̂ מוגדרת‬ ‫) ) (̂ ( וההפסד (או סיכון) תחת פונקציית הפסד כזאת‬ ‫מוגדר ]) ) (̂ ( [ ‪.‬‬ ‫הגדרה‪ Mean Squared Error :‬היא פונקציית הפסד המוגדרת‬ ‫) (̂ ( ) ) (̂ ( ‪ ,‬וההפסד לפי פונקציה זו מסומן‬ ‫)‬ ‫‪.‬‬ ‫) (̂ ([‬ ‫] )‬ ‫]‬ ‫)̂ (‬ ‫) (̂ [‬ ‫)‬ ‫) (̂ (‬ ‫)) (̂ (‬ ‫נסתכל על‬ ‫‪o‬‬ ‫הגדרה‪ :‬אומד ) (̂ הוא אסימפטוטי נורמלי אם מתקיים‬ ‫השונות של ה"טבע"‪.‬‬ ‫) (̂ ( √‪ .‬כאן‬ ‫)‬ ‫(‬ ‫)‬ ‫) (‬ ‫– כלומר‬ ‫] [ ו‪-‬‬ ‫) (̂ ‪ ,‬ונניח‬ ‫יהי‬ ‫אומדים את התוחלת של ה"טבע"‪ .‬כעת לפי משפט הגבול המרכזי‪,‬‬ ‫) (̂‬ ‫) (‬ ‫‪ ,‬ולכן זהו‬ ‫)‬ ‫(‬ ‫)‬ ‫) (̂ ( √‬ ‫ההסתברות שווה ל‪-‬‬ ‫(‬ ‫)‬ ‫הנדגמים באופן ב"ת ש"ה‬ ‫הגדרה‪ :‬יהי מדגם מקרי‬ ‫מתוך הטבע‪) ,‬‬ ‫( ‪ .‬רווח סמך (‪ )Confidence Interval‬הוא‬ ‫) ( ‪.‬‬ ‫המספקות א"ש ) (‬ ‫זוג פונקציות‬ ‫( כך שההתפלגות של‬ ‫(‪ )1‬מוצאים פונקציה )‬ ‫תלויה ב‪( -‬יש לבדוק זאת)‬ ‫(‬ ‫)‬ ‫)‬ ‫( – זה‬ ‫כך ש‪-‬‬ ‫(‪ )2‬נחפש‬ ‫אמור להיות קל כי לא תלויה ב‪-‬‬ ‫(‪ )3‬מחלצים רווח סמך על‬ ‫אינה‬ ‫‪‬‬ ‫עבור )‬ ‫)‬ ‫√‬ ‫[‬ ‫√‬ ‫‪.‬‬ ‫הגדרה‪ :‬נסמן ב‪ -‬את קבוצת המדגמים שעבורם המבחן דוחה‬ ‫את ‪ .‬אז רמת המובהקות (‪ )significance‬תסומן‬ ‫)‬ ‫ועוצמת המבחן (‪ )power‬תסומן‬ ‫((‬ ‫)‬ ‫)‬ ‫עבור )‬ ‫((‬ ‫‪.‬‬ ‫בהינתן מבחן מסוים ו‪ , -‬קביעת קובעת גם את ‪ .‬אם רוצים‬ ‫להקטין את שניהם‪ ,‬אין ברירה אלא להגדיל את ‪.‬‬ ‫מדגם ספציפי ונסמן ב‪)-‬‬ ‫( את‬ ‫הגדרה‪ :‬יהי‬ ‫ערך הסטטיסטי עבור המדגם (המבחן)‪ .‬ה‪ p-value-‬של המדגם‬ ‫(‬ ‫הוא ההסתברות ))‬ ‫) ( ( ‪( .‬כאן הוא מ"מ‬ ‫‪).‬‬ ‫של כל המדגם‪ ,‬כלומר‬ ‫ככל שה‪ p-value-‬גדול יותר‪ ,‬כך המדגם יותר סביר בהינתן ‪.‬‬ ‫הוא הערך של אילו‬ ‫בעצם‪ ,‬ה‪ p-value-‬של המדגם‬ ‫(‬ ‫היינו בוחרים לקבוע את הסף של המבחן ב‪)-‬‬ ‫‪.‬‬ ‫הגדרה‪ :‬מבחן יחס הניראות לבדיקת השערות הוא מבחן מהצורה‬ ‫‪‬‬ ‫)‬ ‫(‬ ‫)‬ ‫(‬ ‫) ( ‪.‬‬ ‫יהיו ) (‬ ‫וההשערות‪:‬‬ ‫‪ o‬נבנה כלל דחיה על פי מבחן יחס הניראות‪:‬‬ ‫)‬ ‫()‬ ‫(‬ ‫∏‬ ‫∏‬ ‫∏‬ ‫∑‬ ‫) (‬ ‫משפט‪ MLE :‬הוא קונסיסטנטי ואסימפטוטי נורמלי‪.‬‬ ‫‪o‬‬ ‫(‬ ‫(‬ ‫) (‬ ‫הגדרה‪ :‬בבדיקת השערות עלינו לבנות מבחן מהצורה‬ ‫ב"ת ש"ה) עבור שתי השערות ‪-‬‬ ‫כאשר מדגם מקרי (‬ ‫השערת האלטרנטיבה‪ ,‬כאשר המבחן‬ ‫השערת האפס‪,‬‬ ‫דוחה את השערת האפס‪.‬‬ ‫אומד אסימפטוטי נורמלי (לתוחלת)‪.‬‬ ‫(‬ ‫(‬ ‫לאחר חילוץ ‪ ,‬רווח הסמך‪] :‬‬ ‫‪o‬‬ ‫‪o‬‬ ‫– כאשר אומדים את‬ ‫נגדיר √‬ ‫תלוי בפרמטר‪.‬‬ ‫כיוון ש‪-‬‬ ‫))‬ ‫√‬ ‫)‬ ‫√‬ ‫טענה‪ :‬ה‪ p-value-‬מתפלג אחיד בין ‪ 0‬ל‪.1-‬‬ ‫(או )‬ ‫(‬ ‫הגדרה‪ :‬יהיו )‬ ‫( )‪ .‬אומד הניראות‬ ‫המירבית (‪ )Maximum Likelihood Estimator‬מוגדר להיות‬ ‫(‬ ‫)‬ ‫) (̂ ‪.‬‬ ‫‪‬‬ ‫)‬ ‫(‬ ‫–‬ ‫(‬ ‫ידועה)‪:‬‬ ‫( שהוא מ"מ נורמלי סטנדרטי ואינו‬ ‫)‬ ‫)‬ ‫)‬ ‫עבור‬ ‫(‬ ‫(‬ ‫‪.‬‬ ‫)‬ ‫(‬ ‫∑ (כי‬ ‫זו פונקציה מונוטונית עולה של‬ ‫גדול מ‪ ,)1-‬והמבחן הזה שקול למבחן‬ ‫∑‪.‬‬ ‫ולכן הבסיס‬ ‫) ( מבחן יחס הניראות עבור‬ ‫משפט (ניימן‪-‬פירסון)‪ :‬יהי‬ ‫כרגיל‪ .‬יהי‬ ‫שתי השערות‪ – ,‬תחום דחיית ‪,‬‬ ‫כרגיל‪ .‬אזי‬ ‫מבחן כלשהו‪ – ,‬תחום דחיית ‪,‬‬ ‫‪.‬‬ ‫כלומר‪ ,‬לא ניתן לשפר את‬ ‫מבלי לפגוע ב‪-‬‬ ‫‪.‬‬ ‫הגדרה‪ :‬מבחן יחס ניראות מוכלל הוא מבחן בדיקת השערות‬ ‫שסף הדחייה שלו הוא‬ ‫מהצורה‬ ‫)‬ ‫(‬ ‫)‬ ‫(‬ ‫(‬ ‫) ( ‪.‬‬ ‫לעתים אפשר יהיה להשתמש באומד ניראות מירבית שכבר ידוע‬ ‫לנו כדי למצוא את ערך המקסימום במונה‪/‬במכנה‪.‬‬