n - Anat Etzion
הסתברות מ ( – )214490חורף תש"ע
תוצאות שוות סיכוי וחוקי הסתברות בסיסיים
הגדרות:
- מרחב המדגם :אוסף כל התוצאות האפשריות של הניסוי.
מרחב מדגם בדיד :יש בו מספר סופי או בן מניה של תוצאות.
מרחב מדגם שווה הסתברות :מרחב הסתברות ) ( , Pשבו לכל מאורע פשוט יש אותה הסתברות
ו -הוא סופי .דוגמא :הטלת מטבע הוגן .וגם מתקיים , :הסתברות שווה להתרחש והיא
| | A
1
P ({ }) ועבור מאורע - A
ניתנת ע"י:
P ( A) P
{ }
| |
A
| |
-Aמאורע :תת-קבוצה של מרחב המדגם (מסומן באות גדולה).
מאורע פשוט :מאורע המכיל רק תוצאה אחת ,לרוב נסמנו . -דוגמא C {5} :בהטלת קובייה.
-Pמידת
הסתברות :פונקציה מאוסף המאורעות של ל[0,1] -
Pצריכה לקיים 3תנאים:
P .9אי-שלילית ,כלומר P ( A ) 0לכל מאורע .A
.0אם , An
A1 ,הם חלוקה של ( Aכלומר Aiזרים ואיחודים הוא ,) Aאזי:
) P ( An
P ( A ) P ( A1 ) P ( A2 )
. P ( ) 1 .3
תכונות נוספות של מידת ההסתברות:
-
P ( A) 1
-
)P ( A ) 1 P ( A
-
P ( ) 0
-
c
אם , A Bאז. P ( B \ A ) P ( B A c ) P ( B ) P ( A ) .0 P ( A ) P ( B ) .9 :
כלל הכלה והפרדה:
נוסחה כללית An ) :
) P ( A B ) P ( A) P ( B ) P ( A B
P ( A1
n 1
1
n
Aj)
i
P(A ) P(A
i
i j
n
חוק :Boole
) P(A
i
i 1
Ai
n
i 1
P
An )
P ( A1
i 1
) P ( A B ) P ( A) P ( B
1
©ענת עציון
הסתברות מ ( – )214490חורף תש"ע
הסתברות מותנית ואי תלות
הסתברות מתנית:
יהיו A , Bמאורעות ,כך ש . P ( B ) 0 -ההסתברות המותנית של Aבהינתן Bמסומנת ע"י:
)P(A B
P(A | B)
)P(B
כלל הכפל:
)P ( A B ) P ( A | B ) P ( B ) P ( B | A) P ( A
כלל ההסתברות השלמה :תהי , B n
B1 , B 2 ,חלוקה זרה וממצה של . כלומר:
n
.9
i j : B i B j .0
Bi
i : B i .3
i 1
n
) P( A | B ) P(B
יהיה Aמאורע .אז:
i
i
P ( A)
i 1
כלל :Beyesיהיו , B n
B1 , B 2 ,חלוקה של ויהא B jמאורע כלשהו מתוך חלוקה זו .אם A
מאורע עבורו מתקיים P ( A ) 0 :אזי מתקיים:
) P( A | B j ) P(B j
n
) P( A | B ) P(B
i
) P ( A | B j ). P ( B j
)P ( A
( P ( B j | A ) פירוק המכנה לפי הסתברות שלמה).
i
i 1
אי תלות:
נאמר שמאורעות A , Bבלתי תלויים אם הסיכוי להתרחשות Aאינו משופע מהידיעה אם מאורע B
התרחש או לא התרחש ולהפך A , B .בלתי תלויים אם מתקייםP ( A B ) P ( A ) P ( B ) :
) P ( A) P ( A | B ) p ( A | B
c
הסתברות מותנית עבור מאורעות בלתי תלויים:
) P ( B ) P ( B | A) P ( B | A
c
הערות:
-
ו -תמיד בלתי תלויים עם מאורע אחר.
מאורעות זרים שאינם ריקים הם תלויים P ( A B ) P ( ) 0 -אבלP ( A ) P ( B ) 0 :
ולכן לא מתקיימת האי-תלות.
-
מאורעות מוכלים שאינם ריקים ואינם שווים ל - -תלויים.
-
מאורעות בלתי תלויים שאינם ריקים -נחתכים
2
©ענת עציון
הסתברות מ ( – )214490חורף תש"ע
חוקי דה-מורגן:
-
( A B) A B
-
A B A B
אמינות מערכת:
מערכת מורכבת ממספר רכיבים .תהי p iההסתברות שהרכיב iתקין .נניח כי כל הרכיבים תקינים
או תקולים באופן בלתי תלוי באחרים .נסמן , a -האמינות של המערכת ,להיות ההסתברות
שהמערכת תקינה.
.9מערכת טורית n :רכיבים מחוברים בטור .דרוש שכל הרכיבים יהיו תקינים כדי שהמערכת
תהיה תקינה,
pn
a p1 p 2
(ההסתברות לחיתוך -מכפלת ההסתברויות שכן
הרכיבים ב"ת).
.0מערכת מקבילית n :רכיבים מחוברים במקביל .מספיק שאחד מן הרכיבים יהיה תקין כדי
שהמערכת תהיה תקינה ,במילים אחרות -דרוש שכל הרכיבים יהיה תקולים כדי שהמערכת
תהיה תקולהp n .
1
a 1 1 p1 1 p 2
.3מערכת מעורבת :עבור המערכת הנתונה-
a 1 1 p 3 1 p1 p 2 p 4
3
©ענת עציון
הסתברות מ ( – )214490חורף תש"ע
ניסויים בלתי תלויים -התפלגויות
ניסוי ברנולי:
ניסוי בעל שתי תוצאות אפשריות :הצלחה P ( S ) p , S -וכישלוןP ( F ) 1 p q , F -
התפלגות בינומיתBin(n,P) :
נתון מרחב המדגם }, n
{0,1,ועליו מוגדת מידת ההסתברות:
n k nk
P (k ) p q
k
מודל בינומי של ניסויים :מבצעים סדרה של nניסויי ברנולי ב"ת ,בעלי הסתברות להצלחה. p -
n
ההסתברות לקבל בדיוק kהצלחות ב n -הניסויים היא . p k q n k
k
התפלגות גיאומטריתGeo(P) :
נתון מרחב המדגם בן-מנייה }
{1, 2,ועליו מוגדת מידת ההסתברותp :
k 1
P (k ) q
מודל גיאומטרי של ניסויים :מבצעים סדרה של ניסויי ברנולי ב"ת על להצלחה ראשונה .ההסתברות
שההצלחה הראשונה תתרחש בניסיון ה , k -היא . q k 1 p
תכונת חוסר הזיכרון למודל גיאומטרי :אם ידוע כי לא הייתה הצלחה עד לניסיון ה , m -ההסתברות
שההצלחה הראשונה תתרחש בניסיון ה m kהיא עדיין" . q k 1 p
התפלגות בינומית שליליתNB(m,P) :
נתון מרחב המדגם בן-מנייה }
k
{ m , m 1,ועליו מוגדרת מידת ההסתברות (עבור mמסוים):
k 1 m k m
P (k )
p q
m 1
מודל בינומי שלילי :מבצעים סדרה של ניסויי ברנולי ב"ת עד להצלחה ה- m -ית .ההסתברות לכך
k 1 m k m
שהצלחה זו תתקבל בדיוק בניסיון ה k -היא
p q
m 1
.
הילוך אקראי :מסלול המכיל שלבים עוקבים וקשורים שבו כל
בחירת כל שלב היא אקראית ואינה מושפעת מהשלבים הקודמים.
4
©ענת עציון
הסתברות מ ( – )214490חורף תש"ע
דגימות מקריות והתפלגות פואסונית
דגימות מקריות:
.9פיזור של rעצמים שונים ל n -תאים:
r
| | n
שקול לדגימת rעצמים מתוך nעם חזרות ,עם חשיבות לסדר.
n r 1 n r 1
| |
.0פיזור של rעצמים זהים ל n -תאים :
r
n 1
שקול לדגימת rעצמים זהים מתוך n -עם חזרות ובלי חשיבות לסדר.
.3פיזור של rעצמים זהים ל n -תאים כך שבל תא יש לכל היותר עצם אחד
n
| | r nשקול לדגימת rעצמים מתוך nבלי חזרות ,בלי חשיבות לסדר.
r
התפלגות פואסון:
k
נתון מרחב מדגם }
{0,1, 2,ועליו מוגדרת מידת ההסתברות , 0
e
P (k )
!k
מודל פואסוני :מספר האירועים ביחידת זמן נתונה ,אם ידוע כי האירועים מתרחשים בקצב (מספר
אירועים ליחידת זמן) ממוצע קבוע 0ובאופן בלתי תלוי בפרק הזמן מאז האירוע האחרון .במקום
יחידת זמן נתונה ,ניתן לחשוב גם על יחידת מרחק ,שטח או נפח נתונה.
k
התפלגות פואסונית מתקבלת מהתפלגות בינומית
n n
e
nk
) lim p (1 p
n k
!k
np
(כלומר ,מבצעים סדרה ארוכה מאוד של ניסויי ברנולי ב"ת כאשר ההצלחה היא בהסתברות מאוד
קטנה כך ש.) n p -
קירוב פואסוני להתפלגות בינומית :הקשר בין ההתפלגויות מאפשר להשתמש בהתפלגות
הפואסונית כקירוב להתפלגות הבינומית (שבמקרים רבים החישוב שלה מסורבל).
תהי התפלגות בינומית עם פרמטרים nו . p -אם nגדול p ,קטן ו 0 np 10 -אז ניתן לקרב את
מידת ההתפלגות הבינומית לזו של התפלגות פואסונית עם פרמטר. n p :
5
©ענת עציון
הסתברות מ ( – )214490חורף תש"ע
התפלגות היפר גיאומטרית:
נתון
מרחב
n, D , N
מדגם
}}, m in{ D , n
{0,1, 2,
ועליו
מוגדרת
מידת
ההסתברות:
D N D
k n k
P (k )
N
n
n N, D N,
מודל היפר-גיאומטרי :בתוך כד יש Nכדורים שמתוכם Dשחורים והשאר לבנים .מוציאים
nכדורים באקראי (ללא החזרה) .מספר הכדורים השחורים מבין הכדורים שהוצאו מפולג היפר-
גיאומטרית עם פרמטרים . N , D , n
0
סכום סדרה הנדסית אינסופית:
a1
1 q
q 1
n
q 1
S a1
6
©ענת עציון
הסתברות מ ( – )214490חורף תש"ע
משתנה מקרי בדיד והתפלגותו
הגדרות:
משתנה מקרי :מ"מ Xהוא פונקציה ממרחב המדגם אל הישר הממשי . X : R . R
סימון מאורע :את המאורע } { : X ( ) xנסמן , { X x } -כלומר :אם יוצאת התוצאה ,
אז Xמקבל את הערך ) . x X (
מ"מ בדיד :מ"מ שהטווח שלו סופי או בן מניה -כאשר ( R Xאוסף כל הערכים שהמ"מ יכול לקבל)
מהווה קבוצה סופית או בת מנייה.
הערה :אם לכל קבוצה חלקית Bבטווח של משתנה מקרי X -מגדירים מאורע P ( x B ) :אז
הסתברותו x ) :
P( X
( P ( x B ) מאורעות זרים וניתן לסכום הסתברויות).
x B
פונקצית הסתברות של מ"מ :פונקצית הסתברות של מ"מ Xהיא פונקציה ) P ( X xאו
) . p X ( xכאשר ) P ( X xזאת ההסתברות של מאורע } . { X xותמיד מתקיים:
.9
.0
x, 0 P ( X x) 1
x) 1
P( X
x R
.3
) x
P( X
A R , P ( X A)
x A
הערה :פונקצית הסתברות אינה אקראית אלא מוגדרת באופן חד-משמעי עבור כל ערך xשמ"מ
Xיכול לקבל .על-מנת לקבוע את ההתפלגות של מ"מ ,מספיק למצוא את ההסתברויות עבור כל
ערכי המשתנה.
פונקציה של משתנה מקרי :אם Xהוא מ"מ ו g : R Rפונקציה ,אז ניתן להגדיר מ"מ חדש:
) Y g ( Xהמתקבלת ע"י הפעלת הפונקציה gעל ערך של . X
)P( X x
P (Y y )
x R X : g ( x ) y
7
©ענת עציון
) – חורף תש"ע214490( הסתברות מ
:דוגמאות לפונקציות התפלגות ידועות
X
X
p x 1
B er ( p ) : סימוןp X ( x ) q x 0 :ברנולי
0 else
n x n x
x 0,1,
p q
B in ( n , p ) : סימוןp X ( x ) x
else
0
D N D
x
nx
x 0,1,
: סימוןp X ( x )
N
n
0
else
, m in( D , n )
X
n
k
8
©ענת עציון
e
:גיאומטרית
else
x {1, 2,
, N}
:אחידה
otherw ise
e x
P ois ( ) : סימוןp X ( x ) x !
0
, P ( X x ) p k (1 p ) n k
HG (N , D , n)
x 1, 2, 3,
k
U ni ( k , N ) : סימוןP ( X x ) N
0
X
n , np
q x 1 p
G eo ( p ) : סימוןp X ( x )
0
:בינומית
:גיאומטרית-היפר
X
X
,n
k!
x 0,1, 2,
:פואסונית
else
k
:קירוב פואסוני לבינומי
הסתברות מ ( – )214490חורף תש"ע
מספר משתנים מקריים -שולית ,מותנית ואי-תלות
התפלגות משותפת של מ"מ (בדידים):
הגדרה :בהינתן שני משתנים מקריים Xו Y -המוגדרים על אותו מרחב מדגם ,ההסתברות
המשותפת של הזוג הסדור ) ( X , Yתסומן ע"י . P ( X x , Y y ) PXY ( x , y ) :שזהו חיתוך
המאורעות.
-
0 PXY ( x , y ) 1
-
PX Y ( x , y ) 1
)( x, y
התפלגות שולית:
.) { X x }
(זהו למעשה איחוד של מאורעות זרים{ X x , Y y } -
y RY
פונקצית ההסתברות של ( x , y ) : X
P
XY
PX ( x )
y
פונקצית ההסתברות של ( x , y ) : Y
P
PY ( y )
XY
x
הערה :מהתפלגות משותפת ניתן תמיד למצוא את ההתפלגות השולית ע"י סכימה או אינטגרציה ,אך
מההתפלגות השולית בד"כ לא ניתן לדעת את ההתפלגות המשותפת.
שווי התפלגות :מ"מ Xו Y -שווי התפלגות אם לכל aממשי. PX ( a ) PY ( a ) :
שוויון :מ"מ
Xו Y -שווים אם ( a , a ) 1
P
XY
. P( X Y ) 1
a
פונקצית הסתברות מותנית:
, P( X x) 0
כלל הכפל:
) P (Y y , X x
)P( X x
PY | X ( y | x ) P (Y y | X x )
) PX Y ( x , y ) P (Y y | X x ) P ( X x
נוסחת ההסתברות השלמה:
) ( x | y ) PY ( y
P
X |Y
PX ( x )
y
נוסחת בייס:
) PX |Y ( x | y ) PY ( y
) PX ( x
. PY | X ( y | x )
נוסחת החלפת משתנים :יהי ) Z f ( X , Yאז Zמ"מ ומתקיים:
) P ( X x,Y y
PZ ( z ) P ( Z z )
( x , y ): f ( x , y ) z
9
©ענת עציון
הסתברות מ ( – )214490חורף תש"ע
תלות:
מ"מ בדידים Xו Y -הם בלתי תלויים אם x , y : PX Y ( x , y ) PX ( x ) PY ( y ) :
-
ההתפלגות המותנת של Yבהינתן X xאינה תלויה ב. x -
-
ההתפלגות המותנת של Xבהינתן Y yאינה תלויה ב. y -
ווקטורים מקריים (מספר רב של משתנים מקריים):
הגדרה :יהיו ) , X n
) , X n xn
( X 1 ,משתנים מקריים בדידים .פונקצית ההסתברות המשותפת:
, x n ) P ( X 1 x1 , X 2 x 2 ,
שולית -1מימדית, x n ) :
( x1 ,
xn
) , xn
( x1 ,
xn
P
Px j ( x j )
x1
xn
שולית -kמימדית:
( x1 , x 2 ,
Xn
PX 1 X 2
P
x1
xn
x j 1 x j 1
x1
xk )
( x1
Px1 x 2
xk
x k 1
הערה k :המשתנים לא חייבים להיות בסדר עוקב כמו בנוסחה.
אי תלות n :מ"מ הם ב"ת אם"םP ( X n x n ) :
) , X n x n ) P ( X 1 x1
P ( X 1 x1 ,
הערה :עבור nמ"מ בלתי תלויים ,אם נחלקם לקבוצות זרות ונפעיל על כל קבוצה בנפרד פונקציה
y1 f 1 ( X 1 ,
) , X n1
אחרת שתיתן ערך מסוים:
y 2 f 2 ( X n1 1 ,
) , X n2
( y1 ,הם ב"ת.
אז ) , y m
y m f m ( X nm 1 ,
), Xn
התפלגות מולטינומית :מבצעים סדרה של nניסויים ב"ת ,בכל ניסוי kתוצאות אפשריות עם
k
הסתברויות, p k :
. p i 1 , p1 ,
i 1
נסמן ב - X 1 -מספר הפעמים שהתקבלה תוצאה מסוג9-
- X kמספר הפעמים שהתקבלה תוצאה מסוגk -
פונקצית ההתפלגות המשותפת, p k ) :
n
n
i
x
x
pk k ,
i 1
o th erw ise
M ulti ( n , p1 , p 2 ,
!n
x
x
p1 1 p 2 2
! , x k ) x1 ! x 2 ! x k
0
X
( x1 , x 2 ,
Xk
PX 1 X 2
11
©ענת עציון
הסתברות מ ( – )214490חורף תש"ע
סטטיסטי הסדר:
הגדרה :נתונים , X n -
. X 1 ,סטטיסטי הסדר שלהם X n :
. X 1 X 2
(כלומר :משתנים המקבלים את הראשון בגודל ,השני בגודל וכן הלאה)...
הערות:
-
אם הנתונים הם אקראיים אז X n
אפילו אם , X n
X 1 הם nמ"מ.
X 1 ,הם ב"ת ,סטטיסטי הסדר X n
X 1 הם תלויים.
11
©ענת עציון
הסתברות מ ( – )214490חורף תש"ע
תוחלת ואינדיקטורים
תוחלת:
הגדרה :תוחלת של מ"מ בדיד xP X x : X
. EX
x R X
הערות:
-
אם הטווח של Xסופי אז הסכום של הטור תמיד מוגדר .אחרת הוא יהיה מוגדר רק אם
הטור מתכנס בהחלט. | x | P ( X x ) :
x
-
ניתן להכליל ולדבר על תוחלת אם הטור מתבדר ו X -מקבל ערכים בסימן קבוע.
תכונות:
.9כלל הסכום:
לכל X , Yמ"מ E X E Y
EX Y
.0אם מ"מ Xמקבל ערכים בין aל b -אז a E X b
.3לינאריות :תוחלת היא אופרטור ליניארי b :
E aX b aE X
חוק המספרים הגדולים :עבור X iב"ת ו M EX i -אז M
n
i
X
i 1
נוסחת הזנב :עבור מ"מ המקבל ערכים שלמים אי שליליים x
1
n
PX
EX
x 1
*מומלץ להשתמש בה כאשר הביטוי ) P ( X xקל יותר לחישוב מאשר ) . P ( X x
כלל הכפל :עבור X , Yמ"מ בלתי תלויים - E XY EX EYההפך אינו נכון.
זוג מ"מ שמקיימים E X Y E X E Yנקראים בלתי מתואמים (אך לא ב"ת!).
עבור כל X , Yמ"מ x , Y y ) :
xyP ( X
y
E XY
x
משפט:
.9בלתי תלויים בלתי מתואמים.
.0בלתי מתואמים בלתי תלויים.
.3ב"ת E h X g Y E h X E g Y לכל h , gרציפות וחסומות.
12
©ענת עציון
הסתברות מ ( – )214490חורף תש"ע
אינדיקטורים:
הגדרה I A :אינדיקטור של מאורע Aהוא מ"מ המוגדר ע"י:
1
IA
0
A happened
otherw ise
תוחלת של אינדיקטורE I A P A :
אם יש אוסף מאורעות , 1 i n , Aiכאשר Xסופר כמה מתוכם קרו
I E I P A
i
Ai
Ai
E
Ai
I
X אז:
EX
תוחלת ידועה של התפלגויות:
בינומיB in ( n , p ) :
np
X
בינומי שליליN B ( m , p ) :
EX
m
X
p
גיאומטריG eo p :
פואסוניP o is :
1
X
p
X
EX
EX
EX
אי-שוויונים ידועים:
חציון :מספר mהמקיים:
1
2
, PX m
1
2
.PX m
שכיח :המספר שההסתברות לקבל אותו היא הגדולה ביותר.
הערה :תוחלת ,חציון ושכיח יכולים להיות שונים.
אי-שוויון מרקוב:
EX
יהיה Xמ"מ שמקבל ערכים לא שליליים ,אזי לכל a 0
P( X a)
a
אי-שוויון בול (מקרה פרטי של מרקוב):
P ( X 1) E X
מומנט :התוחלת נקראת גם המומנט הראשון של . Xהמומנט ה-nי הוא:
n
mn E X
13
©ענת עציון
הסתברות מ ( – )214490חורף תש"ע
דוגמא, n ] :
, x 1, 2,
Xמ"מ בדיד .אז, n :
U ni[1,
1
P ( X x)
n
1 n n 1 n 1
n
2
2
1 n n 1 2 n 1 n 1 2 n 1
n
6
6
f x f E x
אי-שוויון ינסן :אם fפונקציה קמורה אזי:
x
1
n
x
2
1
n
m1 E X
m2 EX
2
E
תוחלת של פונקציה של מ"מ:
במידה ו g X -היא פונקציה ניתן לחשב את התוחלת שלה ללא שימוש בהגדרה באופן הבא:
g ( x)P X x
E g ( X )
x R X
ולמספר מ"מ x , Y y :
g x, y P X
y
Eg X ,Y
x
חיזוי:
מחפשים ערך bכך ש E X b -יהיה מינימאלי .אז
2
b EX
מחפשים ערך bכך ש E | X b | -יהיה מינימאלי .אז החציון הוא החזאי במקרה זה.
14
©ענת עציון
הסתברות מ ( – )214490חורף תש"ע
שונות וסטיית תקן
הגדרה V ar X m in E X a :כלומר אם EX 2 אז:
2
הנוסחה השימושית לחישוב:
V ar x
סטיית תקן:
2
EX EX
2
2
E X EX
Var X
Var X
SD X
אלה המדדים המתארים עד כמה ההתפלגות מפוזרת סביב התוחלת .ככל שההתפלגות מרוכזת יותר
סביב התוחלת כך קטנה השונות/סטיית התקן .השונות נמדדת ביחידות בריבוע של מ"מ וסטיית
התקן באותן היחידות כמו מ"מ.
תכונות של שונות:
-
0
-
V a r X 0אמ"מ Xהוא מ"מ קבוע.
-
X , V ar X
מ"מ המקיים :
יהי X
V a r Xסופי ,אזי לכל aוb -
V ar aX b a V ar X
2
נשים-לב כי תכונה זו גוררת כי מתקיים גם . S D a X b | a | S D X הכוונה בתוכנה היא
כי הזזה של משתנה מקרי ( ) bאינה משנה שונות אך הכפלה בקבוע ) ( aכן משנה שונות.
V ar X V ar Y 2 C ov X , Y
-
X 1 ,בלתי תלויים:
עבור , X n
V ar X Y
V ar X
i
. V ar X i
שונות של התפלגויות ידועות:
-X
) B er ( p
2
p p p q
2
B in n , p
G eo p
NB m, p
N 1
V ar X
n pq - X
-X
q
2
-X
p
] U ni[1, N
-X
P o is
-X
12
V ar X
HG N , D, n
Var X
npq
) m (1 p
2
p
N n
N 1
V ar X
Var X
-X
V ar X
Var X
15
©ענת עציון
הסתברות מ ( – )214490חורף תש"ע
1
אי-שוויון צ'בצ'ב :לכל מ"מ Xולכל k 0מתקיים:
2
k
P | X E X | SD X k
משמעות :ההסתברות ש X -חורג מהתוחלת שלו ביותר מ k -פעמים סטיית התקן ,קטנה או שווה ל-
1
2
.
k
צורה אחרת לרישום:
V ar X
2
c
c
P | X E X
החוק החלש של המספרים הגדולים :יהיו
X 1 , X 2 ,מ"מ ב"ת (בלתי מתואמים גם תנאי
n
מספיק) ,שווי-התפלגות עם תוחלת ושונות . 2 -יהי
i
1
X
n
X n ממוצע המשתנים האלו .אז
i 1
P | X n |
לכל 0מתקיים 0 :
n
משמעות :ככל שהמדגם גדל ,הממוצע מתקרב לתוחלת כרצוננו ,בהסתברות שואפת ל9-
( .) lim X n
n
החוק החזק של המספרים הגדולים :עבור תנאי המשפט הקודם ,מתקיים:
P lim | X n | 0 1
x
משמעות :כאשר הממוצע מתכנס לתוחלת ,אז ההסתברות שמאורע יקרה היא.9:
16
©ענת עציון
) – חורף תש"ע214490( הסתברות מ
קווריאנס (שונות משותפת) ומקדם מתאם
:הגדרות שונות משותפת
C ov X ,Y
E
X
EX
Y
EY
EXY EXEY
Var X Y Var X Var Y 2 C ov X , Y
:קווריאנס
:נוסחה נוספת
:הערות
X ,Y C ov X ,Y
0 :שונות משותפת מצביעה על תיאום בין המשתנים המקריים
-
)בלתי מתואמים (חסרי קורלציה
.) בלתי מתואמים (ההפך לא נכון בלתי תלויים
-
:תכונות של שונות משותפת
C ov X ,Y Z C ov X ,Y C ov X , Z
-
. C o v X , a 0 , קבועa לכל
-
. C ov X , X Var X
C ov X , Y
-
C ov Y , X
C o v a X b , cY d a cC o v X , Y
-
-
:מקדם המתאם
: Y - לX מקדם המתאם בין
C orr X , Y X , Y
: ולכןE X * E Y * 1 : כאשרX *
X ,Y
X
X
C ov X , Y
C ov X , Y
SD X SD Y
C ov X , Y
Var X Var Y
- הורדת תוחלת וחלוקתה בסטיית תקן:תקנון
SD X SD Y
E X X
Y
Y
SD X SD Y
EX Y
*
*
:תכונות של מקדם המתאם
C orr X , X
C orr X , Y
C orr X , Y
1
1
1
1 C o rr X , Y 1
C orr X , Y
Y aX b , a 0
0
C ov X , Y
0
Y aX b , a 0 C o rr a X b , cY d sig n ( a c ) C o rr X , Y
. קיים קשר לינארי בין המשתנים, בערכו המוחלט9- אם מקדם המתאם הוא:הערה
17
©ענת עציון
הסתברות מ ( – )214490חורף תש"ע
אופי התלות בין מאורעות:
תלות חיובית :מאורעות Aו B -תלויים חיובית אם
P A | B P A
( הידיעה ש A -קרה,
P B | A P B
מגדילה את הסיכוי ש B -יקרה ולהפך).
תלות שלילית :מאורעות Aו B -תלויים חיובית אם
P A | B P A
( הידיעה ש A -קרה,
P ( B | A) P B
מקטינה את הסיכוי ש B -יקרה ולהפך).
שימוש באינדיקטורים:
A P A B P A P B C o v I A , I B 0ו B -תלויים חיובית.
A P A B P A P B C o v I A , I B 0ו B -בלתי תלויים.
A P A B P A P B C o v I A , I B 0ו B -תלויים שלילית.
18
©ענת עציון
הסתברות מ ( – )214490חורף תש"ע
תוחלת מותנית
הגדרה :התוחלת המותנית של מ"מ Yבהינתן שקרה מאורע Aמוגדרת ע"י:
xP x | y
X |Y
x |Y y
xPX
x
E X |Y y
x
הערה :התוחלת המותנית ,תלויה ב y -ולכן הינה פונקציה של . E X | Y y g y : y
תכונות (כמו במקרה הלא מותנה):
-
E X Y | Z z E X | Z z E Y | Z z
-
E aX b | Z z aE X | Z z b
תוחלת מותנית כמשתנה מקרי:
הגדרה:
ונקבל משתנה מ"מ -
נרכיב את פונקצית התוחלת המותנית על Y
E X | Y g Y
משפט ההחלקה E X E E X | Y :וזה מתקיים לכל , h X פונקציה של מ"מ . X
במקרה הבדיד| Y y P Y y :
E X
E E X |Y
EX
y
נוסחאות נוספות:
E X Y |Y E X |Y Y
E X Y |Y y E X |Y y y
E XY | Y y y E X | Y y
E XY | Y Y E X | Y
משפט :WALD
X 1 , X 2 , X 3 ,ב"ת ,כולם בעלי תוחלת
ה- X j -ים X N .
SN X1 X 2
אז מתקיים :
j
N . E Xמ"מ אחר ,ב"ת בכל
E SN E X E N E N
הערה :ה- X j -ים עצמם יכולים להיות תלויים או ב"ת בינם לבין עצמם.
דוגמא :לאדם יהיו Nילדים .לילד מספר kיהיו X kילדים משלו ,כאשר - X kים הם ב"ת ב . N -ו-
E X k לכל . kאז מספר הנכדים של אותו אדם , S N התוחלת שלו. E S N E N :
שונות מותנית:
הגדרה:
X ,Y
מ"מ אז :
Y E Y | X V ar E Y | X
2
2
19
©ענת עציון
הסתברות מ ( – )214490חורף תש"ע
פונקציות יוצרות
מומנטים ופונקציות יוצרות מומנטים:
מומנט :יהי Xמ"מ .המומנט ה- n -י של Xהוא:
עבור Xבדיד P X x :
n
x
n
n
.E X
EX
x R
פונקציה יוצרת מומנטים( :פי"מ) מסומנת ב-
עבור Xבדיד P X x :
t e tX
X
tX
E e
t
X
M
M
x R
הערה :ניתן לקבל מהפונקציה את כל המומנטים של Xע"י חישוב נגזרותיה ומציאת הערך של
הנגזרת בנקודה , t 0כלומר:
n
( t 0) E X
M
n
n
t
עבור כמה מ"מ :פונקציה של סכום משתנים מ"מ ב"ת שווה למכפלת הפונקציות יוצרות המומנטים
שלהם( M X Y t M X t M Y t :וזה נכון גם למספר רב יותר של מ"מ).
תכונה :יהי Xמ"מ a , b ,קבועים ,אזיM aX b t e M at :
bt
משפט :פונקציה יוצרת מומנטים (אם קיימת) מגדירה את התפלגותו של מ"מ באופן חד-משמעי.
(אבל כל המומנטים ללא הפונקציה לא כיולים לקבוע באופן חח"ע את ההתפלגות).
דוגמאות:
-
B er p
-
B in n , p
-
P o is
-
סכום מ"מ פואסונים:
1 p
pe q : X
t
n
:X
n
q
e
:X
t
!n
t
pe
n0
0
pe
k
n
t
nk
pe q
k
n
t e tk
t
e
tX
M X t E e
e
e
!n
k 1
n
nt
X
M
e
tX
E e
t
X
M
n0
e 1
t e e t 1 e e t 1
e 1
t
e
t e
t
e
e
X Y
e
M
21
©ענת עציון
הסתברות מ ( – )214490חורף תש"ע
פונקציה יוצרת הסתברות:
s P X x
הגדרה :יהי Xמ"מ המקבל ערכים שלמים ואי-שליליים.
x
x
gX s E s
x R X
תכונות:
k
-
s 0 k !P X
gX
k
k
s
(בפרט אם מציגים את g Xכטור חזקות סביב s 0אז
המקדם של s kהוא ההסתברות ש X -יקבל את הערך.) k -
g X 1 1
-
EX
X
EX
s 1
s
g X
2
s
. g 0 n ! P n
-
2
1 E X
EX
s 1
g X
n
יהיו , X n
X 1 ,מ"מ ב"ת ,אזיg X i t :
n
t
i 1
n
Xi
g
i 1
משפט :פונקציה יוצרת הסתברות של מ"מ (אם קיימת) מגדירה באופן חח"ע את פונקצית
ההסתברות של המשתנה המקרי.
פונקציה אופיינית:
הגדרה:
p x
i x
e
i X
X E e
21
©ענת עציון
הסתברות מ ( – )214490חורף תש"ע
תהליכי הסתעפות
במצב ההתחלתי יש צומת יחיד בעץ . i 0 ,בשלב ה i -לכל צומת vברמה ה i 1מתווספים C v
בנים ,כאשר C vהוא משתנה מקרי.
הנחה :כל ה C v -הם בלתי תלויים ושווי-התפלגות.
סימונים:
- gפונקצית יוצרת הסתברות של המשתנה המקרי . C v
- התוחלת של המשתנה המקרי C v
- Z iמשתנה מקרי שערכו שווה למספר הצמתים הכולל ברמה ה i -בעץ. Z 0 1 ,
- g iפונקציה יוצרת הסתברות של המשתנה המקרי Z i
משפטים:
s .9
g 0 s s , g i s g i 1 g s g g g עבור
i
E Z i .0עבור
i 1, 2,
. i 0,1, 2,
22
©ענת עציון
) – חורף תש"ע214490( הסתברות מ
התפלגויות רציפות וצפיפות
: כך שf X x ייקרא רציף אם קיימת פונקציה מ"מ המגודר על מרחב מדגם:מ"מ רציף
b
P X [a , b ] P a X b
f X x dx
a
. X נקראת פונקצית הצפיפות של מ"מf x x
:תכונות
P X [ x , x dx ] f X
x dx :קטן מאוד אז מתקיים
d x כאשר
-
f x x dx
-
P a X b P X b P X a
-
a
P X a
:אילוצים
x, f x 0
-
f x x dx 1
-
P X
:הערות
. f X x 1 לא מציינת הסתברות ולכן ייתכן כיf x
-
x
.P X x
f t dt 0 P a
x
X b P a X b :""שטח נקודה אפס
-
x
E g X
g x
f x x dx
EX
x f X x dx
:תוחלת של מ"מ רציף
.)(התכנסות במידה שווה
| x | f x dx
X
התוחלת קיימת רק כאשר:הערה
V ar X
x f x x dx x f x dx
2
23
©ענת עציון
2
:שונות של מ"מ רציף
) – חורף תש"ע214490( הסתברות מ
:)התפלגות אחידה (יוניפורמית
1
fX x b a
0
EX
ba
x [a, b]
U ni ( a , b )
otherw ise
Var X
2
. a b כאשרX
b a
2
P c X d
12
d c
ba
:התפלגות נורמלית
fZ z
1
2
e
1
z
2
z
2
N 0,1 :נורמאלי סטנדרטי
Z
a
: כאשר לאינטגרל הזה אין פיתרון אנליטי ומסמנים, P Z a
1
2
e
1
2
z
2
dz :ומתקיים
. את הערכים מוצאים בטבלה, P Z a a
fX x
1
2
e
x
2
2
2
N ,
x X
2
R , 0 :נורמאלי כללי
: כדי להיות נורמאלי סטנדרטיX ניתן לנרמל את
b
b
X
b
P X b P
PZ
b
a
P a X b P X b P X a
: אזX 2
N 2 , 2
2
, X1
N 1 , 1
2
:סכום של משתנים נורמאלים
. X1 X 2
24
©ענת עציון
N 1 2 , 1 2
2
2
הסתברות מ ( – )214490חורף תש"ע
משפט הגבול המרכזי
n
יהיו , X n
X 1 , X 2 ,מ"מ ב"ת ש"ה עם תוחלת ושונת
2
. נגדירX i :
1
n
X n אזי:
i 1
N 0,1
n
Xn
n
/
כלומר
n
Xבקירוב מתפלג כמו משתנה מקרי מהתפלגות נורמאלית-
2
X
n
P n
a
, N ,כלומר a P N 0,1 a :
n
/ n
n
באופן שקול אם נגדירX i :
S n אזי N 0,1 :
n
i 1
Sn n
n
.
S nמתפלג בקירוב כמו מ"מ. N n , n 2 :
25
©ענת עציון
הסתברות מ ( – )214490חורף תש"ע
התפלגות אקספוננציאלית והתפלגות גאמא:
התפלגות מעריכית:
סימוןex p :
.X
פונקצית צפיפות:
EX
שונות:
תוחלת:
1
x0
ex
otherw ise
1
2
חישב הסתברות:
a
dx e
x
e
. fX x
0
V ar X
f X x dx
a
P X a
a
תכונת חוסר הזיכרון :אם נתון כי עד רגע ( tכולל) לא היה מופע ,אז "מתחילם מהתחלה" ,ולכן הזמן
s
.PX t s | X t P X s e
עד המופע הבא הוא. ex p :
משפט :ההתפלגות הרציפה היחידה בעלת תכונת חוסר זיכרון היא ההתפלגות האקספוננציאלית.
התפלגות :Gamma
סימוןG a m m a n , :
פונקצית צפיפות:
x0
.X
e x x n 1 e x x n 1
fX x
n
! n 1
otherw ise
0
כאשר n , וכאשר , n e y y n 1 dyשזוהי פונקצית גמא.
0
תכונות:
-
עבור nשלם מתקיים n n 1 n 1 :
-
! . n n 1
-
1
2
תוחלת:
n
EX
שונות:
n
2
V ar X
26
©ענת עציון
הסתברות מ ( – )214490חורף תש"ע
הערה :התפלגות אקספוננציאלית הינה מקרה פרטי של התפלגות : G a m m a
Gamma 1, exp
X 1 ,מ"מ ב"תex p ,
גאמא -סכום מ"מ אקספוננציאלים :יהיו , X n
Xn
. Y X 1 אזיG a m m a n , :
. X iנגדיר:
.Y
הקשר בין מ"מ אקספוננציאלי גאמא ופואסון:
- N tמספר המופעים בקטע. [0, t ] -
- T i T i 1 זמן בין מופעים.
- Tiזמן המופע הi -
אם P o is t
N tאז:
o
ex p
o
G am m a i,
אם ex p
o
Ti Ti 1
Ti
Ti Ti 1 וב"ת אזי:
P o is t
Nt
j
נוסחה לחישוב הסתברויות עבור : G am m a i ,
t
!j
t
e
i 1
P Ti t P N t i 1
j0
משמעות :ההסתברות שהמאורע ה i -יקרה אחרי זמן t -שווה להסתברות לכך שעד לזמן t -קרו לכל
היותר i 1מאורעות.
27
©ענת עציון
הסתברות מ ( – )214490חורף תש"ע
פונקצית התפלגות מצטברת
הגדרה :יהי Xמ"מ .פונקצית התפלגות מצטברת של Xהיא פונקציה ] F X : R [0,1המוגדרת
ע"י. F X x P X x :
עבור XבדידPX x :
FX x
xR x
עבור Xרציף:
FX x
x
x
f X t dt f X x
FX x
כלומר :ע"י גזירה של פונקצית התפלגות מצטברת ,ניתן לקבל את הצפיפות של מ"מ רציף.
תכונות:
-
F 1
-
F 0
-
F , x y F x F y מונוטונית.
הערות:
-
פונקצית ההתפלגות המצטברת מגדירה את ההתפלגות של מ"מ .כלומר ,אם למשתנים
מקריים אותה פונקצית התפלגות מצטברת ,אז להם אותה צפיפות ואתה התפלגות על. R -
-
עבור XרציףP a X b P X b P X a F b F a :
נוסחת הזנב X :מ"מ בדיד ,שמקבל ערכים שלמים לא שליליים k .
PX
EX
k 1
במקרה רציף זה יכול להיות אי-שיווין ממש ואז מקבלים 1 F X x dx :
EX
0
28
©ענת עציון
הסתברות מ ( – )214490חורף תש"ע
טרנספורמציות של מ"מ רציפים
שינוי משתנה:
שינוי ליניארי:
מ"מ רציף בעל פונקצית צפיפות x
X
ya
fX
( ) b 0ניתנת ע"י :
| |b
b
1
, f Xפונקצית הצפיפות של Y a b X
. fY y
הרכבה X :מ"מ רציף בעל פונקצית צפיפות g . f X x מונוטונית עולה ממש או יורדת ממש (ואז
g y f g y
היא הפיכה בתחום מסוים) .פונקצית הצפיפות : Y g x
1
1
X
y
fY
סימולציה:
.U
נתון משתנה אחידuni[0,1] :
המטרה :ע"י שימוש ב U -ועל-סמך טרנספורמציה ,לקבל תצפית מהתפלגות של מ"מ , Xכאשר
Fפונקצית ההתפלגות המצטברת של , X -נתונה.
נרצה למצוא פונקציה gכך ש . P g U x F x -בדרך זו g U ו X -יהיו שווי התפלגות.
. F X לכן נגדיר
בנוסף מתקיים שU n i 0,1 -
U F Xונחלץ את X
. g U F 1 U
על-מנת להגריל מ"מ , Xנגריל עתה מ"מ U n i 0,1 ונציב בפונקציה ההופכית שמצאנו.
התפלגות חי בריבוע:
n
X 1 , X 2 ,מ"מ ,ב"ת ,כאשר N 0,1
יהיו , X n
. X iנגדיר:
2
Xi
.Y
i 1
n 1
אז, :
2 2
n G am m a
x0
otherw ise
1 n2
2
n / 2 1 x / 2
x
e
f X x, n n / 2
0
2 G am m a 2 2 , 1 2 exp 1 2 , X 1 , X 2
הערה :כאשר N 0,1
דוגמא:
2
Y X
2
Yכלומר Y :מפולג חי בריבוע עם nדרגות חופש.
2
,
1/ 2 x
e
1
2
N 0,1
y/2
. Xאז:
e
1/ 2
2
y
y
2
2
X2
2
1
X
1 1
f Yו , -
2 2
2
Y
29
©ענת עציון
הסתברות מ ( – )214490חורף תש"ע
התפלגויות וצפיפויות משותפות
התפלגות משותפת רציפה של זוג מ"מ:
ל-מ"מ X , Yהמוגדרים על אותו מרחב המדגם יש התפלגות משותפת רציפה אם לכל
מתקייםf X ,Y t , s dtds :
2
B R
, P X ,Y B
B
צפיפות משותפת f X ,Y t , s :היא פונקצית הצפיפות המשותפת של Xו Y -המקיימת:
-
f X ,Y t , s 0לכל . t , s
-
f X ,Y t , s dtds 1
-
P x X x d x , y Y y d y f X ,Y x , y d xd y
(מבחינה גיאומטרית ,ההסתברות במקרה הדו-מימדי מתוארת ע"י השטח במלבן . dx dy
שיטות למציאת צפיפות משותפת:
.9ע"יf X ,Y x , y dxdy P x X x dx , y Y y dy :
.0מציאת F X ,Y x , y וגזירתה.
התפלגות מצטברת משותפת :עבור - X , Y זוג מ"מ המוגדרים על אותו מרחב המדגם,
y
פונקצית ההתפלגות המשותפתf X ,Y u , v dudv :
x
F X ,Y x , y P X x , Y y
ומתקיים x , y :
X ,Y
F
2
xy
f X ,Y x , y
פונקציות צפיפות שוליות:
פונקצית הצפיפות השולית שלf X ,Y x , y dy : X -
fX x
פונקצית הצפיפות השולית שלf X ,Y x , y dx : Y -
fY y
הערה :בכל-פעם עושים אינטגרציה על המשתנה שרוצים להשמיט ,נכון גם ליותר מ 0-משתנים.
31
©ענת עציון
הסתברות מ ( – )214490חורף תש"ע
אי-תלות בין מ"מ רציפים:
X , Yיקראו מ"מ בלתי תלויים אם מתקיים f X ,Y x , y f X x f Y y :לכל . x , y R
X , Yיקראו מ"מ בלתי תלויים אם מתקיים F X ,Y x , y F X x FY y :לכל . x , y R
הערה :אם ניתן להפריד את f X ,Y x , y למכפלת שתי פונקציות באופן הבא:
f X ,Y x , y g x h y ותחומיהם השוליים של Xו Y -אינם תלויים אחד בשני ,כלומר-
התחום המשותף של X , Y הינו מלבן המקביל לצירים ,אזי המתנים המקריים הם ב"ת ו g x -ו-
h y הן פונקציות הצפיפות של X , Yעד כדי קבוע.
כתיבה דרך הסתברות. P X dx , Y dy P X dx P Y dy :
התפלגות אחידה דו-מימדית:
מפולגים אחיד על U ni B , B
R
, Bנאמר ש X , Y -
t, s B
1
t , s a rea B
0
עבור
2
o th erw ise
X , Y אם:
f X ,Yכאשר X , Y נבחרה באקראי על . B
הערות:
-
עבור A Bמתקיים:
area A
area B
-
אם U ni a , b
. P X ,Y A
XוU ni c , d -
, Yו X , Y -ב"ת ,אז הם מתפלגים במשותף אחיד דו-
מימדי על המלבן. [ a , b ] [ c , d ] :
תכונה:
P X , Y [ x , x dx ] [ y , y dy ] F x dx , y dy
1
1 2 3 4
F x dx , y F x , y dy F x , y
4
2 4
3 4
31
©ענת עציון
) – חורף תש"ע214490( הסתברות מ
סטטיסטי הסדר במקרה הרציף
X 1 X 2
X n . X i
m in X i
, X n :הגדרה
f X , ש"ה, ב"תX 1 , X 2 ,
m ax X i
1 i n
1 i n
: מקסימום והמקרה הכללי,מינימום
F1 P m in X i x 1 P m in X i x 1 1 F x
f 1 x
x
F1 nf
x 1 F x
n 1
F n P m ax X i x F x
fn x
x
n
F n nf
n
x F X
n 1
nk
n 1
k 1
fk x n
f x F x 1 F x
k 1
n 1 k 1
1 0 x 1
nk
: אז. f X x
, Xi
fk x n
x 1 x
k 1
0 otherw ise
fX
1 ,
, X n
x1 ,
xn 1
n ! 0 x1
, xn
: X 1 ,
0 otherw ise
Uni[0,1] :דוגמא
, X n פונקצית צפיפות משותפת של
:התפלגות בטא
1
B r, s
0
x r 1 1 x s 1
s 1
r 1
x 1 x dx : כאשרf X x
B r, s
0
0 x 1
otherw ise
k 1, n k 1 : סטטיסטי הסדר מתפלג:דוגמא
32
©ענת עציון
) – חורף תש"ע214490( הסתברות מ
צפיפות מותנית ותוחלת מותנית
:צפיפות מותנית
: הצפיפות המותנית שלX בהינתןY y המוגדרת עבור כלy - כך שf Y y 0 :הגדרה
. f X |Y x | y
f X ,Y x , y
fY
y
:כללי הסתברות במקרה הרציף
f X ,Y x , y f X x f Y | X
y | x : כלל הכפל-
x
F X |Y x | y P X x | Y y
f X |Y t | y dt : פונקצית ההתפלגות המצטברת המותנית-
b
P a X b |Y y
f X |Y x | y dx : חישוב הסתברות מותנית-
a
fX x
f X |Y x | y f Y y dy : צפיפות שולית דרך צפיפות מותנית-
f X |Y x | y
fY |X
y | x fX x
fY y
fY |X
y | x
fX x
:נוסחת בייס לצפיפות-
f X ,Y x , y dx
fX x | A
P A | X x fX x
: נוסחת בייס למאורע-
P A | x f x dx
X
:תוחלת מותנית
E X |Y y
xf X |Y x | y dx :הגדרה
. הוא מ"מh Y E X | Y : אזh y E X | Y y אם נסמן:הערה
EX
Var X
E E X |Y
E h Y
E V a r X | Y
33
©ענת עציון
:משפט ההחלקה במקרה הרציף
Var E X
|Y
:נוסחה לחישוב שונות
הסתברות מ ( – )214490חורף תש"ע
טרנספורמציות
טרנספורמציות חח"ע של מ"מ רציף:
הגדרה :יהיה Xמ"מ רציף המקבל ערכים בקטע ] . [ a , bתהיה g : R Rפונקציה גזירה ועולה
(יורדת) ב . [ a , b ] -אזי למ"מ Yהמוגדר להיות Y g X יש את פ' הצפיפות הבאה:
1
g y
1
fX g y
fY y
y
0
g a y g b
otherw ise
טרנספורמציה דו-ממדית:
הגדרה :יהי X , Y מ"מ דו-ממדי רציף בעל צפיפות משותפת . f X ,Y x , y :תהיינה
u g 1 x , y , v g 2 x , y פונקציות ממשיות על המישור ,שהן חח"ע וגזירות ,כך שקיימות
הפונקציות ההפוכות x h1 u , v , y h 2 u , v :והן גזירות .אז נגדיר את היעקוביאן:
h
1
v
h
2
v
h1
. J u , v det huאז פונקצית הצפיפות המשותפת של
2
u
נתונה ע"י:
U g1 X , Y , V g 2 X , Y
f U ,V u , v f X ,Y h1 u , v , h 2 u , v J u , v
הערה :עבור מ"מ U g 1 X , Y ניתן לכתוב מ"מ נוסף V Xאו , V Yלבצע טרנספורמציה
דו-ממדית עבור U , Vולמצוא צפיפות שולית של Uע"י אינטגראציה.
מקרה פרטי :מעבר מקואורדינאטות קרטזיות לפולאריות :נניח שלמ"מ X , Y יש צפיפות
, f X ,Y x , y אזי לקואורדינאטות הפולאריות יש צפיפות משותפת:
f R , r , t rf X ,Y r cos t , r sin t
טרנספורמציות רב-ממדיות:
הגדרה:
, xn
x1 , x 2 ,
,Xn
f X1 , X 2 ,
,Xn
Xˆ X 1 , X 2 ,וגם:
,Xn
Y1 g 1 X 1 , X 2 ,
,Xn
Y2 g 2 X 1 , X 2 ,
,Xn
Yn g n X 1 , X 2 ,
34
©ענת עציון
) – חורף תש"ע214490( הסתברות מ
X 1 h1 Y1 , Y 2 ,
, Yn
X 2 h 2 Y1 , Y 2 ,
, Yn
X n h n Y1 , Y 2 ,
, Yn
. J y1 , y 2
: ואז קיימות, הן חח"ע ולכן הפיכותg כל פונקציות
h1 y
y1
h y
n
y1
, yn
: היאYˆ Y1 , Y2 ,
f Y1 ,Y2 ,
,Yn
y1 , y 2 ,
, yn f X1,X 2 ,
,X n
h y
1
y
n
:אז נגדיר את היעקוביאן
h y
n
y
n
, Yn -ונקבל כי פונקצית הצפיפות המשותפת ל
h yˆ , h yˆ ,
1
2
, h n yˆ J y1 , y 2 ,
, yn
n2
. f X 1 , X 2 x1 , x 2
x3
xn
f X1 ,X 2
,Xn
x dx 3
dx n :התפלגות שולית מהמשותפת
:טרנספורמציות ליניאריות
Y1
. X A Y : אז. קיימתA - נניח ש.
Y
n
1
1
a11
a
n1
a1 n X 1
ˆ
, Y A Xˆ
a nn X n
f Yˆ yˆ
35
©ענת עציון
1
| det A |
1
f Xˆ A yˆ
הסתברות מ ( – )214490חורף תש"ע
סכום של משתנים מקריים
הגדרה :יהיו X , Yמ"מ ויהי . Z X Y
במקרה הבדיד :פונקצית ההתפלגות של- Z -
P x, z x
X ,Y
PZ z
x
אם X , Yב"ת:
P x P z x
y
X
PZ z
x
במקרה הרציף :פונקצית הצפיפות של f X ,Y x , z x - Z
fZ z
אם X , Yב"תf X x f Y z x dx :
fZ z
הערה :כאשר X , Yב"ת זה נקרא קונבולוציה.
36
©ענת עציון
הסתברות מ ( – )214490חורף תש"ע
התפלגות רב נורמאלית ודו נורמאלית
התפלגות רב-נורמאלית:
הגדרה :יהי ˆ Xוקטור אקראי ממימד kהמפולג נורמאלית עם תוחלת ˆ E Xˆ ומטריצת
קווריאנס , כלומרN ˆ , :
ˆ . Xניתן לכתוב את פונקצית הצפיפות של ˆ Xבצורה:
t
1
1
exp xˆ ˆ xˆ ˆ
2
1
1
2
||
k
2
2
f Xˆ xˆ
מטריצת קווריאנס :יהי ˆ Xוקטור אקראי .נקראת מטריצת הקווריאנס של ˆ Xומתקיים:
X EX X EX
t
C ov X 1 , X n V ar X 1
C ov X n , X n C ov X n , X 1
C ov X 1 , X n
V ar X n
E
C ov X 1 , X 1
C ov X , X
n
1
על האלכסון הראשי מצויות השונויות של איברי ˆ Xבהתאמה ,מחוץ לאלכסון נמצאות השונות
המשותפת (קווריאנס) של איברי ˆ , Xבמיקומים המתאימים.
טרנספורמציה ליניארית של וקטור אקראי נורמאלי:
יהי וקטור אקראי N ˆ ,
, Yˆ A Xˆ bאזי
t
ˆ . Xתהא מטריצה ( Aלאו דווקא ריבועית) ויהי וקטור . bאם
N A ˆ b , A A
ˆY
מסקנות:
. 9כל התפלגות שולית של וקטור אקראי נורמאלי היא נורמאלית .לדוגמא אם X 1 , X 2 , X 3 מפולג
t
נורמאלית אז גם X 1 , X 3
t
0
מפולג נורמאלית .במקרה זה
1
0
1
0
0
0
0
A ו. b -
. 0כל ק"ל של משתנים מקריים ,שפילוגם המשותף נורמאלי ,היא נורמאלית .לדוגמא:
3 X 1 X 2 2 X 3מפולג נורמאלית .במקרה זה 2
1
A 3ו. b 0 -
משפט :משתנים שפילוגם המשותף נורמאלי והם בלתי מתואמים ,הינם גם בלתי תלויים.
הערות:
הכיוון השני אינו נכון ,ייתכנו מ"מ בעלי התפלגות שולית נורמאלית שהם בלתי מתואמים אך אינםמפולגים יחד נורמאלית.
רק פילוג נורמאלי מקיים את המשפט בתנאי החשוב שההתפלגות המשותפת היא נורמאלית.37
©ענת עציון
הסתברות מ ( – )214490חורף תש"ע
התפלגות דו-נורמאלית:
הגדרה:
X1
יהי
X2
X וקטור המתפלג נורמאלית עם תוחלת E Xˆ ˆ -ומטריצת קווריאנס ,
כלומרN ˆ , :
ˆ . Xאז ניתן לכתוב את פונקצית הצפיפות של ˆ Xבצורה:
t
1
1
exp xˆ ˆ xˆ ˆ
2
1
1
2
f Xˆ xˆ
| 2 |
אם נסמן , E X i i , V a r X i i , C o rr X 1 , X 2 -אזי:
1 2
2
2
12
1 2
1
2
ˆ ופונקצית הצפיפות המשותפת היא:
f X 1 X 2 x1 , x 2
2
x2 2 x2 2
2 2
x 2
1
1
exp
1
2
2 1 2 1
x 1
1
1
1
2
2 1 2 1
תכונות:
א X 1 , X 2 .מפולגים נורמאלית באופן שולי
2
N 2 , 2
X2
,
2
N 1 , 1
. X1
ב .הכיוון השני לא בהכרח נכון ,כלומר לא כל שני משתנים נורמאלים בעלי מקדם מתאם כלשהו ,
יתפלגו במשותף דו-נורמאלית.
דוגמא:
xy 0
xy 0
1 2
2
x y
2
e 2
x , y 2
0
2
ההתפלגויות השוליות הן כן נורמאליות:
x
1
f X ,Yזוהי אינה התפלגות נורמאלית ,אבל
2
2
e
fX x
ג .ההתפלגויות המותנות הן נורמאליות:
2
2
N 2 2 x1 1 , 2 1
1
x1
X 2 | X1
2
2
N 1 1 x 2 2 , 1 1
2
x2
X1 | X 2
ד .שני מ"מ ב"ת שפילוגם השולי נורמאלי ,מפולגים יחד דו-נורמאלית עם מקדם מתאם אפס.
38
©ענת עציון
) – חורף תש"ע214490( הסתברות מ
X Y y
x
,
y
x
Y
N 0, 1
2
2
N 0,1
1
N 0,
אזי
1
X ,Y
N , אם
N 0,1 :דוגמא
: אזY X 1 2 Z , ב"תX , Z
C ov X , Y E X Y E X E Y E X X
1 Z
2
0
:משפט
1 E XZ
2
E X E Z 0
E Y | X
E X
| X
1 E Z | X
X
2
0
N ,
: U ni[0,1] בהינתן
N ,
Y X
2
2
סימולציה של
N 0,1 אם
אזX
. x P N 0,1 x :9-פיתרון
.R
X
2
Y
2
Y
X
arctan
:ונקבל
1
2
r
FR r
re
X R cos
f R
re
1
2
r
Y R sin , X , Y
1 2
r
1
2
re
r , 2
0
1 2
r
2
1 e
1
r
2
2
,
F
1
N 0, I
:0-פיתרון
0 r , 0 2
. = יעקוביאןr
otherw ise
f f R r
2
v
U ni[0, 2 ],
2 ln 1 v , V
R
re
1 2
r
2
U ni[0,1]
0
: מ"מ נורמאלים בהינתן מ"מ אוניפורמיים2 יצירת
U 2 U
V
U ni[0, 2 ]
2 ln 1 V R
. וב"ת R co s , R sin X , Y
: ב"ת אז. U , V
U ni[0,1] יהיו
N 0,1 : מקיימים , R המ"מ החדשים שיצרנו
39
©ענת עציון
fR r
© Copyright 2024