Capitolul 7 Estimatori Pentru Valoare Medie Dispersie Estimarea Parametrilor NP
Capitolul 7 Estimatori Pentru Valoare Medie Dispersie Estimarea Parametrilor NP
Capitolul 7 Estimatori Pentru Valoare Medie Dispersie Estimarea Parametrilor NP
k
f (k ; ) e
; 0, k 0,1,2, ,
k!
(are un parametru).
0 p 1, n N * ;
k n, k N
2
c) Repartiia normal continu: f ( x; m, )
exp(
( x m)
22
, x R, 0 ;
f ( x; ) e x ;
lim P ( N ) 0
Din aceast definiie (adic din acest tip de convergen) noi nelegem c volumul de selecie
N trebuie s fie un numr foarte mare, ceea ce n aplicaii nu este comod.
Definition 2. Dac definiia 1 este satisfcut, atunci este o estimare consistent a
P
valorii i scriem N (convergen n probabilitatea P ).
Definiia 3. Dac valoarea medie este , adic M ( N ( x1 , , x N ) , atunci se
numete estimaie nedeplasat (estimaie exact) a lui .
D 2 N ( x1 , , x N ) 0 , arunci se
Definiia 4. Dac M N ( x1 , , x N ) i Nlim
1
N 1
Propoziia 1. Valoarea X este o estimare absolut corect a valorii medii M ( X ) . De
asemenea X este o estimare nedeplasat a valorii medii.
Propoziia 2. Varoarea s 2X este o estimare consistent a dispersiei D 2 ( X ) .
X
x1 x2 xk x N
f1 f 2 f k f N
x1 f1 x2 f 2 x N f N
.
f1 f 2 f N
exp ( )
k
k!
; k 0,1, 2 , , ; 0 .
M ( X ) = ; X (estimator) ; D 2 ( X ) .
Repartiia continu exponenial. f ( x ; ) = exp ( x) ; x 0 ; 0 .
1
1
1
2
M (X ) =
;
(estimator) ; D ( X ) 2 .
2
( x m)
1
exp
; xR.
Repartiia continu normal. f ( x ; m, 2 ) =
2
2 2
M ( X ) = m ; m X (estimator) ; D 2 ( X ) 2 .
atunci estimaia
minim.
1
ln f ( x; 2
N * M
(1)
dispersia
Egalitatea (1) provine din teorema Rao-Cramer i este condiia necesar i suficient ca o
estimaie s fie eficient.
Algoritmul dispersiei minmime.
1) Folosim variabila aleatoare X cu densitatea f ( x; ) . Funcia f este cunoscut, iar
parametrul este necunoscut.
2) Folosim selecia x1 , x 2 , , x N asupra variabilei X .
3) Alegem estimarorul nedeplasat N ( x1 , , x N ) al lui .
4) Calculm partea stng din egalitatea (1) D 2 [ N ( x1 , x2 , , x N )] .
5) Calculm partea dreapt din egalitatea (1), dup cum urmraz: ln f ( x; ) ;
ln f ( x;
ln f ( x;
M
ln f ( x; )
ln f ( x; )
;
f ( x; ) dx A .
A este o notaie
1
(* este nmulirea din real).
N*A
6) Comparm membrul stng cu membrul drept din (1). Dac egaliatatea (1) este satisfcut,
atunci N are dispersia minim. Deci N este estimator efficient pentru parametrul R .
Observaia 2. Facem o recapitulare a tipurilor de estimaii pe care le-am ntlnit pn acum:
estimaie consistent, estimaie nedeplasat, estimaie absolut corect, estimaie eficient.
7.1.5 Funcia de verosimilitate. Ecuaia de verosimilitate maxim.
Sistemul de verosimiliate maxim.
a) Cazul cu parametrul unidimensional . Fie X o variabil aleatoare cu densitatea de
f ( x; ) sau f ( x; ) , cu R; R k . Tratm cazul cu parametrul
probabilitate
unidimensional.
Pentru X folosim selecia x1 , , xi , , x N .
Definiia 6. Funcia de verosimilitate (unidimensional) se noteaz cu i are forma de
produs
N
f ( x; ) ; ( x1 , x 2 , , x N ; ) f ( xi ; )
i 1
(2)
ln
0
(3)
f ( x; ) ; ( x1 , x 2 , , x N ; 1, 2 , , k )
f ( xi ; 1 , 2 , , k )
, i 1
(4)
(5)
ln
0.
Obinem soluia
( x1 ,, x N ) .
e) Lum estimarea .
Observaia 3. n cazul f ( x; ) se urmeaz aceeai cale, dar se rezolv sistemul de ecuaii
(5).
Metoda 2. Metoda momentelor. Algoritmul 2.
Reamintim cteva idei i formule legate de variabilele aleatoare unidimensionale, discrete sau
continue.
k xxxx k k
21 ni k x1 2 i xxx n
X ,X ,n N*,k N*,xiR
21 pppp ni p ppp
1 2 ni
x k xk
X X ,kN*
f (x) xf )(
,
M (X )
, f : R [0, )
n
i 1 xi pi (n cazul discret; ,
M (X )
n
D 2 ( X ) M [( X m X ) 2 ] i 1 ( xi m X ) 2 pi
n
M k ( X ) M ( X k ) i 1 x ik pi
M k (X ) M (X k )
x f ( x ) dx
D2 (X )
(n cazul continuu)
x m X
f ( x) dx
; k 1, M 1 ( X ) M ( X ) (momente necentrate)
f ( x ) dx ;
k 1, M 1 ( X ) M ( X ) (momente necentrate).
1
N
i 1 x i ; m 2 N i 1 xi2
etc.
1
S se demonstreze c X
N
( x m) 2
exp
2
2 2
N
x
i 1 i
; xR.
1
ln f ( x; 2
N * M
D 2 [ N ( x1 , x 2 , , x N )]
1
N
x
i
1 i
N
1
1
N
N
1
N
D 2 i 1 xi
D 2 ( xi ) =
D2 (X ) D2
xi
1
i
1
2
2
N
N
2
2
N
1
N
= 2 i 1 2 2
. Din membrul drept obinem succesiv
N ( x1 , , x N ) = X
ln f ( x; m, 2
ln f ( x;
M
( x m) 2
( x m) 2
f ( x; m, 2 ) dx =
2
( x m) dx . Calculm separat integrala notat A
(
x
m
)
exp
4 2
2 2
( x m) 2
2
dx ; artificiul 1: dedublarea lui ( x m) 2
A= ( x m) exp
2
( x m) 2
dx ; artificiul 2: u x m
(
x
m
)
(
x
m
)
exp
A=
2
u
du ; artificiul 3: f g ' dx f g f g ' dx
A= u u exp
2
2
A=
exp
du ;
2
A=
exp( t 2 ) dt
ln f ( x; 2
2
1
M
4
2
artificiul 4: t 2
; artificiul 5: exp( t
1
ln f
N
m
1
N
i 1 xi
) dt
; A=
1
2
1
N
2
.
N
x
X
f (x;)
x
f ( x; ) e
x!
; x 0,1, 2, 3, ; 0 ;
x1 x 2
xN
A
e
e
=
e N
x1
x2
xN
B
i 1
x
x
1
x
unde, pentru o redactare mai clar, sus la putere am folosit notaia 1
, 2 x 2 etc, iar
A x 1 x 2 x N ; B x 1! x 2 ! x N ! . Cu aceste notaii rezult
ln
0 ; rezolvm aceast ecuaie n
ln ( x1 , x 2 , , x N ; ) N A ln ln B ;
( x1 , x 2 , , x N ; ) f ( x i ; ) = e
N A ;
A
1
;
N
N
i 1 xi X .
Deci parametrul este estimat prin media de selecie X , care este o estimaie nedeplasat
pentru M ( X ) a repatiiei Poisson.
Problema 3. Repartiie normal continu. Verosimilitate maxim. Doi parametri.
Fie X o variabil aleatoare cu repatiie normal, continu
x
X
f ( x; a , b )
; x R; a R; b 0 ; f ( x; a, b)
( x a) 2
exp
b 2
2b2
( x1 , x 2 , , x N ; a, b) f ( xi ; a, b) =
i 1
bN
( x1 , x 2 , , x N ; a, b)
N
A i 1 x 2
i
1
2
( x a) 2 ( x N a) 2
exp 1
N
2b2
2
A 2a B N a 2
exp
N
2b2
N
; B i 1 xi . Aplicm logaritmul natural
A 2a B N a 2
N
ln ( x1 , x 2 , , x N ; a, b) N ln b
ln(2 )
2
2b2
. Folosim metoda
2
ln
0 ; N A 2a B N a 0 ; N b 2 A 2 a B N a 2 0
b
b
b3
B
1
; a
N
N
i1 xi X ;
. Rezult
a2 ;
N
N
N
1
1
N
N
N
i 1 x 2i 2 X N i 1 xi + X 2 = N i 1 x 2i X 2 s 2 , deorece
1
1
N
N 2
( x X ) 2 s 2 . Deci, n parametrul b 2 recunoatem dispersia
xi X 2
i 1 i
i
1
N
N
b2
variabilei aleatoare X.
Rezultatele finale sunt a
1
N
i 1 xi
; b2
1
N
i 1 ( x i X ) 2 s 2 .
x
X
f (x; p)
; x 0,1,2, , n ; p 0 ; f ( x; p) C nx p x (1 p) n x .
formulei am notat
f ( x i ; p) ;
i 1
x 1 x1 , x 2 x 2
( x1 , x 2 , , x N ; p )
f ( x i ; p ) C nx i p x i (1 p ) n x i ,
etc. Rezult
i 1
( x1 , x 2 , , x N ; p ) A p B (1 p) n B , unde
x1
x2
xN N
A C n 1 C n 2 C n
N
; B i `1 x i . Logaritmm
0 ; B np 0 ; p B
p
p 1 p
n
1
N
N
p i `1 x i ; n p i `1 x i . Parametrul p astfel estimat are verosimilitate maxim. El
n
genereaz valoarea medie M ( X ) a variabilei Bernoulli.
1 0
X
p 1 p
; p 0.
0; k N p 0; p k
p
p 1 p
N
N
i 1 x i X .
exp(
( x m) 2
2 2
, xR.
1
N
i 1 x i ; m 2 N i 1 xi2 .
2
2
Construim sistemul liniar cu dou ecuaii i dou necunoscute m m 1 ; m m 2 ;
m m1
1
N
i 1 x i ; m 2 2
1
N
i 1 xi2 .
i 2 . Rezult
Rezolvm sistemul i notm soluiile prin m
1
N
i 1 x i =
2
X ;
1
N
1
N
i 1 xi2 m 2 N i 1 ( x i m ) 2 2
i 1 ( x i m ) 2 =
1
N
, deoarece
i 1 xi2 m 2 .
X
m
i 1 x i ;
1
N
2 s 2
i 1( x i X ) 2 .
Recunoatem formule cunoscute, pe care le-am ntlnit la nceputul seciunii 7.1.3, care
trateaz estimarea nedeplasat a valorii medii i estimarea consistent a dispersiei.
Problema 7. Repartiie beta continu. Estimare prin metoda momentelor. Doi parametri.
Fie variabila aleatoare beta X B (a, b)
f ( x; a, b)
( a b) a 1
x a 1 (1 x ) b 1
x
(1 x) b 1
; x [0,1] , a 0, b 0 .
( a ) (b)
B ( a, b)
( z)
t z 1 e ( z 1) l n t
dt , z C , Re z 0 ;
(1) 1 ; B ( a, b)
( a ) (b)
.
( a b)
Folosim momentele
M1( X ) M ( X ) m
0 x f ( x; a, b) dx a b
1
M 2 (X ) M (X 2 ) m2 2 = 0 x2
2
f ( x; a, b) ( x m)
f ( x; a, b) dx
dx
ab
( a b) 2 ( a b 1)
. Deci
2
ab
a
a
; M 2 (X )
2
(a b) ( a b 1)
ab
ab
1
1
N
N
m1 i 1 x i ; m 2 i 1 xi2 . Construim sistemul
N
N
M 1 ( X ) m1 ; M 2 ( X ) m2
2
ab
a
1
1
N
N
a
2
x
x i2
=
;
=
i
i 1
i
1
(
a
b
)
(
a
1
)
ab N
N
ab
M1(X )
i 1 ( x i X ) 2 = N i 1 xi2 X 2
i 1 x i2 = s 2 X 2 .
ab
2
a
s2 X 2
=X , X
2
(a b) (a b 1)
ab
; s 2X
1
N
i 1 xi X
N
= s 2 (notaie)
ab
a
X Xb
s2 ;
, X
X
a a X
ab
a X3 b
a (1 X ) X 2 a (1 X )
,
s2 ; b
,
s2 .
X
a a X
X
a
a X
;
, unde
a
s2
s2
X
cunoscute.
1
N
i 1 x i ;
s2
1
N
i 1 xi X
N
cu
date (rezultate)