UNT- -'Kandom Froca&AeA4 O

A 1audom pnoe6s is a audom vaualblo uulu

l

a quucton o fu T
s XC8,E)
A1audom pHoe s4 is a Collection o
aud
heal Variable t
that aUR uuctcons oa
st).
teT (þasamebL
seS(bample
spa.ce),
&A

lassiicakdon o Aandor puoe

Segueuca
andorn
Cae ) Aisckote
Aaudom puocesd
ucante

Cane i) Aaudorn
A a u d o r m
eauouca
Sequauca

Contnuuous p ocesA
puocaa
Caue ( ) poca &4 (83)
n
haau
uddo
omm

Caue iv) Continuous 3ense 8t

S ta
at ion au Pa
t èonauy
3anse
statcoa.
8tur tatoauy
puoe
&4 on) s a i d to be
said be
Stationauy s
A r a n d d o m
pxoas4
xte
1xtej E ( K L E ) CCoo
n n
s a
ttaauut
t

«
E(XLEs)
Gi)Vaiau
Ci) M
C) Meau
ean F f f - / E [ x ] /Conatauk
SsS ptoes4
(On)
A a u d o m

then
C o n s t a u t ,

E (xLt))
=

Note Meau

6t Oden
O nden
tStationay
atcona

Aaid
to be 1
PAeAs

Result 21T
do =0
Co lWt +n®)

do =
O
2
Co (dt +ho)

21

nto
.Consdet tiu audorm p4oe4s Xtt) =Cos (eOt +O), ohe
9 unijokmly diutributed u tue imteaval T to 7. cl.
uijoml AtatiwnaLy on not? fud tlue u
cwhethe Xte) uutt
Second meut oR tt Pioe AA.

Sol Cos (ot + 0) hee i cuihoaul

GT Xlt)
m -7T,T)
tibuted
diu
TT O<T («)
b-a
o) 7-(-TT) 2

T.P xtt) a 888 p.u

Conabaut
Van xtE))
=

XE)) = Cons taut

zle) flo) do
i ) E f xtt) J -7

Con (wt +e). d

Constaut)
to) = o (a
do
Cos lO,t +0) 2
27T

Va (xces) -
Flx))-EXee))J
FLxe] -o
Cos= + Co 20
EfcoR (9,t +0) 2-

tto
E + Cos 2 l ,

EC) + E (o,t+0))
do
+ 9 Cos l t t 0 )

2ta tte) do,

Cos
+o
T

Cos(
+20) do |
Cos(s
Constauut)

E
a S&S pAOes .
Flene XlE)
aAA
 Aaudom pLOcss XE) takes ttue Value-I wtl

aud takes tu Vallue with pubabilit , +ud

Lobabiliy
a stattonauy pLocess O not.
cuhether Xlt)
xt)

Sok
XCt)En
aT
P
SS8 p o ces4
Co
C on
nsstauk

TP XE) Van xtt))

Va(xtE))=
=

Exte)) = Constaut
2 nh
=
(Xtt))
t

Vaa txce)E[xu] -JExceJ

&(a Centa
Consta
(a
(3*+3
()
PLocaAs.
s 9 PAowAs u

u a o
o h
h ee
e p
Xe)
lt+ d)
G),
ConlE+
,
Cos
euce p
X
Xtte
t))=
<¢|
A a u d o m
pi o
L eo
s ss
4

3, Consder tle
t e
d ftd)=
deuaily
C o n c d e r

wft oleusi
w?tt
Vasiable OL not
OE.
On
Aaudom

puockA
Statiouau
Statiouauy

whetue the
Check

Sol Xte)
CoA lt +¢)
GT
Ceb) = TT

Xte) (P) do
ELxe]
Cos Clt+#) dø

b ACos (t +¢) d

n lt+g)
 S u (t + ) -Siult T)
8 n (+t) Sn (-+)/ +

(Cos t + Cos t)
Cost ConAtaut

ot a SS8 peoe&
le ute, XtE)

dikn uudos cerlam

A The Pocess 7xte) f whose2 p obbil:
at)n-1

Conditous a wen hEl,2, .

d P xc)- nf 14at) nt

at
Ct
Shoo hat E i not &tatiorauyon) evolutiouay
8ol
X CE) =n O 2 3

PLn) at Cat) at Cat)2

+at +at) (1+at)° (l+at)"

Mean F[oet 2 , n pen 3at)

2at
CI+at)
(1+at)*
C1+at)
2at + 3at)
2 +at)
=(1-x)
1 4 x+ 3
I+at)
-2

Hat
Ct+ct)
+ c t -a t

C+at)
2

I4at
+at
(Constaut)
Ct+at

(+at)
 Vaaiauce Vasfxo]- E[fe]- [ELxe]|°
S Pn
1
Ss (n*+n-n)n
-

n so

nin+t)-n Pn -I

ntn+D P - nP
nso

1 -
= 0 + . 2 R +2.3 P +
-

2
+2-3. aE
C1+at) 3
(I+at)
-2

(1+at) att
2+6 a
+at)
(:N3bx.U
+6 ( a )
+ 3 at
(14aL
(1+at)
.[ C1+at)
+at)

-3
at
( +at
C1+at) =(.2 +2.3*+
(I-x)
24

2 2
+aut
(l+at)

2 1 +at)
1+at)
=+2at -
(1tat)
2at Const a u t .

Hee F(xCE)) Constau- batVa (xs) + Constcut

&not a 8tatcona P
.

Ihegwen PLoess
 uh
te andom pxoces&Xte) =A CoA (2,t +0)
s.T
aud i
A aud a Constau
Stationay it
diitaibuted .v m lo,T)
uulonuly disibui

A Cos (Ot+o)
tolese i u
Uaifouuly
o,T
Som XE)
&.T
a
o0 ' (x) b-a
9

ie)

Fxe) xtt) fto) do

de
A Cost0.t +0).

de
A Cos (cO,t +0)
TT

A +Sim lD, t +0)

T
S i n ( t+o)
8inDt+ T) -

( S i nCVT +0)=Sine)

3n t - 8in

29 n +)
E Constaut
94 8u,t

P o coAK
Atationa
.'.XE
 ond-Orden aud lida 8anse 8ationay Prowss Nss
catcoua
At
Aaid to be second Ondo
A Poce &
deuity fn Aatiufes,
2 hd

ttu Ondler , S
¥
f(1 , 2fat14S, tp4S)
7X1, t ,t ) i satia/ies
WAP
to
to be
be
saud
Aad
is
audom
PpOW&A(xee)) Const
aut

Ci) E
=
R ltj-ta)
ALxtt), x lta)
tle Condi tcon&
() RA1,ta)
is wide Aene
Xte)= A
Cos lDt +O)
and o Dw e s s wo
)3.7 Constaut
oud
aue
A
tat iona (o, 2T)
u.d
u . d . . m 07)
m (0, 0 )
d u t u b u te d a.v
uohes
lt+0)
XIt) A Cos
Sow G
fto) 2 T - OD

T P : X LE)
E L X E ) ) = C o r a t a u t

o 1 - t a )

(ie) P: RlE1,t = a

fle) de
X E)
( E I xtt))
=

de
do
lcDtto).
A C
Cob Cot4o) d e

o a Conataut)

xlta)
R t1, ts) = F[xte) A oA(0tg+®)
FLACosl cot +0)
Cos (Db,+©)
=EA CosCot+0)
+Col (tdEj + - G -
E[AjCo40t
+Dh+) +0

dltr Ea) +20) + Cos/o(t -t))|

=A F[ Cos( *
 Cos (w tr+a) +2s)t
E Cos ludtq- ts)y

FCoA (o ttrtta) 20)

2
+ A ECos cDlti-t

2
E otE tta) +90|+ ACosDttirt
21T
Aoslt+)
A de
Cos (2e+ Oltr++)).

+ aDa [ed ttr-t)

Co&
90 + Dlt-+s)| do
T
Cos lOt+no) do =o)
O + A Cos[ iD ltr-t)

Co&lti-t))

a fuuckon Er-ta)
sa WSS Ploe&A
a
Hence XCE)
wheu y å unitoermly distvbutas
XE) =
Sm ltdt + Y),
*) &.T X CE) is
we8.

theu
C0, 27), Sim
ldt+Y)
xtE) =
So. GT
fy 27-0
u a ws
TP Xlt) ConstautE

=
E CxE))
t - t-t2)
lts a)
ie) 9-P: = a fn
R Ctr,ta)

= xte) f y) dy
( ELxtt)] dy
Lc0t+ Y)
si
lot +Y) dy
im
Co n s t a u t
n & Om
Sen lt+n©)do =0 ,
mleqe, n#o)
 t t t ) E x (t)x(ts
ESin (Ot+ ) Sim (Wtat)

ECos(0ty4Ytwt y)- Cos (c0t,4Y t-y)

E Cos(ayaot,+ts)) -os(wtty-t)/
FCos (aya eotE 148-))+ ELCos[LDlt1-t237
2T
dy + Co8lt1-ts)
Cos (ay+ coltr+t). 2

o) + Con [ ltr-t
2

lt-ta)|

a fn Er-ta)

a WsS p o e a whereA

ltoot + 0),
Xte)
kle) = A CoA
pHOCeAS Vaiable
rando aAandom
3 ConAider A is
A
diatadbut ed
Vaiialles.
v anialls.
imdepeudleut
9ane uoamly
a nd
a u a
Variaute . d heuce .T
wth meam auto- CoAulatcon
eau aud

,T Fnd

x tt) i wss.

A Cos lioot + 0)
XE) =

S &T VanlA) =
1|
o,
EA)
FA)-E] =
-o =1|
ElA)
EA) =l. L
diumbuted m T ,T]
1 )= T

HeAe
Hene cuuufoumlg
a WSS puoes4
xtt) ia
T =
ConAtauut
i ) ELxt E,to)
E1, ta)
ce p:
ta) = a fn f
) R
E[A Cos ltoot+8) AR
O au mdepeudant
(ELxLt)J:
FCos (toot +0)] ( waiables
EtA
0
)RE ta) -ExteDxto
EA Cos (100t1 +0) A Cos ltoo tz +0)
7
E A CoA ltooti+ 9) Cos Ctoota +9)
E CAECos ttoot o) Cosltoota1o)
os CP+ B +
Cos
(p-B/
Cos& ACoSB =

Co& (o0+ toolt1+ +Cos (too ltt-ta))

F
Cos (ao+ too
ltists)/+ 2
Ecos (tooter-t2))
o+ Cos (too ltr-t2))

Rlt,t)= Cos(1oo lti-ts))

an CE-t)
. Xtt) a wss prca&&

A)
4) Nomal diutibution Ttpe too chdapond
Àt + B gin At, whes A aud B ae
XtE) : A Co
IR and A u
onma c o cwtH ECA) = EL) =O, FLA)=E (8)= a*,
a Conutaut, Prove h a t Xte) a a slnit ene 6Etateonau
pro cesAA of Ohder Otherune N o,-*]
ELB) O
Som Mean E CA)
A B
E CA) E B)
Vauiauce =
= acoheu au

hoAMal
cdep eudeut

e k C Conutaut)
ACAB)= ECA) ELB) =O >

T-P:XtE)
a wS3 proa&
ECXt)) = Constaut
(te) P
Rlt,ta) =a ucton of t1 -ta)

EL tt) E[A Cos De +B 9in hE

( =

=0
Co&t EA)+ 8in^t E (B)
 e,t5) Exttd xttz]
E A Cos h t +88in t)(A CoA At tB sin t)

E A Cos nE, Cos AEs +B SinAt, 8inAtg t AB(cosAt, ginAka +

Sin t Cos Aba)

EA) CDs At E LB)8int, 8in At2 +

Cos A t +

E1inA ta + 8 im nti
CosAta|
E CAB) [ CosA

Sm t + O
K Cos At, Cos Ata + k Sm^ti

Ats + Sim At, Sm At2|

RCos Ati Cos

Cos A COSB + S nASin B-Cos -))

(:'
Co Alt1-ta)
RCt,ta) a in of (ti-) P wce s4. WSS
a
Heuta XcE) Xte)=
X E)=
Ocost
Ucost V+D Sn&
+(V+)
+(
SnE

Xt) defiuad by ECV) =0

Considet a A. wlic ECo)
A o
wheu U V ae ndep endeut auswer
Jes? Eeplain
ElO)=ECv) = 2XtE)

v+) siu t
Soo G.T x ct) = O Cost+
Etu)-Etv)
1
Etv) O
ELU)
E CV)
=

F C U v ) = E C U )

9
ndapedout
O V a
gince
ECxe)) = EUCost + (vt) gnt
ElUcost)
+ E (V+1) <&nt)
+ E ( V+) 8 nt
E l u ) Cost
cv)+ EU)J s
int
CU) CoSt
ECv)
&intt S unt
Colt+
ElU)
+O + Snt

Censtaut

a
Xtt) u hot
 ointly WsS pxo

XCED YIe Caeto.djout

pOCQJKOA.
Tuwo . orn
XtE) a

C) Yte) a Ws PAD CO
R Ctr -t»)
Cni) Rltr, ta) = E [x te,) YEa) =

a YlE) az deiued sy
Two andom pAOCAAeS XE)
A 8in DE
Cos E
-

YtE) = B
DE B gin dt aud
XCE) =A Cos +
ouse stationay,
jontly wde
Suou at XIE)
Y e(indap
d. Teio nmeaus and
with
.V
B aaa uucorielatod
Aaud
w Constaut
tue Auma Vauauces aud

Sol XCe A Cos t + B SinDt

Vanauce= k Co) ECA) : FCB) =o

Hean =O
FlB) =

E CA) =

ECAB) =O
x t e ) } R i Yte)y a jointy wss
(ce) FP:)xte) i wss 0i) Yt a wss Gi) Rtt5): E[xtt)* t )
Cta)
Sinila p4 CA)tA) Paoblem
Ci) Rtt, to) : Ex(t) Y (ta)

EA Cos OL + B sin4 CB cos DL,- A sin ) |

2
EL ABCos:Ot, Cosdt -8inDt, 8inDea)-A Cos Dt 3in dt2 +
B inE, CosE,
ECAs t , Cos@, - 8inDt,sin@ta)- ECp)indta GsDt, +
E ) 8intr os t
= k Sin s Dt +keinDt, @sat2
= k) 8in D t i os t2 Cosdt & in Dt2

uction t t )
WeSPiocess
XE) R Y tE) as
joint
gin ACoSB Cocn &inB = Stn (A-B
 AdOouu N
XtEXt) YCost +x &ent wheie
YQud7 a indopondoue
.vbuna eal oliel OsueA tlu values aud
au d 22

w'th
cwith
probabilitius ols and a es poctiuely.P It) u

Y Cost 8mt
SoG.T X(E) +

y 2 z

PLY) 21s PR)

flz) Sz Piz) =0

Ytiae () . F ) - F I

Ailau, Va (2) :

u
molapeuoleut
ana
me y RZ
Sma

EYz) ELY) E(z)=o

N&S.
xtt) u
T-P
0)E [xte EY Cost +z Sint| 0 . (a C
Comtautt)
outaut
Elz) 8 int
0. (a
CoSt +
ECY)

+Z 2nta)|
ost +z Btnti) (y Cost
) R lt, t a ) E y +Sint1 Cost
t
+2 Sinti Sun to + YZ[Cost,Sn
F Y Costi Cost
ta+o
Co&to t Elz) 8 unti Sn
E L ) Cost
tiSin ta
Co8t Coßt +Sin

2Cos lti-t
a
ta)
xlt) a WSS mces4
 Egodic Proca&ses

ngodie Phocess be ongoclic,

ACudom pHOaA. xte) said to
i} it

aua equal
app.top.eiato n
nee avela72.
ensemble

whee xces xCE) de

2T

Ensamble aweo92
Exus) nerrde aweLag2

Mean-Eng odie ProLess:

Aaudorn þroce4 Xtt> ù said ba Meas-Evgodic it

Ex m
x ct) de

Corelatton Engogic Coxnelatèon Edie

x CT) Catlad
A naudom pxOcess

edheu
i Ct +T) Xcet) dt : RlT)
T-> 2T x RCC) Ex tt+) XE

(toot+9), ohene
Q n d o m PPLocel
Loeu - Cok Xt) l d
Xce)
Hot WS hat te
(7, . P
wen C-TT )
T). PLove
ovo
dutibute.d
itamly
Conelattbn - egodie
PLoeA xtt
xe
So
XCE)= to Cos (too t *)
C o n A l a t i o n
Ergodie

Rlt)
x l t + t )dt
ie) TP i Xtt)
T T

R& xttJ
Xtt#T)
RlT) E| +9)
(loo tt+0
10.Cos (loo
Cos
(toolt+t) +8) 10.
E1D Cos Co& Ctoot +0)
Cos Ctoot +0)
COs (l00t +/00 T+8)
EOoo
 Cos (ooot+ 1boT+20) tCos too t)|

5 0 Cosltoo t) E(Coa (20otttoot+2e)

T
XCtT) x(t)dt t to Cosl loolt+T)+0). to Cas ltoot +6)
->o2T T- 007T dt
T

FOO Cos ltootto) olt

Cos (toot +100c+O)
T->0 2T

(toot+loot+e
50 Cos (to loot++ loot+9) +Cos
- Icot-)|dt

Lern @) + Cos ltoo

Cost 200t + too t+

loo t+29) G
Lern 3tn (o00t t
Cos(ioo[t,
200

+29)gno0T +1Do T+28) CoS(too)

ern Sn(o00Tt (bot
200
200 T+T)

nTteot+29 ) TCaS Cleet)

 i2. 2 CoAttm ( 4 20)) 2in (ooo) 27 Costoo)

SD)

intn
): D Cutp
1r,)
c n n

in(yodI) 2
Cosl touri 9 O) P

2n(2oo'") lin 2fCo&(1o0)

e CoA(too r O) vn
T

ac8(toor)) lin
-
o)
h0 Co&(tooT )
D t o CosA A Conrelalcon Caqodis
aP
he2
Cos (t 1 ),
taud om PLoco 4
X(t) =
)3.1 (o,21)

audom Vautal¬e omly distibuted

Fist On dek statwnau

n tlue cwido seuse2
() Stat ionauy
(i) EAgodic (o,91)

oheu icasui. di
Son Coslt 1 b)
Xt)

2 )

E[xct) Consl aut

Caum

fxce] Elcos tt14)

Cos tt1 4) do
2T
Coslt+4)d¢ 277

Cos Cos (iDt tno) de =o)

(o)
21

0
a Const aut)
Xtt) a fist Orde4Slatconay
 Xt)
hclaien
Constaut
J fwm (i), (X(u))
To ptove Rt i,fp) a (t-t»)

Rt1,to): txt) XCts)

F Cos (trd 4) Cos
(ty44|
E Cos t r tty 1 94) CoA (t1-l,)

JCos (trdts 34)+ ostt-to)

Cos (tr-t2)
a a o1-t

xtt) wss

N)clain {xe} Egodie

P i Lim T xce) dt FxCE)J
T

AH.R
XCt) d t
T
Coslt Cos lt 4) o l t
T
um
Ccost cos e - 2int Sen cp) d t
T-s0 27

sF-¢ f 8int7"_ Sin ¢l-Cost

C o s ¢ (si»7 +SinT) +Sin o (os 7-CosT

CoS gin
T

Cos Lin F /" T-

lim SinT
T
-o
T- T

R-SEkev àlaan Egodic

The cass t )
 whete A a Aandom Vauolr, P.T
XCE)=A,
1xte not Ma an Ergodi.

Xtt) A
A
FLxce: E (A)
=
MOan

T
No, um A clt
Xt)xtt)
X t ) olt=im
olE
- T 2T -T

Ts

T-
f
T
A

Lim XlE) d ELxc

T 27

u not muan tagoolie

xte)y