Korelacijska Teorija Stohastickih Procesa

7.

Korelacijska teorija stohasticˇ kih procesa

...

7.1. Spektralna gustoc´a i korelacijska funkcija U mnogim se slucˇajevima efikasna analiza signala (deterministicˇke funkcije) X (t ) mozˇ e nacˇiniti proucˇavanjem njezina spektra: Xˆ (u) :=

Z1

;1

X (t )e;iut dt :

Funkcija Xˆ naziva se Fourierov transformat. Ako velicˇina X predstavlja, recimo, ovisnost napona o vremenu (funkcija u gornjoj ili vremenskoj domeni), onda Xˆ opisuje razdiobu napona po frekvencijama (funkcija u donjoj ili frekvencijskoj domeni). Poznavajuc´i spektar, signal je jednoznacˇno odreden po formuli inverzije X (t ) =

1 2π

Z1

;1

Xˆ (u)eiut du:

Da bi Xˆ bila definirana, signal X mora zadovoljavati stroge uvjete, od kojih je najvazˇ niji svojstvo apsolutne integrabilnosti. Taj nas uvjet sprjecˇava da tehniku Fourierove analize primijenimo direktno u proucˇavanju stohasticˇkih procesa, zato sˇto trajektorija, preslikavanje t 7! X (ω  t ) redovito ne zadovoljava taj uvjet. Medutim, postoje druge velicˇine koje su prirodno povezane uz svaki signal, poput njegove energije ili, josˇ bolje snage, a koje c´e zadovoljavati uvjet za egzistenciju Fourierova transformata.



7.1. SPEKTRALNA GUSTOC´A I KORELACIJSKA FUNKCIJA Neka je X (t ) proces. Za fiksno T

147

ˇimo “odrezani” proces  X(t0) oznac ;T t T

X T (t ) =

>



<

<



0 inacˇe: Trajektorije ovakvog procesa su apsolutno integrabilne:

Z1

;1

jXT (t )jdt

=

Z

Zato postoji njegov Fourierov transformat Xˆ T (u) =

Z1

;1

T

;T

XT (t )e;iut dt =

Energija ovog procesa jednaka je E(T ) =

jX (t )jdt

Z1 ;1

XT (t ) dt 2

=

Z

Z

T

;T T

;T

<

1:

X (t )e;iut dt :

X (t )2 dt

<

1

Po Parsevalovoj jednakosti, energija se mozˇ e dobiti i integriranjem u donjem podrucˇju: 1 1 jXˆ T (u)j2 du: E(T ) = 2π ;1 Prosjecˇna energija daje snagu T 1 jXˆ T (u)j2 1 1 P(T ) = X (t )2 dt = du: 2T ;T 2π ;1 2T

Z

Z

Z

P(T ) je slucˇajna varijabla, jer njezin iznos ovisi o izboru trajektorije, odnosno o realizaciji elementarnog dogadaja. U ovoj c´emo relaciji nacˇiniti sljedec´a dva postupka: 1. Usrednjiti snagu po svim moguc´im realizacijama, tj. odrediti ocˇekivanu vrijednost, 2. Odrediti granicˇnu vrijednost izraza kad vrijeme T raste u beskonacˇnost. S ocˇekivanjem mozˇ emo proc´i znak integriranja. tako dobivamo: T 1 1 1 EjXˆ T (u)j2 ] EX 2 (t )]dt = lim PXX := lim du T !1 2T ;T 2π ;1 T !1 2T PXX se naziva prosjecˇna snaga procesa. Podintegralna funkcija s desne strane je vremensko usrednjenje, koje c´emo oznacˇiti slovom A (po pocˇetnom slovu engleske rijecˇi average). Vremensko usrednjenje za bilo koju funkciju f je broj definiran na nacˇin:

Z

Z

Z

T 1 A f (t )] = lim f (t )dt : T !1 2T ;T Dakle, mozˇ emo napisati sljedec´u vezu prosjecˇne snage i vremenskog usrednjenja:

PXX Oznacˇimo josˇ:

= A(EX 2 (t)])

SXX (u) := lim T

!1

EjXˆT (u)j2 ] 2T

Ova funkcija predstavlja spektralnu gustoc´u snage procesa. Onda je 1 1 PXX = SXX (u)du: 2π ;1

Z

(1)

(2)

148

7. KORELACIJSKA TEORIJA STOHASTICˇ KIH PROCESA

Primjer 7.1. Neka je X (t ) = A cos(u0 t + θ ) , gdje su A i u0 konstante, a θ s jednolikom razdiobom na intervalu 0 π2 ] . Odredimo prosjecˇnu snagu ovog procesa. Racˇunat c´emo na dva nacˇina. Po (1) je

EX (t )2 ] = EA2 cos2 (u0 t + θ )]

hA

=E

2

2

2

+ A2

2

Z

2

= A2 + A2

i

cos(2u0 t + 2θ )

=

π 2

0

cos(2u0 t + 2h) 

2 dh π

2 2 = A2 ; Aπ sin(2u0t): Zakljucˇujemo da proces nije stacionaran. Prosjecˇnu snagu dobit c´emo preko vremenskog usrednjenja:

PXX

Z hA T

1 = A(EX (t) ]) = Tlim !1 2T 2

2

= A2

;T 2

1 h

2

2

i

A2 sin(2u0 t ) dt π

;

i

A lim ; cos(2u0 T ) + cos(2u0 T ) π T !1 2T Odredimo sad spektralnu gustoc´u snage. Vrijedi

;

Xˆ T (u) =

Z

T

;T

A cos(u0 t + θ )e;iut dt

= A2 eiϑ

Z

T

;T

ei(u0 ;u)t dt +

A ;iϑ e 2

Z

T

;T

2

= A2

e;i(u0 +u)t dt

= ATeiϑ sin((u u0;;u)uT)T ] + ATe;iϑ sin((u u0++u)uT)T ] 0

0

Z

Sad treba odrediti EXˆT (u)j2 ] =

=

π 2

0

:

:

2 Xˆ T (u)XˆT (u) dh: π

Nakon sredivanja i integriranja, proizlazi EjXˆT (u)j2 ] A2 π T sin2 (u0 ; u)T ] T sin2 (u0 + u)T ] =  2T 2 π (u ; u0)T ]2 + π  (u + u0)T ]2 U daljnjem racˇunu nam treba sljedec´a formula, koju ovdje nec´emo izvoditi:



T T !1 π lim

sin(α T )

2

αT

gdje je δ Diracova d -funkcija,

( )=

δ α

Tako dobivamo:

1



0

=0 =0

α α6

EjXˆT (u)j2 ] T !1 2T

SXX (u) = lim



= δ (α )



Z1 

;1

( ) =1

δ α dα

:

2

= A2π δ (u ; u0) + δ (u + u0)]

:

:

7.1. SPEKTRALNA GUSTOC´A I KORELACIJSKA FUNKCIJA

149

Ovu je formulu lako shvatiti. Nasˇ proces ima periodicˇke trajektorije, sa slucˇajnim pomakom, ali s istom frekvencijom. Zato samo jedna frekvencija sudjeluje u spektru snage procesa. Racˇunajmo sada srednju snagu pomoc´u formule (2): PXX

= 21π 2

= A4

Z1

SXX (u)du =

;1 2=

1 2π

A2 : 2

Z1Aπ 2

;1 2

δ (u ; u0) + δ (u + u0)]du



Svojstva spektralne gustoc´e Spektralna gustoc´a snage procesa ima sljedec´a svojstva: 1. SXX > 0 , 2. SXX (;u) = SXX (u) , (ako je X (t ) realan). 3. SXX (u) je realna funkcija. 4. 1 1 SXX (u)du = A(EX (t )2 ]): 2π ;1

Z

5. SXX (u) i ARXX (t t + τ )] su par Fourierovih transformata, vrijedi ARXX (t t + τ )] SXX (u) = Pokazˇ imo ovo svojstvo. SXX (u) = lim T

1

Z1

;1

= 21π

Z1

;1

SXX (u)eiuτ du

ARXX (t t + τ )]e;iuτ dτ:

!1 2T EjXT (u)j ˆ

2

1 ˆ ˆ = Tlim !1 2T EXT (u)XT (u)]

Z Z

T T 1 ;iut1 iut2 = Tlim !1 2T ;T ;T EX (t1 )X (t2)e e dt1 dt2: Za ;T < t 1 t 2 < T vrijedi RXX (t 1 t 2 ) = EX (t 1 )X (t 2 )] . Zato je

Z Z T

T

2t = t = 64 τ = t

1 ;iu(t1 ;t2 ) dt1 dt2 !1 2T ;T ;T RXX (t1 t2 )e

Z T Z T;t 1 ; iuτ = Tlim !1 2T ;T ;T ;t RXX (t + τ t )e dτ dt

Z 1 1 Z T = lim RXX (t t + τ )dt e;iuτ dτ T !1 2T ;T Z;1 1 = ARXX (t t + τ )]e;iuτ dτ: ;1

SXX (u) = lim T

2

; t2 dt 1 dt 2 = dt dτ 1

3 75

150

7. KORELACIJSKA TEORIJA STOHASTICˇ KIH PROCESA



Ako je proces stacionaran u sˇirem smislu, onda je RXX (t t + τ ) i vremensko usrednjenje ARXX (t t + τ )] = RXX (τ ) . Tada vrijedi SXX (u) = RXX (τ )

Z1

;1Z

= 21π

= RXX (τ ) , 8t , pa je

RXX (τ )e;iuτ dτ

1

;1

SXX (u)eiuτ du:



Primjetimo nadalje da je RXX parna funkcija. Zato je SXX realna i mozˇ e se napisati u obliku kosinus transformacije: SXX (u) =

= =

Z1

Z;1 1 Z;1 1

=2

RXX (τ )e;iuτ dτ RXX (τ )cos uτ ; i sin uτ ]dτ RXX (τ ) cos uτ dτ ; i

;1 Z1 0

RXX (τ ) cos uτ dτ

Z1

;1

RXX (τ ) sin uτ dτ

Primjer 7.2. Odredimo spektralnu gustoc´u procesa

X (t ) = A cos(u0 t + ϑ ) gdje su A i u0 konstante, a ϑ ima jednoliku razdiobu na intervalu 0 2π ] . Ovaj je proces (za razliku od slicˇnog iz prosˇlog primjera) stacionaran, vrijedi RXX (τ ) = Prikazˇ imo tu funkciju ovako: RXX (τ ) Kako vrijedi

1 2π

zakljucˇujemo da je

Z1

;1

2

= A4 (

A2 cos u0 τ: 2



eiu0 τ

)

+ e;iu τ

δ u ; u0 eiuτ du

0



:

= 21π eiu τ 0



eiu0 τ   2πδ (u ; u0 )

i slicˇno

e;iu0 τ   2πδ (u + u0 ):

Zato je RXX (τ ) 

=

A2 2πδ (u ; u0) + 2πδ (u + u0)] 4 A2 π δ (u ; u0) + δ (u + u0)] = SXX (u): 2



7.1. SPEKTRALNA GUSTOC´A I KORELACIJSKA FUNKCIJA

151

()

Primjer 7.3. Telegrafski signal. Neka je N t Poissonov proces s intenzitetom λ .

Stavimo

X (t ) := (;1)N (t ) : Ovaj se proces naziva telegrafski signal. On je jednak 1 ako se do trenutka t realizira paran broj dogadaja koji generiraju Poissonov proces, a ;1 ako ih do trenutka t bude neparan broj. Trajektorija procesa izgleda ovako:

1 t

-1

Sl. 7.1.

Odredimo jednodimenzionalne razdiobe procesa: PfX (t ) = 1g = PfN (t ) = 0g + PfN (t ) = 2g + PfN (t ) = 4g + : : :

 2 4 = e;λ t 1 + (λ2!t) + (λ4!t) + = e;λ t ch λ t PfX (t ) = ;1g = PfN (t ) = 1g + PfN (t ) = 3g + PfN (t ) = 5g +

 3 5 = e;λ t λ t + (λ3!t) + (λ5!t) + = e;λ t sh λ t :::



:::

:::

:

Zato je ocˇekivanje ovog procesa EX (t )] = e;λ t ch λ t ; e;λ t sh λ t

= e;2λ t

:

Da bismo odredili korelacijsku funkciju, moramo odrediti dvodimenzionalne razdiobe. Neka je t 1 < t 2 i τ = t 2 ; t 1 . Za zadanu vrijednost X (t 1 ) = 1 bit c´e X (t 2 ) = 1 onda i samo onda ako se u intervalu t 1 t 2 ] duljine τ ostvari paran broj dogadaja A . Vjerojatnost toga je, zbog homogenosti procesa, jednaka e;λ τ ch λ τ . Zato je PfX (t 2 ) = 1 j X (t 1 ) = 1g = e;λ τ ch λ τ PfX (t 1 ) = 1 X (t 2 ) = 1g = PfX (t 1 ) = 1gPfX (t 2 ) = 1 j X (t 1 ) = 1g

= e;λ τ ch λ τ  e;λ t

1

ch λ t 1 :

152

7. KORELACIJSKA TEORIJA STOHASTICˇ KIH PROCESA

Slicˇno:

PfX (t 1 ) = ;1 X (t 2) = ;1g = PfX (t 1 ) = ;1gPfX (t 2 ) = ;1 j X (t 1 ) = ;1g

= e;λ τ ch λ τ  e;λ t sh λ t1 PfX (t 1 ) = 1 X (t 2 ) = ;1g = PfX (t 1 ) = 1gPfX (t 2 ) = ;1 j X (t 1 ) = 1g = e;λ τ sh λ τ  e;λ t ch λ t1 PfX (t 1 ) = ;1 X (t 2) = 1g = PfX (t 1 ) = ;1gPfX (t 2 ) = 1 j X (t 1 ) = ;1g = e;λ τ sh λ τ  e;λ t sh λ t1 1



1



1

:





Zato je

RXX (t 1 t 2 ) = EX (t 1 )X (t 2 )]

= e;λ τ ch λ τ  e;λ t

1

ch λ t 1 + e;λ τ ch λ τ  e;λ t1 sh λ t 1

; e;λ τ sh λ τ  e;λ t1 ch λ t 1 ; e;λ τ sh λ τ  e;λ t1 sh λ t 1

= e;2λ (t ;t ) 2

1

Opc´enito je

:

RXX (t 1 t 2 ) = e;2λ jt2 ;t1 j :

Korelacijska funkcija procesa X ovisi samo o razlici vremena, medutim proces nije stacionaran, jer mu ocˇekivanje nije konstantno. Razlog tome je sˇto vrijednost procesa u samom pocˇetku nije bila slucˇajna, vec´ je on poprimio vrijednost 1 za svaku realizaciju. Da bismo otklonili taj nedostatak, promotrimo proces Y (t )

= A  X (t )

gdje je A slucˇajna varijabla s zakonom razdiobe A

;1 1

1 2

1 2

nezavisna o procesu X . Tada je

EY (t )] = EA  X (t )] = EA]  EX (t )] = 0

RYY (t 1 t 2 ) = EAX (t 1 )AX (t 2 )] = EA2 ]RXX (t 1 t 2 ) = RXX (t 1 t 2 ): Prema tome, Y je stacionaran proces s istom korelacijskom funkcijom kao i proces X . Odredimo njezinu spektralnu gustoc´u. SYY (u) =

Z1

=2 =

RYY (τ )e;iuτ dτ

;1 Z1

Z 1h 0

=2

Z1

e;2λ τ cos(uτ )dτ

e;(2λ ;iu)τ

0

= 4λ 24λ+ u2

:

RYY (τ ) cos(uτ )dτ

0

+ e;(2λ +iu)τ

i

dτ

7.1. SPEKTRALNA GUSTOC´A I KORELACIJSKA FUNKCIJA

153

Primjer 7.4. Izlazni signal Y iz nekoga sklopa koji ima vlastitu frekvenciju u0 cˇ esto se ponasˇa po zakonu Y (t ) = X (t )  C cos(u0 t )

pri cˇemu je X ulazni signal za koji c´emo pretpostaviti da je stacionarni proces. Odredimo spektralne karakteristike procesa Y . Vrijedi RYY (t t + τ ) = EY (t )Y (t

+ τ )] = C EX (t)X (t + τ )] cos u0t cos u0(t + τ ) 2 = C2  RXX (τ )cos(u0τ ) + cos(2u0t + u0τ )] 2

:

Vidimo da izlazni signal nije stacionaran proces. Medutim, racˇunajuc´i vremensko usrednjenje, izgubit c´e se dio koji ovisi o t : ARYY (t t + τ )]

2

= C2 RXX (τ ) cos(u0τ )

:

Odredimo Fourierove transformate lijeve i desne strane. Kako je cos u0 τ

iu τ ;iu τ = e +2 e 0

0



dobivamo: SYY (u) =

C2 SXX (u ; u0) + SXX (u + u0)] 4

Ilustrirajmo ovu vezu slikom. Pretpostavimo da ulazni signal ima spektar cˇije su frekvencije manje od vlastite frekvencije u0 sklopa. Onda se njegov spektar transformira na nacˇin prikazan slikom. S xx

S yy

u

-u 0

u0

Sl. 7.2. Graf spektra ulaznog signala (lijevo) i graf spektra izlaznog signala (desno). Primjetimo da iz ovog grafa mozˇ emo odrediti i vlastitu frekvenciju i spektar ulaznog signala.

 Cˇ esto se u primjenama signal javlja u obliku zbroja dvaju signala, od kojih je jedan smetnja ili sˇum. Neka je Z (t ) = X (t ) + Y (t ):

154

7. KORELACIJSKA TEORIJA STOHASTICˇ KIH PROCESA

Odredimo korelacijsku funkciju ovog procesa. RZZ (t t + τ ) = EZ (t )Z (t + τ )] = E(X (t) + Y (t))(X (t + τ ) + Y (t + τ )] = EX (t)X (t + τ ) + X (t)Y (t + τ ) + X (t + τ )Y (t) + Y (t)Y (t + τ )] = RXX (t t + τ ) + RXY (t t + τ ) + RYX (t t + τ ) + RYY (t t + τ ) (3) Ovdje su RXX i RYY autokorelacijske funkcije procesa X odnosno Y , a RXY i RYX kros-korelacijske funkcije procesa X i Y . Primijetimo da je opc´enito RXY = 6 RYX . Izracˇunajmo sada spektralnu gustoc´u snage procesa Z . Izvod c´e biti slicˇan onom za proces X . Oznacˇimo: X (t ) ;T < t < T Y (t ) ;T < t < T XT (t ) = YT (t ) = 0 inacˇe, 0 inacˇe. Tad je uzajamna snaga ovih dvaju procesa



P (T ) =



Z

1 2T

T

;T

XT (t )YT (t )dt

=

1 2T

Z

T

;T

X (t )Y (t )dt :

( P(T ) je slucˇajna varijabla.) Po Parsevalovoj jednakosti, vrijedi

Z

Z

T 1 1 1 1 XT (t )YT (t ) = XT (t )YT (t )dt = 2T ;T 2T ;1 2π Racˇunajuc´i ocˇekivanje lijeve i desne strane, dobivamo

Z

T 1 RXY (t t )dt 2T ;T Pustivsˇi da T ! 1 , imamo konacˇno

PXY (T ) =

PXY Oznacˇimo

1 = Tlim !1 2T

Z

T

;T

RXY (t t )dt

=

SXY (u) := lim T

Tad vrijedi

!1

PXY

= 21π

PYX

= 21π

Na isti nacˇin

= 21π 1 2π

Z 1 Xˆ (u)Yˆ (u) T

;1

T

2T

Z 1 EXˆ (u)Yˆ (u)] T

;1

Z1

T

2T

du:

du:

EXˆ T (u)Yˆ T (u)] du 2T ;1 T !1 lim

EXˆT (u)Yˆ T (u)] : 2T

Z1

;1

Z1

;1

SXY (u)du: SYX (u)du

no ove se dvije funkcije za realne procese podudaraju, PXY = PYX (zasˇto?). Iz (3), uzimajuc´i vremensko usrednjenje, dobivamo ARZZ (t t + τ )] = ARXX (t t + τ )] + ARXY (t t + τ )] + ARYX (t t + τ )]+ ARYY (t t + τ )] Primijenivsˇi Fourierovu transformaciju pF na ovu jednakost, slijedi SZZ (u) = SXX (u) + SYY (u) + pFARXY (t t + τ )] + pFARYX (t t + τ )] = SXX (u) + SYY (u) + SXY (u) + SYX (u):

7.2. BIJELI Sˇ UM

155

7.2. Bijeli sˇ um Korelacijska funkcija R(τ ) stacionarnog procesa i spektralna gustoc´a S(u) par su Fourierovih transformata. To ima za posljedicu josˇ jednu vezu izmedu tih funkcija, povezanu sa svojstvima procesa X . Ako za proces X vrijedi da je autokorelacijska funkcija RXX (τ ) malena za τ > τ0 , to znacˇi da se ovisnost izmedu varijabli X (t ) i X (t + τ ) brzo gubi, te su varijable prakticˇki nekorelirane za τ > τ0 . Medutim, ako RXX brzo opada s porastom vrijednosti argumenta τ , sasvim je suprotna situacija s njezinom Fourierovom transformacijom SXX (u) : u spektru takvog signala sudjelovat c´e visoke frekvencije. Ta se veza dobro vidi na primjeru para funkcija, korelacijske funkcije i spektralne gustoc´e telegrafskog signala: RXX (τ ) = Ae;α jτ j

SXX

= α 22α+Au2

Rxx

:

Sxx

u

τ

Sl. 7.3.

Povec´avanjem iznosa za parametar α , RXX postaje sve strmija, dok se krivulja spektralne funkcije sˇiri.

 Svakako je ekstremni slucˇaj nekoreliranosti proces za koji bi bilo RXX (τ )

=0 τ 0 Za takav bi proces slucˇajne varijable X (t ) i X (t + τ ) bile nekorelirane, cˇim je τ 

>

:

> 0 . To svakako znacˇi da se trajektorija tog procesa vrlo brzo i nepravilno mijenja. Neka je dakle

RXX (τ ) =

N0 δ (τ ) 2

(1)

N0  2

(2)

onda je pripadna spektralna gustoc´a SXX (u) = konstantna, duzˇ cˇitavog spektra.

156

7. KORELACIJSKA TEORIJA STOHASTICˇ KIH PROCESA

Definicija 7.1. Gaussov proces koji je stacionaran i ima korelacijsku funkciju (1) naziva se bijeli sˇum.

Ime je ovaj proces dobio po analogiji sa bijelom svjetlosˇc´u, cˇiji se spektar sastoji od svih frekvencija vidljive svjetlosti. Tako se i spektar bijelog sˇuma sastoji od svih frekvencija. Moramo odmah kazati da ovakav proces fizikalno ne postoji. Naime, njegova bi snaga bila beskonacˇna: 1 1 SXX (u)du = 1: PXX = 2π ;1

Z

Medutim, ovako definiran proces predstavlja matematicˇku idealizaciju procesa koji se javljaju u prirodi. Ako neki proces ima u cˇitavom interesantnom frekvencijskom podrucˇju konstantan spektar, tada se njegovo ponasˇanje vrlo dobro mozˇ e opisati bijelim sˇumom. Primjer 7.5. Termalni sˇ um. Tipicˇan primjer takvog procesa je termalni sˇum koji se javlja u vodicˇima uslijed zagrijavanja. Naime, prijenosom signala vodicˇem dolazi do sudaranja elektrona — nosilaca naboja — s atomima vodicˇa sˇto uzrokuje da se kineticˇka energija elektrona prenosi na atome koji uslijed toga povec´avaju svoje titranje. To se titranje manifestira kao toplinsko zagrijavanje, a ovo uzrokuje promjenu samoga signala u koji se ubacuje sˇum. Spektar tog sˇuma prakticˇki je konstantan do na vrlo visoke frekvencije: S0 (u) = 4kTR:

Ovdje je R otpor vodicˇa, k = 1:38  10;23 JK (Boltzmannova konstanta) a T temperatura u Kelvinovim stupnjevima. Tocˇnija je formula ;1 hu hu S(u) = 4kTR  e kT ; 1 kT





hu ( h = 6 62  10;34 Js je Planckova konstanta). Uz normalnu sobnu temperaturu je kT 1 cˇak i za milimetarske valove i mozˇ e se koristiti priblizˇ na formula. Naime, pri T = 290 K N0 je S(u) 0 9  za frekvencije do 1012 Hz. Primjetimo da se smanjivanjem temperature 2 :

>

<<

:

smanjuje i sˇum. Snaga je termalnog sˇuma

Z 1 hu  hu  ; P = 4kTR exp ;1 du kT kT Z kT 1 x dx 2π 1

0

= 4kTR 

h

0

ex

= ;1

2

3h

(kT )2 R

:

Primjer 7.6. Obojeni sˇum. Tim imenom nazivamo proces cˇ ija spektralna gustoc´a sadrzˇ i samo dio spektra. Neka je Pπ  juj < w SXX (u) = w 0 juj > w:

8 < :

7.2. BIJELI Sˇ UM

157

Rxx Sxx

-w

u

w

τ

Sl. 7.4. Spektralna gustoc´a i pripadna korelacijska funkcija obojenog sˇuma. Na slici desno je nacrtana i korelacijska funkcija za obojeni sˇum koji ima dvostruko vec´u granicu w .

Odredimo pripadnu korelacijsku funkciju: RXX (τ )

= 21π

Z;1

SXX (u)eiuτ du

w

Pπ iuτ  e du ;w w P e;iτ w ; e;τ w sin(τ w)  = P : 2w ;iτ τw

= 21π =

Z1

Primijetimo josˇ da u granicˇnom prijelazu w ! 1 RXX prelazi u δ -funkciju.

Primjer 7.7. Neka je sada spektralna gustoc´a konstantna u pruzi oko frekvencije u0 , sˇirine w , a nula inacˇe:

SXX (u) =

Pπ  w

u0 ;

w 2

<

juj < u0 +

w : 2

158

7. KORELACIJSKA TEORIJA STOHASTICˇ KIH PROCESA

Sxx

Rxx

w

w

-u0

u0

u

τ

Sl. 7.5.

Sada je RXX (τ )

=

1 2π 2 2π

=

2 2π

=

Z1 Z;1 1 Z h

0

SXX (u)eiuτ du SXX (u) cos(uτ )du

w u0 + 2

u0

;

w 2

Pπ cos(uτ )du w

= τPw sin(u0 + w2 )τ ; sin(u0 ; 0 w2 )τ = τ2Pw sin w2τ cos(u0τ ) wτ sin = P cos u0τ wτ2 : 2



i



Ergodski procesi Kako se u praksi mogu odrediti karakteristike procesa? Da bismo mu izracˇunali ocˇekivanje m(t ) , morali bismo imati po volji mnogo trajektorija i trazˇ iti srednju vrijednost realizacija procesa: ako su ω 1 : : :  ω n elementarni dogadaji, onda se priblizˇ na vrijednost za ocˇekivanje m(t ) nalazi formulom X (t ω 1 ) + : : : + X (t ω n ) m(t )  : n Slicˇno bi se racˇunala disperzija, korelacijska funkcija i slicˇno. Medutim, ovakva je shema cˇesto u stvarnosti nemoguc´a. Razlog je tome sˇto je vrlo cˇesto nama dostupna jedna jedina realizacija procesa. Mozˇ emo li na osnovi te realizacije utvrditi numericˇke karakteristike procesa? Odgovor je, na zˇ alost, ne!

7.2. BIJELI Sˇ UM

159

Jedini je izlaz iz ove situacije pretpostaviti da proces posjeduje dodatno svojstvo, ergodicˇnost. Iz jedne trajektorije procesa mi mozˇ emo racˇunati njezino vremensko usrednjenje. Dobi c´emo kao rezultat 1 x (ω ) = Ax (t ω )] = lim T !1 2T

Z

T

;T

x (t )dt :

x je slucˇajna varijabla, svakoj realizaciji ω 2 Ω odgovara jedna trajektorija i njezino vremensko usrednjenje, koje se mozˇ e razlikovati za razlicˇite trajektorije. Na isti se nacˇin mozˇ e odrediti i vremenska autokorelacija: 1 T !1 2T

R(τ ω ) = Ax (t ω )x (t + τ ω )] = lim

Z

T

;T

x (t ω )x (t + τ ω )dt :

Kako operator vremenskog usrednjenja i operator ocˇekivanja komutiraju, za stacionarni proces vrijedi Ex ] = Ex ]

ER(τ )]

= R(τ )



sˇto pokazuje kako vremensko usrednjenje mozˇ e posluzˇ iti kao procjena za ove numericˇke karakteristike.

Definicija 7.2. Za proces kazˇ emo da je ergodski ako se vremenska usrednjenja ocˇ ekivanja i korelacijskih funkcija podudaraju za svaku trajektoriju 1 procesa. Tad je ispunjeno

x (ω ) = Ex ]

R(τ ω ) = R(τ )

8ω 2 Ω:

Mozˇ emo li u praksi provjeriti je li neki proces ergodicˇan ili ne? Ako nam je dostupna samo jedna njegova trajektorija, nema nacˇina da onda provjerimo njegovu ergodicˇnost. Ipak za mnoge se stacionarne procese s pravom mozˇ e pretpostaviti da posjeduju ovo svojstvo.

Primjer 7.8. Sonarni sustav. Sonar je uredaj kojim se mozˇ e odrediti udaljenost od izvora zvuka do nekog objekta. Koristi se obicˇno u pomorstvu, u podmornicama za odredivanje udaljenosti do cˇvrstog objekta, u brodovima ribaricama za odredivanje udaljenosti do jata riba (koje su locirane radarom). Rad se sonara zasniva na principu pretpostavljene ergodicˇnosti emitiranog bijelog sˇuma. Bijeli se sˇum emitira iz izvora i usmjerava prema objektu. Vrijeme T potrebno da se odbijen i signal vrati do prijemnika povezano je s udaljenosˇc´u formulom: 2d = vT , gdje je v brzina zvuka u vodi, a d udaljenost do objekta. Istovremeno s emitiranjem, signal se pusˇta kroz vremenski pocˇek duljine trajanja τ . Vrac´eni signal mnozˇ i se s originalnim i propusˇta kroz integrator (slika 7.6). 1

Ispravnije bi bilo kazati: za skoro svaku, sˇto je sinonim za: s vjerojatnosˇc´u 1, ili, skoro sigurno

160

7. KORELACIJSKA TEORIJA STOHASTICˇ KIH PROCESA

generator suma

zvucnik objekt

pomak

mikrofon

mnozitelj

integrator

Sl. 7.6.

Tako na izlazu iz sklopa dobivamo vrijednost 1 2T

Z

T

;T

u(t + τ )u(t + T )dt

= R(T ; τ ) = R(T ; τ ) = σ 2δ (T ; τ )

:

Zbog pretpostavke ergodicˇnosti, vremensko se usrednjenje podudara s korelacijskom funkcijom. Ova je korelacijska funkcija jednaka nuli ako je τ 6= T . Mijenjanjem pocˇeka τ , odredit c´e se onaj trenutak kad je R(T ; τ ) 6= 0 , sˇto se realizira kao signal snage σ 2 . Tada je vrijednost od τ upravo jednaka vremenu T .

7.3. Linearni sustavi Transformacija ulaznog deterministicˇkog signala x mozˇ e se shvatiti kao djelovanje nekog operatora L : y (t ) = L(x (t )) y(t)

x(t) h(t, ξ)

Sl. 7.7. Shematski prikaz linearnog sustava

Mi c´emo promatrati takve sustave za koje je L linearni operator, preslikavanje koje ima svojstvo linearnosti: L(α1 x 1 + : : : + αn x n ) = α1 L(x 1 ) + : : : + αn L(x n ):

Najjednostavnije je formalno operirati s linearnim operatorom koji se dade predstaviti integralom. Korisˇtenjem racˇuna s poopc´enim δ -funkcijama, to mozˇ emo ucˇini na sljedec´i

7.3. LINEARNI SUSTAVI

161

Z1

nacˇin. Svaka se funkcija mozˇ e napisati u obliku integrala konvolucijskog tipa: x (t ) =

;1

Z1

x (ξ )δ (t ; ξ )dξ :

Kako je L linearan operator, on komutira s integralom: L(x (t )) =

;1

x (ξ )L(δ (t ; ξ ))dξ :

Oznacˇimo s h(t ξ ) djelovanje operatora L na Diracovu funkciju δ (t ; ξ ) . Funkciju h nazivamo impulsnim odzivom sustava, jer je to reakcija sustava na signal koji je impuls (delta funkcija). Tada se odziv sustava na signal x mozˇ e prikazati u obliku linearne integralne transformacije: y (t ) =

Z1

;1

x (ξ )h(t ξ )dξ :

Pretpostavit c´emo da h(t ξ ) ne ovisi o apsolutnom iznosu argumenata t i ξ , vec´ samo o njihovoj razlici, sˇto je karakteristika vremenski invarijantnih sustava: L(δ (t ; ξ )) = h(t ; ξ ): Onda je rezultat y integralna transformacija konvolucijskog tipa: y (t ) =

Z1

;1

x (ξ )h(t ; ξ ) = x (t )  h(t ):

Z 1 Z 1



Fourierova transformacija ove funkcije bit c´e umnozˇ ak Fourierovih transformata: y  (u) :=

=

Z1

Z ;1 1 ;1

y (t )e;iut dt =

x (ξ )e;iuξ dξ

Z ;1 1 ;1

=

Z1

;1

x (ξ )h(t ; ξ )dξ e;iut dt

h(t ; ξ )e;iu(t ;ξ ) d(t ; ξ )

Neka je sada X (t ) slucˇajan signal i Y (t )

;1



= x  (u )  h  (u )

:



X (ξ )h(t ; ξ )dξ

=

Z1 ;1

h(ξ )X (t ; ξ )dξ

Pretpostavimo da je proces X stacionaran. Odredimo prva dva momenta slucˇajnog procesa Y . EY (t )]

=E =

Z

=

;1 1

;1

Z

EY (t )2 ] = E

=

Z1

h(ξ )X (t ; ξ )dξ

h(ξ )EX (t ; ξ )]dξ

1

=X

h(ξ1 )X (t ; ξ1 )dξ1

Z 1;1 Z1

;1 Z;1 1Z1 ;1 ;1

Z

Z1 ;1 1

;1

h(ξ )dξ

=Y

:

h(ξ2 )X (t ; ξ2 )dξ2

h(ξ1 )h(ξ2 )EX (t ; ξ1 )X (t ; ξ2 )]dξ1 dξ2 h(ξ1 )h(ξ2 )RXX (ξ1 ; ξ2 )dξ1 dξ2 :



162

7. KORELACIJSKA TEORIJA STOHASTICˇ KIH PROCESA Primjer 7.9. Neka je X bijeli sˇum, za koji je

N0 δ (ξ1 ; ξ2 ): 2

RXX (ξ1 ; ξ2 ) = Disperzija procesa Y je EY ]

2

=

Z1Z1 N

0

;1 ;1

2

(

)( )( )

=

δ ξ1 ; ξ2 h ξ1 h ξ2 dξ1 dξ2

N0 2

Z1 ;1

h2 (ξ1 )dξ1 :

 Opc´enitije, korelacijska funkcija procesa Y iznosi: RYY (t t + τ ) = EY (t )Y (t + τ )]

Z 1

=E =

h(ξ1 )X (t ; ξ1 )dξ1

Z 1;1 Z1

;1 ;1

Z1

h(ξ1 )h(ξ2 )RXX (τ

;1

h(ξ2 )X (t ; ξ2 )dξ2



+ ξ1 ; ξ2)dξ1dξ2

Vidimo da je Y stacionaran. Ova se funkcija mozˇ e prikazati takoder u obliku konvolucije: RYY (τ ) = RXX (τ )  h(;τ )  h(τ ): Slicˇno se racˇuna i kros-korelacijska funkcija ulaznog i izlaznog signala:

RXY (t t + τ ) = E X (t )

Z1

h(ξ )X (t + τ ; ξ )dξ



Z 1 ' ;1 ( E X (t )X (t + τ ; ξ ) h(ξ )dξ = Z;1 1

=

;1

RXX (τ ; ξ )h(ξ )dξ

sˇto se ponovno mozˇ e zapisati preko konvolucije: RXY = RXX (τ )  h(τ ): Fourierov transformat korelacijske funcija jest spektralna gustoc´a snage procesa. Iz gornjih formula neposredno slijedi SYY (u) = SXX (u)  h (u)  h (u) = jh (u)j2 SXX (u):

 Funkcija H (u) mozˇ e se odrediti tako da se promotri odziv sustava na ulazni signal oblika x (t ) = eiut . Naime, tada je y (t ) =

Z1

Prema tome, vrijedi

;1

h(ξ )x (t ; ξ )dξ

=

Z1

;1

H (u) =

h(ξ )eiut e;iuξ dξ

= eiut H(u)

:

y (t ) : x (t )

Ova je formula, naravno, istinita samo za ulazni signal gornjeg specijalnog oblika.

7.3. LINEARNI SUSTAVI

163

Primjer 7.10. Jednostavan primjer linearnog sustava opisan je jednadzˇ bom

y (t ) = x 0 (t ):

Sada je u donjem podrucˇju y  (u) = (iu)x  (u) = H (u)x  (u) pa je funkcija sustava H (u) = iu . Zato imamo Odavde

Sxy (u) = Sxx (u)(;iu) Rxx0 (τ ) = ;

Sx0 x0 (u) = jH (u)j2 Sxx (u) = u2 Sxx (u):

dRxx (τ )  dτ

R x 0 x 0 (τ )

= ; d Rdxxτ 2(τ ) 2

:

() Z t+ε 1 y (t ) := x (τ )dτ 2ε

Primjer 7.11. Za zadani proces x t , proces definiran formulom

;

t ε

rezultat je djelovanja linearnog operatora. Ovu operaciju nazivamo izgladivanjem Neka je h(t ) funkcija definirana formulom h(t ) =

 1 2ε =

0 Konvolucija ove funkcije sa signalom x je

Z1

;1

h(t ; τ )x (τ )dτ

=

jt j < ε  jt j > ε :



Z

t +ε

;

t ε

1 x (τ )dτ 2ε

= y (t )

:

Fourierov transformat funkcije h(t ) je funkcija sustava H (u) =

1 2ε

Zato je

Z

ε

;ε

eiut dt

Syy (u) = Sxx (u)

= sinε uε u

:

sin2 ε u : ε 2 u2

Primjetimo da je original funkcije (sin2 ε u)=ε 2 u2 funkcija

8 1 jτ j

< 1; 2ε : 02ε



jτ j < 2 ε 

jτ j > 2 ε : Spektar Syy (u) umnozˇ ak je dviju funkcija u frekvencijskom podrucˇju. Njegov je original konvolucija pojedinih originala. Zato je Ryy (τ )

= 21ε

Z 2ε

;2ε

1;



jα j Rxx (τ ; α )dα : 2ε

Ovaj rezultat mozˇ emo iskoristiti u racˇunanju momenata vremenskog usrednjenja stohasticˇkog procesa T 1 x= x (t )dt : 2T ;T

Z

164

7. KORELACIJSKA TEORIJA STOHASTICˇ KIH PROCESA

Stavimo ε

= T . Slijedi: x = y (0) i zato Z 2T jτ j

1 2 2 Ejx j ] = Ejy (0)j ] = Ryy (0) = 1; Rxx (τ )dτ 2T 2T ;2T

:

()

Primjer 7.12. Odredimo H u za LR krug prikazan slikom.

x(t)

y(t)

R

Sl. 7.8.

Vrijedi

di + y (t): dt Kako je y (t ) = iR , ova se jednadzˇ ba svodi na dy (t ) R + L y (t) = RL x (t): dt U donjem podrucˇju, njezina je jednadzˇ ba (iu)y  (u) + RL y  (u) = RL x  (u) odakle slijedi 1  x  (u) = H (u)  x  (u): y  (u) = iuL 1+ R Zato je, npr. R2 Syy (u) = 2  Sxx (u): R + u2 L2 x (t ) = L

Primjer 7.13. Transformacija bijelog sˇuma u RC krugu. Promotrimo strujni krug na slici 7.9 na koji je narinut napon u obliku bijelog sˇuma X (t ) = n0 (t ) . R

x(t)

C

y(t)

Sl. 7.9. Djelovanje bijelog sˇuma na RC krug

Izlazni signal neka je napon na kondenzatoru Y (t ) . Tada je X (t ) = RI (t ) +

1 C

Z

t

0

I (τ )dτ

= RI (t) + Y (t)

:

7.3. LINEARNI SUSTAVI Odavde je I (t ) = C

165

dY odakle slijedi dt X (t ) = RC

odnosno

dY dt

dY dt

+ Y (t )

+ α Y (t) = α n0(t)

gdje smo oznacˇili α = 1=RC . Rjesˇenje ove diferencijalne jednadzˇ be, pri pocˇetnom uvjetu Y (0) = η0 je Y (t )

= η0 e;α t + α e;α t

Z

t

0

eα τ n0 (τ )dτ:

Pretpostavljamo da je pocˇetno stanje η0 deterministicˇko. Neznatno drukcˇija analiza bi se primjenjivala ako je to slucˇajna varijabla. Odredimo stohasticˇke karakteristike procesa Y . Iz njegova oblika zakljucˇujemo da je to gaussovski proces. Naime, konacˇna kombinacija gaussovskog procesa je opet gaussovski proces. Limes gaussovskih procesa je gaussovski proces. Zato je i integral gaussovskog procesa, kao limes konacˇne sume gaussovskih procesa opet gaussovski proces. Izracˇunajmo mu ocˇekivanje: mY (t ) = η0 e;α t + α e;α t

Z

t

0

= η0e;α t

eα τ En0 (τ )]dτ

:

Vidimo da se ocˇekivanje napona na kondenzatoru ponasˇa basˇ kao da sˇuma i nema. Razlog tome je sˇto je ocˇekivanje sˇuma jednako nuli. Odredimo sada korelacijsku funkciju centriranog procesa: RYY (t 1 t 2 ) = E(Y (t 1 ) ; mY (t 1 ))(Y (t 2 ) ; mY (t 2 )] 2

= α 2N0 e;α (t +t ) 1

2

Z Z t1

0

t2

0

eα (τ1 +τ2 ) δ (τ2 ; τ1 )dτ1 dτ2 :

Podintegralna funkcija u dvostrukom integralu razlicˇita je od nule samo na dijagonali t 1 = t 2 . Podrucˇje integracije je pravokutnik sa stranicama t 1 i t 2 i integracija c´e zavrsˇiti u tocˇki u kojoj dijagonala zasjecˇe krac´u stranicu pravokutnika. Neka je zato t = min(t 1 t 2 ) . Pretpostavimo na tren da je t 2 > t 1 i stavimo τ = t 2 ; t 1 . Onda je integral jednak:

Z Z t1

0

t2

0

eα (τ1 +τ2 ) δ (τ2 ; τ1 )dτ1 dτ2

=

Z

0

t

e2aτ1 dτ1

=

Z

0

t

eα τ1 dτ1

Z

t

0

eα τ2 δ (τ2 ; τ1 )dτ2

= 21α (e2α t ; 1)

:

Tako u ovom slucˇaju dobivamo RYY (t t 2 ) =

α N0 ;α (t +t2 ) 2α t e e ;1 4

(

)

sˇto se mozˇ e napisati i ovako: RYY (t t + τ ) Slicˇnim racˇunom, za τ

= α4N0 e;α τ (1 ; e;2α t )

0 dobit c´emo analognu formulu, tako da opc´enito vrijedi α N0 ;α jτ j RYY (t t + τ ) = e (1 ; e;2α t ): 4 <

166

7. KORELACIJSKA TEORIJA STOHASTICˇ KIH PROCESA Odavde, za τ

= 0 , mozˇ emo izracˇunati disperziju procesa Y (t) : α N0 DY (t )] = (1 ; e;2α t ) 4 :

Kad t ! 1 , korelacijska funkcija tezˇ i ka α N0 ;α jτ j (1 ; e;2α t ) = De;α jτ j RYY (τ ) = lim e t 11 4 α N0 pri cˇemu je D = = t!1 lim DY (t )] . 4 Ovi limesi zapravo predstavljaju vremensko usrednjenje korelacijske funkcije i disperzije. Pripadna spektralna gustoc´a je 1 2α D SYY (u) = RYY (τ )e;iuτ dτ = 2 α + u2 : ;1

Z

Promotrimo diferencijalnu jednadzˇ bu

an y (n) (t ) + : : : + a0 y (t ) = x (t ): Preslikajmo ovu jednadzˇ bu u donje podrucˇje. Koristec´i svojstva Fourierove transformacije, dobivamo an (iu)n y  (u) + : : : + a0 y  (u) = x  (u): Odavde je

y  (u) =

1 x  (u) = H (u)x  (u): an (iu)n + : : : + a1 (iu) + a0

Prema tome, rjesˇenje ove jednadzˇ be mozˇ emo shvatiti kao izlaz iz sustava sa funkcijom sustava 1 H (u) = : n an (iu) + : : : + a1 (iu) + a0 Primjer 7.14. Promotrimo jednadzˇ bu

gdje je β sustava

>

dy (t ) d 2 y (t ) + β + u20y (t) = x (t) 2 dt dt 0 konstanta, a x (t ) bijeli sˇum sa spektrom α . Tad je spektar rjesˇenja ovog Syy (u) =

j(iu)

2

Sxx (u) + β iu + u20j2

= (u2 ; u2α)2 + β 2u2 0

:

Kakva je korelacijska funkcija R(τ ) ? Njezin oblik ovisi o karakteristikama sklopa: 1. Ako je β 2

<

4u20 , tada stavimo u1

Ryy (τ ) 2. Ako je β 2

=

= 2βαu2 e;β jτ j=2 0



q

u20 ; β 2 =4 pa vrijedi

cos u1 τ

+ 2uβ



1

sin u1 jτ j

= 4u20 , tada α ;β jτ j=2 β  Ryy (τ ) = e 1 + 2jτ j 2β u2

:

0

:

7.4. PROCJENE , PROGNOZE I FILTRI 3. Ako je β 2

>

167

4u20 , tada stavimo u2

Ryy (τ )

=

= 2βαu2 e;β jτ j=2

q



β 2 =4 ; u20 pa vrijedi

ch u2 τ

0

+ 2uβ



2

sh u2 jτ j

:

7.4. Procjene, prognoze i filtri U ovom c´emo poglavlju rjesˇavati problem procjenjivanja vrijednosti nekog stohasticˇkog procesa na osnovu poznatih vrijednosti nekog drugog procesa, koji je s njim na izvjestan nacˇin povezan. Oznacˇimo te procese s s(t ) (signal) i x (t ) . Pretpostavljat c´emo da su nam poznati podaci o vrijednosti procesa x u nekim tocˇkama x (ξ ) , ξ 2 I . I je skup vremenskih parametara, koji se mozˇ e sastojati od npr. samo jedne ili dvije tocˇke, od konacˇno mnogo tocˇaka, ali mozˇ da i od svih tocˇaka unutar nekog intervala. Proces x c´e se obicˇno podudarati sa signalom s ili c´e biti prikazivan u obliku x (t ) = s(t ) + n(t ) gdje je n dodatni proces, najcˇesˇc´e sˇum, koji je obicˇno nekoreliran s procesom s . Znajuc´i vrijednosti procesa x u tocˇkama skupa I , pokusˇat c´emo odrediti vrijednosti neke slucˇajne varijable povezane s procesom s . Oznacˇimo s g tu varijablu. To mozˇ e biti npr. 1. Vrijednost procesa u tocˇki t : g = s(t ) . Ovdje je obicˇno x (t ) = s(t ) . Poznate su nam vrijednosti procesa s u nekim tocˇkama. Recimo, ako je I = fa bg , onda se problem odredivanja procjene slucˇajne varijable g = s(t ) , a < t < b iz poznatih slucˇajnih varijabli s(a) i s(b) naziva interpolacija 2. Neka je ponovno trazˇ ena vrijednost g = s(t ) , ali iz poznate vrijednosti procesa x (t ) = s(t ) + n(t ) . Ovaj se problem naziva filtracija. Skup I mozˇ e biti razlicˇite naravi, pa cˇak i cˇitava vremenska os. 3. Vrijednost procesa u nekoj buduc´oj tocˇki t + λ : g = t + λ ) . Ovde I mozˇ e biti I = ft g , pa se na osnovu poznate sadasˇnje vrijednosti s(t ) pokusˇava procjeniti buduc´a vrijednost s(t + λ ) . Ovaj se problem naziva prognoza. Dakako, I mozˇ e biti i cˇitav interval I = h;1 t ] . 4. Vrijednost derivacije ili integrala procesa g = s0 (t ) , g = s0 (t + λ ) ili g=

Z

a

b

s(t )gdt , opet uz razlicˇite izbore skupa I .

Kriterij najbolje procjene Tocˇnu vrijednost procjene g najcˇesˇc´e nije moguc´e odrediti. Umjesto toga, mi se zadovoljavamo izvjesnom aproksimacijom gˆ . I ta aproksimacija mozˇ e se zadavati iz zadanih podataka na razlicˇite nacˇine. Mi c´emo se ogranicˇiti na linearnu ovisnost procjene gˆ o skupu poznatih podataka. Tako c´emo pisati gˆ = Lx (ξ )] gdje je L neki linearni operator definiran na skupu fx (ξ ) ξ 2 I g . Na primjer, u problemu interpolacije zˇ elimo odrediti g = s(t ) iz poznatih vrijednosti s(a) i s(b) . Rjesˇenje c´emo trazˇ iti u obliku gˆ = α s(a) + β s(b):

168

7. KORELACIJSKA TEORIJA STOHASTICˇ KIH PROCESA

Problem se svodi na to da se odrede konstante α i β tako da dobivena slucˇajna varijabla gˆ bude, u nekom smislu, najblizˇ a slucˇajnoj varijabli g = s(t ) . Dakako da se najcˇesˇc´e nasˇa procjena nec´e podudarati sa stvarnom vrijednosˇc´u slucˇajne varijable g , razlika gˆ ; g bit c´e razlicˇita od nule. Da bismo mogli nastaviti analizu, moramo precizirati na koji nacˇin c´emo mjeriti pogresˇku procjene. Nekoliko je logicˇnih nacˇina na koji se ta pogresˇka mozˇ e odredivati. Bilo bi razumno uzeti kao cilj procjene trazˇ iti da vjerojatnost P(jgˆ ; gj > δ ) bude minimalna. Medutim, takvu je vrijednost u praksi nemoguc´e racˇunati, Pokazuje se da je za problem linearne aproksimacije najbolje uzeti sljedec´u velicˇinu kao mjeru za pogresˇku: e = Ejgˆ ; gj2 ]:

U tom slucˇaju, kazˇ emo da trazˇ imo najbolju procjenu u smislu sredine reda 2. Teorem 7.1. Najbolja procjena gˆ = Lx (ξ )] dobiva se ako je razlika g ; gˆ okomita na sve x (ξ ) , ξ 2 I :

Ef(g ; Lx (ξ )])x (ξi )g = 0

ξi 2 I :

(1 )

tad je minimalno srednjekvadratno odstupanje em dano s em

= Ef(g ; Lx (ξ )])gg

:

Dokaz. Neka je L1 operator koji minimizira e . Tad je

g ; L1 x (ξ )] = g ; Lx (ξ )] + Lx (ξ )] ; L1 x (ξ )] = g ; Lx (ξ )] + L2 x (ξ )]:

Tu smo oznacˇili L2 = L ; L1 . Razlika dvaju linearnih operatora je opet linearni operator. Napisˇimo sada minimalnu pogresˇku ovako:

= Ef(g ; L1x (ξ )])2 g = Ef(g ; Lx (ξ )] + L2 x (ξ )])2g Kako je razlika g ; Lx (ξ )] po pretpostavci okomita na podatke, ona mora biti okomita i na bilo koju linearnu kombinaciju od x (ξ ) , zato Ef(g ; Lx (ξ )])L2 x (ξ )])g = 0 em

:

Kvadriranjem prethodnog izraza i uvazˇ avajuc´i ovu relaciju slijedi em

= Ef(g ; Lx (ξ )])2 g + Ef(L2 x (ξ )])2g

Posljednji je cˇlan nenegativan. Zato mora biti jednak nuli, jer je em minimalna pogresˇka: EfL2 x (ξ )]2 g = 0:

Odavde zakljucˇujemo da je s vjerojatnosˇc´u 1 ispunjeno L2 x (ξ )] = 0 , odnosno L = L1 . Kako je g ; Lx (ξ )] ortogonalna na linearnu kombinaciju Lx (ξ )] podataka, vrijedi Ef(g ; Lx (ξ )])2 g = Ef(g ; Lx (ξ )])gg:

7.4. PROCJENE , PROGNOZE I FILTRI

169

 Problem najbolje procjene mozˇ e se povezati s apstraktnim problemom najbolje aproksimacije u unitarnom prostoru V . izdvojimo prostor svih kvadratno-integrabilnih slucˇajnih varijabli: V = fx : Ω ! R : Ejx j2 ] < 1g: U ovom se prostoru mozˇ e definirati skalarni produkt, formulom (x j y ) := Ex  y ] lako se provjerava da je ova funkcija uistinu skalarni produkt. Ortogonalnost u ovom skalarnom produktu podudara se s pojmom ortogonalnih slucˇajnih varijabli: (x j y ) = 0 () Exy ] = 0:

(Ako x i y imaju ocˇekivanje 0 , tad je ortogonalnost isto sˇto i nekoreliranost.) Iz skalarnog se produkta izvode pojmovi norme i udaljenosti: kx k =

p

p

(x j x ) = Ex  x ] = q d(x y ) = kx ; y k = Ejx ; y j2 ] 

q

Ejx j2 ]:

:

Napomenimo josˇ da se u slucˇaju slucˇajnih varijabli s vrijednostima u skupu kompleksnih brojeva skalarni produkt definira s (x j y ) = Ex  y ] ( y oznacˇava kompleksno konjugiranje). U nastavku c´emo formule zapisivati za realne slucˇajne varijable. Medutim, istovjetni rezultati vrijede i u kompleksnom slucˇaju. Neka su s1 : : :  sn elementi prostora V , s ocˇekivanjem Ex i ] = 0 , i = 1 : : :  n . Oznacˇimo s W potprostor razapet tim elementima — to je skup svih linearnih kombinacija W = fα 1 x 1 + : : : + α n x n g : Trazˇ imo najbolju aproksimaciju vektora g prostora V , Eg] = 0 unutar potprostora W . To c´e biti vektor gˆ cˇija je udaljenost do g najmanja, a koji se mozˇ e prikazati u obliku linearne kombinacije vektora x 1 : : :  x n . Ta najbolja aproksimacija jest upravo ortogonalna projekcija vektora g na potprostor W . g xn g

Sl. 7.10. Najbolja aproksimacija gˆ vektora g unutar potprostora W jest njegova ortogonalna projekcija na taj potprostor

x1

x2

Vektor g ; gˆ ortogonalan je na W , dakle on mora biti ortogonalan na svaki element x i . Time dobivamo uvjete (g ; gˆ j x i) = 0 i = 1 : : :  n (2 ) koji su samo drugi zapis uvjeta (1) koje mora zadovoljavati najbolja procjena.

170

7. KORELACIJSKA TEORIJA STOHASTICˇ KIH PROCESA Stavimo gˆ =

X n

j=1

()

αj x j u 2 . Dobit c´emo

(g ;

X n

j=1

αj x j j x i

) = (g j x i) ;

X n

j=1

(x j j x i) = 0

:

Ovi se skalarni produkti mogu izraziti s pomoc´u elemenata korelacijske matrice: (x j j x i) = Ex j  x i) = Rji: Prema tome, nepoznate koeficijente αj odredivat c´emo iz linearnog sustava: α1 R11 α2 R12 .. . α1 R1n

+ α2R21 + + α2R22 + + α2R2n +

::: :::

:::

+ αn Rn1 = R01 + αn Rn2 = R02 + αn Rnn = R0n

 



 Povec´avanjem broja podataka, pogresˇka aproksimacije c´e se u principu smanjivati. Ta je pogresˇka dana izrazom e = E(g ; gˆ )g]: (3) Medutim, zbog uvjeta ortogonalnosti vrijedi

0 = E(g ; gˆ )gˆ ]: = Eggˆ ] ; Ejgˆ j2 ]:

Zato je Eggˆ ] = Ejgˆ j2 ] i najmanja se pogresˇka mozˇ e napisati ovako:

e = Ejgj2 ] ; Ejgˆ j2 ] = kgk2 ; kgˆ k2 : (sˇto je jasno sa slike 7.10, po Pitagorinu poucˇku!). Iz (3) za najmanju pogresˇku dobivamo vrijednost e = R00 ; α1 R01 ; : : : ; αn R0n : Ova je pogresˇka uvijek pozitivna, iako to iz ovog zapisa nije vidljivo. Jednako tako nije vidljivo da se povec´avanjem broja podataka pogresˇka nacˇelno smanjuje, jer se povec´ava norma kgˆ k . Jedina se iznimka dogada kad je razlika g ; gˆ (koja predstavlja pogresˇku aproksimacije) okomita na nove podatke, pa se njihovim dodavanjem ta pogresˇka nec´e smanjiti. To se dogada onda kad su novi podaci linearno zavisni s vec´ postojec´im.

 Pogledajmo nekoliko tipicˇnih primjera. ˇ elimo Primjer 7.15. Prognoza) Poznata je vrijednost procesa s(t ) u trenutku t . Z procjeniti vrijednost procesa u nekom buduc´em trenutku s(t + λ ) . Ovdje je x (t ) = s(t ) , g = s(t + λ ) a trazˇ ena procjena gˆ ima oblik λ = α s(t ): Po uvjetima (1) nepoznata konstanta α mora se odrediti tako da pogresˇka bude okomita na podatke: E(g ; gˆ )s(t )] = E(s(t + λ ) ; α s(t ))s(t )] = 0:

7.4. PROCJENE , PROGNOZE I FILTRI Odavde slijedi

171

R(λ ) ; α R(0) = 0

te je optimalna vrijednost parametra α

= RR((λ0)) . Primjetimo da je jα j ? 1 .

Primjer 7.16. (Filtracija) Poznata je vrijednost procesa x (t ) , zˇ elimo procjeniti vrijednost drugog procesa s(t ) . Sada je gˆ = α x (t ) i uvjet ortogonalnosti daje E(s(t ) ; α x (t ))x (t )] = 0 odnosno Rsx (0) : Rsx (0) ; α Rxx (0) = 0 =) α = Rxx (0)

Odredimo pogresˇku. Minimalna je pogresˇka e = Efs(t ) ; α x (t )]s(t )g

= Rss (0) ; α Rsx (0) = Rss (0) ; RRsx ((00))

2

xx

:

Proces x najcˇesˇc´e je u ovakvim situacijama zbroj signala i sˇuma: x (t ) = s(t ) + n(t ): Prirodno je pretpostaviti da su signal i sˇum nekorelirani. Tada je Rxx (τ ) = Rss (τ ) + Rnn (τ ): Rsx (τ ) = Rss (τ ) Dakle, Rss (0) Rss (0)Rnn (0)  : α= ε= Rss (0) + Rnn (0) Rss (0) + Rnn (0)

() g = s(t )  gˆ = α s(0) + β s(T )

() ( )

Primjer 7.17. (Interpolacija) Procijenimo s t iz poznatih vrijednosti s 0 i s T . :

Iz uvjeta ortogonalnosti pogresˇke na podatke pisˇemo Efs(t ) ; α s(0) ; β s(T )]s(0)g = 0 Efs(t ) ; α s(0) ; β s(T )]s(T )g = 0: Odavde R(t ) = α R(0) + β R(T ) R(T ; t ) = α R(T ) + β R(0):

Ovaj se sustav uvijek mozˇ e razrijesˇiti po α i β . Determinanta sustava je R(0)2 ; R(T )2 , pozitivna osim u vrlo posebnim slucˇajevima kad je korelacijska funkcija periodicˇka a T je upravo njezin period. (Korelacijska funkcija mozˇ e imati u tocˇki T = 6 0 vrijednost jednaku R(0) samo ako je periodicˇka.) Posebice, za t = T =2 rjesˇenje je sustava a=b=

R(T =2) : R(0) + R(T )

172

7. KORELACIJSKA TEORIJA STOHASTICˇ KIH PROCESA

( + λ ) iz poznatih vrijednosti s(t) i s0 (t) .

Primjer 7.18. Procijenimo s t

Sad je gˆ = α s(t ) + β s0 (t ) . Iz uvjeta (1)

Efs(t + λ ) ; α s(t ) ; β s0 (t )]s(t )g = 0 Efs(t + λ ) ; α s(t ) ; β s0 (t )]s0 (t )g = 0:

Odavde:

Rss (λ ) ; α Rss (0) ; β Rs0 s (0) = 0 Rss0 (λ ) ; α Rss0 (0) ; β Rs0 s0 (0) = 0:

Iskoristimo sad svojstva korelacijske funkcije derivacije s0 procesa s . Najprije, da bi proces s0 bio definiran, korelacijska funkcija Rss mora biti derivabilna u nuli. Medutim, ta je funkcija parna. Zato, njezina derivacija u nuli mora biti jednaka nuli: R0 ss(0) = 0 . Nadalje, vrijedi Rs0 s (τ ) = R0ss (τ ) Rss0 (τ ) = ;R0ss (τ ) Rs0 s0 (τ ) = ;R00ss (τ ): Zato je Rs0 s (0) = Rss0 (0) = 0 i iz gornjih relacija dobivamo α

Najbolja je procjena

= RR((λ0))

gˆ =

β



0

= RR00((λ0))

:

R(λ ) R0 (λ ) s(t ) + 00 s0 (t ): R(0) R (0 )

Ova je formula poboljsˇanje deterministicˇke procjene: s(t + λ )  s(t ) + λ s0 (t ): Za malene vrijednosti parametra λ vrijede ocjene

R(λ ) = R(0) + 12 R00 (0)λ 2 + : : :  R(0)

R0 (λ ) = R00 (0)λ + 12 R000 (0)λ 2 : : :  R00 (0)λ pa iz stohasticˇke procjene dobivamo deterministicˇku.

( )R i s(T ) procesa na krajevima intervala 0 T ] treba procijeniti vrijednost integrala g = 0T s(t)dt . Stavljajuc´i gˆ = α s(0) + β s(T ) , iz relacija ortogonalnosti s podacima dobivamo Primjer 7.19. Iz poznatih vrijednosti s 0



sljedec´e uvjete

Z

Z

T

0

0

T

R(t )dt

= α R(0) + β R(T )

R(T ; t )dt

Oba se integrala podudaraju, pa dobivamo α



= α R(T ) + β R(0)

Z

T

R(t )dt

= β = R(0) + R(T ) 0

:

:

7.4. PROCJENE , PROGNOZE I FILTRI

173

Primjer 7.20. Vazˇ ni je primjer aproksimacija racˇ unanje vrijednosti derivacije zadane funkcije. Priblizˇ na vrijednost derivacije racˇuna se formulom f (t ) ; f (t ; λ ) f 0 (t )  λ u kojoj se nastoji λ ucˇiniti sˇto je moguc´e manjim. Pretpostavimo da nam je zadatak odrediti vrijednost derivacije s0 procesa s , ali iz podataka ne o tom vec´ o procesu x (t ) = s(t ) + n(t ) ˇ koji uz signal s sadrzˇ i i sˇum n . Cak i kad je sˇuma malen po apsolutnom iznosu brzina promjene je dominantna u vrijednostima derivacije. Stoga se mozˇ e dogoditi da je promjena procesa x uzrokovana u prvom redu utjecajem sˇuma, a ne samoga signala (sˇum i jeste okarakteriziran time da zbog malene autokorelacije ima vrlo velike promjene u kratkom vremenskom intervalu, sˇto za signal ne mora biti slucˇaj.) Stoga u racˇunanju procjene derivacije nije najbolja strategija uzeti sˇto je moguc´e manji λ , vec´ je bolja strategija iskoristiti informacije o promjeni procesa koje su dane kroz korelacijsku funkciju i na taj nacˇin odrediti optimalni parametar λ . Neka je g = s0 (t )  gˆ = α x (t ) + β x (t ; λ ) . Uvjeti ortogonalnosti su: Efs0 (t ) ; α x (t ) ; β x (t ; λ )]x (t )g = 0 Efs0 (t ) ; α x (t ) ; β x (t ; λ )]x (t ; λ )g = 0 odakle slijedi Rs0 x (0) = α Rxx (0) + β Rxx (λ ) Rs0 x (λ ) = α Rxx (λ ) + β Rxx (0): Rjesˇavanjem ovog sustava odredit c´emo α i β . Time problem najbolje procjene nije zgotovljen. Interesantno je odrediti uz koji λ c´e pogresˇka procjene biti najmanja. Pretpostavimo da su signal i sˇum medusobno ortogonalni (sˇto je obicˇno ispunjeno). Onda je Rs0 x (0) = Rs0 s (0) = R0ss (0) = 0 Rxx (λ ) = Rss (λ ) + Rnn (λ ): Pogresˇka procjene iznosi e = Efs0 (t ) ; α x (t ) ; β x (t ; λ )]s0 (t )g = ;R00ss (0) ; β R0ss (λ ) (jer je Rs0 s0 (τ ) = ;R00ss (τ ) , Rs0 s (τ ) = R0ss (τ )). Ova pogresˇka ovisi o λ . Izabrat c´emo onaj λ za koji je pogresˇka minimalna. Primjer 7.21. (Rekonstrukcija procesa) Mozˇ e li se proces rekonstruirati ako mu poznajemo vrijednost u tocˇkama cˇije su koordinate ekvidistantne? Slicˇno pitanje za deterministicˇku funkciju f ima pozitivan odgovor, uz pretpostavku da je funkcija ogranicˇenog spektra. Ako je fˆ(u) = 0 za juj > u0 , tad vrijedi sljedec´a formula 1 sin(u0 τ ; nπ ) f (τ ) = f (nT ) : (4) u0 τ ; nπ n=;1

X

Ovdje je T

=π

=

u0 . Ponekad je prakticˇnije koristiti sljedec´u njezinu verziju: f (τ ; a) =

1 X

;1

n=

f (nT ; a)

sin(u0 τ ; nπ ) : u0 τ ; nπ

(5)

174

7. KORELACIJSKA TEORIJA STOHASTICˇ KIH PROCESA

Pretpostavimo sada je su nam poznate vrijednosti procesa s u tocˇkama s(nT ) n = : : :  ;1 0 1 : : : a zˇ elimo procjeniti njegovu vrijednost u nekoj tocˇki t . nastojat c´emo dobiti procjenu koja vrijedi za bilo koji t , stoga c´emo procjenu i koeficijente pisati kao funkcije varijable t :

1 X

s(t )  gˆ (t ) = Uvjeti ortogonalnosti su

nh

E

s(t ) ;

i

1 X ;1

n=

;1

n=

()( )

αn t s nT

o

() ( ) ( ) =0

αn t s nT s kT

Odavde dobivamo relacije

R(t ; kT ) =

1 X n=

;1

k = : : :  ;1 0 1 : : :



() (

αn t R nT ; kT

)



8k

(6)

koje moraju zadovoljavati koeficijenti αn (t ) . Ovaj je sustav beskonacˇno mnogo jednakosti prakticˇki nemoguc´e razrijesˇiti, medutim, njegovo je rjesˇenje vrlo jednostavno u slucˇaju ako je spektralna gustoc´a procesa koncentrirana na konacˇnom intervalu: π S(u) = 0 za juj > u0 u0 = : T Stavimo li tad sin u0 (t ; nT ) an (t ) = u0 (t ; nT ) onda (6) prelazi u istinitu jednakost R(τ ; kT ) Pogresˇka procjene iznosi

=

1 X ;1

n=

nh

e=E

s(t ) ;

= R(0) ;

R(nT ; kT )

;1

n=

;1

n=

i o

1 X

1 X

sin(u0 τ ; nπ ) : u0 τ ; nπ

()( ) ()

αn t s nT s t

() (

αn t R t ; nT

)

Medutim, desna je strana jednaka nuli, u sˇto se mozˇ emo uvjeriti ako u (5) stavimo τ = a = t . Dakle, vrijedi e = 0 i s(t ) =

1 X

n=

;1

s(nT )

sin u0 (t ; nT ) : u0 (t ; nT )

(Jednakost vrijedi u smislu sredine reda 2, sˇto znacˇi da red s desne strane konvergira prema s(t ) u smislu sredine reda 2.) Wienerov filtar U svim prethodnim primjerima bila je poznata vrijednost procesa u konacˇno ili najvisˇe prebrojivo mnogo tocˇaka. Sad c´emo promatrati problem u kojem se pojavljuju, kao i prije,

7.4. PROCJENE , PROGNOZE I FILTRI

175

dva procesa: signal s (koji nam je nepoznat) te s njim povezan proces x cˇije su nam vrijednosti poznate na nekom intervalu ha bi . Procjenu g trazˇ it c´emo i dalje u obliku linearne kombinacije podataka x (ξ ) , a ? ξ ? b . No, ta je linearna kombinacaja sada predstavljena integralom:

Z

gˆ (t ) =

b

h(t ξ )x (ξ )dξ

a

(Pisˇemo gˆ (t) rade nego gˆ , jer c´e ta slucˇajna varijabla uistinu ovisiti o trenutku t . Najcˇesˇc´e c´e biti g(t ) = s(t ) ili g(t ) = x (t + λ ) .) Ovaj se integral mozˇ e shvatiti kao limes integralne

sume:

X n

gˆ (t ) = lim Δξ

!0 i=1

h(t ξ )x (ξ )Δξ

koja ima oblik linearne kombinacije kakve smo vec´ razmatrali, s koeficijentima h(   ξ )Δξ . Tako funkciju h mozˇ emo nazvati tezˇ inskom funkcijom. Svojstvo ortogonalnosti optimalne procjene mora se sacˇuvati, jer vrijedi za svaku konacˇnu aproksimaciju integrala integralnom sumom. Zato rjesˇenje zadovoljava uvjet Efg(t ) ; Vrijedi

Z

b a

x (α )h(t α )dα ]x (ξ )g = 0

Eg(t )x (ξ )] = Rgx (t ; ξ )

Tako dobivamo Rgx (t ; ξ ) =

Z

b

a

a?ξ

Ex (α )x (ξ )]

Rxx (α ; ξ )h(t α )dα 

?b

:

= Rxx (α ; ξ ) a?ξ

?b

:

:

Tako se problem svodi na odredivanje nepoznate tezˇ inske funkcije h koja zadovoljava ove jednakosti. Napisˇimo josˇ kolika je pogresˇka procjene: e = Efg(t ) ;

= Rqq(0) ;

Z

Z a

a b

b

x (α )h(t α )dα ]g(t )g

Rgx (t ; α )h(t α )dα :

Problem filtracije Promotrimo problem odredivanja vrijednosti signala s , ako su nam poznate realizacije procesa x (t ) = s(t ) + n(t ):

za svaki realni t . Proces n zvat c´emo sˇumom. Dakle, sada je g(t ) = s(t ) . nadalje, pretpostavljat c´emo da su s i x stacionarni procesi, zbog cˇega c´e funkcija h(t ξ ) ovisiti samo o razlici t ; ξ : s(t )  gˆ (t ) =

Z1

;1

h(t ; ξ )x (ξ )dξ

=

Z1

;1

x (t ; α )h(α )dα :

176

7. KORELACIJSKA TEORIJA STOHASTICˇ KIH PROCESA

Primjec´ujemo da procjenu gˆ (t ) mozˇ emo shvatiti kao izlaz iz linearnog vremenski invarijantnog sustava s impulsnim odzivom h(t ) . Da odredimo tu funkciju, koristit c´emo uvjete ortogonalnosti Efs(t ) ; Odavde

Z1

;1

Rsx (t ; ξ ) =

x (t ; α )h(α )dα ]x (ξ )g = 0

Z1

8ξ :

Rxx (t ; α ; ξ )h(α )dα 

;1

= t ; ξZ: 1 Rsx (τ ) = Rxx (τ ; α )h(α )dα

8ξ :

Zamijenimo varijablu: τ

;1

8τ:



Rijesˇimo ovu integralnu jednadzˇ bu. Kako je to jednadzˇ ba konvolucijkog tipa, njezino je rjesˇenje vrlo jednostavno. U donjem podrucˇju, jednadzˇ ba glasi: Ssx (u) = Sxx (u)H (u) odakle slijedi Ssx (u) H (u) = : Sxx (u) Original ove funkcije je trazˇ eni impulsni odziv. napomenimo da on ne mora zadovoljavati svojstvo uzrocˇnosti, moguc´e je da bude h(t ) 6= 0 za t < 0 . To znacˇi da se idealni filtar mozˇ da ne mozˇ e fizicˇki realizirati.



Z1

Iskazˇ imo pogresˇku procjene. Vrijedi

nh

e=E

s(t ) ;

= Rss (0) ; Oznacˇimo

Z 1;1 ;1

i o

x (t ; α )h(α )dα s(t )

Rsx (α )h(α )dα :

( ) = Rss (τ ) ; Rsx (;τ )  h(τ ) Tad vrijedi e = ε (0) . Transformat od ε (τ ) glasi Ssx (;u)Ssx (u) Sss (u) ; Ssx (;u)H (u) = Sss (u) ; S (u ) ε τ

:

xx

Z h

:

Racˇunajuc´i inverznu transformaciju, dobivamo 1 1 Ssx (u)Ssx (;u) e = ε (0) = Sss (u) ; du: 2π ;1 Sxx (u)

i

Prognoza i filtracija

Z1

Slicˇnim nacˇinom mozˇ e se odrediti procjena za buduc´u vrijednost filtriranog procesa: g(t ) = s(t + λ )  gˆ (t ) =

;1

x (t ; α )h(α )dα :

7.4. PROCJENE , PROGNOZE I FILTRI

177

Pokazuje se da funkcija h zadovoljava integralnu jednadzˇ bu Rsx (τ

+ λ) =

Z1

;1

odakle slijedi

Rxx (τ ; α )h(α )dα 

H (u) =

8τ

Ssx (u)eiuτ : Sxx (u)



Pretpostavimo sada da su signal s(t ) i sˇum n(t ) nekorelirani (pa onda i ortogonalni jer im je ocˇekivanje nula): Ssn = 0: Tada je

Sxx (u) = Sss (u) + Snn (u)

Zato je H (u) = Pogresˇka je dana s

1 2π

e=

Ssx (u) = Sss (u):

Sss (u) : Sss (u) + Snn (u)

Z1

;1

(7)

Sss (u)Snn (u) du: Sss (u) + Snn (u)

Primjec´ujemo da je ta pogresˇka jednaka nuli ako je Sss (u)Snn (u) = 0 tj. ako se spektar signala i sˇuma ne presjecaju. U tom je slucˇaju idealna funkcija prijenosa 1, za one u za koje je Sss (u) = 6 0, H (u) = 6 0, 0, za one u za koje je Snn (u) = bilo sˇto, za ostale u .

8 < :

Primjer 7.22. Neka je autokorelacijska funkcija signala

Rss (τ )

a spektar sˇuma

= Ae;α jτ j cos u0τ

Snn (u) = N

(bijeli sˇum). Zˇ elimo odrediti impulsni odziv za optimalnu filtraciju. Pretpostavimo da je α

<<

u0 . tada je

Zato je, po (7)

Sss (u) = H (u) =

Pogresˇka procjene je e=

1 π

Aα + (u ; u0)2  Aα

za u > 0:

u > 0:

Aα

+ N α 2 + N (u ; u0)2

Aα

+ N α 2 + N (u ; u0)2 = p1 + A N α

Z1 ;1

α2

Aα N du



A

=

178

7. KORELACIJSKA TEORIJA STOHASTICˇ KIH PROCESA

Bez ikakvih podataka, procjena procersa s bi bila s(t ) ucˇinjena pogresˇka Es2 (t )] = Rss (0) = A:

=

0 (njegovo ocˇekivanje), a

Prema tome, ako je N α >> A , tada postupak filtriranuja ne poboljsˇava procjenu. Ako je pak A = 3N α , onda je e = Rss (0)=2 . Primjer 7.23. Pokazˇ imo sad kako se mozˇ e odrediti procjena za derivaciju s0 procesa

iz poznatih podataka x (t ) = s(t ) + n(t ) za svaki realni t . g(t ) = s0 (t )  gˆ (t ) = Iz uvjeta ortogonlnosti

nh 0

E

s (t ) ;

Z1

slijedi

odnosno

R s 0 x (τ )

=

;1

x (t ; α )h(α )dα :

i

;1

x (t ; α )h(α )dα x (ξ )

Z1

Rs0 x (t ; ξ ) =

Z1

;1

Z1

;1

o

=0

8ξ



Rxx (t ; α ; ξ )h(α )dα  Rxx (τ ; α )h(α )dα 

8ξ

8τ:

Znamo da je transformat funkcije Rs0 x (τ ) jednak iuSsx (u) . Zato prijenosna funkcija mora imati oblik iuSsx (u) H (u) = : Sxx (u) Prognoza Promotrimo sada problem predskazivanja vrijednosti procesa s(t + λ ) u nekom buduc´em trenutku t + λ , ako nam je poznata prosˇlost tog procesa, dakle njegove vrijednosti na intervalu h;1 t ] . Dakle, sad je g(t ) = x (t + λ ) , x (t ) = s(t ) . Kako su u procjeni sadrzˇ ani samo podaci iz prosˇlosti i sadasˇnjojsti, rezultirajuc´i linearni sustav bit c´e uzrocˇno-posljedicˇni, tj. funkcija impulsnog odziva h zadovoljavat c´e uvjet h(t ) = 0 za t < 0: Prema tome, trebamo odrediti funkciju h takvu da bude s(t + λ ) 

Z1

Uvjeti optimalnosti su

nh

E

s(t + λ ) ;

0

s(t ; α )h(α )dα

Z1 0

Odavde slijedi R(t + λ ; ξ ) =

=

i

Z

t

;1

o

s(t ; α )h(α )dα s(ξ )

Z1 0

s(β )h(t ; β )dβ :

=0

R(t ; α ; ξ )h(α )dα 

za ξ



ξ

<

t

?t

:

7.4. PROCJENE , PROGNOZE I FILTRI

179

gdje je R autokorelacijska funkcija signala za koju pretpostavljamo da je ogranicˇena. Stavimo t ; ξ = τ . Dobivamo R(τ

+ λ) =

Z1 0

R(τ ; α )h(α )dα 

τ

>0

:

Ove jednadzˇ be nazivaju se Wiener-Hopfove integralne jednadzˇ be. Pogresˇka procjene je

nh

e=E

s(t + λ ) ;

= R(0) ;

Z1 0

Z1 0

i

s(t ; α )h(α )dα s(t + λ )

R(;λ ; α )h(α )dα :

o