Flytting Gjennomsnitt Partiell Autokorrelasjon

Tidsserieanalyse tsa. inneholder modellklasser og funksjoner som er nyttige for tidsserieanalyse Dette inkluderer for tiden univariate autoregressive modeller AR, vektorautoregressive modeller VAR og univariate autoregressive bevegelige gjennomsnittlige modeller ARMA Det inneholder også beskrivende statistikk for tidsserier, for eksempel autokorrelasjon, delvis autokorrelasjonsfunksjon og periodogram, samt de tilsvarende teoretiske egenskapene til ARMA eller relaterte prosesser. Det inkluderer også metoder for å arbeide med autoregressive og bevegelige gjennomsnittlige lag-polynomier. I tillegg er relaterte statistiske tester og noen nyttige hjelpefunksjoner tilgjengelig. Oppsummering gjøres enten ved nøyaktig eller betinget Maksimal Sannsynlighet eller betingede minst-kvadrater, enten ved hjelp av Kalman-filter eller direktefiltre. Samtidig må funksjoner og klasser importeres fra den tilsvarende modulen, men hovedklassene vil bli gjort tilgjengelig i navneområdet Modulstrukturen er innenfor is. stattools empiriske egenskaper og tester , acf, pacf, gr anger-kausalitet, adf-enhet rot test, ljung-box test og others. armodel univariate autoregressive prosess, estimering med betinget og eksakt maksimal sannsynlighet og betinget minst-kvadrat. arimamodel univariate ARMA prosess, estimering med betinget og eksakt maksimal sannsynlighet og betinget minst - squares. vectorar, var vektor autoregressive prosess VAR estimeringsmodeller, impulsrespons analyse, prognose feil varians dekomponeringer og data visualisering tools. kalmanf estimering klasser for ARMA og andre modeller med nøyaktig MLE bruker Kalman Filter. armaprocess egenskaper av arma prosesser med gitt parametere, Dette inkluderer verktøy for å konvertere mellom ARMA, MA og AR-representasjon, samt akf, pacf, spektral tetthet, impulsresponsfunksjon og lignende. ligner på armeringsprosessen, men arbeider i frekvensdomene. tsatools ekstrahjelpsfunksjoner, for å lage arrays av forsinkede variabler, konstruere regressorer for trend, detrend og lignende. filters hjelpefunksjon for filtrering av tidsserier. Noen tilleggsfunksjoner som også er nyttige for tidsserieanalyse er i andre deler av statistikkmodeller, for eksempel flere statistiske tester. Noen relaterte funksjoner er også tilgjengelige i matplotlib, nitime, og disse funksjonene er utformet mer for bruk i signalbehandling hvor lengre tidsserier er tilgjengelige og arbeider oftere i frekvensdomenet. Beskrivende statistikk og tester. x, objektiv, demean, fft.2 2 Delvis autokorrelasjonsfunksjon PACF. Printerevennlig versjon. Generelt er en delvis korrelasjon en betinget korrelasjon. Det er korrelasjonen mellom to variabler under antagelsen om at vi vet og tar hensyn til verdiene av noe annet sett med variabler. For eksempel, vurder en regresjonskontekst hvor y-responsvariabel og x 1 x 2 og x 3 er prediktorvariabler. Den delvise korrelasjonen mellom y og x 3 er korrelasjonen mellom variablene bestemt med hensyn til hvor begge y og x 3 er relatert til x 1 og x 2. Ved regresjon kunne denne partielle korrelasjonen bli funnet ved å korrelere residualene fra to forskjellige regressioner. 1 Regresjon der vi forutsier y fra x 1 og x 2 2 regresjon der vi forutsier x 3 fra x 1 og x 2 I utgangspunktet korrelerer vi delene av y og x 3 som ikke forutsettes av x 1 og x 2. Mer formelt kan vi definere den delvise korrelasjonen som nettopp er beskrevet som. Merk at dette også er hvordan parametrene av ar egresjonsmodell tolkes Tenk på forskjellen mellom tolkning av regresjonsmodellene. y beta0 beta1x2 tekst y beta0 beta1x beta2x 2.I den første modellen kan 1 tolkes som den lineære avhengigheten mellom x 2 og y I den andre modellen vil 2 tolkes som den lineære avhengigheten mellom x 2 og y med avhengigheten mellom x og y allerede regnet for. For en tidsserie er den delvise autokorrelasjonen mellom xt og x th definert som den betingede korrelasjonen mellom xt og x th betinget av x th 1 x t-1 settet av observasjoner som kommer mellom tiden poeng t og t h. Den første rekkefølgen delvise autokorrelasjon vil bli definert til å være lik den første ordens autokorrelasjon. Den andre rekkefølgen delvise autokorrelasjon er. Dette er sammenhengen mellom verdiene to tidsperioder for hverandre betinget av kunnskap om verdien i mellom Forresten vil de to avvikene i nevneren likestille hverandre i en stasjonær serie. Den tredje ordreforsinkelse er delvis autokorrelasjon. Og så videre, for noen lag. Typisk har matrise manipulasjoner å gjøre med kovariansmatrisen av enmultivariate distribusjon brukes til å bestemme estimater av de delvise autokorrelasjonene. Noen nyttige fakta om PACF og ACF Patterns. Identification av en AR-modell er ofte best gjort med PACF. For en AR-modell slår den teoretiske PACF seg forbi rekkefølgen av modellen Uttrykket slår av betyr at i teorien er de delvise autokorrelasjonene lik 0 over det punktet. På annen måte gir antallet av ikke-null delvise autokorrelasjoner rekkefølgen til AR-modellen. I rekkefølge av modellen mener vi den mest ekstreme forsinkelsen av x som brukes som en prediktor. Eksempel I Leksjon 1 2 identifiserte vi en AR 1-modell for en tidsserie med årlige antall jordskjelv på verdensbasis som hadde en seismisk størrelse større enn 7 0 Følgende er prøven PACF for denne serien Merk at den første lagverdien er statistisk signifikant, mens partielle autokorrelasjoner for alle andre lags ikke er statistisk signifikante. Dette antyder en mulig AR 1-modell for disse dataene. Identifikasjon av en MA-modell er ofte best gjort med ACF i stedet for PACF. For en MA-modell, slår den teoretiske PACF ikke av, men i stedet klemmer seg mot 0 på en eller annen måte. Et klarere mønster for en MA-modell er i ACF. ACF vil ha ikke-null autokorrelasjoner bare ved lags involvert i modellen. Lesson 2 1 inkluderte følgende sample ACF for en simulert MA 1-serie. Merk at den første lag-autokorrelasjonen er statistisk signifikant, mens alle etterfølgende autokorrelasjoner ikke er Dette antyder en mulig MA 1-modell for dataene. Modellen som ble brukt til simuleringen var xt 10 wt 0 7 w t-1 I teorien var den første lagautokorrelasjonen 1 1 1 2 7 1 7 2 4698 og autokorrelasjoner for alle andre lags 0. Den underliggende modellen som ble brukt til MA 1-simuleringen i Leksjon 2 1 var xt 10 wt 0 7 w t-1 Følgende er den teoretiske PACF delvis autokorrelasjon for den modellen Merk at mønsteret gradvis strekker seg til 0.R notat PACF som nettopp er vist, ble opprettet i R med disse to kommandoene. ma1pacf ARMAacf ma 36, pacf TRUE plot ma1pacf, type h, hoved Teoretisk PACF av MA 1 med theta 0 7.2 1 Moving Average Models MA modeller. Tidsseriemodeller kjent som ARIMA-modeller kan omfatte autoregressive termer og eller bevegelige gjennomsnittlige termer. I uke 1 lærte vi et autoregressivt uttrykk om gangen seriemodell for variabelen xt er en forsinket verdi på xt For eksempel er et lag 1 autoregressivt uttrykk x t-1 multiplisert med en koeffisient Denne leksjonen definerer glidende gjennomsnittlige termer. En glidende gjennomsnittlig term i en tidsseriemodell er en fortiden feil multiplisert med en koeffisient. La oss oversette N 0, sigma 2w, noe som betyr at vekten er identisk, uavhengig distribuert, hver med en normalfordeling som har gjennomsnittlig 0 og samme varians. Den 1 st ordningsgjøre gjennomsnittsmodellen, betegnet med MA 1 er. xt mu wt theta1w. Den 2. ordre flytte gjennomsnittlig modell, betegnet av MA 2 er. xt mu wt theta1w theta2.Den q ordreberegning av gjennomsnittlig modell, betegnet med MA q er. xt mu wt theta1w theta2w prikker thetaq. Note Mange lærebøker og programvare definerer modellen med negative tegn før betingelsene. Dette endrer ikke de generelle teoretiske egenskapene til modellen, selv om den ikke flipper de algebraiske tegnene på estimerte koeffisientverdier og ubetingede vilkår i formler for ACFer og avvik Du må sjekke programvaren din for å verifisere om negative eller positive tegn har blitt brukt for å skrive riktig estimert modell R bruker positive tegn i sin underliggende modell, slik vi gjør her. Theoretiske egenskaper av en tidsrekke med en MA 1-modell. Merk at den eneste ikke-nullverdien i teoretisk ACF er for lag 1 Alle andre autokorrelasjoner er 0 Således er en prøve-ACF med en signifikant autokorrelasjon bare ved lag 1 en indikator på en mulig MA 1-modell. For interesserte studenter, Bevis på disse egenskapene er et vedlegg til denne utleveringen. Eksempel 1 Anta at en MA 1-modell er xt 10 wt 7 w t-1 hvor overskuddet N 0,1 Altså koeffisienten 1 0 7 Th e teoretisk ACF er gitt av. Et plott av denne ACF følger. Plottet som nettopp er vist er den teoretiske ACF for en MA 1 med 1 0 7 I praksis fikk en prøve t vanligvis et slikt klart mønster. Ved hjelp av R simulerte vi n 100 Eksempelverdier ved hjelp av modellen xt 10 wt 7 w t-1 hvor w t. iid N 0,1 For denne simuleringen følger en tidsserier av prøvedataene. Vi kan ikke fortelle mye fra denne plottet. Prøven ACF for den simulerte data følger Vi ser en spike ved lag 1 etterfulgt av generelt ikke signifikante verdier for lags fortid 1 Merk at prøven ACF ikke samsvarer med det teoretiske mønsteret til den underliggende MA 1, som er at alle autokorrelasjoner for lags forbi 1 vil være 0 A forskjellig prøve ville ha en litt annen prøve-ACF som vist nedenfor, men vil trolig ha de samme brede funksjonene. Deoretiske egenskaper av en tidsrekkefølge med en MA 2-modell. For MA 2-modellen er teoretiske egenskaper følgende. Merk at den eneste ikke-null Verdiene i teoretisk ACF er for lags 1 og 2 Autocorrelat ioner for høyere lags er 0 Så, en prøve-ACF med signifikante autokorrelasjoner ved lags 1 og 2, men ikke-signifikante autokorrelasjoner for høyere lags indikerer en mulig MA 2-modell. Nid koeffisientene er 1 0 5 og 2 0 3 Fordi dette er en MA 2, vil den teoretiske ACF ha null nullverdier bare ved lags 1 og 2.Values ​​av de to ikke-autokorrelasjonene er. En plot av den teoretiske ACF følger. Som nesten alltid er tilfellet, vil prøvedata vunnet t oppføre seg ganske så perfekt som teori Vi simulerte n 150 utvalgsverdier for modellen xt 10 wt 5 w t-1 3 w t-2 hvor w t. iid N 0,1 Tidsseriens plott av dataene følger Som med tidsseriens plott for MA1-prøvedataene, kan du ikke fortelle mye av det. Prøven ACF for de simulerte dataene følger Mønsteret er typisk for situasjoner der en MA 2-modell kan være nyttig. Det er to statistisk signifikante pigger på lags 1 og 2 etterfulgt av ikke - - sviktige verdier for andre lag. Merk at på grunn av prøvetakingsfeil ikke samsvarte ACF det teoretiske mønsteret nøyaktig. ACF for General MA q Models. A egenskapen til MA q - modeller generelt er at det er ikke-null autokorrelasjoner for de første q lags og autocorrelations 0 for alle lags q. Non-uniqueness av forbindelse mellom verdier på 1 og rho1 i MA 1-modell. I MA 1-modellen, for en verdi på 1, gir den gjensidige 1 1 samme verdi. For eksempel, bruk 0 5 for 1 og bruk deretter 1 0 5 2 for 1 Du får rho1 0 4 i begge tilfeller. For å tilfredsstille en teoretisk begrensning som kalles invertibilitet begrenser vi MA 1-modeller til å ha verdier med absolutt verdi mindre enn 1 I eksemplet som er gitt, vil 1 0 5 være en tillatelig parameterverdi, mens 1 1 0 5 2 ikke vil. Invertibility av MA modeller. En MA-modell sies å være invertibel hvis den er algebraisk tilsvarer en konvergerende uendelig rekkefølge AR-modell. Ved konvertering mener vi at AR-koeffisientene reduseres til 0 når vi beveger oss tilbake i tiden. Invertibility er en begrensning programmert inn i tidsserier programvare som brukes til å estimere coeff ICE-modeller med MA-vilkår Det er ikke noe vi ser etter i dataanalysen. Ytterligere informasjon om inverterbarhetsbegrensningen for MA 1-modeller er gitt i vedlegget. Avansert teoretisk merknad For en MA q-modell med en spesifisert ACF, er det bare en inverterbar modell Den nødvendige betingelsen for inverterbarhet er at koeffisientene har verdier slik at ligningen 1- 1 y - qyq 0 har løsninger for y som faller utenfor enhetens sirkel. R Kode for eksemplene. I eksempel 1 plottet vi teoretisk ACF av modellen xt 10 wt 7w t-1 og deretter simulert n 150 verdier fra denne modellen og plottet prøve tidsseriene og prøven ACF for de simulerte data R-kommandoene som ble brukt til å plotte den teoretiske ACF var. acfma1 ARMAacf ma c 0 7, 10 lags av ACF for MA 1 med theta1 0 7 lags 0 10 skaper en variabel som heter lags som varierer fra 0 til 10 plot lags, acfma1, xlim c 1,10, ylab r, type h, hoved ACF for MA 1 med theta1 0 7 abline h 0 legger en horisontal akse til plottet. Th e første kommandoen bestemmer ACFen og lagrer den i en gjenstand som heter acfma1 vårt valg av navn. Plot-kommandoen 3. kommando-plottene lags versus ACF-verdiene for lags 1 til 10 ylab-parameteren merker y-aksen og hovedparameteren setter en tittel på plottet. For å se de numeriske verdiene til ACF, bruk bare kommandoen acfma1. Simuleringen og plottene ble gjort med følgende kommandoer. liste ma c 0 7 Simulerer n 150 verdier fra MA 1 x xc 10 legger til 10 for å lage gjennomsnitt 10 Simuleringsstandarder betyr 0 plot x, type b, hoved Simulert MA 1 data acf x, xlim c 1,10, hoved ACF for simulert prøve-data. I eksempel 2 skisserte vi den teoretiske ACF av modellen xt 10 wt 5 w t-1 3 w t-2 og simulerte deretter n 150 verdier fra denne modellen og plottet prøve tidsserien og prøven ACF for den simulerte data R-kommandoene som ble brukt var. acfma2 ARMAacf ma c 0 5,0 3, acfma2 lags 0 10 plot lags, acfma2, xlim c 1,10, ylab r, type h, hoved ACF for MA 2 med theta1 0 5, theta2 0 3 abline h 0 liste ma c 0 5, 0 3 x xc 10 plot x, type b, hoved Simulert MA 2-serie acf x, xlim c 1,10, hoved ACF for simulert MA 2 Data. Appendix Bevis på egenskaper til MA 1.For interesserte studenter, her er det bevis på teoretiske egenskaper til MA 1-modellen. Varianttekst xt tekst mu wt theta1 w 0 tekst wt tekst theta1w sigma 2w theta 21 sigma 2w 1 theta 21 sigma 2When h 1 er det forrige uttrykket 1 w 2 For noen h 2 , forrige uttrykk 0 Årsaken er at ved definisjon av uavhengighet av Wt E wkwj 0 for noen kj Videre, fordi wt har betyde 0, E wjwj E wj 2 w 2.For en tidsserie. Bruk dette resultatet for å få ACF gitt ovenfor. En inverterbar MA-modell er en som kan skrives som en uendelig rekkefølge AR-modell som konvergerer slik at AR-koeffisientene konvergerer til 0 mens vi beveger oss uendelig tilbake i tid. Vi skal demonstrere inverterbarhet for MA 1-modellen. substituttforhold 2 for w t-1 i ligning 1. 3 zt wt theta1 z - theta1w wt theta1z - theta 2w. At tiden t-2 ligning 2 blir. Vi erstatter deretter forhold 4 for w t-2 i ligning 3. zt wt theta1 z - theta 21w wt theta1z - theta 21 z - theta1w wt theta1z - theta1 2z theta 31.If vi skulle fortsette uendelig, ville vi få den uendelige rekkefølgen AR - modellen. Zt wt theta1 z - theta 21z theta 31z - theta 41z prikker. Merk at hvis 1 1, vil koeffisientene som multipliserer lagene av z, øke uendelig i størrelse når vi beveger seg tilbake i tid. For å forhindre dette, trenger vi 1 1 Dette er betingelsen for en inverterbar MA 1 modell. Infinite Order MA modell. I uke 3 ser vi at en AR 1-modell kan konverteres til en uendelig rekkefølge MA-modell. xt - mu wt phi1w phi 21w prikker phi k1 w prikker sum phi j1w. Denne summeringen av tidligere hvite støybetingelser er kjent som en årsakssammenstilling av en AR 1 Med andre ord er xt en spesiell type MA med et uendelig antall termer går tilbake i tid Dette kalles en uendelig ordre MA eller MA En endelig ordre MA er en uendelig orden AR og en hvilken som helst endelig ordre AR er en uendelig ordre MA. Recall i uke 1, bemerket vi at et krav til en stasjonær AR 1 er at 1 1 La oss beregne Var xt ved hjelp av årsakssammensetningen. Dette siste trinnet bruker et grunnleggende faktum om geometriske serier som krever phi1 1 ellers ser serien ut.