선형예측

선형 예측은 이산 시간 신호의 미래 값을 이전 표본의 선형 함수로 추정하는 수학적 연산이다.

디지털 신호 처리에서 선형 예측은 흔히 LPC(Linear Prediction Coding)라고 불리며, 따라서 필터 이론의 서브셋으로 볼 수 있다. 수학의 하위 분야인 시스템 분석에서 선형 예측은 수학 모델링이나 최적화의 일부로 볼 수 있다.

예측 모형

가장 일반적인 표현은

${\displaystyle {\widehat {x}(n)=\sum _{i=1}^{p}a_{i}x(n-i)\,},}$

여기서 $x{\displaystyle \stackrel{}{}}$ ${\displaystyle \stackrel{}{^}}$ $){\displaystyle {\widehat${x$$$}}(n$$)}$은 예측 신호 ${\displaystyle 값}$이고, x$n$ - i ) {\displaystyle $x(n-i)}$은 이전에$$ 관측된 값이며, ${\displaystyle p_{}}$$stylen$ {\$displaysty$p$\backslash$leq n} 및 i {\$displaystystystytype a_{i}$ 예측$$ 계수. 이 견적에 의해 생성된 오류는

${\displaystyle e(n)=x(n)-{\widehat {x}}(n)\,}$

${\displaystyle \mathrm{여기}}$서 $x{\displaystyle }$( n${\displaystyle }$) ${\displaystyle x(n)}$은(는) 참 신호 값이다.

이러한 방정식은 모든 유형의 (1차원) 선형 예측에 유효하다. 차이는 예측 변수 계수 ${\displaystyle a_{}}$ ${\$를 선택하는$$ 방법에서 발견된다.

다차원 신호의 경우 오류 메트릭은 종종 다음과 같이 정의된다.

${\displaystyle e(n)=\ x(n)-{\widehat {x}}(n)\,}$

여기서 $\Vert {\displaystyle }$ ${\displaystyle \cdot }$ ${\displaystyle \{}$ ${\displaystyle \cdot$ \ \cdot \ $}$은(는) 적절한 선택된 벡터 표준이다. kalman 필터와 평활기에는 각각 $x{\displaystyle \stackrel{}{}}$ ${\displaystyle ^}$ (${\displaystyle n}$ $){\displaystyle {\widehat{x}(n)}$와 같은 예측이 일상적으로 사용되어 현재$$ 및 과거의 신호 값을 추정한다.^{[citation needed]}

모수 추정

${\displaystyle {파라미터}_{}}$ a ${\$의 최적화에 있어 가장 일반적인 선택은 자기 상관 기준이라고도 하는 루트 평균 제곱 기준이다$$. 이 방법에서 방정식을 산출하는 오차 $제곱{\displaystyle }$ E${\displaystyle }$[ ${\displaystyle {e\mathrm{}}^{}}$ ${\displaystyle 2{}^{}}$(${\displaystyle }$n ) ${\displaystyle ]}$ ${\displaystyle E[e^{2}(n)]}$의 기대값을 최소화한다$.$

${\displaystyle \sum _{i=1}^{p}a_{i(j-i)=R(j),}$

1 j j ≤ p에 대하여, 여기서 R은 신호 x의_n 자기 상관이며, 다음과 같이 정의된다.

${\displaystyle R}$( ${\displaystyle i}$)${\displaystyle }$= ${\displaystyle E}${ ${\displaystyle x}$( ${\displaystyle n}$) x${\displaystyle }$( ${\displaystyle n}$- i${\displaystyle }$) ${\displaystyle \}}$ ${\$\$R(i)=E\{x(n)x(n-i$

그리고 E는 기대값이다. 다차원 사례에서 이것은₂ L 규범을 최소화하는 것과 일치한다.

위의 방정식을 정상 방정식 또는 율-워커 방정식이라고 한다. 행렬 형식에서 방정식은 다음과 같이 동등하게 쓰여질 수 있다.

${\displaystyle \mathbf {RA} =\mathbf {r}}$

는 어디에 자기 상관 행렬 R{\displaystyle \mathbf{R}}은 대칭, pp{\displaystyle p\times p}테플리츠 행렬 요소와이었고 넌 결코 모르네 나는 j)R(나는 j−), 0≤ 나는, j<>안{\displaystyle r_{ij}(i-j),0\leq i,j<, p}×, 벡터 r{\displaystyle \mathbf{r}}는 자기 상관 벡터 rj. =R(${\displaystyle r_{j}=R(j),0<j\leq p}$, and ${\displaystyle \mathbf {A} =[a_{1},a_{2},\,\cdots \,,a_{p-1},a_{p}]}$, the parameter vector.

보다 일반적인 또 다른 접근법은 양식에 정의된 오차의 제곱합을 최소화하는 것이다.

${\displaystyle e(n)=x(n)-{\widehat{x}}-{x(n)-\sum _{p}a_{i}x(n-i)=-\sum _{i=0}^{p}a_{p}x(n-i)}$

여기서 모든 ${\displaystyle i_{}}$ ${\$에 대한 최적화 문제를 ${\displaystyle {0\mathrm{}}_{}}$=${\displaystyle }$- ${\displaystyle 1}$ ${\displaystyle a_{0}=-1}$로 제한해야 한다$$$.$

한편, 평균 제곱 예측 오차가 통일로 제약되고 예측 오차 방정식이 정상 방정식 위에 포함되면, 다음과 같이 증분 방정식의 집합을 얻는다.

${\displaystyle \mathbf {RA} =[1,0,...,0]^{\mathrm {T}}}}}$

여기서 색인 $i{\displaystyle }$ ${\displaystyle i}$의 범위는$$ $0{\displaystyle }$ ~ p ${\displaystyle p}$이며$,$ $R{\displaystyle \mathbf{}}$ ${\$는)${\displaystyle }$(${\displaystyle p}$+ ${\displaystyle 1}$) ${\displaystyle \times }$(${\displaystyle p}$+ ${\displaystyle 1}$)${\displaystystyle (p+1)\time$ ($p+1)}$ 행렬이다$$$$.

선형 예측 변수의 모수에 대한 규격은 광범위한 주제이며 많은 다른 접근법이 제안되었다. 사실 자기 상관 방법은 가장 보편적이며^{[citation needed]} 예를 들어 GSM 표준에서 음성 코딩에 사용된다.

행렬 방정식 $R{\displaystyle \mathbf{}}$ ${\displaystyle \mathbf{A}}$= ${\displaystyle r\mathbf{}}$ ${\$해법은 계산적으로$$ 비교적 비용이 많이 드는 과정이다. 매트릭스 역전을 위한 가우스 제거는 아마도 가장 오래된 해결책일 것이다. 그러나 이 $접근방식$은 R ${\$의 대칭을 효율적으로 사용하지 않는다$.$ 더 빠른 알고리즘은 1947년 노르만 레빈슨에 의해 제안된 레빈슨 재귀인데, 이 재귀적으로 해결책을 계산한다.^{[citation needed]} 특히 위의 자기 상관 방정식은 더빈 알고리즘으로 더 효율적으로 해결할 수 있다.^[1]

1986년 필립 델사르트와 Y.V.제닌은 분할 레빈슨 재귀라고 불리는 이 알고리즘에 대한 개선을 제안했는데, 이 알고리즘은 승수와 분할의 약 절반을 필요로 한다.^[2] 그것은 후속 재귀 수준에서 매개변수 벡터의 특별한 대칭 특성을 사용한다. 즉, $p{\displaystyle }$ ${\displaystyle p}$ 항을$$ 포함하는 최적 예측 변수에 대한 계산은 $p{\displaystyle }$- ${\displaystyle 1}$ ${\displaystyle p-1}$ 항을$$ 포함하는 최적 예측 변수에 대해 유사한 계산을 사용한다.

모델 매개변수를 식별하는 또 다른 방법은 Kalman 필터를 사용하여 상태 추정치를 반복적으로 계산하고 기대 최대화 알고리즘 내에서 최대우도 추정치를 얻는 것이다.

등거리 값의 경우 다항 보간법은 알려진 값의 선형 결합이다. 이산 시간 신호가 도${\displaystyle \mathrm{p}}$ -${\displaystyle }$1,$${\$displaystyle p-1,}$의 다항식을 준수하는 것으로 추정되면 예측$$ ${\displaystyle {변수}_{}}$ 계수 a ${\$a_{$i}$가 이항 변환 계수의 삼각형 해당 행에 의해 주어진다$$. 이 추정치는 노이즈가 낮은 천천히 변화하는 신호에 적합할 수 있다. $p{\displaystyle }$ ${\displaystyle p}$의 처음 몇 값에 대한 예측은 다음과$$ 같다.

${\displaystyle {\put{array}{lcl}p=1&:&{\widehat{x}(n)=1x(n-1)\\p=2&:&{\widehat {{x}(n)=2x(n-1)-1x(n-2)\\p=3&:&{\widehat{x}(n-1)=3x-3x(n-2)+1x(n-3)\\p=4&:{\widehat{x}}=4x(n-1)-6x(n-2)+4x(n-3)-1x(n-4)\end{array}}}$

참고 항목

• 자기 회귀 모형
• 선형예측분석
• 최소 평균 제곱 오차
• 예측 구간
• 라스타 필터링

참조

이 글은 일반적인 참고문헌 목록을 포함하고 있지만, 그에 상응하는 인라인 인용구가 충분하지 않기 때문에 대체로 검증되지 않은 상태로 남아 있다. 좀 더 정밀한 인용구를 도입하여 이 기사를 개선할 수 있도록 도와주십시오. (2010년 11월) (이 템플릿 메시지를 제거하는 방법과 시기 알아보기)

추가 읽기

• Hayes, M. H. (1996). Statistical Digital Signal Processing and Modeling. New York: J. Wiley & Sons. ISBN 978-0471594314.
• Levinson, N. (1947). "The Wiener RMS (root mean square) error criterion in filter design and prediction". Journal of Mathematics and Physics. 25 (4): 261–278.
• Makhoul, J. (1975). "Linear prediction: A tutorial review". Proceedings of the IEEE. 63 (5): 561–580. doi:10.1109/PROC.1975.9792.
• Yule, G. U. (1927). "On a Method of Investigating Periodicities in Disturbed Series, with Special Reference to Wolfer's Sunspot Numbers". Phil. Trans. Roy. Soc. A. 226: 267–298. doi:10.1098/rsta.1927.0007. JSTOR 91170.

외부 링크

• Matlab의 PLP 및 RASTA(및 MFCC, 반전)