회귀분석과 최소제곱법

수학적 용어가 아닌 용어에서 회귀 분석에는 분산된 데이터에 부드러운 곡선을 맞추는 작업이 포함됩니다. 1800년경, 행성의 궤도에 대한 회귀분석을 위한 최선의 방법을 결정하는 것이 정규분포[1], 중심극한정리[2], 최소자승법[5]의 발전에 주요한 동기가 되었다. 회귀 분석은 오늘날 지구 표면 온도와 같은 중요한 데이터와 관련이 있습니다(그림 3.17).

그림 3.17. 지구 표면 온도의 선형 회귀.

가장 간단한 형태의 선형 회귀는 일련의 데이터 포인트에 직선을 맞춥니다(x_n, y_n), n = 1, …, N, 그림 3.17에 나와 있습니다. 직선의 방정식은 다음과 같습니다. y = 도끼 + b, 그리고 우리는 그리고 b. 오류 또는 잔차는 각 지점의 선과 데이터 점 간의 차이입니다. x_n: e_n = y_n – 도끼_n – b.

최소제곱법

최소제곱법은 다음에 대한 "최적" 값을 결정합니다. 그리고 b. 이는 잔차의 제곱을 합함으로써 달성됩니다. e_n, 값 찾기 그리고 b 합계를 최소화합니다. 미적분을 사용하여 합계의 미분은 다음과 관련하여 0으로 설정됩니다. 그리고 b. 그런 다음 두 방정식이 해결됩니다. 그리고 b. 방정식 19는 결과 공식입니다.

(1) $\begin{방정식*} a=\frac{\sum_{n-1}^{N}(x_{n}-\bar{x})(y_{n}-\bar{y})}{\sum_{n-1}^{N}(x_{n}-\bar{x})^2}; b=\bar{y}-a\bar{x} \end{방정식*}$

(2) $\begin{방정식*} \text{여기서 평균값은 }\bar{x}=\frac{1}{N}\sum_{n=1}^{N}x_{n}\text{ 및 }\bar{y}=\frac{1}{N}\sum_{n=1}^{N}y_{n} \end{방정식*}입니다.$

수학식 19

곡선 맞춤에 대한 신뢰 구간을 얻기 위해 오류가 정규 분포를 따른다고 가정할 수 있습니다. 방정식 20은 잔차의 분산을 계산합니다. a와 b에 대한 두 방정식이 자유도를 2만큼 감소시켰기 때문에 N – 2가 분모에 있습니다.

(3) $\begin{방정식*} \sigma_{\varepsilon}^2=\frac{1}{N-2}\sum_{n=1}^{N}\varepsilon_{n}^2 \end{방정식*}$

수학식 20

이제 결정의 분산을 추가해야 합니다. y_n 데이터, σ_인². 측정에 대한 오차 한계는 2와 같다고 가정하는 경우가 많습니다.σ_y 신뢰도 95%를 기준으로 합니다. 선 값의 표준 편차, y는 다음과 같습니다.

(4) $\begin{방정식*} \sigma_{y}=\sqrt{\sigma_{\varepsilon}^2+\sigma_{y_{n}}^2} \end{방정식*}$

수학식 21

R 제곱 계수는 회귀 분석에 가장 적합한 것을 결정하는 일반적인 측정값입니다(수학식 22).

(5) $\begin{방정식*} R^2=1-\frac{\sum_{n=1}^{N}\varepsilon_{n}^2}{\sum_{n=1}^{N}(y_{n}-\bar{y})^2} \end{방정식*}$

수학식 22

R의 제곱근² 는 종종 상관계수라고 불리며, $r=\sqrt{R^2}$ . 지구 표면 온도의 예(그림 3.17)에서, σ_e = 0.133°C. 각 온도 측정의 오차 범위는 ±0.1°C이므로 다음과 같이 가정됩니다. σ_인= 0.050°C. 그런 다음, σ_y = 0.14°C이고 95% 신뢰 구간은 ±0.28°C입니다. R 제곱에 대해 계산된 값은 0.83입니다.

선형 회귀에 로그 값 사용

많은 경우 선형 척도의 데이터는 직선에 맞지 않습니다. 비선형 곡선 대신 선형 회귀에 로그 값을 사용하는 것이 편리합니다. 예를 들면:

log(y) 대 x
y 대 log(x)
로그(y) 대 로그(x)

예

구조의 감쇠로 인해 진동은 A(t) = A_o e^-2π^{f ζ t}충돌 후. f 는 주파수(Hz)입니다. t 는 시간(초)입니다. ^ζ 는 임계 감쇠비입니다.

감쇠 값을 결정하기 위해 RMS 가속도 수준은 충격 후 시간에 대해 측정됩니다(f = 200Hz인 경우 그림 3.18a 참조).

이론적 감쇠는 log(A) = log(A로 플롯할 때 직선이 됩니다._o) – [2π f ^ζ 로그(e)] t (그림 3.18b). 이 예에서 선형 회귀는 기울기를 -8.28과 동일시하므로 ^ζ = 8.28 / [2π f 로그(e)] = 0.015.

그림 3.18a. f = 200Hz에서 구조가 충격을 받은 후 시간에 따라 측정된 RMS 가속도 수준입니다.

그림 3.18b. 과도 진동 감쇠의 회귀 분석.

최소제곱법

선형 회귀에 로그 값 사용

예

시험 조건을 실제 장비에 적용해 보세요.