회귀 모델에서의 손실 함수

실제 값 Vs 예측 값

회귀 모델에서 우리의 주요 목표는 연속된 값을 예측하는 것입니다. 모델을 구축한 후에는 어떤 테스트 데이터셋으로 이를 테스트합니다. 이를 통해 우리는 실제 값 (목표 변수의 실제 값)과 예측 값 (우리의 모델이 예측한 값)을 얻게 됩니다.

평균 절대 오차 (MAE)

MAE는 예측 값과 실제 값의 절대 차이의 평균입니다.
이는 선형 점수이므로, 평균에서 모든 개별 차이가 동등하게 가중됩니다.

MAE = 1/n * Σ|실제값 - 예측값|

여기서, n은 관측치의 총 개수입니다.

평균 제곱 오차 (Mean Squared Error, MSE)

MSE는 MAE와 유사하지만, 절대 값을 사용하는 대신 차이를 제곱한 후 이들을 모두 더합니다.
이는 MSE가 MAE에 비해 이상치에 더 민감하다는 것을 의미합니다.

MSE = 1/n * Σ(실제값 - 예측값)^2

제곱근 평균 제곱 오차 (RMSE)

RMSE는 예측 값과 실제 값의 차이의 제곱의 평균의 제곱근입니다.
오차가 평균화되기 전에 제곱되므로, RMSE는 큰 오차에 상대적으로 높은 가중치를 줍니다.

RMSE = sqrt(1/n * Σ(실제값 - 예측값)^2)

상대 절대 오차 (RAE)

RAE는 간단한 예측자의 총 절대 오차에 대한 총 절대 오차입니다.

RAE = Σ|실제값 - 예측값| / Σ|실제값 - mean(실제값)|

상대 제곱 오차 (RSE)

RSE는 RAE와 매우 유사합니다. 유일한 차이점은 절대 차이가 제곱 차이로 대체된다는 것입니다.

RSE = Σ(실제

값 - 예측값)^2 / Σ(실제값 - mean(실제값))^2

결정 계수 (R^2 점수)

R^2 점수 또는 결정 계수는 최소 제곱 회귀를 사용하여 종속 변수의 총 변동성이 얼마나 줄어드는지 설명합니다.

R^2 = 1 - RSE

일반적으로 R^2 점수가 1에 가까울수록, 모델이 데이터에 더 잘 맞는 것입니다.

이러한 지표들은 회귀 모델의 성능을 평가하고 다른 모델들을 비교하는데 필수적입니다.
이들은 모델의 정확도에 대한 통찰력을 제공하고, 얼마나 많은 오차를 기대해야 하는지, 그리고 모델의 잔차가 어떤 패턴을 보이는지에 대한 정보를 제공합니다.

부족한 점이나 잘못 된 점을 알려주시면 시정하겠습니다 :>