베이즈 정보 기준

1 개요

Bayesian information criterion (BIC), Schwarz information criterion (SIC), (SBC), (SBIC)

베이즈 정보 기준, 베이지안 정보 기준

• 모델 선택을 위한 기준 중 하나
• 모델 집합 중에서 이 값이 낮은 모델이 선호된다.
• 가능도 함수를 기반으로 하며 AIC와 밀접한 관련이 있다.
• 모델을 적합할 때 파라미터를 추가하여 우도를 높일 수 있지만 그렇게 하면 과적합이 발생할 수 있다.
• BIC와 AIC 모두 모델의 파라미터 수에 대한 페널티 항을 도입하여 이 문제를 해결하려고 한다.
• 페널티 항은 AIC 보다 BIC에서 더 크다.
• BIC는 Gideon E. Schwarz에 의해 개발되었으며 1978년 논문에 출간되었다.

2 정의

• [math]\displaystyle{ {\displaystyle \mathrm {BIC} =k\ln(n)-2\ln({\widehat {L}}) } }[/math]

3 같이 보기

• 모델 선택
• 아카이케 정보 기준(AIC)
• 이탈 정보 기준(DIC)
• Hannan–Quinn 정보 기준
• Jensen–Shannon divergence
• Kullback–Leibler divergence
• 최소 메시지 길이

4 참고

• 영어 위키백과 "Bayesian information criterion"