태그: Support Vector Machine

서포트 벡터 머신 (Support Vector Machine, SVM) #

서포트 벡터 머신(Support Vector Machine, SVM)은 통계적 학습 이론을 기반으로 한 강력한 분류 및 회귀 알고리즘이다. SVM의 핵심 아이디어는 클래스 간의 경계(결정 경계)를 최대한 넓게 만들어 일반화 성능을 향상시키는 것이다. 이 넓은 경계를 “마진(margin)“이라고 하며, 마진을 최대화하는 것이 SVM의 목표이다.

SVM의 기본 개념 #

1. 결정 경계와 마진 #

• 결정 경계(Decision Boundary): 클래스를 구분하는 초평면(hyperplane)
• 마진(Margin): 결정 경계와 가장 가까운 데이터 포인트들 사이의 거리
• 서포트 벡터(Support Vector): 마진 경계에 위치한 데이터 포인트들

2. 최적 분리 초평면 #

SVM은 다음 조건을 만족하는 최적의 초평면을 찾는다: