그리드서치로 랜덤포레스트 튜닝하기

간단 소개

그리드서치를 이용해 랜덤 포레스트 모델을 튜닝하고, 항공권 예약 데이터 예측 성능을 개선하는 과정을 분석합니다.

AI Summary

데이터 전처리 및 모델 학습
- 항공권 예약 데이터로 랜덤 포레스트 모델 구축
- 원-핫 인코딩과 오버샘플링을 통해 데이터 전처리
- 학습/테스트 데이터 분리 후 초기 모델 정확도 84% 달성
하이퍼파라미터 튜닝 및 성능 평가
- 그리드 서치를 이용한 하이퍼파라미터 튜닝 시도 (max_depth, n_estimators 등)
- 튜닝 후 정확도는 소폭 감소했으나, 재현율, 정밀도, F1 스코어 향상
- 혼동 행렬을 통해 모델 성능 검증
특성 중요도 분석 및 결론
- 출발 요일, 출발지, 비행 시간, 체류 기간, 판매 채널 등이 주요 예측 요인으로 확인
- 불균형 데이터 처리, 하이퍼파라미터 튜닝, 특성 중요도 분석을 통해 모델 개선