반응형
LightGBM은 XGBoost와 함께 부스팅 계열 알고리즘에서 가장 각광을 받고 있습니다. Xgboost는 매우 뛰어난 부스팅 알고리즘이지만, 여전히 학습 시간이 오래 걸립니다. XGBoost에서 GridSearchCV로 하이퍼 파라미터 튜닝을 수행하다 보면 수행 시간이 너무 오래 걸려서 많은 파라미터를 튜닝하기에 어려움을 겪을 수밖에 없습니다.
물론 GBM보다는 빠르지만, 대용량 데이터의 경우 만족할 만한 학습 성능을 기대하려면 많은 CPU 코어를 가진 시스템에서 높은 병렬도로 학습을 진행해야 합니다. 그렇지 않은 H/W로 학습을 진행할 경우에는 당연히 더 많은 시간이 ㅍㄹ요하기에 불편합이 커질 수밖에 없습니다.
LightGBM의 가장 큰 장점은 XGBoost보다 학습에 걸리는 시간이 훨씬 적다는 점입니다.
반응형
'Lecture ML' 카테고리의 다른 글
머신러닝 강좌 #24] 사이킷런 LinearRegression을 이용한 보스턴 주택 가격 예측 (0) | 2021.06.23 |
---|---|
머신러닝 강좌 #23] 회귀 : Regression, 단순 선형 회귀를 통한 회귀 이해 그리고 경사하강법 (GD)에대해 (0) | 2021.06.22 |
머신러닝 강좌 #22] SMOTE, LightGBM을 이용한 예측 분류 실습 - 캐글 신용카드 사기 검출 (0) | 2021.06.20 |
머신러닝 강좌 #21] 분류 XGBoost를 이용한 고객 만족 예측 (0) | 2021.06.17 |
머신러닝 강좌 #19] XGBoost (eXtra Boost Machine), Scikit Wrapper Class (0) | 2021.06.11 |
머신러닝 강좌 #18] XGBoost (eXtra Boost Machine) (0) | 2021.06.11 |
머신러닝 강좌 #17] GBM(Gradient Boost Machine) (0) | 2021.06.06 |
머신러닝 강좌 #16] 랜덤 포레스트 - 공공데이터 에어코리아 대기오염정보 API 연결 후 머신러닝 실행하기 (0) | 2021.06.06 |