목록ML (17)
개발하고 싶어요
베이지안 최적화 기반의 HyperOpt를 이용한 하이퍼 파라미터 튜닝¶ HyperOpt 사용하기¶ In [21]: # !pip install hyperopt In [1]: # 입력 변수명과 입력값의 검색 공간을 설정 from hyperopt import hp # -10 ~ 10까지 1간격을 가지는 입력 변수 x와 -15 ~ 15까지 1간격으로 입력 변수 y 설정 search_space = {'x' : hp.quniform('x', -10, 10, 1), 'y' : hp.quniform('y', -15, 15, 1)} In [2]: # 목적 함수 생성 # 변숫값과 검색 공간을 가지는 딕셔너리를 인자로 받고, 특정 값을 반환하는 구조 from hyperopt import STATUS_OK # 목적 함수를 생..
LightGBM¶ 위스콘신 유방암 예측¶ In [1]: # lightgbm에서 early_stopping_rounds를 사용하기 위해서는 버전을 '3.3.1', '3.3.2'로 변경 # !pip install lightgbm==3.3.2 import lightgbm lightgbm.__version__ Out[1]: '3.3.2' In [28]: # lightgbm의 파이썬 패키지인 lightgbm에서 LGBMClassifier 임포트 from lightgbm import LGBMClassifier import pandas as pd import numpy as np from sklearn.datasets import load_breast_cancer from sklearn.model_selection ..
랜덤포레스트¶ 랜덤포레스트의 개요 및 실습¶ 랜덤포레스트는 여러 개의 결정 트리 분류기가 전체 데이터에서 배깅 방식(분류기는 동일, 데이터를 랜덤 샘플)으로 각자의 데이터를 샘플링해 개별적으로 학습을 수행한 후 뒤 최종적으로 모든 분류기가 보팅(서로 다른 분류기 결합)을 통해 예측 결정 부트스트래핑 분할 방식 : 여러 개의 데이터 세트를 중첩되게 분리하는 것 In [25]: # 앞의 사용자 행동 인식 데이터 세트를 randomforestclassifier을 이용해 예측하기 from sklearn.ensemble import RandomForestClassifier from sklearn.metrics import accuracy_score import pandas as pd import 사용자_행동_인식..
XGBoost(eXtra Gradient Boost)¶ In [1]: # !pip install xgboost==1.6.1 import xgboost from xgboost import XGBClassifier In [2]: xgboost.__version__ Out[2]: '1.6.1' 파이썬 래퍼 XGBoost 적용 - 위스콘신 유방암 예측¶ 위스코신 유방암 데이터 세트에 기반해 종양의 다양한 피처에 따라 악성종양인지 일반 양성종양인지를 XGBoost를 이용해 예측 In [3]: import xgboost as xgb from xgboost import plot_importance import pandas as pd import numpy as np from sklearn.datasets import..