Regression - Multi Layer Perceptron Regressor

Multi Layer Perceptron Regressor

MLP : Input-Hidden-Output으로 구성된 뉴럴 네트워크

Hidden layer에 존재하는 노드는 기본 선형 회귀 모델과 동일하게 wx + b로 이루어져 있다.

이러한 선형 분리를 할 수 있는 모델을 여러 개 모아서 비선형 분리를 해내는 것이 MLPRegressor이다.

 

위키피디아

 

4개의 벡터 공간을 선형 분리하는 퍼셉트론들이 하나의 비선형 공간을 분류할 수 있는 벡터 공간을 형성

 

 

 

 

데이터 불러오기

 

https://steadiness-193.tistory.com/269

Regression - FIFA 이적료 예측 : 전처리

 

위 포스팅에서 전처리 완료한 데이터를 이용한다.

 

 

MLPRegressor 파라미터

hidden_layer_sizes : 은닉층의 구성 (리스트, 기본값 : 100)

activation : 활성화 함수의 종류 (문자열, 기본값 : 'relu')

alpha : L2 규제 (실수, 기본값 : 0.0001)

batch_size : 미니 배치의 크기 (정수)

learning_rate : 훈련양의 형태 (문자열, 기본값 : 'constant')

learning_rate_init : 훈련양, 학습 시 모델을 업데이트하는 결정 값 (실수, 기본값 : 0.001)

solver : 옵티마이저를 결정 (문자열, 기본값 : 'adam')

random_state : 난수

 

 

상당히 좋은 모델이다.

 

 

 

가중치 및 편향 (절편)

 

 

feature의 개수가 25, hidden_layer_sizes의 기본값이 100이다.