Machine Learning

1.회귀문제_3_따릉이

layout: single
title: "jupyter notebook 변환하기!"
categories: coding
tag: [python, blog, jekyll]
toc: true
author_profile: false

따릉이 2시간 후 수요량 예측 문제

import warnings
warnings.filterwarnings(action='ignore')

1. scikit-learn 패키지는 머신러닝 교육을 위한 최고의 파이썬 패키지입니다.

scikit-learn를 별칭(alias) sk로 임포트하는 코드를 작성하고 실행하세요.

# 여기에 답안코드를 작성하세요.
import sklearn as sk

2. Pandas는 데이터 분석을 위해 널리 사용되는 파이썬 라이브러리입니다.

Pandas를 사용할 수 있도록 별칭(alias)을 pd로 해서 불러오세요.

# 여기에 답안코드를 작성하세요.
import pandas as pd

3. 모델링을 위해 분석 및 처리할 데이터 파일을 읽어오려고 합니다.

Pandas함수로 데이터 파일을 읽어 데이터프레임 변수명 df에 할당하는 코드를 작성하세요.

path = 'https://raw.githubusercontent.com/DA4BAM/dataset/master/SeoulBikeData2.csv'
df = pd.read_csv(path)
df['DateTime'] = pd.to_datetime(df['DateTime'])
df.head()

	DateTime	Count	Temperature	Humidity	WindSpeed	Visibility	Seasons	Holiday	FuncDay
0	2017-12-01 00:00:00	254	-5.2	37	2.2	2000	Winter	No Holiday	Yes
1	2017-12-01 01:00:00	204	-5.5	38	0.8	2000	Winter	No Holiday	Yes
2	2017-12-01 02:00:00	173	-6.0	39	1.0	2000	Winter	No Holiday	Yes
3	2017-12-01 03:00:00	107	-6.2	40	0.9	2000	Winter	No Holiday	Yes
4	2017-12-01 04:00:00	78	-6.0	36	2.3	2000	Winter	No Holiday	Yes

결측치 확인

# 여기에 답안코드를 작성하세요.
print(df.isnull().sum())

DateTime       0
Count          0
Temperature    0
Humidity       0
WindSpeed      0
Visibility     0
Solar          0
Rainfall       0
Snowfall       0
Seasons        0
Holiday        0
FuncDay        0
dtype: int64

변수설명

DateTime : year-month-day hh:mi:ss
Count : 시간대별 수요량
Temperature : 온도(섭씨)
Humidity : 습도(%)
WindSpeed : 풍속(m/s)
Rainfall - mm
Snowfall - cm
Seasons - Winter, Spring, Summer, Autumn
Holiday - Holiday / No holiday
FuncDay - Yes / No

4. 데이터의 기간을 확인하세요

min()과 max()를 통해 시작 DateTime과 끝 DateTime을 확인하세요

# 데이터 기간은 다음과 같습니다.
df.DateTime.min(), df.DateTime.max()

(Timestamp('2017-12-01 00:00:00'), Timestamp('2018-11-30 23:00:00'))

다음 문항을 풀기 전에 아래 코드를 실행하세요.

# 여기에 답안코드를 작성하세요.
import seaborn as sns 
import matplotlib.pyplot as plt
plt.rcParams['font.family'] = 'Malgun Gothic'

5. 시간별 Count(수요량)을 알아 보려고 합니다.

Count(수요량)의 그래프로 만들고 아래 가이드에 따라 답하세요.

24시간 14일 동안의 그래프를 만드세요

# 14일 동안 매시간별 수요량을 살펴 봅시다.
temp = df[:24*14]
plt.figure(figsize = (20,8))
plt.plot('DateTime', 'Count', data = temp)
plt.grid()
plt.show()

# 시간별 규칙성이 있다. 시계열 데이터, 시간 데이터가 아주 중요한 역할을 함

6. Seasons(계졀별) Count(수요량) 대한 분포도를 알아 보려고 합니다.

Seasons(계졀별) Count(수요량)의 평균을 바그래프로 만들고 아래 가이드에 따라 답하세요.

data_agg = df.groupby(['Seasons'])['Count'].agg(['min','max','mean'])
print(data_agg)

plt.figure(figsize=(8, 4))
data_agg['mean'].plot(kind='bar')
plt.title('Mean Value by Season')
plt.xlabel('Seasons')
plt.ylabel('Mean')
plt.xticks(rotation=45)
plt.show()

         min   max         mean
Seasons                        
Autumn     0  3298   819.597985
Spring     0  3251   730.031250
Summer     9  3556  1034.073370
Winter     3   937   225.541204

7. Holiday(휴일) Count(수요량) 대한 분포도를 알아 보려고 합니다.

Holiday(휴일) Count(수요량)의 평균을 바그래프로 만들고 아래 가이드에 따라 답하세요.

data_agg = df.groupby(['Holiday'])['Count'].agg(['min','max','mean'])
print(data_agg)

plt.figure(figsize=(8, 4))
data_agg['mean'].plot(kind='bar')
plt.title('Mean Value by Holiday')
plt.xlabel('Holiday')
plt.ylabel('Mean')
plt.xticks(rotation=45)
plt.show()

            min   max        mean
Holiday                          
Holiday       0  2400  499.756944
No Holiday    0  3556  715.228026

8.Temperature(온도)와 Count(수요량)의 분포를 같이 확인하려고 합니다.

Temperature(온도)와 Count(수요량)을 jointplot 그래프로 만드세요.

Seaborn을 활용하세요.
X축에는 Temperature을 표시하고 Y축에는 Count을 표시하세요.

# 여기에 답안코드를 작성하세요.

import seaborn as sns
import matplotlib.pyplot as plt
import scipy.stats as st

graph = sns.jointplot(x=df['Temperature'], y=df['Count'], kind='scatter')
graph.set_axis_labels(xlabel='Temperature', ylabel='Count')
plt.show()
# 온도가 낮으면 추우면 잘 안탄다

9.WindSpeed(온도)와 Count(수요량)의 분포를 같이 확인하려고 합니다.

WindSpeed(온도)와 Count(수요량)을 jointplot 그래프로 만드세요.

Seaborn을 활용하세요.
X축에는 WindSpeed을 표시하고 Y축에는 Count을 표시하세요.

# 여기에 답안코드를 작성하세요.

graph = sns.jointplot(x=df['WindSpeed'], y=df['Count'], kind='scatter')
graph.set_axis_labels(xlabel='WindSpeed', ylabel='Count')
plt.show()
# 바람이 강하게 불면 잘 타지 않는다

10.Visibility(시야)와 Count(수요량)의 분포를 같이 확인하려고 합니다.

Visibility(시야)와 Count(수요량)을 jointplot 그래프로 만드세요.

Seaborn을 활용하세요.
X축에는 Visibility을 표시하고 Y축에는 Count을 표시하세요.

graph = sns.jointplot(x=df['Visibility'], y=df['Count'], kind='scatter')
graph.set_axis_labels(xlabel='Visibility', ylabel='Count')
plt.show()
# 시야가 좋지 않으면 잘 안탄다

11.Rainfall(강수량)와 Count(수요량)의 분포를 같이 확인하려고 합니다.

Rainfall(강수량)와 Count(수요량)을 jointplot 그래프로 만드세요.

Seaborn을 활용하세요.
X축에는 Rainfall을 표시하고 Y축에는 Count을 표시하세요.

graph = sns.jointplot(x=df['Rainfall'], y=df['Count'], kind='scatter')
graph.set_axis_labels(xlabel='Rainfall', ylabel='Count')
plt.show()
# 비가 오면 잘 타지 않는다

12.Snowfall(적설량)와 Count(수요량)의 분포를 같이 확인하려고 합니다.

Snowfall(적설량)와 Count(수요량)을 jointplot 그래프로 만드세요.

Seaborn을 활용하세요.
X축에는 Snowfall을 표시하고 Y축에는 Count을 표시하세요.

graph = sns.jointplot(x=df['Snowfall'], y=df['Count'], kind='scatter')
graph.set_axis_labels(xlabel='Snowfall', ylabel='Count')
plt.show()
# 눈이 오면 잘 타지 않는다

13. DateTime에서 워르 요일, 시간, 주말 컬럼을 추가하세요

dt.month를 통해 월 컬럼을 추가합니다
dt.weekday를 통해 요일 컬럼을 추가합니다
dt.hour를 통해 시간 컬럼을 추가합니다


df['Month'] = df['DateTime'].dt.month                               # 월
df['DayOfWeek'] = df['DateTime'].dt.weekday                         # 요일 
df['Hour'] = df['DateTime'].dt.hour                                 # 시간
df['IsWeekend'] = (df['DateTime'].dt.dayofweek >= 5).astype(int)    # 주말인지 아닌지

14. 모델링 성능을 제대로 얻기 위해서 불필요한 변수는 삭제해야 합니다.

아래 가이드를 따라 불필요 데이터를 삭제 처리하세요.

대상 데이터프레임: df
'Humidity', 'Solar', 'FuncDay' 3개 컬럼을 삭제하세요.
전처리 반영된 결과를 새로운 데이터프레임 변수명 df_del에 저장하세요.

df_del = df.drop(['DateTime', 'Humidity', 'Solar', 'FuncDay'], axis=1)

df_del.head()

	Count	Temperature	WindSpeed	Visibility	Seasons	Holiday	Month	DayOfWeek	Hour
0	254	-5.2	2.2	2000	Winter	No Holiday	12	4	0
1	204	-5.5	0.8	2000	Winter	No Holiday	12	4	1
2	173	-6.0	1.0	2000	Winter	No Holiday	12	4	2
3	107	-6.2	0.9	2000	Winter	No Holiday	12	4	3
4	78	-6.0	2.3	2000	Winter	No Holiday	12	4	4

15. 범주형 컬럼은 가변수화(one-hot-encoding)을 수행합니다.

dtypes이 object인 컬럼들을 get_dummies를 통해 가변수화 하세요

가변수 대상 컬럼은 가변수화 이후 제거합니다.

obj_cols = list(df_del.columns[df_del.dtypes=='object'])
df_preset = pd.get_dummies(df_del, columns=obj_cols, drop_first=True, dtype=int)    # drop_first는 해당 컬럼 제거 
df_preset.head()

	Count	Temperature	WindSpeed	Visibility	Month	DayOfWeek	Hour	Seasons_Winter	Holiday_No Holiday
0	254	-5.2	2.2	2000	12	4	0	1	1
1	204	-5.5	0.8	2000	12	4	1	1	1
2	173	-6.0	1.0	2000	12	4	2	1	1
3	107	-6.2	0.9	2000	12	4	3	1	1
4	78	-6.0	2.3	2000	12	4	4	1	1

16. 예측 대상 데이터 만들기

2시간 후 수요량을 예측해야합니다

df_preset['y'] = df_preset['Count'].shift(-2)
df_preset = df_preset.iloc[:-2]
df_preset.head()

	Count	Temperature	WindSpeed	Visibility	Month	DayOfWeek	Hour	Seasons_Winter	Holiday_No Holiday	y
0	254	-5.2	2.2	2000	12	4	0	1	1	173.0
1	204	-5.5	0.8	2000	12	4	1	1	1	107.0
2	173	-6.0	1.0	2000	12	4	2	1	1	78.0
3	107	-6.2	0.9	2000	12	4	3	1	1	100.0
4	78	-6.0	2.3	2000	12	4	4	1	1	181.0

17. 각 컬럼의 상관관계를 알아 보려고 합니다.

상관관계 히트맵을 그리세요.

numeric_only를 통해 숫자형 컬럼들만 나타내세요
cmap은 Blues로 하세요
cbar는 보이지 않습니다
소수점은 소수점 3번째 자리 까지 나타내세요

# 여기에 답안코드를 작성하세요.
import seaborn as sns 
import matplotlib.pyplot as plt

# 상관관계 시각화 
plt.figure(figsize=(12,12))
sns.heatmap(df_preset.corr(numeric_only=True),
           annot=True,
           cmap='Blues',
           cbar=False, # 옆에 칼라 바 제거 
           square=True,
            fmt='.3f', # 소수점
            annot_kws={'size':9}
           )    
plt.show()

17. 훈련과 검증 각각에 사용할 데이터셋을 분리하려고 합니다.

y(2시간후 수요량) 컬럼을 label값 y로, 나머지 컬럼을 feature값 X로 할당한 후 훈련데이터셋과 검증데이터셋으로 분리하세요.

대상 데이터프레임: df_preset
훈련과 검증 데이터셋 분리
- 훈련 데이터셋 label: y_train, 훈련 데이터셋 Feature: X_train
- 검증 데이터셋 label: y_valid, 검증 데이터셋 Feature: X_valid
- 훈련 데이터셋과 검증데이터셋 비율은 80:20
- random_state: 42
- Scikit-learn의 train_test_split 함수를 활용하세요.

스케일링 수행
- sklearn.preprocessing의 MinMaxScaler 함수 사용
- 훈련데이터셋의 Feature는 MinMaxScaler의 fit_transform 함수를 활용하여 X_train 변수로 할당
- 검증데이터셋의 Feature는 MinMaxScaler의 transform 함수를 활용하여 X_valid 변수로 할당

# 여기에 답안코드를 작성하세요.
from sklearn.model_selection import train_test_split

target = 'y'

x = df_preset.drop(target, axis=1)
y = df_preset[target]

X_train, X_valid, y_train, y_valid = train_test_split(x,y, test_size=0.2, random_state=42)
print(X_train.shape, X_valid.shape, y_train.shape, y_valid.shape)

(7006, 14) (1752, 14) (7006,) (1752,)

from sklearn.preprocessing import MinMaxScaler, StandardScaler, RobustScaler

scaler = MinMaxScaler()
X_train = scaler.fit_transform(X_train)
X_valid = scaler.transform(X_valid)

10. y(2시간 후 수요량)을 예측하는 머신러닝 모델을 만들려고 합니다.

아래 가이드에 따라 다음 모델을 만들고 학습을 진행하세요.

의사결정나무(Decisiontree)
- 트리의 최대 깊이: 5로 설정
- 노드를 분할하기 위한 최소한의 샘플 데이터 수(min_sample_split): 3으로 설정
- random_state: 120으로 설정
- 의사결정나무(decision tree) 모델을 dt 변수에 저장해주세요.

랜덤포레스트(RandomForest)
- 트리의 최대 깊이: 5로 설정
- 노드를 분할하기 위한 최소한의 샘플 데이터 수(min_sample_split): 3으로 설정
- random_state: 120으로 설정
- 랜덤포레스트(RandomForest) 모델을 rf 변수에 저장해주세요.

선형회쉬(LinearRegression)
- 선형회쉬(LinearRegression)모델을 lr 변수에 저장해주세요.

K최근접(KNeighborsRegressor)
- 가장 가까운 이웃의 'K'개의 값(n_neighbors): 5로 설정
- weights를 'distance'로 설정 # distance와 uniform이 있음
- K최근접(KNeighborsRegressor)모델을 kr 변수에 저장해주세요.

from sklearn.tree import DecisionTreeRegressor
from sklearn.ensemble import RandomForestRegressor
from sklearn.linear_model import LinearRegression
from sklearn.neighbors import KNeighborsRegressor
from xgboost import XGBRegressor
from lightgbm import LGBMRegressor

dt = DecisionTreeRegressor(max_depth=5, min_samples_split=3, random_state=120)
rf = RandomForestRegressor(max_depth=5, min_samples_split=3, random_state=120)
lr = LinearRegression()
kr = KNeighborsRegressor(n_neighbors=5, weights='distance')

# XGBRegressor(max_depth=5, random_state=120)
# LGBMRegressor(random_state=120,verbose=-1)

dt.fit(X_train, y_train)
rf.fit(X_train, y_train)
lr.fit(X_train, y_train)
kr.fit(X_train, y_train)

KNeighborsRegressor(weights='distance')

In a Jupyter environment, please rerun this cell to show the HTML representation or trust the notebook.
On GitHub, the HTML representation is unable to render, please try loading this page with nbviewer.org.

11. 위 모델들의 성능을 평가하려고 합니다.

예측 결과의 mae(Mean Absolute Error)를 구하세요.

성능 평가는 검증 데이터셋 (X_valid, y_valid)을 활용하세요.
의사결정나무(Decisiontree) 모델
- 11번 문제에서 만든 의사결정나무(decision tree) 모델로 y값을 예측(predict)하여 y_pred_dt에 저장하세요.
- 검증 정답(y_valid)과 예측값(y_pred_dt)의 mae(Mean Absolute Error)를 구하고 dt_mae 변수에 저장하세요.

랜덤포레스트(RandomForest) 모델
- 11번 문제에서 만든 랜덤포레스트(RandomForest) 모델로 y값을 예측(predict)하여 y_pred_rf에 저장하세요.
- 검증 정답(y_valid)과 예측값(y_pred_rf)의 mae(Mean Absolute Error)를 구하고 rf_mae 변수에 저장하세요.

선형회쉬(LinearRegression) 모델
- 11번 문제에서 만든 선형회쉬(LinearRegression) 모델로 y값을 예측(predict)하여 y_pred_lr에 저장하세요.
- 검증 정답(y_valid)과 예측값(y_pred_lr)의 mae(Mean Absolute Error)를 구하고 lr_mae 변수에 저장하세요.

K최근접(KNeighborsRegressor) 모델
- 11번 문제에서 만든 K최근접(KNeighborsRegressor) 모델로 y값을 예측(predict)하여 y_pred_kr에 저장하세요.
- 검증 정답(y_valid)과 예측값(y_pred_kr)의 mae(Mean Absolute Error)를 구하고 kr_mae 변수에 저장하세요.

훈련시킨 모델들에 대한 mae 성능평가 결과를 확인하여 가장 성능이 좋은 모델 이름을 답안12 변수에 저장하세요
- 예. 답안12 = 'Decisiontree' 혹은 'RandomForest' 혹은 'LinearRegression' 혹은 'KNeighborsRegressor'

# 여기에 답안코드를 작성하세요.
from sklearn.metrics import mean_absolute_error

y_pred_dt = dt.predict(X_valid)
dt_mae = mean_absolute_error(y_valid, y_pred_dt)
print('dt MAE:', dt_mae)

y_pred_rf = rf.predict(X_valid)
rf_mae = mean_absolute_error(y_valid, y_pred_rf)
print('rf MAE:', rf_mae)

y_pred_lr = lr.predict(X_valid)
lr_mae = mean_absolute_error(y_valid, y_pred_lr)
print('lr MAE:', lr_mae)

y_pred_kr = kr.predict(X_valid)
kr_mae = mean_absolute_error(y_valid, y_pred_kr)
print('kr MAE:', kr_mae)

dt MAE: 180.62051021083045
rf MAE: 161.40828460449885
lr MAE: 280.8334485855858
kr MAE: 159.8544961025856

답안12 = 'KNeighborsRegressor'