#y값이 실수가 아닌 0과 1일때의 모델링

#이진분류인 데이터

#나중에는 컬런에 대한 분석을 해야한다

import numpy as np
from sklearn.datasets import load_breast_cancer #유방암에 걸렸는지 아닌지 하는 데이터
from tensorflow.python.keras.models import Sequential
from tensorflow.python.keras.layers import Dense
from sklearn.model_selection import train_test_split

#1. 데이터

datasets = load_breast_cancer()
# print(datasets)
# print(datasets.DESCR)    #numpy의 디스크라이브, pd는 .describe()
print(datasets.feature_names) # 판다스 : columns()

x = datasets['data']     #딕셔너리의 key
y = datasets.target
# print(x.shape, y.shape)  #(569, 30) (569,)

# print(datasets.isnull().sum())
# print(y)

x_train, x_test, y_train, y_test = train_test_split(
    x,y,
    shuffle=True,
    random_state=333,
    test_size=0.2
)

#2. 모델구성

model = Sequential()
model.add(Dense(10, activation='relu',input_dim=30))
model.add(Dense(9,activation='linear'))
model.add(Dense(8,activation='linear'))
model.add(Dense(7,activation='linear'))
model.add(Dense(6,activation='linear'))
model.add(Dense(5,activation='linear'))
model.add(Dense(1,activation='sigmoid'))  

#3. 컴파일, 훈련
model.compile(loss='binary_crossentropy', optimizer='adam',
              metrics=['accuracy','mse'],    # 훈련 과정에 accuracy를 추가.   hist.history에 다 기록됨. 대괄호=리스트
              )                             #대괄호 안에 다른 지표도 추가 가능(list이기 때문에)
                                            #metrics = 훈련에 영향을 주지않음. 지표확인용, 풀네임 줄임말 상관 없음
hist = model.fit(x_train,y_train,
                 epochs=100,
                 batch_size=8,
                 validation_split=0.2,
                 verbose=1,
                 )

#4. 평가, 예측
result = model.evaluate(x_test,y_test)    #엄밀히 얘기하면 loss = result이다. 
                                         #model.evaluate=
                                         #model.compile에 추가한 loss 및 metrix 모두 result로 표시된다.
                                         #metrix의 accuracy는 sklearn의 accuracy_score 값과 동일하다.
print('loss :', result)

y_predict= np.round(model.predict(x_test))

#평소처럼 수치가 아닌 0이냐 1이냐를 맞춰야한다면 accuracy_score 사용 

# print('===========================================')
# print(y_test[:5])
# print(y_predict[:5])
# print(np.round(y_predict[:5]))

# print('===========================================')

from sklearn.metrics import accuracy_score, r2_score
acc = accuracy_score(y_test, y_predict)
print('acc :', acc)

# y_test =[1 0 1 1 0]
# y_predict =[[1.64424  ]
# [1.7199694]
# [1.4358145]
# [1.9463545]
# [1.8890635]]     #일반적인 다중회귀 모델에 이진분류 y값을 넣었을때 숫자형태가 다르다.

# 0과 1로 분류하는것을 이진분류라고 한다.
# 여러가지로 분류하는것을 다중분류라고 한다. 분류는 두가지뿐

# 이진분류는 활성화 함수 sigmoid 쓴다

# acc : 0.8947368421052632