@100days of ml coding 逻辑回归

@100days of ml coding 逻辑回归

逻辑回归

逻辑回归可用来处理不同的分类问题,目的是预测当前被观察对象属于哪个组,会提供一个离散的二进制输出结果。
作出预测:概率值必须被转换为二进制以便进行预测。二分类问题的概率与自变量之间的关系图形往往是一个S型曲线,可采用的Sigmoid函数实现。然后使用阈值分类器将(0,1)范围内的值转化为0或1的值。逻辑回归可以概率的形式输出,不只是0和1的判定。

线性回归 逻辑回归
自变量与因变量呈线性关系 不要求自变量和因变量呈线性关系
直接分析因变量y与自变量x的关系 分析因变量y取某个值的概率与自变量x的关系
给出的结果是连续的 给出的结果是离散的

以下为分析(年龄-薪金)与是否有意愿购买产品间的关系。

###步骤1:数据预处理
#导入库
import numpy as np
import pandas as pd
import matplotlib.pyplot as plt

#导入数据集
dataset = pd.read_csv('Social_Network_Ads.csv')
X = dataset.iloc[:,[2,3]].values
Y = dataset.iloc[:,4].values

#将数据集分成训练集和测试集
from sklearn.model_selection import train_test_split
X_train ,X_test ,y_train ,y_test = train_test_split(X,Y,test_size = 0.25 ,random_state = 0)

#特征缩放
from sklearn.preprocessing import StandardScaler
sc = StandardScaler()
X_train = sc.fit_transform(X_train)
X_test = sc.transform(X_test)

###步骤2:逻辑回归模型
from sklearn.linear_model import LogisticRegression
classifier = LogisticRegression()
classifier.fit(X_train,y_train)

###步骤3:预测
y_pred = classifier.predict(X_test)

###步骤4:评估预测
#生成混淆矩阵
from sklearn.metrics import confusion_matrix
cm = confusion_matrix(y_test,y_pred)
#使用matplotlib库绘图
from matplotlib.colors import ListedColormap
X_set,y_set=X_train,y_train
X1,X2=np. meshgrid(np. arange(start=X_set[:,0].min()-1, stop=X_set[:, 0].max()+1, step=0.01),
                   np. arange(start=X_set[:,1].min()-1, stop=X_set[:,1].max()+1, step=0.01))
plt.contourf(X1, X2, classifier.predict(np.array([X1.ravel(),X2.ravel()]).T).reshape(X1.shape),
             alpha = 0.75, cmap = ListedColormap(('red', 'green')))
plt.xlim(X1.min(),X1.max())
plt.ylim(X2.min(),X2.max())
for i,j in enumerate(np. unique(y_set)):
    plt.scatter(X_set[y_set==j,0],X_set[y_set==j,1],
                c = ListedColormap(('red', 'green'))(i), label=j)

plt. title(' LOGISTIC(Training set)')
plt. xlabel(' Age')
plt. ylabel(' Estimated Salary')
plt. legend()
plt. show()

X_set,y_set=X_test,y_test
X1,X2=np. meshgrid(np. arange(start=X_set[:,0].min()-1, stop=X_set[:, 0].max()+1, step=0.01),
                   np. arange(start=X_set[:,1].min()-1, stop=X_set[:,1].max()+1, step=0.01))

plt.contourf(X1, X2, classifier.predict(np.array([X1.ravel(),X2.ravel()]).T).reshape(X1.shape),
             alpha = 0.75, cmap = ListedColormap(('red', 'green')))
plt.xlim(X1.min(),X1.max())
plt.ylim(X2.min(),X2.max())
for i,j in enumerate(np. unique(y_set)):
    plt.scatter(X_set[y_set==j,0],X_set[y_set==j,1],
                c = ListedColormap(('red', 'green'))(i), label=j)

plt. title(' LOGISTIC(Test set)')
plt. xlabel(' Age')
plt. ylabel(' Estimated Salary')
plt. legend()
plt. show()


studentscores.csv中的数据来源

https://github.com/Avik-Jain/100-Days-Of-ML-Code/blob/master/datasets/Social_Network_Ads.csv
部分数据展示:
@100days of ml coding 逻辑回归

生成结果

@100days of ml coding 逻辑回归
@100days of ml coding 逻辑回归

【1】: 100-Days-Of-ML-Code:https://github.com/Avik-Jain/100-Days-Of-ML-Code