学习笔记(39):零基础搞定Python数据分析与挖掘-冗余值、异常值和缺失值的处理（二）...

立即学习:https://edu.csdn.net/course/play/6861/371100?utm_source=blogtoedu

3、异常值的识别与处理

3.1 Z得分法

必须符合正态分布

 

3.2 分位数法

3.3 距离法

https://mp.weixin.qq.com/s/aWTDJtafY9XHZdHdOUaqXw

https://mp.weixin.qq.com/s/728HfX6VFi0tN6MBkFrTsA

4、缺失值的识别与处理

df.isnull

df.fillna

df.dropna

import pandas as pd
data = pd.read_excel(r'E:\pylean\database\data_test05.xlsx')
data.isnull()
data.isnull().any(axis=0)
data.isnull().sum(axis=0)/data.shape[0]
data.fillna(value={'gender':data.gender.mode(),'age':data.age.mean(),'income':data.income.mean()},inplace=True)
#实现了填充 但是没有实现gender的填充
data.fillna(value={'gender':data.gender.mode()[0],'age':data.age.mean(),'income':data.income.mean()},inplace=True)
#众数 也是一组数据中出现次数最多的数值，故通过data.gender.mode() 可能会找到几个变量有相同的众数，这样的情况下取【0】最保险

print(data)