数据的探索和清洗
1、读取Excel文件的数据并转换为dataframe
# 1.读取Excel文件的数据并转换为dataframe file = "d:/test/Summary/Data_Summary.xlsx" data_raw = pd.read_excel(file, header=0, index_col=0) # header设定为0:是为了使第1行的数据成为列的字段名
2、查看数据集的整体状态,了解基本特征列的情况
data_raw.head()
3、删除无效的数据列
remove_col = ["序号"] data_prep0 = data_raw.drop(columns=remove_col, axis=1, inplace=None) data_prep0.head()
4、查看数据集的整体信息,了解缺失值的分布情况
data_prep0.info()
5、检看数据集中缺失值的状态并删除缺失值
data_prep = data_prep0.dropna(subset=["产品"], axis=0) data_prep.info()
6、检查数据集中重复值的状态并删除重复值
print("数据集中的重复值数量:", np.sum(data_prep.duplicated())) # 如果重复值的数量不为"0", 则表示有重复值存在,可使用下列代码删除 # data_prep.drop_duplicates(keep="first", inplace=True)