• 技术文章 >Python技术 >Python基础教程

    python数据预处理的三种情况

    小妮浅浅小妮浅浅2021-06-10 16:21:31原创3008

    1、缺失数据的处理

    导入的数据存在缺失是经常发生的,最简单的处理方式是删除缺失的数据行。使用 pandas 中的 .dropna() 删除含有缺失值的行或列,也可以 对特定的列进行缺失值删除处理 。

    dfNew = dfData.dropna(axis = 0))  # 删除含有缺失值的行

    有时也会填充缺失值或替换缺失值,在此就不做介绍了。

    2、重复数据的处理

    对于重复数据,通常会删除重复行。使用 pandas 中的 .duplicated() 可以查询重复数据的内容,使用 .drop_duplicated() 可以删除重复数据,也可以对指定的数据列进行去重。

     dfNew = dfData.drop_duplicates(inplace=True)  # 删除重复的数据行

    3、异常值处理

    数据中可能包括异常值, 是指一个样本中的数值明显偏离样本集中其它样本的观测值,也称为离群点。异常值可以通过箱线图、正态分布图进行识别,也可以通过回归、聚类建模进行识别。

    箱线图技术是利用数据的分位数识别其中的异常点。箱形图分析也超过本文的内容,不能详细介绍了。只能笼统地说通过观察箱形图,可以查看整体的异常情况,进而发现异常值。

        dfData.boxplot()  # 绘制箱形图

    以上就是python数据预处理的三种情况,希望对大家有所帮助。更多Python学习指路:python基础教程

    推荐操作环境:windows7系统、Python 3.9.1,DELL G3电脑。

    专题推荐:python预处理
    上一篇:python文件拆分与合并的方法 下一篇:python自动化测试需要学习什么?

    相关文章推荐

    • python列表的创建和存放• python列表添加和删除的方法• python默认索引是什么• python列表操作符有哪些• python列表中sort()参数的使用• python如何创建GUI程序• python数据变换如何实现• python可迭代对象的本质探究• python迭代器的应用场景• python温度转换代码• python输入成绩求平均分• python怎么将整数反转输出• python如何读取不同格式文件• python文件拆分与合并的方法

    全部评论我要评论

    © 2021 Python学习网 苏ICP备2021003149号-1

  • 取消发布评论
  • 

    Python学习网