• 技术文章 >Python技术 >Python基础教程

    python ReLU函数是什么

    小妮浅浅小妮浅浅2021-06-11 16:28:51原创479

    1、说明

    线性整流函数,又称为修正性线性单元,ReLU是一个分段函数,其公式为:f(x)=max(0,x)。

    2、优缺点

    优点

    比Sigmoid函数收敛速度更快。

    输出以0为中心。

    缺点:

    由于饱和性产生的梯度消失。

    3、实例

    import numpy as np
    import matplotlib.pyplot as plot
     
     
    def relu(x):
        return np.maximum(0, x)
     
     
    if __name__ == "__main__":
        a = np.arange(-20, 20, 0.1)
        b = relu(a)
     
        plot.plot(a, b, label="ReLU", color="red")
        plot.legend()
        plot.grid()
        plot.show()

    以上就是python ReLU函数的介绍,希望对大家有所帮助。更多Python学习指路:python基础教程

    专题推荐:python relu函数
    上一篇:python Tanh函数如何理解 下一篇:python异常中else的使用

    相关文章推荐

    • python中fail函数如何使用• python中yaml文件的使用规则• python中yaml的三种数据结构• python中cookie和session的区别• python HTTP和HTTPS的不同• python有哪些常见的接口测试工具• python函数中参数位置如何传递• python关键字如何传递参数• python参数如何传递默认值• python包裹传递如何使用• python解包裹传递是什么• python混合传递的基本原则• python局部变量是什么• python中sigmoid函数是什么• python Tanh函数如何理解
    品易云

    全部评论我要评论

  • 取消发布评论发送
  • 

    Python学习网