#实验名称：感知机 ##一、实验目的： 1.学习感知机的基本原理 2.了解感知机的局限性 ##二、实验环境 Linux环境下使用python IDLE所配置的python3.5.2版本 ##三、实验内容和任务： ###感知机基本原理感知机是作为神经网络（深度学习）的起源的算法。接收多个输入信号，输出一个信号，其信号类似电流或水流，但只用于向前方输出信息。感知机的信号只有流与不流两种状态，即1（传递信息）和0（不传递信息）。 ![图片描述](https://dn-simplecloud.shiyanlou.com/courses/uid1531875-20201228-1609139172694) x1,x2是输入信号，y 是输出信号；w1,w2是权重；圆圈称为“神经元”或者“节点”。输入信号被送往神经元时，会被分别乘以固定的权重（w1x1,w2x2）。神经元会计算传送过来的信号的总和，只有当这个总和超过了某个界限值(称为阈值，符号θ)时，才会输出 1。这也称为“神经元被激活” 。公式如图 ![图片描述](https://dn-simplecloud.shiyanlou.com/courses/uid1531875-20201228-1609140497050) ###二、感知机的基本应用--逻辑电路 * 与门（例） ![image.png](https://dn-simplecloud.shiyanlou.com/courses/uid1531875-20201228-1609141645134) 用感知机来实现上面的真值表，需要考虑满足以上条件的权重w1,w2和 θ 的值。例如（w1,w2,θ）取值（0.5,0.5,0.9）,代入上述公式，若0.5 * x1+0.5 * x2<=0.9,则y为0；若0.5 * x1+0.5 * x2>0.9,则y为1。同理的，对于 * 与非门 ![image.png](https://dn-simplecloud.shiyanlou.com/courses/uid1531875-20201228-1609142420722) * 或门 ![image.png](https://dn-simplecloud.shiyanlou.com/courses/uid1531875-20201228-1609146598815) （ Q1 ） * 与非门： ``` (-0.8,-0.9,-1) ``` * 或门 ``` (2,1.5,1) ``` ###感知机的 python 实现 * 与门（例） ``` def AND(x1,x2): w1,w2,theta = 0.5,0.5,0.7 tmp = x1 * w1 + x2 * w2 if tmp <= theta: return 0 elif tmp > theta: return 1 if __name__ == '__main__': for xs in [(0, 0), (1, 0), (0, 1), (1, 1)]: y = AND(xs[0], xs[1]) print(str(xs) + " -> " + str(y)) ``` 输出： ``` (0, 0) -> 0 (1, 0) -> 0 (0, 1) -> 0 (1, 1) -> 1 ``` * 与非门( Q2 ) ``` def NAND(x1,x2): w1,w2,theta = -0.8,-0.9,-1 tmp = x1 * w1 + x2 * w2 if tmp <= theta: return 0 elif tmp > theta: return 1 if __name__ == '__main__': for xs in [(0, 0), (1, 0), (0, 1), (1, 1)]: y = NAND(xs[0], xs[1]) print(str(xs) + " -> " + str(y)) ``` 输出： ![image.png](https://dn-simplecloud.shiyanlou.com/courses/uid1531875-20201228-1609147179321) * 或门( Q3 ) ``` def AND(x1,x2): w1,w2,theta = 2,1.5,1 tmp = x1 * w1 + x2 * w2 if tmp <= theta: return 0 elif tmp > theta: return 1 if __name__ == '__main__':h for xs in [(0, 0), (1, 0), (0, 1), (1, 1)]: y = AND(xs[0], xs[1]) print(str(xs) + " -> " + str(y)) ``` 输出： ![image.png](https://dn-simplecloud.shiyanlou.com/courses/uid1531875-20201228-1609147324101) ###引入偏置将公式用-b 代替 θ，并移一下位置，得 ![image.png](https://dn-simplecloud.shiyanlou.com/courses/uid1531875-20201228-1609147865643) b 称为偏置，与权重(w1,w2)在整个网络中的不同，(w1,w2)是用控制信号的重要性。而 b 则是用来调整神经元被激活的容易程度（输出信号为 1 的程度）的参数，即只要输入信号的加权总和超过b的值，神经元就会被激活。 ###加入偏置后的 python 实现 * numpy库与门的实现（例） ``` import numpy as np def AND(x1, x2): x = np.array([x1, x2]) w = np.array([0.5, 0.5]) b = -0.7 tmp = np.sum(w*x) + b if tmp <= 0: return 0 else: return 1 if __name__ == '__main__': for xs in [(0, 0), (1, 0), (0, 1), (1, 1)]: y = AND(xs[0], xs[1]) print(str(xs) + " -> " + str(y)) ``` * 与非门（ Q4 ） ``` import numpy as np def NAND(x1, x2): x = np.array([x1, x2]) w = np.array([-0.8, -0.9]) b = 1 tmp = np.sum(w*x) + b if tmp <= 0: return 0 else: return 1 if __name__ == '__main__': for xs in [(0, 0), (1, 0), (0, 1), (1, 1)]: y = NAND(xs[0], xs[1]) print(str(xs) + " -> " + str(y)) ``` 输出： ![image.png](https://dn-simplecloud.shiyanlou.com/courses/uid1531875-20201228-1609150083190) * 或门（ Q5 ） ``` import numpy as np def OR(x1, x2): x = np.array([x1, x2]) w = np.array([2, 1.5]) b = -1 tmp = np.sum(w*x) + b if tmp <= 0: return 0 else: return 1 if __name__ == '__main__': for xs in [(0, 0), (1, 0), (0, 1), (1, 1)]: y = OR(xs[0], xs[1]) print(str(xs) + " -> " + str(y)) ``` 输出： ![image.png](https://dn-simplecloud.shiyanlou.com/courses/uid1531875-20201228-1609150365872) ###感知机的局限性 * 异或门 ![image.png](https://dn-simplecloud.shiyanlou.com/courses/uid1531875-20201229-1609209835391) 但是其无法用感知机来表达，由公式可知，例如或门，在坐标轴中可用线性表示 ![image.png](https://dn-simplecloud.shiyanlou.com/courses/uid1531875-20201229-1609218756300) ![image.png](https://dn-simplecloud.shiyanlou.com/courses/uid1531875-20201229-1609218788085) 三角和圆圈就是感知机的输出，三角表示 1，圆圈表示 0。感知机实际上用一条直线直接将空间分成了两部分，上面的白色部分是输出 1 的区域，下面的灰色部分是输出 0 的区域。而异或门输出在坐标轴上的表示是这样的： ![image.png](https://dn-simplecloud.shiyanlou.com/courses/uid1531875-20201229-1609218927162) 这里无法用一条直接将这输入输出分隔开来。即感知机的局限性，它只能表示由一条直线分割的空间，而像异或门这种实际是需要一条非线性的曲线去分割的。 ![image.png](https://dn-simplecloud.shiyanlou.com/courses/uid1531875-20201229-1609219073163) ###多层感知机数电中可以用与或非门这些基本的门电路去构成异或门，也可以用多个感知机来叠加形成多成感知机来实现异或门。用真值表来表示就是： ![image.png](https://dn-simplecloud.shiyanlou.com/courses/uid1531875-20201229-1609227169227) 用代码实现 ``` import numpy as np def AND(x1,x2): x = np.array([x1,x2]) w = np.array([0.5,0.5]) b = -0.7 tmp = np.sum(w*x) + b if tmp <= 0: return 0 else: return 1 def NAND(x1,x2): x = np.array([x1,x2]) w = np.array([-0.8,-0.9]) b = 1 tmp = np.sum(w*x) + b if tmp <= 0: return 0 else: return 1 def OR(x1,x2): x = np.array([x1,x2]) w = np.array([2,1.5]) b = -1 tmp = np.sum(w*x) + b if tmp <= 0: return 0 else: return 1 def XOR(x1, x2): s1 = NAND(x1, x2) s2 = OR(x1, x2) y = AND(s1, s2) return y if __name__=='__main__': for xs in [(0,0),(1,0),(0,1),(1,1)]: y = XOR(xs[0],xs[1]) print(str(xs) + "->" + str(y)) ``` 输出： ![image.png](https://dn-simplecloud.shiyanlou.com/courses/uid1531875-20201229-1609229146943) ##四、实验总结感知机是具有输入输出的算法，输出值随输入值固定：权重和偏置为感知机的参数，感知机可以表示与门，与非门和或门等逻辑电路，但单层感知机无法表示异或门，所以需使用多层感知机，单层感知机可表示线性空间，多层感知机可表示非线性空间。

“信息工程学院18级生产实习-Part1”实验报告