#信息工程学院18级生产实习-Part1实验报告 ## 实验名称：感知机 ## 一、实验目的：

1. 了解感知机的基本原理

2. 了解感知机的局限性

3. 了解单层感知机和多层感知机的区别

## 二、实验环境实验楼 python3.5.2 ## 三、实验内容及任务 **感知机基本原理** - 感知机是作为神经网络（深度学习）的起源的算法。接收多个输入信号，输出一个信号，这里的信号类似电流或水流，只不过是用于向前方输出信息。与电流与水流不同，感知机的信号只有流与不流两种状态，即1（传递信息）和0（不传递信息）。 - 输入信号被送往神经元时，会被分别乘以固定的权重。神经元会计算传送过来的信号的总和，只有当这个总和超过了某个界限值时，才会输出 1。这也称为“神经元被激活” 。这里将这个界限值称为阈值，用符号 θ 表示。用数学公式表示就是： ![公式](https://doc.shiyanlou.com/courses/uid1518421-20201227-1609073079166) 由上式可知，权重可起到控制信息重要性的作用，权重越大，对应该权重的信号的重要性就越高。 **感知机的基本应用--逻辑电路** - 与门 ![与门](https://doc.shiyanlou.com/courses/uid1518421-20201227-1609073268737) 用感知机来实现上面的真值表，需要考虑满足以上条件的权重w1,w2和 θ 的值。如，当(w1,w2,θ) 为(0.5,0.5,0.7)、(0.5,0.5,0.8)或者(1.0,1.0,1.0)时，将值代入上面的公式，可以满足输出的要求。代码如下： ``` def AND(x1,x2): w1,w2,theta = 0.5,0.5,0.7 tmp = x1 * w1 + x2 * w2 if tmp <= theta: return 0 elif tmp > theta: return 1 if __name__ == '__main__': for xs in [(0, 0), (1, 0), (0, 1), (1, 1)]: y = AND(xs[0], xs[1]) print(str(xs) + " -> " + str(y)) ``` - 与非门 ![与非门](https://doc.shiyanlou.com/courses/uid1518421-20201227-1609073805659) 当(w1,w2,θ) 为(-4,-4,-8)、(-2,-2,-4)或者(-1,-1,-2)时，将值代入上面的公式，可以满足输出的要求。代码如下： ``` def NAND(x1,x2): w1,w2,theta = -4,-4,-8 tmp = x1 * w1 + x2 * w2 if tmp < theta: return 0 elif tmp > theta: return 1 if __name__ == '__main__': for xs in [(0, 0), (1, 0), (0, 1), (1, 1)]: y = NAND(xs[0], xs[1]) print(str(xs) + " -> " + str(y)) ``` - 或门 ![或门](https://doc.shiyanlou.com/courses/uid1518421-20201227-1609073855494) 当(w1,w2,θ) 为(2.5,2.5,2)、(1.2,1.2,0.8)或者(2.3,2.2,1)时，将值代入上面的公式，可以满足输出的要求。代码如下： ``` def OR(x1,x2): w1,w2,theta = 2.5,2.5,2 tmp = x1 * w1 + x2 * w2 if tmp < theta: return 0 elif tmp > theta: return 1 if __name__ == '__main__': for xs in [(0, 0), (1, 0), (0, 1), (1, 1)]: y = OR(xs[0], xs[1]) print(str(xs) + " -> " + str(y)) ``` **引入偏置** ![引入偏置](https://doc.shiyanlou.com/courses/uid1518421-20201227-1609074701758) 这里 b 称为偏置，与权重在整个网络中的不同，是用控制信号的重要性。而 b 则是用来调整神经元被激活的容易程度（输出信号为 1 的程度）的参数，比如，若 b 为 −0.1，则只要输入信号的加权总和超过 0.1，神经元就会被激活。但是如果 b 为 −20.0，则输入信号的加权总和必须超过 20.0，神经元才会被激活。 **加入偏置后的 python 实现** - 与门 ``` import numpy as np def AND(x1, x2): x = np.array([x1, x2]) w = np.array([0.5, 0.5])- b = -0.7 tmp = np.sum(w*x) + b if tmp <= 0: return 0 else: return 1 if __name__ == '__main__': for xs in [(0, 0), (1, 0), (0, 1), (1, 1)]: y = AND(xs[0], xs[1]) print(str(xs) + " -> " + str(y)) ``` - 与非门 ``` import numpy as np def NAND(x1, x2): x = np.array([x1, x2]) w = np.array([-2, -3]) b = 4 tmp = np.sum(w*x) + b if tmp <= 0: return 0 else: return 1 if __name__ == '__main__': for xs in [(0, 0), (1, 0), (0, 1), (1, 1)]: y = NAND(xs[0], xs[1]) print(str(xs) + " -> " + str(y)) ``` - 或门 ``` import numpy as np def OR(x1, x2): x = np.array([x1, x2]) w = np.array([4, 4]) b = -3 tmp = np.sum(w*x) + b if tmp <= 0: return 0 else: return 1 if __name__ == '__main__': for xs in [(0, 0), (1, 0), (0, 1), (1, 1)]: y = OR(xs[0], xs[1]) print(str(xs) + " -> " + str(y)) ``` **感知机的局限性** - 异或门 ![](https://doc.shiyanlou.com/courses/uid1518421-20201227-1609075662171) 具体的或门实现： ![](https://doc.shiyanlou.com/courses/uid1518421-20201227-1609075803164) 在坐标轴上的表示就是： ![](https://doc.shiyanlou.com/courses/uid1518421-20201227-1609075889710) 图中三角和圆圈就是感知机的输出，三角表示 1，圆圈表示 0 观察式子其实就可以发现，感知机实际上用一条直接 −0.5+x_1x 1 +x_2x 2=0 将空间分成了两部分，上面的白色部分是输出 1 的区域，下面的灰色部分是输出 0 的区域。而对于异或门来说，其输出在坐标轴上的表示是这样的： ![](https://doc.shiyanlou.com/courses/uid1518421-20201227-1609076259523) 观察会发现，这里无法用一条直接将这四出输出分隔开来。这就是感知机的局限性，因为它只能表示由一条直线分割的空间，而像异或门这种实际是需要一条**非线性**的曲线去分割的。 ![](https://doc.shiyanlou.com/courses/uid1518421-20201227-1609076603115) **多层感知机** 数电中的实现: ![](https://doc.shiyanlou.com/courses/uid1518421-20201227-1609076881011) 具体用真值表来表示就是： ![](https://doc.shiyanlou.com/courses/uid1518421-20201227-1609076944513) 可以看到，这里的多层感知机其实就相当于一个神经网络，其网络图如下图所示： ![](https://doc.shiyanlou.com/courses/uid1518421-20201227-1609077335645) ## 四、实验总结 - 感知机是具有输入和输出的算法。给定一个输入后，将输出一个既定的值。 - 感知机将权重和偏置设定为参数。 - 使用感知机可以表示与门和或门等逻辑电路。 - 异或门无法通过单层感知机来表示。 - 使用 2 层感知机可以表示异或门。 - 单层感知机只能表示线性空间，而多层感知机可以表示非线性空间。 - 多层感知机（在理论上）可以表示计算机。

“信息工程学院18级生产实习-Part1”实验报告