3.8 神经网络解决逻辑运算问题-机器学习笔记-斯坦福吴恩达教授_神经网络的逻辑运算

神经网络解决逻辑运算问题

神经网络通过不同的架构设置，来完成不同的任务，比如我们看到一半的逻辑与运算：

x 1   A N D   x 2 = { 1 i f   x 1 = 1   a n d   x 2 = 1 0 o t h e r w i s e x_1\ AND\ x_2=

$$\begin{cases}1 \quad if\ x_1=1\ and \ x_2=1\\0\quad otherwise\end{cases}$$ x1​ AND x2​={1if x1​=1 and x2​=10otherwise​

可以发现，逻辑运算可以转换为一个01分类问题。在sigmoid函数中:

$$g(4)\approx 1$$$$g(-4)\approx 0$$

因此，我们采用感知器神经网络：
[ x 0 x 1 x 2 ] → [ g ( z ( 2 ) ) ] → h Θ ( x ) \left[

$$\begin{matrix}x_0\\x_1\\x_2\end{matrix}$$ \right]\rightarrow\left[g(z^{(2)})\right]\rightarrow h_\Theta(x) ⎣⎡​x0​x1​x2​​⎦⎤​→[g(z(2))]→hΘ​(x)

并令：
$${\Theta }^{(1)}=\left[-302020\right]$$

生成的神经网络如下图所示：

得到的逻辑运算结果：
$$h_{\Theta }(x)=g(-30+20x_1+20x_2)$$
$$x_1=0and{x}_2=0theng(-30)\approx 0$$$$x_1=0and{x}_2=1theng(-10)\approx 0$$$$x_1=1and{x}_2=0theng(-10)\approx 0$$$$x_1=1and{x}_2=1theng(10)\approx 0$$

当然，这是手动进行定义的参数，我们也可以初始化如下样本对神经网络进行训练：
X = [ 0 0 0 1 0 0 0 1 0 0 0 1 ] X=\left[

$$\begin{matrix} 0 & 0 & 0 \\ 1 & 0 & 0 \\ 0 & 1 & 0 \\ 0 & 0 & 1 \end{matrix}$$ \right] X=⎣⎢⎢⎡​0100​0010​0001​⎦⎥⎥⎤​

代码及实现可以参看程序示例。