光子神经网络的应用及发展概述

光子神经网络的应用及发展概述

最近研读光子神经网络论文，完成一个简单综述作为课程论文

参考https://blog.csdn.net/taochenning/article/details/106305319

1 引言

目前，人工智能作为当今计算机科学最为活跃的领域之一，在计算机视觉、自然语言处理、自动驾驶以及目标跟踪等领域有着广泛的应用。人工神经网络（Artificial Neural Network，ANN ）成为20世纪80 年代以来人工智能领域兴起的研究热点，通过模仿神经系统结构，建立神经网络中各层神经元之间的连接，具有良好的泛化能力和鲁棒性，凭借这些优势而被广泛应用于各类场景之中[1]。最近十多年来，人工神经网络的研究工作不断深入，已经取得了很大的进展，其在模式识别、智能机器人、自动控制、预测估计、生物、医学、经济等领域已成功地解决了许多现代计算机难以解决的实际问题，表现出了良好的智能特性[2]。如图1。

图1. 人工神经网络

集成电路（Integrated circuit,IC）芯片，是当今主流神经网络模型训练和测试的硬件载体，传统神经网络可以在CPU、GPU、FPGA以及ASIC上运行。然而，受限于其采用的冯·诺伊曼结构，将数据空间与程序空间分离，无论采用何种IC芯片作为载体，导致计算单元与存储器之间产生大量潮汐性数据荷载[3]。

光子神经网络（Optical neural network, ONN）具有高带宽、高互联性、内在的并行处理等特点，能够加速软件、电子硬件两者的部分运算，速度可达到“光速”，提供了一种能够替代人工神经网络的具有前景的方法。光子神经网络中，矩阵乘法可以在“光速”下执行，可以有效解决人工神经网络中密集矩阵乘法，从而减轻能源与时间的消耗。其中，类似人工神经网络中的非线性激活函数，在光子神经网络中也可以通过非线性光学元件实现非线性运算。例如，对于全光非线性运算元件研究较多的是饱和吸收体、石墨烯材料、光控相变存储器(phase change memory, PCM)以及Williamson I. A. D.等人提出的一种光电混合可控的非线性运算元件。

2 光子神经网络分类

目前，光子神经网络按照结构可分为三种：前馈神经网络、循环神经网络以及脉冲神经网络。①前馈神经网络（feedforward neural network，FNN），基本特征是神经网络各层之间的信息是由输入层至输出层单向传递，它一般包含全连接神经网络与卷积神经网络这两类结构。②与前馈神经网络不同，循环神经网络(Recurrent Neural Network, RNN)各层之间的信息除了单向传递，还存在节点间连接与后向反馈连接。③脉冲神经网络（spiking neural networks, SNNs），又被称为第三代神经网络。与前馈和循环神经网络相比，其模拟神经元更加接近实际，并将时间信息考虑在内。除此之外，SNN中的神经元并非在每一次迭代传播中都被激活，而只当其膜电位达到某一特定值才被激活。