深度神经网络硬件加速系统设计与优化文献综述

 2022-01-01 22:11:05

全文总字数:4044字

文献综述

一、选题背景近70年,神经网络算法从最初的只有一个神经元的感知机,发展到包含一个隐藏层的多层感知机,再到现在的深度神经网络。

在这个发展的过程中,神经网络的层数和规模在不断的增长。

最早的感知机模型只有一个神经元,没有隐藏层,只有输入和输出,甚至没有复杂的激活函数,因此无法解决非线性可分的问题。

为突破感知机的限制,人们提出了具有一个或者多个隐藏层的多层感知机。

多层感知机的隐藏层通常有几十个神经元。

而深度神经网络可能有数百或者上千层,每一层可能有几十万个神经元,突触的数量则更多。

大规模的深度神经网络可能有几十亿甚至上百亿的突触。

深度神经网络已经被证明在包括图像分类[1-3]、目标检测[4-6]和自然语言处理[7]等任务上能够取得相当不错的效果。

而随着其层数和神经元数量以及突触的不断增长,CPU和GPU等传统芯片已经很难满足神经网络增长的速度和需求。

剩余内容已隐藏,您需要先支付 10元 才能查看该篇文章全部内容!立即支付

以上是毕业论文文献综述,课题毕业论文、任务书、外文翻译、程序设计、图纸设计等资料可联系客服协助查找。