在过去的几年里,作为机器学习和统计学习的子领域,深度学习已经在诸多领域取得了令人印象深刻的突破。鲁棒性的开源工具、云计算以及大量可用的数据是深度学习能够取得成功的重要基石。下面,我们列出2018年度十大深度学习论文:
深度学习是一种由多个处理层组成的计算模型,它能够学习数据的多层次抽象表征。目前,这类方法已经在目标检测、语音识别、视觉目标识别以及许多其他领域(诸如药物发现和基因组学)取得了当前最佳的性能。
这是一个灵活的深度学习系统,它可以用来表达各种算法,包括深度神经网络模型的训练及推理算法,并且众多研究者利用它并将其部署到机器学习系统中,以实现多种任务,包括信息检索,语音识别,机器人技术,计算机视觉,地理信息提取,自然语言处理,计算药物发现等十几个计算机科学及其他领域。
TensorFlow 是一个开源项目,主要用于解决深度神经网络的训练和推理问题。它支持各种应用程序。Google 的许多服务和应用都使用到了 TensorFlow。随着时间的推移,它也被广泛用于机器学习领域的研究。
这篇论文是对深度学习、深度神经网络的发展历程及其相关工作的综述。其中大部分的内容介绍了上个世纪的研究。浅层和深层的神经网络是根据信用分配径的深度进行区别的,信用分配径是通过行为和效果之间关系链所决定的,而这种关联关系是可以学习的。
这篇论文开发一种被称为深度Q-网络的新型人工智能体。利用最近在深度神经网络训练方面的进展,我们使用一种端到端强化学习策略,直接从高维的传感输入中学习成功的策略。此外,这种智能体已经在经典 Atari 2600 游戏的一些挑战性领域中的得到了测试。
在这项工作中,我们将介绍区域网络(RPN),全卷积图像特征,用于实现共享的区域检测网络。区域网络是一种全卷积神经网络,它能够共享检测区域,并在每个同时预测出目标边界及客观得分。
不同于固定时空感受野(fixed spatio-temporal receptive field)或用于序列数据处理的简单平均时序模型,循环卷积神经网络能够通过双重深入机制,在空间和时间层次实现模型的融合。
这种模型易于使用,并在 MATLAB 中开源了其 CNN 构建块函数,提供了计算带滤波器组的线性卷积的径,特征池化等等。这篇论文将概述了卷积神经网络结构及其在 MatConvNet 中的实现方式,并在每个计算块的工具箱中给出了相同的技术细节。
在这项工作中,我们主要关注的是弥合 CNN 在监督学习和无监督学习方面差距。这篇论文中我们将介绍一类带一定的架构约束 CNN 模型,称之为深度卷积生成对抗网络(DCGAN),实验结果表明它们是一种有前途的非监督学习方式。