在AWS MXNet -深度学习框架的选择

| | 评论( )

机器学习中发挥着越来越重要的作用在许多领域我们的企业和我们的生活和被使用在一系列计算任务编程显式算法是不可行的。。

在亚马逊,机器学习我们的许多关键业务流程,建议欺诈检测,库存水平的书分类的审查检测。和有更多的应用领域,我们大量使用机器学习:搜索、自主无人机,机器人在满足中心,文本和语音识别等。。

在机器学习算法中,一种叫深度学习的算法hascome代表这些算法能够吸收大量的数据和学习优雅和有用的模式在数据:面临内部照片,文本的意义,或口语的目的。出现了一系列的编程模型来帮助必威体育精装版应用官网人定义与深度学习和训练AI模型;随着开源框架,将深度学习的凡人。一些流行的深度学习框架的例子,我们支持在AWS包括咖啡、CNTK,MXNet TensorFlow,Theano,火炬。。

在所有这些流行的框架,我们得出结论,MXNet是最可扩展的框架。我们认为,人工智能社区将受益于MXNet背后投入更多的努力。今天,我们宣布MXNet将深度学习框架的选择。AWS贡献代码和改进的文档以及投资MXNet周围的生态系统。我们将进一步推进MXNet与其他组织合作。。

AWS和支持深度学习框架

在AWS,我们相信给客户选择。我们的目标是支持我们的客户提供工具,系统和软件的选择通过提供正确的情况下,软件(ami)和管理服务。就像在亚马逊RDS-where MySQL,等我们支持多个开源引擎PostgreSQL,MariaDB,深度学习领域的框架,我们将支持所有流行的深度学习框架通过提供最好的EC2实例和适当的软件工具。。

Amazon EC2,广泛的实例类型和gpu与大量的记忆,已经成为深度学习的重心训练。为此,我们最近做了一组工具,让它尽可能简单的开始:一个深度学习AMI预装,与前面提到的流行的开源深度学习框架;通过CUDA gpu加速驱动程序已经安装,预配置,并准备岩石;和支持工具,如蟒蛇和Jupyter。必威体育精装版应用官网人也可以使用分布式深度学习CloudFormation模板自旋向上扩展,弹性集群P2使用这个AMI实例的运行更大的训练。。

亚马逊和AWS继续投资于几种技术的深度学习,我们将继续改善所有这些框架在可用性方面,可伸缩性和特性。然而,我们计划做出显著贡献的一个特别MXNet。。

选择一个深度学习框架

必威体育精装版应用官网人,数据科学家和研究人员考虑的三个主要因素在选择一个深度学习框架:

  • 能力规模多个gpu(跨多个主机)训练更大、更复杂的模型更大、更复杂的数据集。深度学习模型可能需要数天或数周训练,所以即使适度的改进产生巨大的差异在新车型的速度可以必威体育精装版应用官网和评估。。
  • 必威体育精装版应用官网速度和可编程性,特别是有机会使用他们已经熟悉的语言,这样他们就可以快速构建和更新现有的新模型。。
  • 可移植性运行在一个广泛的设备和平台,因为深度学习模型必须运行在许多,许多不同的地方:从笔记本电脑和服务器农场大手机网络和大量的计算能力和连接设备通常在偏远地区,不可靠网络和计算能力大大减少。。

相同的三件事是重要的必威体育精装版应用官网人队在AWS和我们的许多客户。全面评估后,我们选择MXNet作为深度学习框架的选择,我们计划使用它广泛地在现有和即将到来的新服务。。

作为这一承诺的一部分,我们将积极推动和支持开源必威体育精装版应用官网表示“状态”通过代码贡献(我们已经取得了不少),改善必威体育精装版应用官网er经验和在线文档和AWS和投资支持可视化的工具,必威体育精装版应用官网,从其他框架和迁移。。

背景MXNet

MXNet是一个功能齐全、灵活可编程和ultra-scalable深度学习框架支持的深度学习模型,包括卷积神经网络(cnn)和长期短期记忆网络(LSTMs)。MXNet在学术界有它的根源,是通过研究人员的合作和贡献几个顶尖大学。创始机构包括华盛顿大学和卡内基梅隆大学。。

”MXNet,生于斯,长于斯在卡内基梅隆大学,是最可伸缩框架深度学习我所见,和是一个很好的例子的计算机科学这一领域如此美丽,你有不同学科一起工作这么好:想象力的线性代数在小说与大规模分布式计算工作主要为深度学习一个全新的球赛。我们兴奋在MXNet亚马逊的投资,和等不及要看MXNet越来越强大””安德鲁·摩尔——卡内基梅隆大学计算机科学学院院长。。

扩展MXNet

深度学习框架的效率尺度跨多个核心是它的一个定义特征。更高效的扩展允许您显著增加的速度你可以训练新模式,或大大增加模型的复杂性相同数量的训练时间。。

这是一个地方MXNet发光:我们训练一个流行的图像分析算法,初始v3(MXNet中实现和P2实例上运行),使用越来越多的gpu。MXNet不仅有任何图书馆评估的最快的吞吐量(每秒的训练图像的数量),但是吞吐量增长了几乎同样的速度随着gpu用于培训(比例85%)的效率。。

必威体育精装版应用官网与MXNet荷兰国际集团(ing)

除了可伸缩性、MXNet提供两种混合编程模型的能力(命令式编程和声明式),和代码在一个广泛的编程语言,包括Python、c++,R,Scala,茱莉亚,Matlab和JavaScript。。

在MXNet效率模型和可移植性

计算效率是很重要的(和与可伸缩性)但一样重要的是内存占用。MXNet可以消耗仅为4 GB的内存当服务深网络多达1000层。也是跨平台移植,核心库(所有依赖项)符合一个c++源文件,可以编译为Android和iOS。您甚至可以在您的浏览器中运行它使用JavaScript扩展!!

了解更多关于MXNet

我们对MXNet感到兴奋。如果你想了解更多,你可以查看MXNet主页,或GitHub库的更多信息,现在可以开始使用深度学习AMI,或者在您自己的机器上。我们也会举办一个机器学习””国情咨文”和一系列的分组会议研讨会在使用MXNet AWS re:发明11月30日在拉斯维加斯美丽华酒店。。

它仍然是第一天这机器智能的新时代;事实上,我们很可能还没醒来,我们的第一杯咖啡。与工具如MXNet(和其他深度学习框架),和EC2等服务,这将是一个激动人心的时刻。。

评论

博客评论的Disqus