机器学习和深度学习的最佳框架大比拼

66372-20170205120321886-68397257066372-20170205120321870-1075755197

66372-20170205120321886-94692706

英文原文:Review: The best frameworks for machine learning and deep learning

在过去的一年里,咱们讨论了六个开源机器学习和/或深度学习框架:Caffe,Microsoft Cognitive Toolkit(又名 CNTK 2),MXNet,Scikit-learn,Spark MLlib 和 TensorFlow。如果把网撒得大些,可能还会覆盖其他几个流行的框架,包括 Theano(一个 10 年之久的 Python 深度学习和机器学习框架),Keras(一个 Theano 和 TensorFlow 深度学习的前端),DeepLearning4j(Java 和 Scala 在 Hadoop 和 Spark 之上的深度学习软件)。如果你有兴趣使用机器学习和神经网络,你从来没有像现在这样多的选择。

机器学习框架和深度学习框架之间有区别。本质上,机器学习框架涵盖用于分类,回归,聚类,异常检测和数据准备的各种学习方法,并且其可以或可以不包括神经网络方法。深度学习或深度神经网络(DNN)框架涵盖具有许多隐藏层的各种神经网络拓扑。这些层包括模式识别的多步骤过程。网络中的层越多,可以提取用于聚类和分类的特征越复杂。

Caffe,CNTK,DeepLearning4j,Keras,MXNet 和 TensorFlow 是深度学习框架。 Scikit-learning 和 Spark MLlib 是机器学习框架。 Theano 跨越了这两个类别。

一般来说,深层神经网络计算在 GPU(特别是 Nvidia CUDA 通用 GPU,大多数框架)上运行的速度要比 CPU 快一个数量级。一般来说,更简单的机器学习方法不需要 GPU 的加速。

虽然你可以在一个或多个 CPU 上训练 DNN,训练往往是缓慢的,慢慢我不是说秒或分钟。需要训练的神经元和层数越多,可用于训练的数据越多,需要的时间就越长。当 Google Brain 小组在 2016 年针对新版 Google 翻译训练语言翻译模型时,他们在多个 GPU 上同时运行了一周的训练时间。没有 GPU,每个模型训练实验将需要几个月。

这些框架中每一个框架具有至少一个显著特征。 Caffe 的强项是用于图像识别的卷积 DNN。 Cognitive Toolkit 有一个单独的评估库,用于部署在 ASP.Net 网站上工作的预测模型。 MXNet 具有良好的可扩展性,可用于多 GPU 和多机器配置的训练。 Scikit-learn 具有广泛的强大的机器学习方法,易学已用。 Spark MLlib 与 Hadoop 集成,具有良好的机器学习可伸缩性。 TensorFlow 为其网络图 TensorBoard 提供了一个独特的诊断工具。

另一方面,所有深度学习框架在 GPU 上的训练速度几乎相同。这是因为训练内循环在 Nvidia CuDNN 包中花费大部分时间。然而,每个框架采用一种不同的方法来描述神经网络,具有两个主要的阵营:使用图形描述文件的阵营,以及通过执行代码来创建它们的描述的阵营。

考虑到这一点,让我们来看看每一个框架的特性。

Caffe(咖啡)

Caffe 深度学习项目,最初是一个强大的图像分类框架,似乎停滞不前,基于它的持续的 bug,以及它已被卡住 1.0 版 RC3 一年多的事实,并且创始人已离开项目。它仍然有良好的卷积网络图像识别和良好的支持 Nvidia CUDA GPU,以及一个简单的网络描述格式。另一方面,它的模型通常需要大量的 GPU 内存(超过 1GB)运行,它的文档是多斑点和问题,支持很难获得,安装是 iffy,特别是对于它的 Python 笔记本支持。

Caffe 有命令行,Python 和 Matlab 接口,它依靠 ProtoText 文件来定义它的模型和求解器。 Caffe 在其自己的模型模式中逐层定义网络。网络定义从输入数据到丢失的整个模型。当数据和派生数据在前向和后向遍历网络时,Caffe 存储,通信和操作信息为 blob(二进制大对象),内部是以C连续方式存储的N维数组(表示行该数组被存储在连续的存储器块中,如在C语言中)。 Blob 之于 Caffe 如 Tensor 之于 TensorFlow。

图层对 blob 执行操作,并构成 Caffe 模型的组件。层卷积滤波器,执行池,取内部乘积,应用非线性(诸如整流线性和S形以及其他元素方面的变换),归一化,加载数据和计算诸如 softmax 和铰链的损失。

Caffe 已经证明其在图像分类中的有效性,但它的时刻似乎已经过去了。除非现有的 Caffe 模型符合您的需要,或者可以根据您的目的进行微调,我建议使用 TensorFlow,MXNet 或 CNTK。

66372-20170205120321901-1315152035

在 NBViewer 中显示的预先计算的 CaffeJupyter 笔记本。这本笔记本解释了使用一只可爱的小猫在 Caffe 网络上做“手术”。

Microsoft Cognitive Toolkit(Microsoft 认知工具包)

Microsoft Cognitive Toolkit 是一个快速,易用的深度学习软件包,但与 TensorFlow 相比,其范围有限。它有各种各样的模型和算法,极好的支持 Python 和 Jupyter 笔记本,一个有趣的声明性神经网络配置语言 BrainScript,以及在 Windows 和 Ubuntu Linux 环境下自动部署。

在缺点方面,当我审查 Beta 1 的文档还没有完全更新到 CNTK 2,并且包没有对 MacOS 支持。虽然自 Beta 1 以来,CNTK 2 有许多改进,包括新的内存压缩模式,以减少 GPU 和新的 Nuget 安装包的内存使用,但对 MacOS 支持仍然缺失。

为 Beta 1 添加的 PythonAPI 有助于将认知工具包带入主流的、用 Python 码的、深度学习研究人员当中。 API 包含模型定义和计算、学习算法、数据读取和分布式训练的抽象。作为 PythonAPI 的补充,CNTK 2 具有新的 Python 示例和教程,以及对 Google Protocol Buffer 序列化的支持。教程以 Jupyter 笔记本实现。

CNTK 2 组件可以处理来自 Python,C ++ 或 BrainScript 的多维密集或稀疏数据。认知工具包包括各种各样的神经网络类型:FFN(前馈),CNN(卷积),RNN/ LSTM(递归/长期短期记忆),批次标准化和序列注意序列。它支持强化学习,生成对抗网络,监督和非监督学习,自动超参数调整,以及从 Python 添加新的,用户定义的核心组件在 GPU 上运行的能力。它能够在多个 GPU 和机器上做到精确的并行性,而且(微软声称)它甚至可以适应最大的模型到 GPU 内存。

CNTK 2 API 支持从 Python,C ++ 和 BrainScript 定义网络,学习者,读者,培训和评估。他们还支持使用C#进行评估。 Python API 与 NumPy 互操作,并包括一个高级层级库,可以精确定义包括复现在内的高级神经网络。该工具包支持以符号形式表示循环模型作为神经网络中的循环,而不需要静态展开循环步骤。

您可以在 Azure 网络和 GPU 上训练 CNTK 2 模型。配备 GPU 的N系列 Azure 虚拟机系列,在我审核 Beta 1 时受到限制,现在通常可以从 Azure 控制台获得并完全管理。

几个 CNTK 2 / Microsoft Cognitive Toolkit 教程以 Jupyter 笔记本提供。该图显示了 Logistic 回归训练的绘制的可视化。

MXNet

MXNet 是一个可移植的、可伸缩的深度学习库,是亚马逊的 DNN 框架的选择,结合了神经网络几何的象征性声明与张量操作的命令性编程。 MXNet 可跨多个主机扩展到多个 GPU,接近线性扩展效率为 85%,具有出色的开发速度、可编程性和可移植性。它支持 Python,R,Scala,Julia 和 C ++,支持程度各不相同,它允许你混合符号和命令式编程风格。

在我第一次评论 MXNet 时,文档感觉还没有完成,除 Python 之外,我发现很少有其它语言的例子。自从我评论以后,这两种情况都有所改善。

MXNet 平台是建立在一个动态依赖调度器上的,它可以自动并行化符号和命令式操作,但是你必须告诉 MXNet 要使用哪些 GPU 和 CPU 核心。在调度器顶部的图优化层使符号执行快速和内存高效。

MXNet 目前支持用 Python,R,Scala,Julia 和 C ++ 构建和训练模型;训练的 MXNet 模型也可以用于 Matlab 和 JavaScript 中的预测。无论您选择哪种语言来构建模型,MXNet 都会调用优化的 C ++ 后端引擎。

MXNet 作者认为他们的 API 是 Torch、Theano、Chainer 和 Caffe 提供的一个超集,尽管对 GPU 集群有更多的可移植性和支持。在许多方面 MXNet 类似于 TensorFlow,但增加了嵌入命令张量操作的能力。

除了实际强制的 MNIST 数字分类之外,MXNet 教程的计算机视觉包含使用卷积神经网络(CNN)的图像分类和分割,使用更快的R-CNN 的对象检测,神经艺术和使用深度 CNN 的大规模图像分类和 ImageNet 数据集。还有自然语言处理、语音识别、对抗网络以及监督和非监督机器学习的其他教程。

66372-20170205120321870-163985322

亚马逊测试了在 P2.16xlarge 实例上的 MXNet 中实现的 Inception v3 算法,发现其伸缩效率为 85%。

Scikit-learn

Scikit-learn Python 框架具有广泛的可靠的机器学习算法,但没有深度学习算法。如果你是一个 Python 粉丝,Scikit-learn 可能是一般机器学习库中最佳选择。

Scikit-learn 是一个强大的,成熟的机器学习 Python 库,包含各种各样成熟的算法和集成图。它相对容易安装、学习和使用,带有很好的例子和教程。

在另一方面,Scikit-learn 不包括深度学习或强化学习,缺少图模型和序列预测,并且除 Python 之外,不能真正使用其它语言。它不支持 PyPy,Python 即时编译器或 GPU。也就是说,除了它的少量进入神经网络,它不会真的有速度问题。它使用 Cython(Python 到C编译器)来处理需要快速的函数,例如内循环。

Scikit-learn 对分类、回归、聚类、降维、模型选择和预处理算法具有很好的选择。它有所有这些的良好的文档和示例,但没有任何种类的指导工作流以完成这些任务。

Scikit-learn 赢得了易于开发的最高分,主要是因为算法都像广告和文档一样工作,API 是一致的,设计良好,数据结构之间几乎没有“阻抗不匹配”。函数库其中的功能已彻底充实,错误彻底消除,用来开发十分愉快。

66372-20170205120321901-1943642858

本示例使用 Scikit-learn 的小手写数字数据集来演示使用 Label Spreading 模型的半监督学习。在1,797 总样本中只有 30 个被标记。

另一方面,函数库没有涵盖深度学习或强化学习,这隐藏了当前困难但重要的问题,例如准确的图像分类和可靠的实时语言解析和翻译。显然,如果你对深度学习感兴趣,你应该另觅他处。

然而,存在许多问题,从建立链接不同观察值的预测函数到分类观察值到学习未标记数据集的结构,这使得它们适应于普通的老的机器学习,而不需要数十层的神经元,对于这些领域 Scikit-learn 是非常好的选择。

Spark MLlib

Spark MLlib 是 Spark 的开源机器学习库,提供了通用的机器学习算法,如分类、回归、聚类和协同过滤(但不包括 DNN)以及特征提取、转换、维数降低工具,以及构建、评估和调整机器学习管道选择和工具。Spark MLlib 还包括用于保存和加载算法、模型和管线、用于数据处理以及进行线性代数和统计的实用程序。

Spark MLlib 是用 Scala 编写的,并使用线性代数包 Breeze。 Breeze 依靠 netlib-java 来优化数值处理,虽然在开源分布中意味着优化使用 CPU。 Databricks 提供与 GPU 配合使用的定制 Spark 集群,这有可能为您带来另一个 10 倍的速度改进,用于训练具有大数据的复杂机器学习模型。

MLlib 实现了大量的分类和回归的常用算法和模型,新手可能变得混乱不堪,无可适从,但专家最终可能会为分析数据找到一个很好的模型的数据。对于这么多的模型 Spark2.x 增加了超参数调优的重要特性,也称为模型选择。超参数t允许调优分析人员设置参数网格、估计器和评估器,并且它允许交叉验证方法(耗时但准确)或训练验证分割方法(更快但不太准确)找到最佳数据模型。

Spark MLlib 拥有针对 Scala 和 Java 的完整 API,主要是针对 Python 的完整 API 以及针对R的粗略部分 API。您可以通过计算示例来获得良好的覆盖率:54 个 Java 和 60 个 Scala 机器学习示例,52 个 Python 机器学习示例,只有五个R示例。在我的经验中,Spark MLlib 是最容易使用 Jupyter 笔记本,但你可以肯定地在控制台运行它,如果你驯服详细的 Spark 状态消息。

Spark MLlib 提供了你想要的基本机器学习、特性选择、管道和持久性的任何东西。它在分类、回归、聚类和过滤方面做得相当不错。鉴于它是 Spark 的一部分,它具有访问数据库、流和其他数据源的强大访问权限。另一方面,SparkMLlib 并不真正采用与 TensorFlow,MXNet,Caffe 和 Microsoft Cognitive Toolkit 相同的方式建模和训练深层神经网络。

66372-20170205120322104-678629501

Spark MLlibPython 示例(Naive Bayes)作为 Databricks 笔记本。注意解释,代码和输出如何散布。

TensorFlow

TensorFlow,Google 的可移植机器学习和神经网络库,执行和伸缩性很好,虽然它有点难学。TensorFlow 拥有各种各样的模型和算法,它们对深度学习非常重视,并且在具有 GPU(用于训练)或 Google TPU(用于生产规模预测)的硬件上具有出色的性能。它还具有对 Python 的良好支持,良好的文档和良好的软件,用于显示和理解描述其计算的数据流图 TensorBoard。

数据流图中的节点表示数学运算,而图的边表示在它们之间流动的多维数据数组(张量)。这种灵活的架构允许您将计算部署到桌面、服务器或移动设备中的一个或多个 CPU 或 GPU,而无需重写代码。

使用 TensorFlow 的主要语言是 Python,虽然对 C ++ 有限的支持。TensorFlow 提供的教程包括手写数字分类。图像识别、字嵌入、递归神经网络,用于机器翻译的序列到序列模型、自然语言处理和基于 PDE(偏微分方程)的模拟的应用。

TensorFlow 可以方便地处理各种神经网络,包括目前正在急剧变化的图像识别和语言处理领域的深度 CNN 和 LSTM 递归模型。用于定义图层的代码可能 fan,但是您方便但不详细,可以使用三个可选的深度学习界面中的任何一个来修复它。虽然调试异步网络求解器可以是平凡的,但 TensorBoard 软件可以帮助您可视化图。

66372-20170205120322151-447402375

TensorBoard 显示 TensorFlow 计算的图形。我们放大了几个部分来检查图形的细节。

总结

对于任何给定的预测任务,您应该使用哪种机器学习或深度学习包取决于机器学习的复杂性,用于训练的数据量和形式,您的计算资源以及您的编程语言偏好和技能。它也可能取决于您是否喜欢使用代码或配置文件定义模型。

但是,在开始自己的模型训练考察之前,您可能希望了解来自 Google,HPE 和 MicrosoftAzure 云的任何预先训练的应用机器学习服务是否能够处理您的数据,无论是语音、文本或图像。如果他们对你的数据不能很好地工作,你可能还想在尝试基本的机器学习训练(最后,如果没有其他工作)深度学习训练之前,看看你能用简单的统计方法获得多大的好处。这里的原则是保持分析尽可能简单,但不是更简单。

在我讨论的两个基本的机器学习包,我建议喜欢 Scala 和在 Hadoop 中有他们的数据的使用 Spark MLlib 。我建议喜欢 Python 的人 Scikit-learn。

我应该提到那些喜欢 Scala(和 Java)的人和在 Hadoop 中有他们的数据的人的另一个选择事 Deeplearning4j。我没有评论他,但是,因为其名称意味着它是一个学习深度包。

选择 Caffe,Microsoft Cognitive Toolkit,MXNet 和 TensorFlow 的深度学习包是一个更困难的决定。我不再建议使用 Caffe,因为它的发展停滞不前。然而,选择其他三个中的一个仍然是棘手,因为对于具有类似功能,它们都是最好的选择。

Cognitive Toolkit 现在有 Python 和 C ++ API 以及网络配置语言 BrainScript。如果您喜欢使用配置文件而不是编程网络拓扑,那么 CognitiveToolkit 可能是一个不错的选择。另一方面,它似乎不像 TensorFlow 一样成熟,它不能在 MacOS 上运行。

MXNet 支持 Python、R、Scala、Julia 和 C ++,但其支持最好的 API 是用 Python 开发的。 MXNet 在多个主机上的多个 GPU 上展示出良好的伸缩性(85% 的线性)。当我评论 MXNet 的文档和示例是吝啬的,但他们已经改进了。

TensorFlow 可能是三个包中最成熟的,并且它是一个很好的选择,只要你喜欢编写 Python,并可以克服学习曲线。 TensorFlow 具有你可以使用基本的构建块,它给你细粒度的控制,但也需要你编写大量的代码来描述一个神经网络。有三个简化的 API 与 TensorFlow 一起工作来解决这个问题:tf.contrib.learn,TF-Slim 和 Keras。支持 TensorFlow 的最终考虑是 TensorBoard,它对于可视化和理解您的数据流图非常有用。

未经允许不得转载:JX BLOG » 机器学习和深度学习的最佳框架大比拼

赞 (1)

评论 0

评论前必须登录!

登陆 注册