本文目录一览

1，在CPU下最快的深度学习框架是哪种caffe2mkldnnnnpack 问

英特尔的Chainer，评测目前最快。但很少人知道它目前，资料也很少。
caffe基于c++做的，里面代码都是现成的，会用，看得懂就行了，主要的还是深度学习的原理要好好学习，比如神经网络，bp算法，机器学习的一些知识，像识别的一些知识

在CPU下最快的深度学习框架是哪种caffe2mkldnnnnpack 问

2，什么叫人工智能学习框架

深度学习框架也就像Caffe、tensorflow这些是深度学习的工具，简单来说就是库，编程时需要import caffe、import tensorflow。
用python做深度学习。感兴趣可以搜搜我的课程人工智能包含机器学习，机器学习包含深度学习。深度学习是在机器学习的基础上发展出来的，讲的更详细些

什么叫人工智能学习框架

3，有哪些windows下好用的机器学习深度学习框架

两者不是同一个level上的，深度学习是机器学习的一种。最近火的发紫的深度学习实际上指的的深度神经网络学习，普通神经网络由于训练代价较高，一般只有3-4层，而深度神经网络由于采用了特殊的训练方法加上一些小trick，可以达到8-10层。深度神经网络能够捕捉到数据中的深层联系，从而能够得到更精准的模型，而这些联系不容易被普通的机器学习方法所发觉。

有哪些windows下好用的机器学习深度学习框架

4，什么是机器学习

机器学习的本质是模式识别。 一部分可以用于预测（有监督学习，无监督学习），另一类直接用于决策（强化学习）。相对物理微分方程代表的预测方法来说，机器学习在一定程度说是一种黑箱思想， 即先不求开始找到事物发展的精确模型，而是用基本的模型框架，直接以数据驱动我们的预测。
机器学习(machine learning, ml)是一门多领域交叉学科，涉及概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学科。专门研究计算机怎样模拟或实现人类的学习行为，以获取新的知识或技能，重新组织已有的知识结构使之不断改善自身的性能。　　它是人工智能的核心，是使计算机具有智能的根本途径，其应用遍及人工智能的各个领域，它主要使用归纳、综合而不是演绎。

5，为什么机器学习的框架都偏向于Python

首先python是解释语言，写程序很方便，所以做研究的人喜欢用它。正如为什么很多做研究的人用Matlab那样。出成果才是研究者关心的事情，实现只要方便就行。然而在性能方面，我拿 python 和 c++ 做个比较。c++ 的cpu效率是远远高于 python 的，这点大家都承认吧。不过 python 是一门胶水语言，它可以和任何语言结合，基于这个优点，很多数据处理的python 库底层都是 c++ 实现的，意思就是说：你用python写code，但效率是c++的。只有那些for 循环，还是用python的效率。近年来机器学习最要是深度学习，而深度学习使用cuda gpu加速远比cpu要快，而cuda 是c++写的。所以现在TensorLayer、theano 等深度学习库都是 python 编程、底层c++。而那些for 循环的效率，在整体耗时里面完全可以忽略！有的人就会说，那为什么不直接用c++ 写cuda？不是更快吗？我想告诉大家，如果没有多年的cuda经验，写出来的代码效率绝对是个问题。
python有很多科学计算的库的支持，而且可以说非常全面。比较著名的有numpy,matplotlib而且python对函数式编程支持的很好，对于人工智能，机器学习这点很重要。 python免费开源,学习成本很低，受到很多人的喜爱。

6，如何评价最新的深度学习框架cxxnet

这篇文章介绍的是关于并行深度神经网络的设计。在今年发布的两个机器学习项目中，cxxnet是最精彩的一个。因为它包含了我们团队可以发挥到的机器学习和系统的各个方面的极致： 除了前沿的深度学习之外，它的两个独到特点也是让我们在设计实现中最为享受的1) 灵活的公式支持和极致的C++模板编程；深度神经网络的实现大致分两类：以python为主的编程效率派和以c++为核心的为代表的追逐性能派。前者支持直接tensor的计算，而后者往往需要给每个神经网络的层和更新公式编写独立的cuda kernel。编程效率派认为机器学习程序员应该是写公式来达到代码最大的可读性和易改写性。而很多以C++为核心的代码之所以没有支持非常灵活的张量计算，是因为因为运算符重载和临时空间的分配会带来效率的降低。cxxnet的核心mshadow在这两者之间做了一个平衡。使得我们在不损失效率的前提下可以通过模板编程技术允许开发者编写和matlab/numpy类似的代码，并且在编译时自动展开成优化的kernel。其背后的expressiontemplate技术是我最喜欢的c++ trick之一。非常值得最求效率抽象和优美的同学了解。因为采用了mshadow作为核心，直接导致cxxnet的各种实现可以非常简单可读，编写一份代码就可以在GPU和CPU上面跑。使得其在代码简洁和可扩展上更加容易。2) 通用的并行参数共享和更新方案多卡和多机计算一直是大规模机器学习中一个让人兴奋的话题。提到神经网络并行，最让我头疼的是可以选择的方案很多，而都涉及到不同的hack。单机多卡到底是用P2P，还是拷贝到内存，是用stream开始开多线程。分布式到底是用parameter server，MPI还是自己写一个框架。可以选择的方法很多。设计出一个分布式的代码不难，困难的是如何让并行的接口自然的独立出来，使得其不会影响其它部分的实现。经过不断地考虑，最终我决定采用了mshadow-ps这样一个统一的参数共享接口。简单的说，mshadow-ps是一个GPU的异步parameter server接口（应该也是目前为止唯一一个，因为GPU线程模型和CPU不同，原有的的ps库并不能直接用于GPU）。异步通信对于神经网络的更新非常重要。在backprop算法中，我们很早就可以获得梯度并且进行梯度同步，而只有到下一次forward到对应层的时候才会需要这个weight。我和limu合作设计了ps风格的三个接口来解决这样的同步问题，Push/PullReq和Pullwait。当获backprop得梯度的时候直接调用push把梯度发送出去，并且调用pullreq请求结果。Push和Pullreq都是异步操作，背后会有单独的线程同时完成数据拷贝同步，以及拷回的操作。而当我们需要weight之前在调用Pullwait来等待可能没有完成的操作。这样简单的三个接口，使得我们可以经过很少的改动就可以设计出多卡和分布式的神经网络来，并且在调用这些接口的时候完全不需要关系同步的实现是什么。值得一提的是，这样的编程模式把多GPU，分布式以及各个通信框架直接结合起来。mshadow-ps支持单机多卡的GPU PS，以及基于parameter-server的分布式PS实现。同样的也可以很容易MPI来支持多机通信。使得一个统一的接口，可以完成从单机多卡到分布式各种后端实现的支持。并且因为高效的异步通信，使得我们可以在alexnet上面达到linearspeedup(注：并行的难度在于计算和通信的时间比，weight少更加复杂的网络反而更加容易线性加速，而alexnet是非常困难的例子)。经过团队里面大家不断地努力，cxxnet的V2终于可以和大家见面了。除了上述介绍的技术亮点之外，还有各种好玩的特性。现在把特点总结如下：1. 轻量而齐全的框架： 我们尽力维持最小的依赖库实现最多的功能。推荐环境下仅需要CUDA, OpenCV, MKL或BLAS即可编译。2. 强大的统一的并行计算接口：基于mshadow-ps的并行计算接口采用了一份代码解决了多GPU，多机的异步同步。同步和计算重叠，在多份测试中均可以得到线性加速比。3. 易于扩展的代码结构：cxxnet计算核心由mshadow提供。Mshadow使用户可以编写numpy/matlab风格的代码，但仍具备手动优化cuda 代码的灵活性。CPU和GPU共享同一份代码，在编译期间通过模板自动翻译成CUDA/MKL调用。另外一些特性包括：4. CuDNN支持：Nvidia原生卷积支持，可加速计算30%！5. 及时更新的最新技术：我们将及时跟进学术界的动态，例如现在已经支持MSRA的ParametricRelu和Google的Batch Normalization6. Caffe模型转换：支持将训练好的Caffe模型直接转化为cxxnet模型（本周内上线！）7. 方便的语言接口：在Python中直接进行训练，方便可视化。Matlab也将很快提供我们相信可以通过最简洁清晰的代码来完成高效的C++深度神经网络实现。我们也欢迎对于系统和机器学习有兴趣的同学加入到项目中来

文章TAG：机器学习框架  在CPU下最快的深度学习框架是哪种caffe2mkldnnnnpack  问  
下一篇