本文目录一览

1，如何让训练siamese全卷积网络ilsvrc15

卷积神经网络就是将图像处理中的二维离散卷积运算和人工神经网络相结合。这种卷积运算可以用于自动提取特征，而卷积神经网络也主要应用于二维图像的识别。“深”的问题是一个不确定的概念，多少算深？有人认为除了输入层和输出层以外只包含一个隐层的神经网络就是浅层的，多个隐层的就是深层的。按照这样的说法，一个卷积神经网络如果包含一个输入层，一个卷积层，一个输出层，那它就是浅层的。但一般不这样用，何以然啊？使用卷积神经网络不断地去提取特征，特征越抽象，越有利于识别（分类）。那我就一定要将卷积神经网络设计成深层的啊！而且通常卷积神经网络也包含池化层、全连接层，最后再接输出层。我更倾向于叫它：深度卷积神经网络（Deep Convolutional Neural Network）。所以，DCNN和DNN的区别主要就在于DCNN有卷积、池化层，多个卷积-池化单元构成特征表达，主要应用于二维图像识别。最粗浅的理解就是：DCNN是带有二维离散卷积操作的DNN。
没看懂什么意思？

如何让训练siamese全卷积网络ilsvrc15

2，如何评价ILSVRC2015

个人觉得Kaiming是good idea和实现能力的完美结合，有的人可能一开始想到一个好点子，但是苦于某种技术上的原因，或者自身姿势水平有限，做不出来；有的人可能实现能力很强，但是只能跟着别人走，所以文章里基本是别人各种方法的组合。Kaiming大神既有他人想不到的idea（暗原色已经说烂了吧都），也有出色的实现能力（一般人你跟他说你去设计一个150层网络肯定能拿明年ILSVRC第一他估计也设计不出来）。当然实现能力是很重要的，别人论文里结果秒天秒地，结果自己拿来训练网络都不收敛（比如本菜鸡）也是不行的。这个网络的一个非常重要的优点是它（目前看起来）非常地接地气，一看就觉得好理解，有道理，而且应该会容易实现，负担小，这是很重要的。ILSVRC2014结果出来以后大家的关注点都放在GoogleNet上，但是后来用的最多的还是VGG16，因为VGG16的设计思想非常朴实，而且拿来很容易就能用，也吃不了太多资源就能自己训练。
别人的想法不是特别重要，你自己认为自己做的对就好，但是也不能伤害自己伤害别人。

如何评价ILSVRC2015

3，在图像识别这一块目前有没有可以移植到嵌入式设备的深度学习算法

先说图像识别，一般推荐opencv。因为是Intel主导的一个开源库用C和C++混合编写。如果嵌入式设备是搭配着linux平台应该是可以做的。然后深度学习这块儿的话一般可以入手的就是反向传播，和神经网络搭配。在细一点就是做同一类型的图片的机器学习。要是想尽快出产品，就是比较推荐树莓派加上谷歌Cloud Vision API。
深度学习在物体识别中最重要的进展体现在imagenet ilsvrc3挑战中的图像分类任务。传统计算机视觉方法在此测试集上最低的错误率是26.172%。2012年，欣顿的研究小组利用卷积网络把错误率降到了15.315%。此网络结构被称为alex net，与传统的卷积网络相比，它有三点与众不同之处：首先，alex net采用了dropout的训练策略，在训练过程中将输入层和中间层的一些神经元随机置零。这模拟了噪音对输入数据的各种干扰使一些神经元对一些视觉模式产生漏检的情况。dropout使训练过程收敛得更慢，但得到的网络模型更加鲁棒。其次，alex net采用整流线型单元作为非线性的激发函数。这不仅大大降低了计算的复杂度，而且使神经元的输出具有稀疏的特征，对各种干扰更加鲁棒。第三，alex net通过对训练样本镜像映射和加入随机平移扰动，产生了更多的训练样本，减少了过拟合。在imagenet ilsvrc 2013比赛中，排名前20的小组使用的都是深度学习技术。获胜者是纽约大学罗伯·费格斯(rob fergus)的研究小组，所采用的深度模型是卷积网络，并对网络结构作了进一步优化，错误率为11.197%，其模型称作clarif。在ilsvrc 2014比赛中，获胜者goolenet[18]将错误率降到了6.656%。goolenet突出的特点是大大增加了卷积网络的深度，超过了20层，这在此之前是不可想象的。很深的网络结构给预测误差的反向传播带了困难，这是因为预测误差是从最顶层传到底层的，传到底层的误差很小，难以驱动底层参数的更新。goolenet采取的策略是将监督信号直接加到多个中间层，这意味着中间层和底层的特征表示也要能够对训练数据进行准确分类。如何有效地训练很深的网络模型仍是未来研究的一个重要课题。虽然深度学习在imagenet上取得了巨大成功，但是很多应用的训练集是较小的，在这种情况下，如何应用深度学习呢？有三种方法可供参考：(1)可以将imagenet上训练得到的模型作为起点，利用目标训练集和反向传播对其进行继续训练，将模型适应到特定的应用[10]。此时imagenet起到预训练的作用。(2)如果目标训练集不够大 ，可以将底层的网络参数固定，沿用imagenet上的训练集结果，只对上层进行更新。这是因为底层的网络参数是最难更新的，而从imagenet学习得到的底层滤波器往往描述了各种不同的局部边缘和纹理信息，而这些滤波器对一般的图像有较好的普适性。(3)直接采用imagenet上训练得到的模型，把最高的隐含层的输出作为特征表达，代替常用的手工设计的特征。

在图像识别这一块目前有没有可以移植到嵌入式设备的深度学习算法

4，图像算法怎么移植到嵌入式产品上

一般可以比较容易地移植c语言实现的算法,有可能需要调整算法用到的数据类型,数据结构这些如果要利用嵌入式产品的优化性能(一般与硬件和指令系统相关),就需要替换现有算法的部分函数以嵌入式产品提供的算法库函数,这当然又涉及数据类型,接口,数据结构这些内容如果算法效率仍然不能满足要求,就需要汇编级,寄存器级的编程了,充分利用嵌入式芯片的流水线,总线,并行运算,特殊指令这些特点来优化算法关键部分.普通可以更换嵌入式芯片,选择速度更快,能力更强的来减少优化花费的成本,以适应芯片的不断更新换代.
深度学习在物体识别中最重要的进展体现在imagenet ilsvrc3挑战中的图像分类任务。传统计算机视觉方法在此测试集上最低的错误率是26.172%。2012年，欣顿的研究小组利用卷积网络把错误率降到了15.315%。此网络结构被称为alex net，与传统的卷积网络相比，它有三点与众不同之处：首先，alex net采用了dropout的训练策略，在训练过程中将输入层和中间层的一些神经元随机置零。这模拟了噪音对输入数据的各种干扰使一些神经元对一些视觉模式产生漏检的情况。dropout使训练过程收敛得更慢，但得到的网络模型更加鲁棒。其次，alex net采用整流线型单元作为非线性的激发函数。这不仅大大降低了计算的复杂度，而且使神经元的输出具有稀疏的特征，对各种干扰更加鲁棒。第三，alex net通过对训练样本镜像映射和加入随机平移扰动，产生了更多的训练样本，减少了过拟合。在imagenet ilsvrc 2013比赛中，排名前20的小组使用的都是深度学习技术。获胜者是纽约大学罗伯·费格斯(rob fergus)的研究小组，所采用的深度模型是卷积网络，并对网络结构作了进一步优化，错误率为11.197%，其模型称作clarif。在ilsvrc 2014比赛中，获胜者goolenet[18]将错误率降到了6.656%。goolenet突出的特点是大大增加了卷积网络的深度，超过了20层，这在此之前是不可想象的。很深的网络结构给预测误差的反向传播带了困难，这是因为预测误差是从最顶层传到底层的，传到底层的误差很小，难以驱动底层参数的更新。goolenet采取的策略是将监督信号直接加到多个中间层，这意味着中间层和底层的特征表示也要能够对训练数据进行准确分类。如何有效地训练很深的网络模型仍是未来研究的一个重要课题。虽然深度学习在imagenet上取得了巨大成功，但是很多应用的训练集是较小的，在这种情况下，如何应用深度学习呢？有三种方法可供参考：(1)可以将imagenet上训练得到的模型作为起点，利用目标训练集和反向传播对其进行继续训练，将模型适应到特定的应用[10]。此时imagenet起到预训练的作用。(2)如果目标训练集不够大 ，可以将底层的网络参数固定，沿用imagenet上的训练集结果，只对上层进行更新。这是因为底层的网络参数是最难更新的，而从imagenet学习得到的底层滤波器往往描述了各种不同的局部边缘和纹理信息，而这些滤波器对一般的图像有较好的普适性。(3)直接采用imagenet上训练得到的模型，把最高的隐含层的输出作为特征表达，代替常用的手工设计的特征。

5，如何利用深度学习进行人脸检测这一领域当前相关进展

人脸识别，是基于人的脸部特征信息进行身份识别的一种生物识别技术。用摄像机或摄像头采集含有人脸的图像或视频流，并自动在图像中检测和跟踪人脸，进而对检测到的人脸进行脸部的一系列相关技术，通常也叫做人像识别、面部识别。
首先我得说楼主是大马哈，超级大马哈，你问的问题就像太大了。转载别人的，你看看，看入你法眼不：简单说说：1 数据库，像题主这样的数据集，传统的手工特征完全足够，不需要用cnn，dl吃数据，现在比较大的人脸数据集，casia webface database，需要申请center for biometrics and security researchcenter for biometrics and security research；然后港中大也有一个人脸数据集；最近还有一个megaface，但是目前好像还不能下载megafacemegaface。2 网络，caffe现在应该是最广泛的开源框架了，设计网络比较简单，只要有思路，就可以像搭积木一样来组合。楼上的beanfrog贴出的model，对于数据量不够而又想使用cnn的我们来说，福音有没有，强烈建议题主在其上来finetune，并且欢迎交流。3 人脸识别，如果没有讲过预处理的当然需要detection和location，不过好多人脸数据集可以预先处理，这样在caffe中只需要classification了。这块你可以看看去年的imagenet竞赛，imagenet large scale visual recognition competition 2014 (ilsvrc2014)imagenet large scale visual recognition competition 2014 (ilsvrc2014)。今年的classification的task变了。可以...首先我得说楼主是大马哈，超级大马哈，你问的问题就像太大了。转载别人的，你看看，看入你法眼不：简单说说：1 数据库，像题主这样的数据集，传统的手工特征完全足够，不需要用cnn，dl吃数据，现在比较大的人脸数据集，casia webface database，需要申请center for biometrics and security researchcenter for biometrics and security research；然后港中大也有一个人脸数据集；最近还有一个megaface，但是目前好像还不能下载megafacemegaface。2 网络，caffe现在应该是最广泛的开源框架了，设计网络比较简单，只要有思路，就可以像搭积木一样来组合。楼上的beanfrog贴出的model，对于数据量不够而又想使用cnn的我们来说，福音有没有，强烈建议题主在其上来finetune，并且欢迎交流。3 人脸识别，如果没有讲过预处理的当然需要detection和location，不过好多人脸数据集可以预先处理，这样在caffe中只需要classification了。这块你可以看看去年的imagenet竞赛，imagenet large scale visual recognition competition 2014 (ilsvrc2014)imagenet large scale visual recognition competition 2014 (ilsvrc2014)。今年的classification的task变了。可以的话，多问问人脸识别颜鉴。

文章TAG：ilsvrc  如何让训练siamese全卷积网络ilsvrc15  
下一篇