"Deformable Patterned Fabric Defect Detection With Fisher Criterion-Based Deep Learning" 学习笔记

这篇文章提出了一种比较新颖的利用自编码网络进行缺陷检测的方案。作者改进了SDA,提出了Fisher Criterion-Based SDA(FCSDA)。SDA是Stacked Denoising Autoencoders的缩写。其创新点有两个。第一,采用Fisher Criterion-Based SDA即(文中所说的FCSDA)进行自编码学习,检测缺陷;第二,训练另一个FCSDA来尽可能消除缺陷,得到没有缺陷的背景,与缺陷样本进行比较,分割出缺陷。该方法实现了在缺陷样本较为匮乏的情况下进行缺陷检测和缺陷分割。

预备知识——Stacked Denoising Autoencoders(S [Read More…]

“Deep Multi-task Learning for Railway Track Inspection” 论文笔记

“Deep Multi-task Learning for Railway Track Inspection” 论文笔记

这篇博客将分享一篇论文《Deep Multi-task Learning for Railway Track Inspection》。论文提出了一种将浅层学习与深度学习相结合的方法,超过了单纯采用深度学习的效果。浅层学习与深度学习结合也是一个很多人都在谈论的事情。我曾一直觉得这种想法完全是一种想当然的没有任何依据的想法。因为深度学习追求的是一种端到端的训练方式,而不会想着将训练隔离成两个部分。在一些级别不高的期刊里面经常能看到这样一些文章,首先用深度神经网络做一些训练,再简单地利用SVM或其它模型将后面的全连接层换掉。我认为这种做法意义不大。之所以详读这篇文章,是因为它将浅层学习模型“嵌入”神 [Read More…]

决策树(Decision Tree)学习笔记(二)

决策树(Decision Tree)学习笔记(二)

上一篇博文介绍了决策树的基本概念,对决策树相关的五个问题进行了解答。这篇博文将介绍常见的ID3、C4.5和CART算法,并介绍sklearn中的决策树算法。

ID3算法

ID3算法可以处理基本的情况——离散的属性,没有遗漏的信息等。将信息增益作为质量测量的指标。

1)决定分类属性

2)对目前的数据表,建立一个节点N。

3)如果数据表中的数据都属于同一类,N就是树叶,在树叶上标上所属的那一类。

4)如果数据表中没有其他属性可以考虑,N也是树叶,按照少数服从多数的原则在树叶上标上所属类别。

5)否则,根据平均信息期望值E或Gain值选出一个最佳属性作为节点N的测试属性。 [Read More…]

决策树(Decision Tree)学习笔记(一)

决策树(Decision Tree)学习笔记(一)

版权声明:本文为博主原创文章,转载请注明出处。

博客最近才开始用,过去两年学习的算法很多都缺乏总结。最近在复习总结一些经典的机器学习方法和图像处理算法,包括这篇博文要总结的决策树。决策树是一种经典的统计学习方法,在上世纪八九十年代提出和完善,直到今日都还有许多基于决策树的改进方法产生。另外其它一些机器学习模型,如adaboost等也经常会用到决策树。

决策树基础

决策树是一种典型的分类方法,首先对数据进行处理,利用归纳算法生成可读的规则和决策树,然后使用决策对新数据进行分析。本质上决策树是通过一系列规则对数据进行分类的过程。

决策树相关的重要算法包括

1、CLS学习系统( [Read More…]