DeepLearning

简述

这篇文章提出two-stream CNN架构，two-stream包括经典网络结构regular stream和处理边界信息的shape stream。这两个处理流并行处理不同的任务，相互协调工作。regular stream可以帮助shape stream只关注边界信息而不被一些无用的噪声干扰；shape stream可以辅助regular stream做更精确的识别。并且该架构在微小物体上有着明显提升。

Embedding

input：

1. 所有文字的字典文件，{index：word,…}；
2. 所有文字的embedding文件，{word:embedding,…}；

腐蚀和膨胀是对像素值大的部分而言的，即高亮白部分而不是黑色部分；以下图片前景物体为高亮像素，背景为低亮像素。

简介

1. 均值滤波器属于低通滤波器；
2. 输出为模板内领域像素的简单平均值；
3. 主要用于图像的模糊和降噪，去除尖锐部分，比滤波器模板尺寸小的像素区域将会过滤掉；
4. 与此同时，边缘也会被平滑、模糊。

HMM算法：

1. 设置设备状态数，此乃需要靠谱的先验知识，如果没有靠谱的先验知识，这时可以选择聚类算法，但是聚类算法中需要数据涵盖所有的状态类别。
2. 为了增加HMM的鲁棒性和泛化性，一般需要采用多个观测样本进行训练，但在训练多组观测值序列时，只能先训练单一观测序列，在综合所有单个预测值序列得到的训练结果，计算时间长，计算量大。

背景

美国运筹学家Sasty于20世纪70年代初提出层次分析法AHP(Analytic Hierarchy Process)
AHP：一种定量与特性相结合的、系统化、层次化的分析法。

主要内容： 0-1,Hinge,Logistic,Cross Entropy,Square,Absolute,Huber
简述： 损失函数刻画了模型与训练样本的匹配程度。

数据维度规约

特征选取法

决定特征的衡量准则

1. 一致性测量法（consistency measurement）
   每一个特征在不同取值下目标值不一致的数据笔数的总和，越少表示相应特征越重要。（先判断最多笔数的取值，剩下的都是不一致取值）

什么是最小二乘法：
最小二乘法是一种误差度量方法，一种被优化的问题，在线性最小二乘问题中可以直接求解$x=\left(A^{T} A\right)^{-1} A^{T} b$得到全局最优，但是在非线性最小二乘问题中无法用此方法求解，此时就需要迭代法来求解，比如梯度下降法，牛顿法。