- neurally-inspired
- biologically-inspired
1. CNN:biologically-inspired
CNN(Convolutional Neural Networks)是受生物学启发(biologically-inspired)的多层感知器(MLP)的变体(variant)。
科研人员在对猫的视觉皮层(visual cortex)的研究中发现,视觉皮层中的细胞其实具有着十分复杂的排列。这些细胞只对 visual field 的一个小的子区域敏感,这片小的子区域称为 receptive field。这些小的子区域(small sub-regions)将会最终拼接覆盖在整个的可视区域(visual field)上。
也即这些感光细胞其实仅对于较小的子区域比较敏感,其行为恰恰就像在整个输入空间的局部滤波器,进一步我们可探究自然图像中其实具有极强的空间上的局部相关性。
2. Motivation:问题的提出,到问题的解决
找到原始模型,或算法的缺陷 ,也即找到待解决的问题,就可以视为一种 motivation,
- GMM、KMeans 模型和算法参数的确定
- 不存在解析解的情况下,如何求出最优解:
- 迭代,iteration,
Θ(n+1):=f(Θn)
- 迭代,iteration,