zoukankan      html  css  js  c++  java
  • Dynamic Filter Networks

    传统的卷积网络, filter在训练后一般是恒定不变的, 相反, 这篇中引入了动态filter网络的概念, 根据输入条件动态的产生filer, 使得filter具有了自适应的能力,

    包括两个部分:滤波器产生网络和 动态滤波层 这两个部分的输入可以相等或者不相等

     其中需要指出的包括两个部分:

    1. 模型参数(model parameters): 模型参数表示只在训练过程中被更新,在预先被初始化的层参数, 对于所有的样本都是相同的,

    2. 动态产生参数(dynamically generated parameters) :是由样本所决定的, 是动态生成的,不需要初始化. filter-generating 网络输出动态产生参数

    , 同时该网络还是有一部分的模型参数.

    Filter-Generating Network

    filter-generating 网络的输入是$I_{A} in mathbb{R}^{h imes w imes c_{A}}$,  输出参数$Theta in mathbb{R}^{s imes s imes c_{B} imes n imes d}$ 其中 s是filter的大小, $C_{B]$是输入B的通道数. n 是filter的个数, 动态卷积d = 1,动态局部滤波d = h*w.

    这个滤波器被应用于输入$I_{B} in mathbb{R}^{h imes w imes c_{B}}$ 产生输出 $G= F_{ heta}(I_{B})$, 其中

    $G in  mathbb{R}^{h imes w imes n}$

    } $, 过滤器大小s决定接受域,根据应用选择合适的s, 感知域的大小能够通过堆叠多个动态filter 模块进行增加:

    $G(i,j) = F_{ heta}(I_{B}(i,j))$

     如图所示为动态卷积的过程,

  • 相关阅读:
    19. 各种提权姿势总结
    18. 各种数据库查询基础
    Kafka——分布式消息系统
    跳表
    Linux的io机制
    Make命令
    ElasticSearch之二——集群
    ElasticSearch之一——索引
    Scribe日志收集工具
    Thrift 的原理和使用
  • 原文地址:https://www.cnblogs.com/ChenKe-cheng/p/11899444.html
Copyright © 2011-2022 走看看