zoukankan      html  css  js  c++  java
  • Pytorch-神经网络和数据

    Pytorch数据

    【Pytorch】输入数据

    输入数据
     PyTorch训练管道都以 Dataset 类开始。它负责提供数据样本。任何必要的数据转换和扩充都可
       离线预处理所有内容  渐进式学习时,你可以以多种分辨率保存训练数据的,这还是比线上调至目标分辨率更快
     PyTorch 使用一个 DataLoader 类来简化用于训练模型的批处理过程
    

    【Pytorch】中间数据

    提取网络对数据如数据的特征
    提取网络本身的参数
    获取模型执行详情
    提取网络参数
     提取网络对数据如数据的特征
      获取神经网络的任意一层的输出
      获取神经网络某一层得到的结果作为特征进行处理
      大概可以有几种解决方法:
     
      重复写模型,
           直接拷贝源码整理成自己的model文件使用-模型不是很复杂的时候;
      用hook钩子函数
          使用 hook,我们可以提取特征,而不需要重新创建现有模型或以任何方式修改它
     	  1. 定义一个对feature进行处理的函数,比如叫hook_fun
           2. 注册hook:告诉模型,我将在哪些层使用hook_fun来处理feature
     	  
     	  nn.Module.register_forward_hook
     	  nn.Module.register_backward_hook
     重写forward方法 
    

    【Pytorch】结果数据

     模型给出的结果
    

    Pytorch模型

    预训练模型

    预训练模型的修改
     参数修改
    增减卷积层
        修改网络中的层次结构,
    	   即自己先定义一个类似的网络,再将预训练中的参数提取到自己的网络中来
    

    自定义模型

    【Pytorch】
       标准损失函数
        torch.nn.MSELoss()
        编写自定义损失函数 
       把训练好的权重加载到自己建立的子网络里面
    

    时间

    金钱和时间都是资源,二者的均衡利用是成功的关键
     时间: 缓急  
              时间按其紧迫性和重要性
               重要性与目标有关
    		增加和减少时间
    		   减少浪费,
    		   必须想办法提高学习/工作效率
    		时间观念和时间管理
    		  时间记录: 时间去向的可视化
    		  时间管理从某种程度来说,是对
    		  选择的管理。
    

    参考

  • 相关阅读:
    自定义checkbox样式
    自定义select样式
    jsonp
    I/O复用 poll简介
    DOS和DDOS攻击
    TCP状态转换图解析
    Makefile入门
    I/O复用select 使用简介
    替换文本内容
    share memory
  • 原文地址:https://www.cnblogs.com/ytwang/p/15242097.html
Copyright © 2011-2022 走看看