zoukankan      html  css  js  c++  java
  • 迁移学习笔记(1)

    对于机器学习我并没有系统学过,一下是一篇论文的笔记。

    机器学习就希望计算机模拟人,可以通过学习不断的改进自己。这对人类是多么大的诱惑。对于机器学习,可以看作是计算机的一个分支,也可看作是应用统计学的通知。

        传统的机器学习是基于统计学习的,而统计学习是基于数理统计的,因此,传统的机器
    学习要求学习的问题必须是服从相同分布的。于是,传统的机器学习只是用以解决相同领域
    内的同一问题,因为,当学习解决服从不同分布的问题时,这就表示学习的环境改变了,统
    计特征也发生了改变,这必然影响机器学习的效果。这种情况下,就需要一种新的机器学习
    方法来克服这种缺陷。

    迁移学习,举个简单的列子,如果你会吹笛子,你会比啥乐器也不会的人更容易学会吹葫芦丝,也就是说,学会吹笛子,对学习吹葫芦丝有帮助,原因是他们有很多共同的基础知识。同样迁移学习,就是通过辅助任务学习来帮助目标任务的实现。就好像你学吹葫芦丝时候可以通过学习笛子来帮助自己,那读者就会问了。为什么我直接学通过吹葫芦丝呢的,虽然学习吹笛子对吹葫芦丝有用,但没必要通过学习吹笛子来学习吹葫芦丝吧。

    我的回答是,任何问题都有特定的前提,这个前提,就是对你资源的限制,如果学吹笛子学费10元一小时,学葫芦丝1万一小时,我想此时很多人就是先学会吹笛子,在学会吹葫芦丝。在机器学习中,我们研究的当前领域数据有限,但该领域的的相关领域数据内容丰富,我们就可以借用相关领域中的数据来帮助我们解决相关任

    迁移学习受人类迁移学习方式的启发,通过研究机器学习问题领域中要迁移什么知识(what)、
    如何迁移(how)、什么时候迁移(how),利用源领域知识对目标领域知识的学习提供高效的学习方法。

    务。

    美国高级研究计划局2005年给出的定义:

    transfer learning emphasizes the transfer of knowledge across domains, tasks, and distributions that are similar but not the same。

    迁移学习的任务:

    1多任务学习

    2 跨领域学习

    3 不同分布的学习

  • 相关阅读:
    C#一些定义
    顺序
    针对IE8的css hack
    js 数字,金额 用逗号 隔开。数字格式化
    Ubuntu下使用Vi是方向键变乱码 退格键不能使用的解决方法
    UBUNTU中如何获得root权限
    区分IE8 、IE9 的专属css hack
    ubuntu 安装 Sublime Text 2
    PHP执行zip与rar解压缩方法
    使用ThinkPHP时,双引号导致插入数据库经过转义的处理
  • 原文地址:https://www.cnblogs.com/hansongjiang/p/3348729.html
Copyright © 2011-2022 走看看