zoukankan      html  css  js  c++  java
  • 迁移学习笔记(1)

    对于机器学习我并没有系统学过,一下是一篇论文的笔记。

    机器学习就希望计算机模拟人,可以通过学习不断的改进自己。这对人类是多么大的诱惑。对于机器学习,可以看作是计算机的一个分支,也可看作是应用统计学的通知。

        传统的机器学习是基于统计学习的,而统计学习是基于数理统计的,因此,传统的机器
    学习要求学习的问题必须是服从相同分布的。于是,传统的机器学习只是用以解决相同领域
    内的同一问题,因为,当学习解决服从不同分布的问题时,这就表示学习的环境改变了,统
    计特征也发生了改变,这必然影响机器学习的效果。这种情况下,就需要一种新的机器学习
    方法来克服这种缺陷。

    迁移学习,举个简单的列子,如果你会吹笛子,你会比啥乐器也不会的人更容易学会吹葫芦丝,也就是说,学会吹笛子,对学习吹葫芦丝有帮助,原因是他们有很多共同的基础知识。同样迁移学习,就是通过辅助任务学习来帮助目标任务的实现。就好像你学吹葫芦丝时候可以通过学习笛子来帮助自己,那读者就会问了。为什么我直接学通过吹葫芦丝呢的,虽然学习吹笛子对吹葫芦丝有用,但没必要通过学习吹笛子来学习吹葫芦丝吧。

    我的回答是,任何问题都有特定的前提,这个前提,就是对你资源的限制,如果学吹笛子学费10元一小时,学葫芦丝1万一小时,我想此时很多人就是先学会吹笛子,在学会吹葫芦丝。在机器学习中,我们研究的当前领域数据有限,但该领域的的相关领域数据内容丰富,我们就可以借用相关领域中的数据来帮助我们解决相关任

    迁移学习受人类迁移学习方式的启发,通过研究机器学习问题领域中要迁移什么知识(what)、
    如何迁移(how)、什么时候迁移(how),利用源领域知识对目标领域知识的学习提供高效的学习方法。

    务。

    美国高级研究计划局2005年给出的定义:

    transfer learning emphasizes the transfer of knowledge across domains, tasks, and distributions that are similar but not the same。

    迁移学习的任务:

    1多任务学习

    2 跨领域学习

    3 不同分布的学习

  • 相关阅读:
    HDU 1501 Zipper(DFS)
    HDU 2181 哈密顿绕行世界问题(DFS)
    HDU 1254 推箱子(BFS)
    HDU 1045 Fire Net (DFS)
    HDU 2212 DFS
    HDU 1241Oil Deposits (DFS)
    HDU 1312 Red and Black (DFS)
    HDU 1010 Tempter of the Bone(DFS+奇偶剪枝)
    HDU 1022 Train Problem I(栈)
    HDU 1008 u Calculate e
  • 原文地址:https://www.cnblogs.com/hansongjiang/p/3348729.html
Copyright © 2011-2022 走看看