人工智能学习笔记

绪论

• 三次潮起潮落
  • 第一波1956-1960
    • 算法萌芽，硬件算力不足
    • 逻辑推论，迷宫问题
  • 第二波1985-1990
    • 专家系统
    • 硬件算力还是不足，对于本质不理解，经验不足
    • 模仿人类专业领域识别
  • 第三波2010
    • 大数据下的机器学习
    • 特征撷取，海量数据
• 超人工智能
  通用人工智能、自我人工智能、创人工智能
  没有可以主动预期规划或者完成预测
• 人工智能研究切入角度
  跨领域交叉研究

人工智能技术-确定性知识系统

• 确定性知识系统

  • 状态空间法
    • 状态：为描述不同事物间差别而引入的一组最少变量的有序集合
    • 算符：从一种状态变化为另一种状态的手段
    • 状态空间：一个表示包含该问题全部可能状态及其关系的图或内容
    • 十五数码难题
  • 三元状态（S,F,G）
    你要如何在有橘子的一麻袋苹果汇总找出橘子来？
    状态？算符？状态空间？前提？

• 问题归约法
  对于要解决的问题实行逆向思维，从初始问题建立子问题以及子问题的子问题，而该等子问题称为本源问题，找出一个平凡的本源问题集合，就是问题归约表示法。
  个人理解：就是借用逆向思维的方式来找到问题的本源问题

  • 三步骤
    • 一个初始问题描述
    • 一套把问题变为子问题的操作符
    • 一套本源问题描述
  • 问题归约表示的图形化表示：与或树图

• 确定性知识表示方式及输入
  确定性知识推理方法

  • 谓词逻辑标记法

    • 用以描述事物的状态、位置及动作
    • 让知识系统自身与表达获得能以理性逻辑式运作的操作性
      

  • 产生式表示法

  • 语义网络表示法
    语义网络是一种仿效自然语言理解系统的做法，将实体由语义关联方式连接建立。

    • 语义关系基本类型
      • 实例关系：ISA（IS.....A）
        • 具体与抽象
      • 分类关系：AKO（... IS A KIND OF）
        • 子类与超类
      • 成员关系：A-Member-of（... IS A MEMBER OF ...）
        • 个体与集体
      • 属性关系：（HAVE,CAN）
        • 有 HAVE 事物连接事物
        • 能、会 CAN 事物连接动作
      • 包含关系：（PART OF）
        • 部分与整体
        • 内在部分与外在部分
      • 时间关系：（TIME SQUENCE）
        • 时间次序（BEFORE、AFTER）
      • 位置关系：（SPACE LOCATION）
        • 空间位置
      • 相似关系：（SIMILAR TO,NEAR TO）
        • 外在、内部性质距离

人工智能技术-搜索

• 搜索类型

  • 按照是否使用启发式信息
    • 盲目式搜索
    • 启发式搜索
  • 按问题的表示方式
    • 状态空间搜索
    • 与或树搜索

• 状态空间问题求解

  • 状态
  • 操作
  • 状态空间：SFG表示法
    • S：初始/现在状态集合
    • F：操作集合
    • G：目标状态集合
  • 求解做法
    • 从初始状态出发，每次使用一个操作建立顺序及记录每次操作后的状态作为下次操作的起始状态，直到目标状态
    • 一个问题的解：从初始状态到目标状态过程中的算符序列

• 问题归约求解

  • 把一个问题分解成一组子问题，仅当这一组的问题都有解时才表明原问题有解（等价变换）

• 盲目策略式搜索

  • 广度优先搜索BFS
    • 每次只扩展一次
    • 队列的形式，按照顺序
  • 深度优先搜索DFS
    • 栈，后进先出
  • 贝尔曼-福特算法

• 启发策略搜索

  • 概念

    • 启发信息：线索
    • 估价函数：用来估计节点的重要性
      • 约束经过节点N到达目标节点Sg的所有路径中的最小路径估计值
      • f(n)=g(n) or f(n)=g(n)+h(n)
      • g(n)是从初始节点s0到节点n的实际代价
      • h(n)是从节点n到目标节点Sg的最优路径的估计代价

  • DJ斯特拉算法

  • 贪婪最佳优先搜寻

    • 每次挑选的都是距离目标最近的

  • A算法与A*搜寻

  • 与树/或树式启发搜索

    • 希望树扩展

      最优希望成为最优解树一部分的树状结构，使用作为搜索解中的依据，并且在搜索过程中自身可能不断变化。

      扩展方式：同时扩展两层，选定希望树基础

      ​ ppt4 74-78

  • 博弈树式启发搜索概述

    • α-β剪枝
      • 当α>=β时候执行剪枝操作
      • α初值为-∞，与max挂钩
      • β初值为+∞，与min挂钩

人工智能技术-计算智能

• 概述
  • 什么是计算智能？
    • 拥有处理数据能力的系统，含有模式识别部件，虽然不一定有使用符合人工智能定义的知识，但由于计算功能具有计算适应性、计算容错率、接近人对结果的计算速度、近似人对结果的误差率的四个特性，可以称得上是具有计算智能。
  • 计算智能是人工智能的核心
• 人工神经网络
  • 按网络拓扑结构分类
    • 前馈网络
      • 单层前馈网络
      • 多层前馈网络
    • 反馈网络
      • Hopfiedld网络
      • 循环式网络
  • 按学习方法分类
    • 有监督指导
    • 无监督指导
  • 按网络性能分类
    • 连续型网络
    • 离散型网络
  • 人工神经网络模型的使用
    • 感知器（MP）
      • 感知器可视为输出对输入状态分类成有或无
    • 学习器（BPNN）
      • 具有为使得网络获得更佳的输出结果而改变自身网络内容的能力
      • 正向为输出传递，反向为调适传递
      • 倒传递人工神经网络
    • 记忆器（HNN）
      • 离散Hopfield网络在运行中，其能量函数总是在不断降低的，最终趋于稳定状态。
• 进化计算
  • 生物进化论和遗传论概略认知
    • 遗传
      • 亲代把生物信息交给子代
      • 子代和亲代具有相同或者相似的形状
    • 变异
      • 亲代和子代之间以及子代的不同个体之间总有差异，这种现象称为变异，随机发生
    • 生存斗争和适者生存
    • 遗传算法基于自然选择的生物进化，是一种模仿生物进化过程的包含随机演变效应的方法
  • 进化计算基本过程概述
    • 一定数目N个个体随机进行初始化，并且计算每个个体的适应度函数
    • 按照适应度来选择个体，父代要求基因重组而产生子代。所有子代按一定概率变异
    • 子代适应度重新计算，子代被插入到种群中并将父代替换，构成新的一代，如此循环往复，直到满足优化准则为止。
  • 进化计算基本原理
    • 遗传算法定义
    • 关键技术

      • 编码问题

        • 二进制编码、浮点数编码、符号编码、多参数编码、可变常染色体编码等

      • 初始种群的产生

        • 若无任何参考，使用随机产生样本
        • 若有参考，可将这些先转变为必须满足的一组要求，然后再这些满足要求的解中随机选取样本

      • 确定适应值函数

      • 选择遗传操作操作数

        • 操作数
          • 选择操作数
          • 交叉操作数
          • 变异操作数
        • 选择运算
          • 用来确定重组或者交叉的个体，以及被选个体将产生多少个子代个体
          • 选择的依据是计算适应度
            • 轮盘赌选择
            • 随机遍历抽样
            • 局部选择等

      • 停机条件

        • 最常用的条件是规定遗传的代数，即迭代次数
        • 当遗传算法用来产生新的规则时
          • 子代种群的规则与其父代完全相同，并且各规则的适应值已连续M次保持不变。也就是说，当前工作种群已不再进化了。其中，M是根据不同的应用情况事先设置的一个参数。

      • 轮盘赌选择演算方式

        • 个体被选择的概率计算方法：P=个体适应度/适应度总和

        • 累计概率：取0-1区间，通过累加概率得到

          如：1的选择概率为0.2,2的选择概率为0.4

          则1的累计概率为0.2（0+0.2），2的累计概率为0.6（0.2+0.4）

        • 先用rand()产生一个[0.1之间的]随机数，看看它落在了那个区间，就对应选择哪个个体，例如：这个随机数为0.02，那么个体1就被选中；如果为0.2，则个体2被选中；以此类推

      • 交叉或基因重组计算

        • 杂交率

          用来确定2个染色体进行局部的位(bit)的互换以产生2个新的子代的概率

        • 方法

          • 每一次，从群体中选择 2个染色体，同时生成其值在0到1之间一个随机数，然后根据此数据的值来确定两个染色体是否要进行杂交。
          • 如果数值低于杂交率(0.7)就进行杂交，然后沿着染色体的长度随机选择一个位置，并把此位置后面所有的位进行互换。

      • 遗传算法-交叉运算

        • 单点交叉
          • 配对
          • 选择交叉点位置，后面的互换

      • 遗传算法-变异运算

        • 1.首先确定出各个个体的基因变异位置，下表所示为随机产生的变异点位置，其中的数字表示变异点设置在该基因座处；
        • 2.然后依照某一概率将变异点的原有基因值取反。
  • 模糊计算
    • 模糊计算是以模糊集合与模糊逻辑为主要的数学理论基础
    • 先将问题模糊化适应，然后以模糊化的方式进行问题处理并得到结果，最终将结果以解模糊化手段完成明确表示