zoukankan      html  css  js  c++  java
  • 算法课堂笔记2—分治算法

    第二章 分治算法 


    1. 分治算法的原理

    分治法的基本思想是将一个规模为N的问题分解为K个规模较小的子问题,这些子问题相互独立且与原问题性质相同。递归地解这些子问题,然后将各子问题的解合并得到原问题的解。

    分治法所能解决的问题一般具有以下几个特征(这部分参考了这篇博文http://blog.csdn.net/com_stu_zhang/article/details/7233761):

        1) 该问题的规模缩小到一定的程度就可以容易地解决

        2) 该问题可以分解为若干个规模较小的相同问题,即该问题具有最优子结构性质

        3) 利用该问题分解出的子问题的解可以合并为该问题的解;

        4) 该问题所分解出的各个子问题是相互独立的,即子问题之间不包含公共的子子问题。

    第三条特征是关键,能否利用分治法完全取决于问题是否具有第三条特征,如果具备了第一条和第二条特征,而不具备第三条特征,则可以考虑用贪心法或动态规划法

    第四条特征涉及到分治法的效率,如果各子问题是不独立的则分治法要做许多不必要的工作,重复地解公共的子问题,此时虽然可用分治法,但一般用动态规划法较好。 

    分治法的分析过程:

    即总共的复杂度=划分为多个子问题的复杂度+求解各个子问题的复杂度+合并子问题的复杂度,用这个便可以建立递归方程,再利用上一章和的估计与界限中的第三种方法:递归方程 便可以得到时间复杂度了,当然也可以套用主定理。


    2. 使用分治法解决的一些经典问题

    (1)归并排序

     

    归并排序的分治策略是将整个n个数分为左边,右边各一半,每个部分归并排序的时间复杂度为T(n/2),总共有两部分,所以求解子问题的复杂是2T(n/2)。划分子问题不需要什么多余的操作计算,直接取左右部即可,所以忽略不计。至于合并子问题操作,是将左部排好序的n/2个数和右部排好序的n/2个数合并成一个有序的数组,归并排序的合并步是比较二个数列的第一个数,谁小就先取谁,取了后就在对应数列中删除这个数。然后再进行比较,如果有数列为空,那直接将另一个数列的数据依次取出即可,可以看出合并有序数列的效率是比较高的,可以达到O(n)。所以整个归并排序的时间复杂度T(n)=2T(n/2)+O(n),有了递归方程,套用主定理:

    这里的的f(n)的阶是O(n), a=2, b=2, 是n,所以,则立即推出归并排序的时间复杂度是:Θ (nlogn) ,不过这里我有个疑问就是:按照主定理结果是Θ (nlogn),但是我网上搜了下归并排序的时间复杂度结果都是O(nlogn),归并排序的最好、最坏和平均时间复杂度都是O(nlogn),不过我看一般的书算时间复杂度是只用到了 O 记号,Ω 和 Θ 几乎没用过。。。。。 还有就是上一章讲到复杂函数的阶的时候,ppt把T(n)=Θ(f(n)) 定义为 “给出了算法时间复杂度的上界和下界”,意思就是如果T(n)=Θ(f(n)) 那就可以推出T(n)=O(f(n))和T(n)=Ω(f(n))?。。。。。是这样的么?拿不准啊。。。希望有大佬帮我答疑解惑下,感激不尽。

    2017/1/6 今天看了算法导论,明白了这个问题,根据第28页的定理3.1: 对任意两个函数f(n)和g(n), 我们有f(n)=Θ(g(n)), 当且仅当f(n)=O(g(n))且f(n)=Ω(g(n)). 验证了我的想法


     (2)找最大值

     

    为什么总比较次数是n-1呢?很简单,上面是个二叉树结构,每个数节点会比较一次,比较次数是树的节点数,最下层应该有 n/2 个叶节点,对于二叉树来说,叶子节点数=度为2的节点数+1,所以推出度为2的节点的数量是 n/2-1, 所以上面的整个树共有n/2+n/2-1=n-1个节点, 即共有n-1次大小的比较。


    (3)折半搜索

      


    (4)大整数乘法

    其中需要理解的是这个是怎么来的,AC,AD,BC,BD这四象都是n/2位数乘n/2位数,所以总共的复杂度是4T(n/2),AD+BC 二进制整数和二进制整数想加,一位一位的加,故复杂度是Θ(n)。


    (5)矩阵乘法

     

    n/2*n/2的矩阵共有n/2*n/2=n2/4个元素,那么矩阵之间的加减操作的复杂度便是Θ(n2)


    (6)快速排序


    (7)求第k小元素

     

    怎么理解这个呢?画一副图就知道了:

    一列表示一组5个数,取中间的一组数,再取这组数的第M/2小的元素m,图上画的把中间这组数排好序了,那么大于m的数至少有图中圈的那么多,因为最后一组可能不足3个,以及m所在的那组下面只有两个(m不能算在内了),所以这里排除了最后一列和中间那一列。那么我们继续:

    即求第k小元素总的时间复杂度 = 将整个数组划分为n/5(向上取整)并每组排序的时间复杂度O(n)+从每组第3个元素构成的数组M中寻找m的时间复杂度T(n/5)+Conquer的时间复杂度T((7n/10)+6)

    (8)堆排序

    这个理解起来比较容易,pass掉,记住时间复杂度是O(nlogn)


    (9)最近点对

    在二维平面上的n个点中找距离最近的两个点,输入是一系列的点,输出距离最近的两个点

          

    好难理解。。。。。。,难点是在于如何理解在临界区查找距离小于d的点对这块,烦烦烦。还是一步步来分析吧:

    思考路径:将所有的点按照x坐标值和y坐标值排序——>按照x轴分成大小相等的两个子集合——>递归地找这两个子集合中的最近点对,设为d

           现在问题就是:最近点对有可能是横跨左右两个集合的,在左集合和右集合各取一点所得到的点对,其中最小的距离能够小于d的话,那么这个点对便是整个点集合的最近点对了。所以现在按照x轴的中间线往左往右各推d距离(任何一边不可能大于d,否则大于d的那部分的点到右集合的距离肯定是大于d的)。

    现在有一个理解的关键点:如果在左部任取一点pl,假设在右部能找到和它距离小于d的点qr,那么应该满足两个条件:

    1. pl和qr的距离小于d                              2. 因为d是左右两部分的最近点对的距离,所以右部任何两个点的距离都不可能小于d,即qr和它所在的那个区间的所有点的距离都不小于d

    由上述可以推出对于左部的点pl,满足上述两个条件的的点在右部最多只有6个。现在来解释这个:对于左部的任意一点pl,与它构成距离小于d的右部的点一定是落在矩形R中(p为圆心,d为半径作圆,再取极端情况pl落在中位分割线上即可得此结论)。将矩形R的长为2d的边3等分,长为d的边2等分), 由此导出6个(d/2)x(2d/3)的矩形:

    现在利用鸽舍原理,原理1: 把多于n+1个的物体放到n个抽屉里,则至少有一个抽屉里的东西不少于两件。假设矩形R中有多于6个点,那么6个矩形中至少有一个有2个以上的点,假设u,v是位于同一小矩形中的的2个点,则

    即distance(u,v)<=5d/6<d. 这与d的意义相矛盾,由此反证推出矩形R中最多只能有6个点。解决了这个,现在的问题是如何找这6个点呢?将左部的点pl和右部所有的点投影到垂线上(中位分割线)上,由于能与点pl一起构距离小于d的点一定在矩形R中,所以他们在上的投影点距pl在上投影点的距离小于d。由上面的分析可知这种投影点最多只有6个,因此,若将左部和右部中所有的点按照其y坐标排好序,对左部中的所有点,对排好序的点列做一次扫描,就可以找出所有最近点对的候选者。对左部中的每一点最多只要检查右部中排好序的相继6个点。

    分治法求最近点对的时间复杂度:

    (10)快速傅立叶变换

     ppt这块完全看不明白。。。。。。汗啊。。。。 上课不认真听的后果ToT。时间复杂度是nlogn


    (11)寻找凸包

    找到最下最左顶点,其他顶点与它连线,按夹角从小到大排序,夹角最小的开始寻找凸包点。

    可以看到这里连线是有讲究的,如果与与下一顶点的连线在上一连线的右侧(如p2到p3),那么就删除和下一顶点的连线上一连线,将上一点(如p1)直接和下一点连接起来,再作如此判断。这就是Graham-scan的基本思想。总的时间复杂度是O(nlogn)。现在怎么利用分治法来解决寻找凸包问题呢?

    分治法寻找凸包的平均时间复杂度是O(nlogn),最坏情况是O(n2)。注意这里递归划分自区间,每次找的是距离划分直线最远的点。


    3. 平衡的概念

    关于小节的总结就是:在使用分治法和递归时要尽量把问题分成规模相等,或至少是规模相近的子问题,即平衡。

  • 相关阅读:
    pgpoolII3.1 的内存泄漏(二)
    iOS 开发的一些网址
    ios开发必备第三方库
    iOS截屏方法
    ios开发第三方库cocoapods安装
    iOS开发知识点总结
    iOS开发文件夹Copy items if needed
    iOS开源库最全的整理
    iOS图标抖动效果
    iOS 加密的3种方法
  • 原文地址:https://www.cnblogs.com/f91og/p/6240272.html
Copyright © 2011-2022 走看看