算法是解决特定问题求解步骤的描述,在计算机中表现为指令的有限序列,并且每条指令表示一个或多个操作。
算法(Algorithm)这个单词最早出现在波斯数学家阿勒·花刺子密在公元825年(相当于中国的唐朝时期)所写的《印度数字算术》中。
2.1 算法的特性
算法具有5个基本特性:输入、输出、有穷性、确定性和可行性。
2.1.1 输入输出
算法具有零个或多个输入。
算法至少有一个或多个输出。
2.1.2 有穷性
算法在执行有限的步骤之后,自动结束而不会出现无限循环,并且每一个步骤在可接受的时间内完成。
2.2.3 确定性
算法的每一步骤都具有确定的含义。
2.2.4可行性
算法的每一步都必须是可行的,也就是说,每一步都能够通过执行有限次数完成。
2.2 算法设计的要求
2.2.1 正确性
算法的正确性是指算法至少应该具有输入、输出和加工处理无歧义性、能正确反映问题的需求、能够得到问题的正确答案。
分为四个层次(层次4验证复杂,代价较高,一般情况下以层次3为判断算法是否正确的标准):
1.算法程序没有语法错误。
2.算法程序对于合法的输入数据能够产生满足要求的输出结果。
3.算法程序对于非法输入数据恩能够得出满足规格说明的结果。
4.算法程序对于精心选择的,甚至刁难的测试数据都有满足要求的输出结果。
2.2.2 可读性
算法设计的另一个目的是为了便于阅读、理解和交流。
2.2.3 健壮性
当输入数据不合法时,算法也能做出相关处理,而不是产生异常或莫名其妙的结果。
2.2.4 时间效率高和存储量低
设计算法应该尽量满足时间效率高和存储量低的需求。
2.3 算法效率的度量方法
2.3.1 事后统计方法
通过设计好的测试程序和数据,利用计算机计时器对不同算法编制的程序的运行时间进行比较,从而确定算法效率的高低。
缺陷有3:
1.必须依据算法事先编制好程序,代价较高。
2.时间的比较依赖计算机硬件和软件等环境因素,有时会掩盖算法本身的优劣。
3.算法的测试数据设计困难,并且程序的运行时间往往还与测试数据的规模有很大关系,效率高的算法在小的测试数据面前往往得不到体现。
2.3.2 事前分析估算方法
在计算机程序编制前,依据统计方法对算法进行估算。
抛开与计算机硬件、软件有关的因素,一个程序的运行时间,依赖于算法的好坏和问题的输入规模。
在分析程序的运行时间时,最重要的是把程序看成是独立于程序设计语言的算法或一系列步骤。
2.4 函数的渐近增长
给定两个函数f(n)和g(n),如果存在一个整数N,使得对于所有的n>N,f(n)总是比g(n)大,那么我们说f(n)的增长渐近快于g(n)。
加法常数与其他次要项一般都可以忽略,更应该关注主项(最高阶项)的阶数。
某个算法,随着n的增大,它会越来越优于另一算法,或者越来越差于另一算法。这其实就是事前估算方法的理论依据,通过算法时间复杂度来估算算法时间效率。
2.4 算法时间复杂度
2.4.1 算法时间复杂度的定义
在进行算法分析时,语句总的执行次数T(n)是关于问题规模n的函数,进而分析T(n)随n的变化情况并确定T(n)的数量级。算法的时间复杂度,也就是算法的时间量度,记作:T(n) = O(f(n))。它表示随问题规模n的增大,算法执行时间的增长率和f(n)的增长率相同,称作算法的渐进时间复杂度,简称为时间复杂度。其中f(n)是问题规模n的某个函数。
这样用大写O()来体现算法时间复杂度的记法,我们称之为大O记法。
一般情况下,随着n的增大,T(n)增长最慢的算法为最优算法。
常见的三种算法的时间复杂度有:
O(1) 常数阶
O(n) 线性阶
O( n2) 平方阶
2.4.2 推导大O阶方法
推导大O阶:
1.用常数1取代运行时间中的所有加法常数。
2.在修改后的运行次数函数中,只保留最高阶项。
3.如果最高阶存在且不是1,则去除与这个项相乘的常数。
得到的结果就是大O阶。
2.4.3 常数阶
用常数1取代运行时间中的所有加法常数。
单纯的分支结构,其时间复杂度也是O(1)
2.4.4 线性阶
关键是分析循环结构的运行情况。
2.4.5 对数阶
2.4.6 平方阶
循环嵌套
O( n2)
O( m×n)
2.5 常见的时间复杂度
常见的时间复杂度所耗费的时间从小到大依次是:
2.6 最坏情况与平均情况
最坏情况
平均情况运行时间是所有情况中最有意义的,因为它是期望的运行时间。
一般在没有特殊说明的情况下,都是指最坏时间复杂度。
2.7 算法空间复杂度
算法的空间复杂度通过计算算法所需的存储空间实现,算法空间复杂度的计算公式记作:S(n) = O(f(n)),其中,n为问题的规模,f(n)为语句关于n所占存储空间的函数。