算法分析-动态规划-01背包

 

在M件物品取出若干件放在空间为W的背包里，每件物品的体积为W1，W2……Wn，与之相对应的价值为P1,P2……Pn。求出获得最大价值的方案。

 

注意：在本题中，所有的体积值均为整数。01的意思是，每个物品都是一个整体，要么整个都要，要么都不要。

 

1）最优子结构

 

考虑所有物品的子集合，考虑第n个物品都有两种情况: 1. 包括在最优方案中  2. 不在最优方案中

 

因此，能获得的最大价值，即为以下两个值中较大的那个

 

1) 在剩下 n-1 个物品中(剩余 W 重量可用)的情况能得到的最大价值 (即排除了 第n个物品)

 

2)  第n个物品的价值 加上 剩下   剩下的 n-1 个物品(剩余W- wn的重量)能得到的最大价值。(即包含了第n个物品)

 

如果第n个物品的重量，超过了当前的剩余重量W，那么只能选情况1)， 排除第n个物品。

 

2) 重叠子问题

 

下面是一个递归的实现，按照上面的最优子结构。

 

 

/* 朴素的递归实现  0-1 背包 */
#include<stdio.h>

int max(int a, int b) { return (a > b)? a : b; }

// 返回  前n个物品在容量为W时，能得到的最大价值
int knapSack(int W, int wt[], int val[], int n)
{
   // 没有物品了
   if (n == 0 || W == 0)
       return 0;

   // 如果当前第n个物品超重了，就排除在外
   if (wt[n-1] > W)
       return knapSack(W, wt, val, n-1);

   //返回两种情况下最大的那个 (1) 包括第n个物品 (2) 不包括第n个物品
   else return max( val[n-1] + knapSack(W-wt[n-1], wt, val, n-1),
                    knapSack(W, wt, val, n-1)
                  );
}

// 测试
int main()
{
    int val[] = {60, 100, 120};
    int wt[] = {10, 20, 30};
    int  W = 50;
    int n = sizeof(val)/sizeof(val[0]);
    printf("%d", knapSack(W, wt, val, n));
    return 0;
}

 

这种方法其实就是搜索了所有的情况，但是有很多重复的计算。时间复杂度是指数级的 O(2^n)。

在下面的递归树中 K() 代表 knapSack().  
输入数据如下：
wt[] = {1, 1, 1}, W = 2, val[] = {10, 20, 30}

                       K(3, 2)         ---------> K(n, W)
                   /             
                 /                               
            K(2,2)                  K(2,1)
          /                         /     
        /                         /        
       K(1,2)      K(1,1)        K(1,1)     K(1,0)
       /           /             /   
     /           /             /       
K(0,2)  K(0,1)  K(0,1)  K(0,0)  K(0,1)   K(0,0)

可见相同的子问题被计算多次。01背包满足动态规划算法的两个基本属性(重叠子问题和最优子结构)。可以通过自下而上的打表，存储中间结果，来避免重复计算。动态规划解法如下：

#include<stdio.h>
int max(int a, int b) { return (a > b)? a : b; }

int knapSack(int W, int wt[], int val[], int n)
{
   int i, w;
   int dp[n+1][W+1];

   for (i = 0; i <= n; i++)
   {
       for (w = 0; w <= W; w++)
       {
           if (i==0 || w==0)
               dp[i][w] = 0;
           else if (wt[i-1] <= w)
                 dp[i][w] = max(val[i-1] + dp[i-1][w-wt[i-1]],  dp[i-1][w]);
           else
                 dp[i][w] = dp[i-1][w];
       }
   }
   return dp[n][W];
}

int main()
{
    int val[] = {60, 100, 120};
    int wt[] = {10, 20, 30};
    int  W = 50;
    int n = sizeof(val)/sizeof(val[0]);
    printf("%d", knapSack(W, wt, val, n));
    return 0;
}

 

下面是思路的基本过程

问题的特点是：每种物品一件，可以选择放1或不放0。

用子问题定义状态：即f[i][v]表示前i件物品恰放入一个容量为v的背包可以获得的最大价值。则其状态转移方程便是：

f[i][v]=max{f[i-1][v],f[i-1][v-c[i]]+w[i]}

这个方程非常重要，据说基本上所有跟背包相关的问题的方程都是由它衍生出来的。所以详细的查了一下这个方程的含义：“将前i件物品放入容量为v的背包中”这个子问题，若只考虑第i件物品的策略（放或不放），那么就可以转化为一个只牵扯前i-1件物品的问题。如果不放第i件物品，那么问题就转化为“前i-1件物品放入容量为v的背包中”，价值为f[i-1][v]；如果放第i件物品，那么问题就转化为“前i-1件物品放入剩下的容量为v-c[i]的背包中”，此时能获得的最大价值就是f[i-1][v-c[i]]再加上通过放入第i件物品获得的价值w[i]。

在有的地方看到的背包问题题目中，有两种不太相同的问法。有的题目要求“恰好装满背包”时的最优解，有的题目则并没有要求必须把背包装满。一种区别这两种问法的实现方法是在初始化的时候有所不同。

如果是第一种问法，要求恰好装满背包，那么在初始化时除了f[0]为0其它f[1..V]均设为-∞，这样就可以保证最终得到的f[N]是一种恰好装满背包的最优解。

如果并没有要求必须把背包装满，而是只希望价格尽量大，初始化时应该将f[0..V]全部设为0。

为什么呢？可以这样理解：初始化的f数组事实上就是在没有任何物品可以放入背包时的合法状态。如果要求背包恰好装满，那么此时只有容量为0的背包可能被价值为0的nothing“恰好装满”，其它容量的背包均没有合法的解，属于未定义的状态，它们的值就都应该是-∞了。如果背包并非必须被装满，那么任何容量的背包都有一个合法解“什么都不装”，这个解的价值为0，所以初始时状态的值也就全部为0了。

小结

01背包问题是最基本的背包问题，它包含了背包问题中设计状态、方程的最基本思想，另外，别的类型的背包问题往往也可以转换成01背包问题求解。故仔细体会上面基本思路的得出方法，状态转移方程的意

M件物品取出若干件放在空间为W的背包里，每件物品的体积为W1，W2……Wn，与之相对应的价值为P1,P2……Pn。求出获得最大价值的方案。

注意：在本题中，所有的体积值均为整数。01的意思是，每个物品都是一个整体，要么整个都要，要么都不要。

1）最优子结构

考虑所有物品的子集合，考虑第n个物品都有两种情况: 1. 包括在最优方案中  2. 不在最优方案中

因此，能获得的最大价值，即为以下两个值中较大的那个

1) 在剩下 n-1 个物品中(剩余 W 重量可用)的情况能得到的最大价值 (即排除了 第n个物品)

2)  第n个物品的价值 加上 剩下   剩下的 n-1 个物品(剩余W- wn的重量)能得到的最大价值。(即包含了第n个物品)

如果第n个物品的重量，超过了当前的剩余重量W，那么只能选情况1)， 排除第n个物品。

2) 重叠子问题

下面是一个递归的实现，按照上面的最优子结构。

01	/* 朴素的递归实现  0-1 背包 */

02	#include<stdio.h>

03

04	int max(int a, int b) { return (a > b)? a : b; }

05

06	// 返回  前n个物品在容量为W时，能得到的最大价值

07	int knapSack(int W, int wt[], int val[], int n)

08

{

09

// 没有物品了

10	if (n == 0 || W == 0)

11

return 0;

12

13	// 如果当前第n个物品超重了，就排除在外

14	if (wt[n-1] > W)

15	return knapSack(W, wt, val, n-1);

16

17	//返回两种情况下最大的那个 (1) 包括第n个物品 (2) 不包括第n个物品

18	else return max( val[n-1] + knapSack(W-wt[n-1], wt, val, n-1),

19	knapSack(W, wt, val, n-1)

20

);

21

}

22

23

// 测试

24	int main()

25

{

26	int val[] = {60, 100, 120};

27	int wt[] = {10, 20, 30};

28	int  W = 50;

29	int n = sizeof(val)/sizeof(val[0]);

30	printf("%d", knapSack(W, wt, val, n));

31

return 0;

32

}

这种方法其实就是搜索了所有的情况，但是有很多重复的计算。时间复杂度是指数级的 O(2^n)。

01	在下面的递归树中 K() 代表 knapSack().

02

输入数据如下：

03	wt[] = {1, 1, 1}, W = 2, val[] = {10, 20, 30}

04

05	K(3, 2)         ---------> K(n, W)

06

/

07

/

08	K(2,2)                  K(2,1)

09	/                         /

10	/                         /

11	K(1,2)      K(1,1)        K(1,1)     K(1,0)

12	/           /             /

13	/           /             /

14	K(0,2)  K(0,1)  K(0,1)  K(0,0)  K(0,1)   K(0,0)

可见相同的子问题被计算多次。01背包满足动态规划算法的两个基本属性(重叠子问题和最优子结构)。可以通过自下而上的打表，存储中间结果，来避免重复计算。动态规划解法如下：

01	#include<stdio.h>

02	int max(int a, int b) { return (a > b)? a : b; }

03

04	int knapSack(int W, int wt[], int val[], int n)

05

{

06

int i, w;

07	int dp[n+1][W+1];

08

09	for (i = 0; i <= n; i++)

10

{

11	for (w = 0; w <= W; w++)

12

{

13	if (i==0 || w==0)

14	dp[i][w] = 0;

15	else if (wt[i-1] <= w)

16	dp[i][w] = max(val[i-1] + dp[i-1][w-wt[i-1]],  dp[i-1][w]);

17

else

18	dp[i][w] = dp[i-1][w];

19

}

20

}

21	return dp[n][W];

22

}

23

24	int main()

25

{

26	int val[] = {60, 100, 120};

27	int wt[] = {10, 20, 30};

28	int  W = 50;

29	int n = sizeof(val)/sizeof(val[0]);

30	printf("%d", knapSack(W, wt, val, n));

31

return 0;

32

}

空间复杂度和时间复杂度都为 O(Wn).  由于打表的过程中，计算的当前行只依赖上一行，空间复杂度可以优化为O(W);