zoukankan      html  css  js  c++  java
  • 赫夫曼编码码(Huffman Coding)

    基本介绍

    1) 赫夫曼编码也翻译为

    哈夫曼编码(Huffman Coding),又称霍夫曼编码,是一种编码方式, 属于一种程序算法

    2) 赫夫曼编码是赫哈夫曼树在电讯通信中的经典的应用之一。

    3) 赫夫曼编码广泛地用于数据文件压缩。其压缩率通常在 20%~90%之间

    4) 赫夫曼码是可变字长编码(VLC)的一种。Huffman 于 1952 年提出一种编码方法,称之为最佳编码

    通信领域中信息的处理方式 -赫夫曼编码

    传输的 字符串

    1) i like like like java do you like a java

    2) d:1 y:1 u:1 j:2 v:2 o:2 l:4 k:4 e:4 i:5 a:5

     :9 // 各个字符对应的个数

    3) 按照上面字符出现的次数构建一颗赫夫曼树, 次数作为权值

    步骤:

    构成赫夫曼树的步骤:

    1) 从小到大进行排序, 将每一个数据,每个数据都是一个节点 , 每个节点可以看成是一颗最简单的二叉树

    2) 取出根节点权值最小的两颗二叉树

    3) 组成一颗新的二叉树, 该新的二叉树的根节点的权值是前面两颗二叉树根节点权值的和

    4) 再将这颗新的二叉树,以根节点的权值大小 再次排序, 不断重复 1-2-3-4 的步骤,直到数列中,所有的数据都被处理,

    就得到一颗赫夫曼树

    4) 根据赫夫曼树,给各个字符,规定编码 (前缀编码), 向左的路径为 0 向右的路径为 1 , 编码

    如下:

    o: 1000

    u: 10010 d: 100110 y: 100111 i: 101

    a : 110

    k: 1110

    e: 1111

    j: 0000

    v: 0001

    l: 001

    : 01

    5) 按照上面的赫夫曼编码,我们的"i like like like java do you like a java"

    字符串对应的编码为 (注

    意这里我们使用的无损压缩)

    10101001101111011110100110111101111010011011110111101000011000011100110011110000110

    01111000100100100110111101111011100100001100001110 通过赫夫曼编码处理 长度为 133

    6) 长度为 : 133

    说明:

    原来长度是 359 , 压缩了 (359-133) / 359 = 62.9%

    此编码满足前缀编码, 即字符的编码都不能是其他字符编码的前缀。不会造成匹配的多义性

    赫夫曼编码是无损处理方案

    注意事项

    注意, 这个赫夫曼树根据排序方法不同,也可能不太一样,这样对应的赫夫曼编码也不完全一样,但是 wpl

    一样的,都是最小的, 最后生成的赫夫曼编码的长度是一样,比如: 如果我们让每次生成的新的二叉树总是排在权

    值相同的二叉树的最后一个,则生成的二叉树为:

    最佳实践-数据压缩(创建赫夫曼树)

    将给出的一段文本,比如 "i like like like java do you like a java" , 根据前面的讲的赫夫曼编码原理,对其进行数

    据压缩处理,形式如"1010100110111101111010011011110111101001101111011110100001100001110011001111000011001111000100100100

    110111101111011100100001100001110

    根据赫夫曼编码压缩数据的原理,

    需要创建 "i like like like java do you like a java" 对应的赫夫曼树.

    1) 生成赫夫曼树对应的赫夫曼编码 , 如下表:

    =01 a=100 d=11000 u=11001 e=1110 v=11011 i=101 y=11010 j=0010 k=1111 l=000 o=0011

    2) 使用赫夫曼编码来生成赫夫曼编码数据 ,即按照上面的赫夫曼编码,将"i like like like java do you like a java"

    字符串生成对应的编码数据, 形式如下.

    10101000101111111100100010111111110010001011111111001001010011011100011100000110111010001111001010

    00101111111100110001001010011011100

    使用赫夫曼编码来解码数据,具体要求是

    1) 前面我们得到了赫夫曼编码和对应的编码

    byte[] , 即:[-88, -65, -56, -65, -56, -65, -55, 77

    , -57, 6, -24, -14, -117, -4, -60, -90, 28]

    2) 现在要求使用赫夫曼编码, 进行解码,又

    重新得到原来的字符串"i like like like java do you like a java"

    文件压缩

    我们学习了通过赫夫曼编码对一个字符串进行编码和解码, 下面我们来完成对文件的压缩和解压, 具体要求:

    给你一个图片文件,要求对其进行无损压缩, 看看压缩效果如何。

    1) 思路:读取文件-> 得到赫夫曼编码表 -> 完成压缩

    文件解压(文件恢复)

    具体要求:将前面压缩的文件,重新恢复成原来的文件。

    1) 思路:读取压缩文件(数据和赫夫曼编码表)-> 完成解压(文件恢复)

    
    import java.io.FileInputStream;
    import java.io.FileOutputStream;
    import java.io.InputStream;
    import java.io.ObjectInputStream;
    import java.io.ObjectOutputStream;
    import java.io.OutputStream;
    import java.util.ArrayList;
    import java.util.Arrays;
    import java.util.Collections;
    import java.util.HashMap;
    import java.util.List;
    import java.util.Map;
    
    public class HuffmanCode {
    
    	public static void main(String[] args) {
    		
    		//测试压缩文件
    //		String srcFile = "d://Uninstall.xml";
    //		String dstFile = "d://Uninstall.zip";
    //		
    //		zipFile(srcFile, dstFile);
    //		System.out.println("压缩文件ok~~");
    		
    		
    		//测试解压文件
    		String zipFile = "d://Uninstall.zip";
    		String dstFile = "d://Uninstall2.xml";
    		unZipFile(zipFile, dstFile);
    		System.out.println("解压成功!");
    		
    		/*
    		String content = "i like like like java do you like a java";
    		byte[] contentBytes = content.getBytes();
    		System.out.println(contentBytes.length); //40
    		
    		byte[] huffmanCodesBytes= huffmanZip(contentBytes);
    		System.out.println("压缩后的结果是:" + Arrays.toString(huffmanCodesBytes) + " 长度= " + huffmanCodesBytes.length);
    		
    		
    		//测试一把byteToBitString方法
    		//System.out.println(byteToBitString((byte)1));
    		byte[] sourceBytes = decode(huffmanCodes, huffmanCodesBytes);
    		
    		System.out.println("原来的字符串=" + new String(sourceBytes)); // "i like like like java do you like a java"
    		*/
    		
    		
    		
    		//如何将 数据进行解压(解码)  
    		//分步过程
    		/*
    		List<Node> nodes = getNodes(contentBytes);
    		System.out.println("nodes=" + nodes);
    		
    		//测试一把,创建的赫夫曼树
    		System.out.println("赫夫曼树");
    		Node huffmanTreeRoot = createHuffmanTree(nodes);
    		System.out.println("前序遍历");
    		huffmanTreeRoot.preOrder();
    		
    		//测试一把是否生成了对应的赫夫曼编码
    		Map<Byte, String> huffmanCodes = getCodes(huffmanTreeRoot);
    		System.out.println("~生成的赫夫曼编码表= " + huffmanCodes);
    		
    		//测试
    		byte[] huffmanCodeBytes = zip(contentBytes, huffmanCodes);
    		System.out.println("huffmanCodeBytes=" + Arrays.toString(huffmanCodeBytes));//17
    		
    		//发送huffmanCodeBytes 数组 */
    		
    		
    	}
    	
    	//编写一个方法,完成对压缩文件的解压
    	/**
    	 * 
    	 * @param zipFile 准备解压的文件
    	 * @param dstFile 将文件解压到哪个路径
    	 */
    	public static void unZipFile(String zipFile, String dstFile) {
    		
    		//定义文件输入流
    		InputStream is = null;
    		//定义一个对象输入流
    		ObjectInputStream ois = null;
    		//定义文件的输出流
    		OutputStream os = null;
    		try {
    			//创建文件输入流
    			is = new FileInputStream(zipFile);
    			//创建一个和  is关联的对象输入流
    			ois = new ObjectInputStream(is);
    			//读取byte数组  huffmanBytes
    			byte[] huffmanBytes = (byte[])ois.readObject();
    			//读取赫夫曼编码表
    			Map<Byte,String> huffmanCodes = (Map<Byte,String>)ois.readObject();
    			
    			//解码
    			byte[] bytes = decode(huffmanCodes, huffmanBytes);
    			//将bytes 数组写入到目标文件
    			os = new FileOutputStream(dstFile);
    			//写数据到 dstFile 文件
    			os.write(bytes);
    		} catch (Exception e) {
    			// TODO: handle exception
    			System.out.println(e.getMessage());
    		} finally {
    			
    			try {
    				os.close();
    				ois.close();
    				is.close();
    			} catch (Exception e2) {
    				// TODO: handle exception
    				System.out.println(e2.getMessage());
    			}
    			
    		}
    	}
    	
    	//编写方法,将一个文件进行压缩
    	/**
    	 * 
    	 * @param srcFile 你传入的希望压缩的文件的全路径
    	 * @param dstFile 我们压缩后将压缩文件放到哪个目录
    	 */
    	public static void zipFile(String srcFile, String dstFile) {
    		
    		//创建输出流
    		OutputStream os = null;
    		ObjectOutputStream oos = null;
    		//创建文件的输入流
    		FileInputStream is = null;
    		try {
    			//创建文件的输入流
    			is = new FileInputStream(srcFile);
    			//创建一个和源文件大小一样的byte[]
    			byte[] b = new byte[is.available()];
    			//读取文件
    			is.read(b);
    			//直接对源文件压缩
    			byte[] huffmanBytes = huffmanZip(b);
    			//创建文件的输出流, 存放压缩文件
    			os = new FileOutputStream(dstFile);
    			//创建一个和文件输出流关联的ObjectOutputStream
    			oos = new ObjectOutputStream(os);
    			//把 赫夫曼编码后的字节数组写入压缩文件
    			oos.writeObject(huffmanBytes); //我们是把
    			//这里我们以对象流的方式写入 赫夫曼编码,是为了以后我们恢复源文件时使用
    			//注意一定要把赫夫曼编码 写入压缩文件
    			oos.writeObject(huffmanCodes);
    			
    			
    		}catch (Exception e) {
    			// TODO: handle exception
    			System.out.println(e.getMessage());
    		}finally {
    			try {
    				is.close();
    				oos.close();
    				os.close();
    			}catch (Exception e) {
    				// TODO: handle exception
    				System.out.println(e.getMessage());
    			}
    		}
    		
    	}
    	
    	//完成数据的解压
    	//思路
    	//1. 将huffmanCodeBytes [-88, -65, -56, -65, -56, -65, -55, 77, -57, 6, -24, -14, -117, -4, -60, -90, 28]
    	//   重写先转成 赫夫曼编码对应的二进制的字符串 "1010100010111..."
    	//2.  赫夫曼编码对应的二进制的字符串 "1010100010111..." =》 对照 赫夫曼编码  =》 "i like like like java do you like a java"
    	
    	
    	//编写一个方法,完成对压缩数据的解码
    	/**
    	 * 
    	 * @param huffmanCodes 赫夫曼编码表 map
    	 * @param huffmanBytes 赫夫曼编码得到的字节数组
    	 * @return 就是原来的字符串对应的数组
    	 */
    	private static byte[] decode(Map<Byte,String> huffmanCodes, byte[] huffmanBytes) {
    		
    		//1. 先得到 huffmanBytes 对应的 二进制的字符串 , 形式 1010100010111...
    		StringBuilder stringBuilder = new StringBuilder();
    		//将byte数组转成二进制的字符串
    		for(int i = 0; i < huffmanBytes.length; i++) {
    			byte b = huffmanBytes[i];
    			//判断是不是最后一个字节
    			boolean flag = (i == huffmanBytes.length - 1);
    			stringBuilder.append(byteToBitString(!flag, b));
    		}
    		//把字符串安装指定的赫夫曼编码进行解码
    		//把赫夫曼编码表进行调换,因为反向查询 a->100 100->a
    		Map<String, Byte>  map = new HashMap<String,Byte>();
    		for(Map.Entry<Byte, String> entry: huffmanCodes.entrySet()) {
    			map.put(entry.getValue(), entry.getKey());
    		}
    		
    		//创建要给集合,存放byte
    		List<Byte> list = new ArrayList<>();
    		//i 可以理解成就是索引,扫描 stringBuilder 
    		for(int  i = 0; i < stringBuilder.length(); ) {
    			int count = 1; // 小的计数器
    			boolean flag = true;
    			Byte b = null;
    			
    			while(flag) {
    				//1010100010111...
    				//递增的取出 key 1 
    				String key = stringBuilder.substring(i, i+count);//i 不动,让count移动,指定匹配到一个字符
    				b = map.get(key);
    				if(b == null) {//说明没有匹配到
    					count++;
    				}else {
    					//匹配到
    					flag = false;
    				}
    			}
    			list.add(b);
    			i += count;//i 直接移动到 count	
    		}
    		//当for循环结束后,我们list中就存放了所有的字符  "i like like like java do you like a java"
    		//把list 中的数据放入到byte[] 并返回
    		byte b[] = new byte[list.size()];
    		for(int i = 0;i < b.length; i++) {
    			b[i] = list.get(i);
    		}
    		return b;
    		
    	}
     	
    	/**
    	 * 将一个byte 转成一个二进制的字符串, 如果看不懂,可以参考我讲的Java基础 二进制的原码,反码,补码
    	 * @param b 传入的 byte
    	 * @param flag 标志是否需要补高位如果是true ,表示需要补高位,如果是false表示不补, 如果是最后一个字节,无需补高位
    	 * @return 是该b 对应的二进制的字符串,(注意是按补码返回)
    	 */
    	private static String byteToBitString(boolean flag, byte b) {
    		//使用变量保存 b
    		int temp = b; //将 b 转成 int
    		//如果是正数我们还存在补高位
    		if(flag) {
    			temp |= 256; //按位与 256  1 0000 0000  | 0000 0001 => 1 0000 0001
    		}
    		String str = Integer.toBinaryString(temp); //返回的是temp对应的二进制的补码
    		if(flag) {
    			return str.substring(str.length() - 8);
    		} else {
    			return str;
    		}
    	}
    	
    	//使用一个方法,将前面的方法封装起来,便于我们的调用.
    	/**
    	 * 
    	 * @param bytes 原始的字符串对应的字节数组
    	 * @return 是经过 赫夫曼编码处理后的字节数组(压缩后的数组)
    	 */
    	private static byte[] huffmanZip(byte[] bytes) {
    		List<Node> nodes = getNodes(bytes);
    		//根据 nodes 创建的赫夫曼树
    		Node huffmanTreeRoot = createHuffmanTree(nodes);
    		//对应的赫夫曼编码(根据 赫夫曼树)
    		Map<Byte, String> huffmanCodes = getCodes(huffmanTreeRoot);
    		//根据生成的赫夫曼编码,压缩得到压缩后的赫夫曼编码字节数组
    		byte[] huffmanCodeBytes = zip(bytes, huffmanCodes);
    		return huffmanCodeBytes;
    	}
    	
    	
    	//编写一个方法,将字符串对应的byte[] 数组,通过生成的赫夫曼编码表,返回一个赫夫曼编码 压缩后的byte[]
    	/**
    	 * 
    	 * @param bytes 这时原始的字符串对应的 byte[]
    	 * @param huffmanCodes 生成的赫夫曼编码map
    	 * @return 返回赫夫曼编码处理后的 byte[] 
    	 * 举例: String content = "i like like like java do you like a java"; =》 byte[] contentBytes = content.getBytes();
    	 * 返回的是 字符串 "1010100010111111110010001011111111001000101111111100100101001101110001110000011011101000111100101000101111111100110001001010011011100"
    	 * => 对应的 byte[] huffmanCodeBytes  ,即 8位对应一个 byte,放入到 huffmanCodeBytes
    	 * huffmanCodeBytes[0] =  10101000(补码) => byte  [推导  10101000=> 10101000 - 1 => 10100111(反码)=> 11011000= -88 ]
    	 * huffmanCodeBytes[1] = -88
    	 */
    	private static byte[] zip(byte[] bytes, Map<Byte, String> huffmanCodes) {
    		
    		//1.利用 huffmanCodes 将  bytes 转成  赫夫曼编码对应的字符串
    		StringBuilder stringBuilder = new StringBuilder();
    		//遍历bytes 数组 
    		for(byte b: bytes) {
    			stringBuilder.append(huffmanCodes.get(b));
    		}
    		
    		//System.out.println("测试 stringBuilder~~~=" + stringBuilder.toString());
    		
    		//将 "1010100010111111110..." 转成 byte[]
    		
    		//统计返回  byte[] huffmanCodeBytes 长度
    		//一句话 int len = (stringBuilder.length() + 7) / 8;
    		int len;
    		if(stringBuilder.length() % 8 == 0) {
    			len = stringBuilder.length() / 8;
    		} else {
    			len = stringBuilder.length() / 8 + 1;
    		}
    		//创建 存储压缩后的 byte数组
    		byte[] huffmanCodeBytes = new byte[len];
    		int index = 0;//记录是第几个byte
    		for (int i = 0; i < stringBuilder.length(); i += 8) { //因为是每8位对应一个byte,所以步长 +8
    				String strByte;
    				if(i+8 > stringBuilder.length()) {//不够8位
    					strByte = stringBuilder.substring(i);
    				}else{
    					strByte = stringBuilder.substring(i, i + 8);
    				}	
    				//将strByte 转成一个byte,放入到 huffmanCodeBytes
    				huffmanCodeBytes[index] = (byte)Integer.parseInt(strByte, 2);
    				index++;
    		}
    		return huffmanCodeBytes;
    	}
    	
    	//生成赫夫曼树对应的赫夫曼编码
    	//思路:
    	//1. 将赫夫曼编码表存放在 Map<Byte,String> 形式
    	//   生成的赫夫曼编码表{32=01, 97=100, 100=11000, 117=11001, 101=1110, 118=11011, 105=101, 121=11010, 106=0010, 107=1111, 108=000, 111=0011}
    	static Map<Byte, String> huffmanCodes = new HashMap<Byte,String>();
    	//2. 在生成赫夫曼编码表示,需要去拼接路径, 定义一个StringBuilder 存储某个叶子结点的路径
    	static StringBuilder stringBuilder = new StringBuilder();
    	
    	
    	//为了调用方便,我们重载 getCodes
    	private static Map<Byte, String> getCodes(Node root) {
    		if(root == null) {
    			return null;
    		}
    		//处理root的左子树
    		getCodes(root.left, "0", stringBuilder);
    		//处理root的右子树
    		getCodes(root.right, "1", stringBuilder);
    		return huffmanCodes;
    	}
    	
    	/**
    	 * 功能:将传入的node结点的所有叶子结点的赫夫曼编码得到,并放入到huffmanCodes集合
    	 * @param node  传入结点
    	 * @param code  路径: 左子结点是 0, 右子结点 1
    	 * @param stringBuilder 用于拼接路径
    	 */
    	private static void getCodes(Node node, String code, StringBuilder stringBuilder) {
    		StringBuilder stringBuilder2 = new StringBuilder(stringBuilder);
    		//将code 加入到 stringBuilder2
    		stringBuilder2.append(code);
    		if(node != null) { //如果node == null不处理
    			//判断当前node 是叶子结点还是非叶子结点
    			if(node.data == null) { //非叶子结点
    				//递归处理
    				//向左递归
    				getCodes(node.left, "0", stringBuilder2);
    				//向右递归
    				getCodes(node.right, "1", stringBuilder2);
    			} else { //说明是一个叶子结点
    				//就表示找到某个叶子结点的最后
    				huffmanCodes.put(node.data, stringBuilder2.toString());
    			}
    		}
    	}
    	
    	//前序遍历的方法
    	private static void preOrder(Node root) {
    		if(root != null) {
    			root.preOrder();
    		}else {
    			System.out.println("赫夫曼树为空");
    		}
    	}
    	
    	/**
    	 * 
    	 * @param bytes 接收字节数组
    	 * @return 返回的就是 List 形式   [Node[date=97 ,weight = 5], Node[]date=32,weight = 9]......],
    	 */
    	private static List<Node> getNodes(byte[] bytes) {
    		
    		//1创建一个ArrayList
    		ArrayList<Node> nodes = new ArrayList<Node>();
    		
    		//遍历 bytes , 统计 每一个byte出现的次数->map[key,value]
    		Map<Byte, Integer> counts = new HashMap<>();
    		for (byte b : bytes) {
    			Integer count = counts.get(b);
    			if (count == null) { // Map还没有这个字符数据,第一次
    				counts.put(b, 1);
    			} else {
    				counts.put(b, count + 1);
    			}
    		}
    		
    		//把每一个键值对转成一个Node 对象,并加入到nodes集合
    		//遍历map
    		for(Map.Entry<Byte, Integer> entry: counts.entrySet()) {
    			nodes.add(new Node(entry.getKey(), entry.getValue()));
    		}
    		return nodes;
    		
    	}
    	
    	//可以通过List 创建对应的赫夫曼树
    	private static Node createHuffmanTree(List<Node> nodes) {
    		
    		while(nodes.size() > 1) {
    			//排序, 从小到大
    			Collections.sort(nodes);
    			//取出第一颗最小的二叉树
    			Node leftNode = nodes.get(0);
    			//取出第二颗最小的二叉树
    			Node rightNode = nodes.get(1);
    			//创建一颗新的二叉树,它的根节点 没有data, 只有权值
    			Node parent = new Node(null, leftNode.weight + rightNode.weight);
    			parent.left = leftNode;
    			parent.right = rightNode;
    			
    			//将已经处理的两颗二叉树从nodes删除
    			nodes.remove(leftNode);
    			nodes.remove(rightNode);
    			//将新的二叉树,加入到nodes
    			nodes.add(parent);
    			
    		}
    		//nodes 最后的结点,就是赫夫曼树的根结点
    		return nodes.get(0);
    		
    	}
    	
    
    }
    
    
    
    //创建Node ,待数据和权值
    class Node implements Comparable<Node>  {
    	Byte data; // 存放数据(字符)本身,比如'a' => 97 ' ' => 32
    	int weight; //权值, 表示字符出现的次数
    	Node left;//
    	Node right;
    	public Node(Byte data, int weight) {
    		
    		this.data = data;
    		this.weight = weight;
    	}
    	@Override
    	public int compareTo(Node o) {
    		// 从小到大排序
    		return this.weight - o.weight;
    	}
    	
    	public String toString() {
    		return "Node [data = " + data + " weight=" + weight + "]";
    	}
    	
    	//前序遍历
    	public void preOrder() {
    		System.out.println(this);
    		if(this.left != null) {
    			this.left.preOrder();
    		}
    		if(this.right != null) {
    			this.right.preOrder();
    		}
    	}
    }
    

    赫夫曼编码压缩文件注意事项

    1) 如果文件本身就是经过压缩处理的,那么使用赫夫曼编码再压缩效率不会有明显变化, 比如视频,ppt 等等文件

    [举例压一个 .ppt]

    2) 赫夫曼编码是按字节来处理的,因此可以处理所有的文件(二进制文件、文本文件) [举例压一个.xml 文件]

    3) 如果一个文件中的内容,重复的数据不多,压缩效果也不会很明显.

  • 相关阅读:
    SQLServer和Access数据传输简单总结
    Session 详解
    SQL日志文件过大问题的解决方法
    如何删除表中的重复记录?
    HDOJ 3711 Binary Number
    HDOJ 2022
    活动选择问题
    浮点数的比较
    HDOJ 2037
    找最长递增子数列
  • 原文地址:https://www.cnblogs.com/conglingkaishi/p/15041773.html
Copyright © 2011-2022 走看看