文本挖掘之文本推荐（子集合生成）

刘 勇   Email:lyssym@sina.com

简介

　　在研究文本推荐算法时，需要挖掘关键字之间的规则，其中比较重要的一步是构建关键字的集合，即需要求取一个集合的所有子集。因此本文根据需求，采用3种方式实现该算法，以期对后续算法研究提供帮助。

　　本文下面从二叉树递归、位图和集合3个角度，对该算法进行研究与实现。

 二叉树递归

　　为简要描述，采用数据集为：A= {1,2,3}。二叉树递归如下图-1所示。

图-1 二叉树递归过程

　　对图-1采用二叉树递归解释为：集合中每个元素有2中状态，属于某个集合，或者不属于该集合，因此求取子集的过程则为对每个元素进行取舍的过程。如图-1所示，根节点为初始状态，叶子节点为终结状态，除第一层（根节点）为，后续每一层即为对每个元素展开的一次取舍操作。整个过程采用二叉树的先序遍历。

import java.util.List;
import java.util.ArrayList;

public class SubSet {
    private List<List<String>> listList = null; 
    
    public SubSet(List<String> list)
    {
        listList = new ArrayList<List<String>>();
        int len = list.size();
        List<String> dst = new ArrayList<String>();
        for (int i = 0; i < len; i++) {
            generate(list, 0, i, dst);
        }
    }
    
    
    public void generate(List<String> list, int index, int number, List<String> dst) {
        if (number == -1) {
            List<String> strList = new ArrayList<String>();
            for (String s : dst) 
                strList.add(s);
            listList.add(strList);
            return;
        }
        
        if (index == list.size()) {        
            return;
        }
        String element = list.get(index);
        dst.add(element);
        generate(list, index+1, number-1, dst);
        dst.remove(element);
        generate(list, index+1, number, dst);
    }


    public void printList()
    {
        for (List<String> list : listList) {
            for (String s : list) {
                System.out.print(s + "	");
            }
            System.out.println();
        }
    }
}

位图

　　为描述方便，采用数据集为：A= {1,2,3}。对于任意一个元素，属于某个集合或者不属于该集合。前述集合以“1”为存在于集合，若为“0”则不存在于该集合，采用位图映射为：

　　{1,2,3}

　　{0,0,0}-->{}

　　{0,0,1}-->{3}

　　{0,1,0}-->{2}

　　{0,1,1}-->{2,3}

　　{1,0,0}-->{1}

　　{1,0,1}-->{1,3}

　　{1,1,0}-->{1,2}

　　{1,1,1}-->{1,2,3}

import java.util.List;
import java.util.ArrayList;

public class BitSet {
    private List<List<String>> listList= null;
    
    public BitSet(List<String> list) {
        listList = new ArrayList<List<String>>();
        int len = list.size();
        int mark = 0;
        long end = (1<<len) -1;  // 2^len-1
        for (mark = 0; mark <= end; mark++) {
            List<String> dst = new ArrayList<String>();
            for (int i = 0; i < len ; i++) {
                if ((1<<i & mark) != 0) { // i has one element
                    dst.add((list.get(i)));
                }
            }
            
            if (dst.size() > 0) {
                listList.add(dst);
            }
        }
    }
    
    
    public void printList()
    {
        for (List<String> list : listList) {
            for (String s : list) {
                System.out.print(s + "	");
            }
            System.out.println();
        }
    }
}

集合

　　为描述方便，采用数据集为：A={1,2,3,4}，其根据两个上一级目标集合生成下一级的目标集合，其核心解决方案为通过上一层集合的前K-2个元素相同（K为新集合的元素个数），则将上一层集合元素合并生成新的集合，如A31={1,2,3}，A32={1,2,4}，则生成新的目标集合A41={1,2,3,4}，该方案最大的优点是：使得生成的集合中，元素没有重复。

import java.util.ArrayList;
import java.util.List;
import java.util.Set;
import java.util.TreeSet;

public class SetSet {
    private List<List<Set<String>>> L = null;
    
    public SetSet(List<String> set) {
        List<Set<String>> initSet = createInitSet(set);
        L = new ArrayList<List<Set<String>>>();  // contains all the subsets
        L.add(initSet);
        int k = 2;
        while (L.get(k-2).size() > 0) {
            List<Set<String>> Ck = aprioriGen(L.get(k-2), k);
            L.add(Ck); // add the C(k) and the generate C(k+1)
            k += 1;
        }
    }
    
    /**
     * create one list
     * @param set : the data set 
     * @return the list generated
     */
    public List<Set<String>> createInitSet(List<String> set)
    {
        List<Set<String>> list = new ArrayList<Set<String>>();
        for (String element : set) {
            Set<String> e = new TreeSet<String>();
            e.add(element);
            if (!list.contains(e))
                list.add(e);
        }
        return list;
    }
    
    /**
     * generate the number of k items
     * @param list : the source list
     * @param k : the numbers
     * @return the list with set
     */
    public List<Set<String>> aprioriGen(List<Set<String>> list, int k) 
    {
        List<Set<String>> retList = new ArrayList<Set<String>>();
        int size = list.size();
        for (int i = 0; i < size; i++) {
            Set<String> set1 = list.get(i);
            for (int j = i+1; j < size; j++) {
                Set<String> set2 = list.get(j);
                if (isEquals(getSubclass(list.get(i), k-2), getSubclass(list.get(j), k-2))) { // the 0:k-2 contain the same elements
                    retList.add(getUnion(set1, set2));
                }
            }
        }        
        return retList;
    }
    
    /**
     * get the union of two sets
     * @param src : the source set
     * @param dst : destination set
     * @return one set
     */
    public Set<String> getUnion(Set<String> src, Set<String> dst) 
    {
        Set<String> set = new TreeSet<String>();
        for (String element : src)
            set.add(element);
        
        for (String item : dst) 
            if (!set.contains(item))
                set.add(item);
        
        return set;
    }
    
    /** 
     * get the top K elements of the set
     * @param src : the source set
     * @param k : the top K
     * @return the top K elements
     */
    public Set<String> getSubclass(Set<String> src, int k) 
    {
        Set<String> set = new TreeSet<String>();
        int index = 0;
        for (String s : src) {
            if (index < k)
                set.add(s);
            else 
                break;
            
            index++;
        }
        return set;
    }
    
    /**
     * assert the equals of tow sets
     * @param src : the source set
     * @param dst : the destination set
     * @return if src == dst, return true else return false
     */
    public boolean isEquals(Set<String> src, Set<String> dst) 
    {
        boolean ret = false;
        if (src.size() == dst.size()) {
            if (src.size() == 0)
                ret = true;
            else if (src.containsAll(dst))
                ret = true;
        }
        return ret;
    }    
}

　　由于本文在研究文本推荐时，参考《机器学习实战》，故此先入为主，采用了第三种方法。但是，本文作者并不认为第三种方法效率较高，在大规模数据时，作者倾向于先用方案二（位图运算）。

参考

　　[1] Peter Harrington, Machine Learning in action, 人民邮电出版社,2015.4.

　　[2] http://blog.csdn.net/pony_maggie/article/details/31042651

---

　　作者：志青云集
　　出处：http://www.cnblogs.com/lyssym
　　如果，您认为阅读这篇博客让您有些收获，不妨点击一下右下角的【推荐】。
　　如果，您希望更容易地发现我的新博客，不妨点击一下左下角的【关注我】。
　　如果，您对我的博客所讲述的内容有兴趣，请继续关注我的后续博客，我是【志青云集】。
　　本文版权归作者和博客园共有，欢迎转载，但未经作者同意必须保留此段声明，且在文章页面明显位置给出原文连接。

---