zoukankan      html  css  js  c++  java
  • mahout算法源码分析之Itembased Collaborative Filtering实战

    Mahout版本:0.7,hadoop版本:1.0.4,jdk:1.7.0_25 64bit。

    本系列介绍介绍mahout中的Itembased Collaborative Filtering算法,这个算法的实现的源码是org.apache.mahout.cf.taste.hadoop.item.RecommenderJob。在mahout官网是这样介绍这个算法的:RecommenderJob是一个完全分布式的基于项目的推荐器。它的输入是一个含有用户喜好数据的.csv文件,数据格式是userID,itemID,value。输出是userIDs和每个用户的推荐项目及项目的评分。下面就按照这样的输入数据,使用《mahout in action》中的list2.1中的数据进行测试(数据在http://blog.csdn.net/fansy1990/article/details/12354119中也可以看到),使用下面的测试代码对RecommenderJob进行测试:

    package mahout.fansy.item.test;
    
    import org.apache.mahout.cf.taste.hadoop.item.RecommenderJob;
    
    public class TestRecommenderJob {
    
    	/**
    	 * RecommenderJob测试程序
    	 * @param args
    	 * @throws Exception 
    	 */
    	public static void main(String[] args) throws Exception {
    		String[] arg=new String[]{"-jt","ubuntu:9001","-fs","ubuntu:9000",
    				"-i","hdfs://ubuntu:9000/test/input/user_item",
    				"-o","hdfs://ubuntu:9000/user/mahout/item/output",
    				"-n","3","-b","false","-s","SIMILARITY_EUCLIDEAN_DISTANCE",
    				"--maxPrefsPerUser","7","--minPrefsPerUser","2",
    				"--maxPrefsPerUserInItemSimilarity","7",
    				"--tempDir","hdfs://ubuntu:9000/user/mahout/item/temp"};
    		
    		RecommenderJob.main(arg);
    	}
    
    }
    

    其中的一些参数先做些说明:-n参数就是--numRecommendations参数,这个参数设置后在最终的对每个用户进行推荐的时候就会推荐numRecommendations个项目;-b参数是--booleanData的缩写,这个参数是指原始数据是有用户的评分还是没有,比如原始数据只有用户和项目,这个也是可以的;-s是similarityClassname的缩写,看英文大概意思就是相似度的计算方式,这里选择的是欧氏距离;其他参数在后面的系列分析blog中进行分析。

    上面的测试代码跑完后,可以在50030界面查看,一共跑了几个job任务,一般如下:

    可以看到一共有9个job任务,同时在HDFS监控界面可以看到最后的推荐结果:

    算法的输出也是比较好理解的,比如,从上面的结果可以看出,用户1被推荐了104、106、105项目(而且这些项目是按照得分从高到低排序的)。

    所以,总体来说,这个算法调用和最后对结果的分析来说还是比较清晰的。算法调用只用设置-n(每个用户推荐多少个项目)即可,其他参数不进行设置,直接默认即可(不过好像-s参数一定要进行设置的)。最后算法跑完后,产生的结果也是很好分析的。


    分享,成长,快乐

    转载请注明blog地址:http://blog.csdn.net/fansy1990



  • 相关阅读:
    Visual Studio调试器项目设置
    Debug.Assert Everyone!
    WinDbg中的.natvis文件和类型模板
    已安装的.NET CLR版本之间的w3wp.exe崩溃WinDbg后期调试
    用于DLL注入的WinDbg扩展---!injectdll
    Wireshark中PIDs与网络包的关联
    又又一款抓dmp工具---ProcDump
    基于.NET框架版本在Windbg中加载sos的脚本
    未记录的WinDBG扩展命令---itoldyouso
    合并符号服务器
  • 原文地址:https://www.cnblogs.com/phisy/p/3363548.html
Copyright © 2011-2022 走看看