基于邻域的协同过滤主要分为两类,基于用户的协同过滤和基于物品的协同过滤。前者给用户推荐和他兴趣相似的其他用户喜欢的物品,后者则是推荐和他之前喜欢过的物品相似的物品。
基于用户的协同过滤算法
这里介绍基于用户的协同过滤,从定义来说,可以分为以下两步进行:
- 找到和目标用户兴趣相似的用户集合
- 找和这个集合中的用户喜欢的,且目标用户没有听说过的物品推荐给目标用户
计算用户相似度的基本算法:
(1)Jaccard 公式

(2)余弦相似度:

得到用户之间的兴趣相似度后,UserCF算法会给用户推荐和他兴趣最相似的K个用户喜欢的物品,下面的公式表示用户u对物品i的感兴趣程度:

其中S(u,K)包含和用户u兴趣最相近的K个用户,N(i)是对物品i有过行为的用户集合,wuv是用户u和用户v的兴趣相似度,rvi代表用户v对物品i的兴趣,在这种情况下rvi=1
可以建立物品到用户的倒查表,对每个物品都保存对该物品产生过行为的用户列表,

可以给上图中的A推荐,选取K=3,用户A对物品c,e没有过行为,因此可以把这两个物品推荐给用户A,用户A对物品c,e的兴趣是:

改进:
上边的算法是有问题的,比如两个人都买过《新华字典》这本书,但这丝毫不能说明他们两个兴趣相似,因为大多数人都买过这本书,如果两个用户都买过《数据挖掘导论》,那可以认为两个人的兴趣比较相似,因为只要研究数据挖掘的人才会买这本书。即两个人对冷门物品采取过同样的行为更能说明他们兴趣的相似性,因此相似性度量函数为:

基于物品的协同过滤算法
下面介绍基于物品的协同过滤算法,其过程主要分为2步:
- 计算物品之间的相似度
- 根据物品的相似度和用户的历史行为给用户生成推荐列表
计算物品的相似度:


N(i):喜欢物品i的用户数 |N(i)∩N(j)|:同时喜欢物品i和物品j的用户数
与UserCF算法类似,用ItenCF算法计算物品相似度时,也可以首先建立用户-物品倒排表(即对每个用户建立一个包含他喜欢的物品的列表),然后对于每个用户,将物品列表中的物品两两在共现矩阵C中加1,最终将这些矩阵相加得到上边的C矩阵,其中C[i][j]记录同时喜欢物品i和物品j的用户数,最后将c矩阵归一化得到物品之间的余弦相似度矩阵W。

得到物品的相似度之后,ItemCF通过如下公式计算用户u对一个物品j的兴趣:

N(u)是用户喜欢的物品的集合,S(i,k)是和物品i最相似的k个物品的集合,wji 是物品j和i的相似度,rui是用户u对物品i的兴趣。对于隐反馈数据集,如果用户u对物品i有过行为,即可令rui=1,该公式的含义是,和用户历史上感兴趣的物品越相似,越有可能在用户的推荐列表中获得比较高的排名。
用户活跃度对用户的影响
除了上面的分析权重的过程,还可以考虑用户活跃度对物品相似度的影响IUF,即活跃用户对物品相似度的贡献应该小于不活跃的用户,因袭增加IUF参数来修正物品相似度的计算公式

物品相似度归一化
如果已经得到了物品的相似性矩阵w,则可以得到归一化之后的相似度矩阵w'

归一化之后的好处是不仅仅增加推荐的准确度,还提高了覆盖率和多样性。
实现算法:
import math
import time
import pandas as pd
def calcuteSimilar(series1,series2):
'''
计算余弦相似度
:param data1: 数据集1 Series
:param data2: 数据集2 Series
:return: 相似度
'''
unionLen = len(set(series1) & set(series2))
if unionLen == 0: return 0.0
product = len(series1) * len(series2)
similarity = unionLen / math.sqrt(product)
return similarity
def calcuteUser(csvpath,targetID=1,TopN=10):
'''
计算targetID的用户与其他用户的相似度
:return:相似度TopN Series
'''
frame = pd.read_csv(csvpath) #读取数据
targetUser = frame[frame['UserID'] == targetID]['MovieID'] #目标用户数据
otherUsersID = [i for i in set(frame['UserID']) if i != targetID] #其他用户ID
otherUsers = [frame[frame['UserID'] == i]['MovieID'] for i in otherUsersID] #其他用户数据
similarlist = [calcuteSimilar(targetUser,user) for user in otherUsers] #计算
similarSeries = pd.Series(similarlist,index=otherUsersID) #Series
return similarSeries.sort_values()[-TopN:]
def calcuteInterest(frame,similarSeries,targetItemID):
'''
计算目标用户对目标物品的感兴趣程度
:param frame: 数据
:param similarSeries: 目标用户最相似的K个用户
:param targetItemID: 目标物品
:return:感兴趣程度
'''
similarUserID = similarSeries.index #和用户兴趣最相似的K个用户
similarUsers = [frame[frame['UserID'] == i] for i in similarUserID] #K个用户数据
similarUserValues = similarSeries.values #用户和其他用户的兴趣相似度
UserInstItem = []
for u in similarUsers: #其他用户对物品的感兴趣程度
if targetItemID in u['MovieID'].values: UserInstItem.append(u[u['MovieID']==targetItemID]['Rating'].values[0])
else: UserInstItem.append(0)
interest = sum([similarUserValues[v]*UserInstItem[v]/5 for v in range(len(similarUserValues))])
return interest
def calcuteItem(csvpath,targetUserID=1,TopN=10):
'''
计算推荐给targetUserID的用户的TopN物品
:param csvpath: 数据路径
:param targetUserID: 目标用户
:param TopN:
:return: TopN个物品及感兴趣程度
'''
frame = pd.read_csv(csvpath) #读取数据
similarSeries = calcuteUser(csvpath=csvpath, targetID=targetUserID) #计算最相似K个用户
userMovieID = set(frame[frame['UserID'] == 1]['MovieID']) #目标用户感兴趣的物品
otherMovieID = set(frame[frame['UserID'] != 1]['MovieID']) #其他用户感兴趣的物品
movieID = list(userMovieID ^ otherMovieID) #差集
interestList = [calcuteInterest(frame,similarSeries,movie) for movie in movieID] #推荐
interestSeries = pd.Series(interestList, index=movieID)
return interestSeries.sort_values()[-TopN:] #TopN
if __name__ == '__main__':
print('start..')
start = time.time()
a = calcuteItem('ratings.csv')
print(a)
print('Cost time: %f'%(time.time()-start))
