zoukankan      html  css  js  c++  java
  • 关于“淘宝爆款”的数据抓取与数据分析

    这个问题最初是源于我在知乎上一个回答(http://www.zhihu.com/question/24368542/answer/27579662),涉及了两个方面:数据抓取和数据分析。

    1、数据爬取

    爬取对象:淘宝“连衣裙 夏”的搜索结果。爬取对象的选择分析我在文章中也有提及。

    工具:Scrapy。

    代码:我把当时实现的代码放在了GitHub上,地址:https://github.com/younghz/TBBKAnalysis,感兴趣的可以看一下。关于Scrapy的知识与爬虫的编写可以见专栏:http://blog.csdn.net/column/details/younghz-scrapy.html

    2、数据分析

    分析内容可见上述Repository的Wiki(https://github.com/younghz/TBBKAnalysis/wiki)。我也会将其写在下面。或者直接看上面知乎问题中我写的答案。

    工具:ipython & matplotlib。

    3、分析内容

    分析内容放在了Wiki中,链接:https://github.com/younghz/TBBKAnalysis/wiki。或者直接见下面正文。(注意:如果Wiki中图片无法打开,请使用较高版本的Chrome浏览器。)

    4、正文

    一、案例选择。

    现在着手分析的对象是能让你在三个月获得大把钞票的“爆款”。这 当然得拿最有代表性的商品当例子,最有代表性就是最火的。看看什么最火。下面是淘宝指数(http://shu.taobao.com/top/16/search)数据。 


    图一 搜索排行


    图二 成交排行

    很明显,那么就取商品的搜索量和成交量二者交集——“连衣裙 夏”做案例进行分析。

    二、案例分析

    在淘宝中搜索“连衣裙 夏”,首先提取有用数据,这里我基于Scrapy框架实现了一个爬虫,爬取按销量排行的前五页数据(听说前五页是所有商家的梦哦),销量在三千到三万,销量低于三千的款也不够‘爆’吧(我也不清楚,呵呵)。 这里提取每个宝贝销量、宝贝价格、店铺性质以及店铺名称等分析。

    三、数据分析

    下面对提取的数据进行分析,分析分为两种:首页和前五页。(以下图表使用ipython基于matplotlib生成) 如果说前五页属于‘爆’级别,那么首页就是‘爆爆’了吧。

    (1)最关心的当然还是销量

    基于上面抓取的数据,分析。

    图三 前五页销量趋势


    图四 首页销量趋势

    看过了什么感受,这怎么成指数下降趋势啊。即便是爆款,销量差距还是很悬殊的啊。即使在‘爆爆’级别的首页销量老大和老二都不是一个级别的啊。竞争好激烈不是吗。
    我们继续进行局部放大,看看销量在一万以上的是什么情况。

    图五 销量大于一万趋势

    小伙伴,是不是有种要做就做老大的感脚。

    (2)看价格

    下面是前五页商品的价格曲线。

    图六 前五页商品价格及平均价格图

    其中红色的线是所有商品的平均价格,低于50块。而且价格可分为三个区间:

    • 区间一:50以下。这部分商品最密集,大部分商品价格集中在这个区域。
    • 区间二:50到100。这属于第二阶梯。
    • 区间三:100以上,看上去这部分好刺眼啊,总有零星的几个拔出来。相对比例很少。

    有什么感想,要是你做,把你的东西价位定义在哪个区间呢。继续看下首页的价格数据。

    图七 首页商品价格走势图

    要是感觉这个不够明显,我们还是来看销量高于一万的走势图。

    图八 销量大于10000商品价格走势图

    下面来研究下这些爆款都来自哪里。

    (3)卖家地点

    来看看这些做爆款的卖家都在哪,地点是不是也为他们提供了一定的优势?

    图九 卖家地点分布

    从高到低分别是——广东、浙江、北京、上海、江苏、山东、湖北、河南、辽宁、江西。

    (4)店铺是否是天猫卖家


    图十 是否是天猫(前五页数据)


    图十一 是否是天猫(首页数据)

    这个比例看起来都差不多。看来也没什么必然的关系。

    (5)商品名字

    给你举两个: “夏季新款女式连衣裙莫代尔背心长裙波西米亚气质长裙打底裙子” “14夏季新款韩版短袖V领波西米亚连衣裙大码女装沙滩裙子” “夏装新款女连衣裙短袖韩国性感修身显瘦包臀V领大码” 呵呵,想没想好你的叫什么名字了? 如果买的是内裤,按照上面的规则应该就叫:“14夏季新款波西米亚修身显瘦包臀韩国气质新版安全防盗内裤”,呵呵。

    (6)买家分析

    刚才说的都是卖家的,现在看看消费者。看看关键词喜好度(http://shu.taobao.com/searchindex?spm=0.0.0.0.3Mt2Y2&query=%E8%BF%9E%E8%A1%A3%E8%A3%99%20%E5%A4%8F)对你有没有帮助。

    图十二 搜索喜好度

    第一是黑龙江,辽宁也入围前十了。

    转载自:http://blog.csdn.net/u012150179/article/details/37306629
  • 相关阅读:
    modis数据处理的坑(MOD02,mod03,mod04,MCD19A2)
    TensorFlow安装笔记(CPU版)
    mod35云掩膜产品用法
    ERA-Interim数据学习
    收集空气质量数据走的路
    GEE windows 环境配置
    Spatiotemporal continuous estimates of PM2.5 concentrations in China, 2000–2016: A machine learning method with inputs from satellites, chemical transport model, and ground observations
    Exploiting ConvNet Diversity for Flooding Identification
    Missing Data Reconstruction in Remote Sensing Image With a Unified Spatial–Temporal–Spectral Deep Convolutional Neural Network(缺失数据补全,时空谱网络)
    多线程
  • 原文地址:https://www.cnblogs.com/lmsj/p/6504794.html
Copyright © 2011-2022 走看看