zoukankan      html  css  js  c++  java
  • SAS编程代写,R和Python应对数据管理和分析挑战

    原文链接:http://tecdat.cn/?p=7886

    去年,我与一家公司进行了短暂的咨询工作,该公司正在构建一个主要由基于Web的数据存储库驱动的分析应用程序。数据存储为SAS数据集的集合,“客户”可以通过上载SAS数据步骤和proc SQL脚本来将其作为子集。生成的数据随后可供下载。我的职责是指导团队使用SAS应对数据管理和分析挑战。

     在安装和配置WPS之后,我的任务是开发解决方案,以解决我们早期面临的性能挑战。 

     针对此挑战的替代设计涉及WPS的proc R,其中可以利用将SAS数据集导出/导入到R数据帧以及从SAS / WPS脚本执行R代码的功能。进入R世界之后,识别稀疏列并创建一个删除这些列的新数据框的任务很简单。 

     首先包含/运行SAS autoexec文件。

    接下来定义一个简单的SAS宏“函数”,该函数将数据集名称作为参数并打印行和列的#。在测试SAS数据集上调用它。

    将测试SAS数据集导出到R数据帧,确定哪些列为60%或更高notnull,将这些列组装到新数据帧中,然后将该数据帧导入SAS。注意注释的语句除了空值外还标识空白。264列中只有33列达到60%阈值。该单元的执行非常迅速。

    接下来,将SAS数据集导出到Python pandas,然后部署Python函数以确定每列中的%notnull并创建一个新的pandas数据框,其中只有%notnull超过.6的列。经过Python处理后,将pandas数据框导入SAS。与R一样 。这个单元比上一个单元耗费了一个数量级的时间。

    尽管SAS仍然是一个主要的分析平台,并且不会很快消失,但它已为R和Python的分析工作所取代。对于SAS / WPS程序员而言,Python和R proc是Base SAS的非常有用的附件。确实,商业和开放源代码的竞争数据科学生态系统之间的互操作性将继续提高-这对数据科学世界来说无非是一件好事。目前,WPS的proc R比proc Python快很多,因此是协作SAS工作的选择。希望proc Python将很快成为高性能,使SAS数据程序员能够平等地访问前两个DS平台。

     

    如果您有任何疑问,请在下面发表评论。   

  • 相关阅读:
    python和Ajax在一起了?真的???
    Flask网页session记住用户登录状态
    你真的会看博客???来看看怎么回事
    python爬虫-唯品会商品信息实战步骤详解
    【每日一具18】基于HTTP协议的局域网文件共享软件
    python学习笔记
    Python高级编程之十大装B语法
    用python爬虫简单网站却有 “多重思路”--猫眼电影
    「基因组组装」三代组装多少深度比较合适
    四十而不惑——DNA测序技术的前世今生和未来
  • 原文地址:https://www.cnblogs.com/tecdat/p/11697972.html
Copyright © 2011-2022 走看看