zoukankan      html  css  js  c++  java
  • hive报错( Non-Partition column appears in the partition specification)

    在写及测的过程中发现的,有一些可能需要进一步验证。有时候hive报错位置不一定正确需要多确认

    1 FAILED: NullPointerException null  

    不能用视图作为left outer join的右表

    2 FAILED: UDFArgumentTypeException Only numeric or string type arguments are accepted but decimal is passed.

       在cdh hive0.10中,avg的列不能是decimal类型的,apache hive0.12无此限制

    3 FAILED: SemanticException [Error 10098]: Non-Partition column appears in the partition specification

       建表时没有指定分区,而insert语句中指定了

    4 FAILED: SemanticException [Error 10017]: Line 5:5 Both left and right aliases encountered in JOIN '***_id'

      不支持非等值连接

    5  FAILED: ParseException line 1:799 missing Identifier at 'group' near '<EOF>' 

      group前面缺少子表的别名

    6 left semi join 的右边表的字段,不能出现在select列中 

    7 FAILED: SemanticException Column ***_id Found in more than One Tables/Subqueries

      有一列在多个表中出现,但是没加表名前缀

    8 Diagnostic Messages for this Task:

    Error: java.lang.RuntimeException: org.apache.hadoop.hive.ql.metadata.HiveException: java.io.FileNotFoundException: /hadoop/tmp/nm-local-dir/usercache/hadoop/appcache/application_***/container_***/Stage-10.tar.gz/MapJoin-mapfile160--.hashtable (No such file or directory)      

    Caused by: org.apache.hadoop.hive.ql.metadata.HiveException: java.io.FileNotFoundException: /hadoop/tmp/nm-local-dir/usercache/hadoop/appcache/application_***/container_***/Stage-10.tar.gz/MapJoin-mapfile160--.hashtable (No such file or directory)

    apache hive0.12里面不支持create as之后的表再join三个表,只能两个;cdhhive0.10无此限制

    9  cdhhive0.10不支持字段名定义为timestamp

    10 增加内存,应该在新建任务的时候用hiveconf指定

       如果直接用传参,再用set取的话,会导致语句无法执行 

    11 set语句的参数值不支持udf设定,只能是常量,或者已经设置的变量

    12 left outer join  的使用,对于右表的筛选条件的设置要特别注意,如果放在where中,则left join会变为inner join,实际是先执行了left join之后,又执行筛选,这样会把左边中的部分记录删除,不符合left join对左表取全量的初衷了。需要将右表条件以子表的形式指定,或者放在on中。在oracle中也是如此,条件放在on和where中逻辑上的含义是不同的,这应该不算是hive的bug。

  • 相关阅读:
    无法导入panda包解决方法
    VUE学习笔记——基础标签,函数
    jobs指令man手册内容
    linux 部分参数的全名
    bilibiliUP数据爬取——requests库与jason库运用实例
    宝塔面板无法进入phpadmin管理数据库解决办法
    python-spider_BeautifulSoup入门实践(一)安装以及简单的抓取数据
    c++程序设计实践——银行系统
    opencv-学习笔记
    关于pipeline的一篇转载博文https://www.cnblogs.com/midhillzhou/p/5588958.html
  • 原文地址:https://www.cnblogs.com/yaohaitao/p/5353523.html
Copyright © 2011-2022 走看看