zoukankan      html  css  js  c++  java
  • Impala中的刷新元数据和刷新表

    转载:https://blog.csdn.net/xiaobao5214/article/details/85062176

    使用方式

    invalidate metadata是用于刷新全库或者某个表的元数据,包括表的元数据和表内的文件数据,它会首先清楚表的缓存,然后从metastore中重新加载全部数据并缓存,该操作代价比较重,主要用于在hive中修改了表的元数据,需要同步到impalad,例如create table/drop table/alter table add columns等。

    invalidate metadata   语法:

    1.  
      invalidate metadata                   //重新加载所有库中的所有表
    2.  
      invalidate metadata [table]            //重新加载指定的某个表

    refresh是用于刷新某个表或者某个分区的数据信息,它会重用之前的表元数据,仅仅执行文件刷新操作,它能够检测到表中分区的增加和减少,主要用于表中元数据未修改,数据的修改,例如insert into、load data、alter table add partition、llter table drop partition等,如果直接修改表的hdfs文件(增加、删除或者重命名)也需要指定refresh刷新数据信息。

    refresh 语法:

    1.  
      refresh [table]                             //刷新某个表
    2.  
      refresh [table] partition [partition]       //刷新某个表的某个分区

    使用原则

    如果在使用过程中涉及到了元数据或者数据的更新,则需要使用这两者中的一个操作完成,具体如何选择需要根据如下原则:

    invalidate metadata操作比refresh要重量级
    如果涉及到表的schema改变,使用invalidate metadata [table]
    如果只是涉及到表的数据改变,使用refresh [table]
    如果只是涉及到表的某一个分区数据改变,使用refresh [table] partition [partition]
    禁止使用invalidate metadata什么都不加,宁愿重启catalogd。

  • 相关阅读:
    反射机制小结
    IO流小节
    C# 利用file打印日志
    JS判断表单内容是否更改过
    input file 样式以及获取选择文件方法集合
    JS判断终端浏览器类型
    Node.js服务的重启与监控
    ASP.NET MVC 与Form表单交互
    JS 更改表单的提交时间和Input file的样式
    My SQL和LINQ 实现ROW_NUMBER() OVER以及Fatal error encountered during command execution
  • 原文地址:https://www.cnblogs.com/to-here/p/13740336.html
Copyright © 2011-2022 走看看