zoukankan      html  css  js  c++  java
  • Impala中的刷新元数据和刷新表

    转载:https://blog.csdn.net/xiaobao5214/article/details/85062176

    使用方式

    invalidate metadata是用于刷新全库或者某个表的元数据,包括表的元数据和表内的文件数据,它会首先清楚表的缓存,然后从metastore中重新加载全部数据并缓存,该操作代价比较重,主要用于在hive中修改了表的元数据,需要同步到impalad,例如create table/drop table/alter table add columns等。

    invalidate metadata   语法:

    1.  
      invalidate metadata                   //重新加载所有库中的所有表
    2.  
      invalidate metadata [table]            //重新加载指定的某个表

    refresh是用于刷新某个表或者某个分区的数据信息,它会重用之前的表元数据,仅仅执行文件刷新操作,它能够检测到表中分区的增加和减少,主要用于表中元数据未修改,数据的修改,例如insert into、load data、alter table add partition、llter table drop partition等,如果直接修改表的hdfs文件(增加、删除或者重命名)也需要指定refresh刷新数据信息。

    refresh 语法:

    1.  
      refresh [table]                             //刷新某个表
    2.  
      refresh [table] partition [partition]       //刷新某个表的某个分区

    使用原则

    如果在使用过程中涉及到了元数据或者数据的更新,则需要使用这两者中的一个操作完成,具体如何选择需要根据如下原则:

    invalidate metadata操作比refresh要重量级
    如果涉及到表的schema改变,使用invalidate metadata [table]
    如果只是涉及到表的数据改变,使用refresh [table]
    如果只是涉及到表的某一个分区数据改变,使用refresh [table] partition [partition]
    禁止使用invalidate metadata什么都不加,宁愿重启catalogd。

  • 相关阅读:
    国内乡村安防全面建设仍需推进,EasyNVR/EasyGBS/EasyCVR平台助力治安防控
    TSINGSEE青犀视频播放视频流的编码格式和封装格式有什么关系?
    全景摄像头怎么接入网页进行视频直播?
    EasyNTS编译报错could not read Username for XXXXX
    【LOJ#3005】Limited Memory
    【BZOJ2407】探险
    【洛谷P4480】餐巾计划问题
    【CF163E】e-Government
    【洛谷P4332】三叉神经树
    【洛谷P7518】宝石
  • 原文地址:https://www.cnblogs.com/to-here/p/13740336.html
Copyright © 2011-2022 走看看