zoukankan      html  css  js  c++  java
  • 关于logstash-out-mongodb插件说明

    从kafka获取数据,存到mongodb中。适合空间查询geo_point设置。配置文件如下:

    input {
      kafka {
        type => "test"
        auto_offset_reset => "smallest"
        group_id => "m2"
        topic_id => "db100"
        zk_connect => "192.168.199.6:2181,192.168.199.7:2181,192.168.199.8:2181"
      }
    }

    filter {
      mutate {
        split => { "message" => "," }
          add_field => {
                    "id" => "%{message[1]}"
                    "SYZTDM_s" => "%{message[55]}"
                    "lat" => "%{message[6]}"
                    "lon" => "%{message[7]}"
                    "loc" =>  "%{message[6]}"
         }
         remove_field => [ "message" ]
         remove_field => [ "path" ]
         remove_field => [ "host" ]
         remove_field => [ "type" ]
    }
    mutate{
     convert => {"lat" => "float"}
     convert => { "lon" => "float"}
     convert => {"loc" => "float"}


    }
    mutate{
        merge => {"loc" =>"lon"}
    }
    }

    output {
    mongodb {
            collection => "base"
            database => "fragment"


            uri => "mongodb://192.168.199.7:27017"
           }
    }

    注意:

    1.logstash需要安装mongodb插件,默认没有安装的。(bin/logstash-plugin install logstash-output-mongodb)

    2.插入方式是insert方式,是单个插入。

    3.geo_point查询方式是数组类型的。

    我的网站 http://www.a-du.net
  • 相关阅读:
    HTTP之get post
    eclipse启动maven项目
    IDEA创建的Web项目配置Tomcat并启动Maven项目
    看django源代码有感
    给计算机系学生的建议
    自己的一点看法
    专业学习的方法
    专业思考2013.2.26
    如何通过看书来学习技术
    技术成长路线
  • 原文地址:https://www.cnblogs.com/a-du/p/8193763.html
Copyright © 2011-2022 走看看