zoukankan      html  css  js  c++  java
  • Kafka学习笔记(1)----Kafka的简介和Linux下单机安装

    1. Kafka简介

      Kafka is a distributed,partitioned,replicated commit logservice。它提供了类似于JMS的特性,但是在设计实现上完全不同,此外它并不是JMS规范的实现。kafka对消息保存时根据Topic进行归类,发送消息者成为Producer,消息接受者

    为Consumer,此外kafka集群有多个kafka实例组成,每个实例成为broker。无论是kafka集群,还是producer和consumer都依赖于zookeeper来保证系统可用性集群保存一些meta信息。

      

    2. ubuntu下安装Kafka

      环境说明: 

      1. os:Ubuntu 16.04

      2. zookeeper:zookeeper 3.4.13

      3. kafka:kafka_2.11-2.0.1

      4. jdk:jdk 8(kafka启动需要使用到jdk)

    2.1 jdk安装

      jdk在安装是较为常见的,所以这里就不再详细介绍了。

    2.2 zookeeper安装

      首先下载zookeeper,下载地址为:http://mirror.bit.edu.cn/apache/zookeeper/,如当前源不能访问,请自行更换其他源。如图:

      

      根据自己的需要的版本下载相应的.tar.gz文件,将下载的文件上传到服务器上。通过Xshell 6端,使用命令rz。

      解压文件:

      

      解压后进入conf文件夹,

      将zoo_sample.cfg拷贝一份为zoo.cfg

      如下:

      

      修改zoo.cfg文件:

      

      为zookeeper配置环境变量:

    vim /etc/profile
    export ZOOKEEPER_HOME=/usr/local/middle/zookeeper-3.4.13
    export PATH=.:$ZOOKEEPER_HOME/bin:$JAVA_HOME/bin:$PATH

      

    保存退出

      使用zkServer.sh start启动zookeeper服务:

      

    启动成功,配置正确,然后关闭服务zkServer.sh stop

    2.3 安装配置Kafka单机模式

      下载Kafka,下载地址为:http://mirror.bit.edu.cn/apache/kafka/2.0.1/,如果源不可用,自行更换其他源。如图:

      

      下载自己需要的版本

      将下载的Kafka上传到服务器,使用如下命令解压:

    tar -zxvf kafka_2.11-2.0.1.tgz 

      解压后进入到config文件夹,如下:

      

      分别配置三个文件:

      server.properties:

      主要配置以下几项,其他的都按默认配置即可

    broker.id=1
    #指定端口
    port=9092
    #指定主机
    host.name=localhost
    #数据存储位置
    log.dirs=/usr/local/middle/kafka_2.11-2.0.1/kafka-logs
    #连接zookeeper配置项,这里指定的是单机,所以只需要配置localhost,若是实际生产环境,需要在这里添加其他ip地址和端口号
    zookeeper.connect=localhost:2181

      如图:

    ·

      zookeeper.properties配置:

      

      producer.properties配置:

      

      consumer.properties配置:

      

      启动kafka:

      1. 启动zookeeper服务

      进入kafka根目录,使用如下命令启动zookeeper。

    bin/zookeeper-server-start.sh config/zookeeper.properties

      如图:

      会执行环境变量配置的zk,出现如上图所示表示启动成功。

      新开一个会话启动kafka,使用如下命令:

    bin/kafka-server-start.sh config/server.properties

      如下图: 

     

      出现如上图则表示kafka启动成功。

      至此,单机的Kafka安装完成了。

    原文 Kafka学习笔记(1)----Kafka的简介和Linux下单机安装

  • 相关阅读:
    .NET 世界中的远程脚本
    操作Active Directory C#
    三层体系结构总结(四)
    C#+Asp.net系列教程
    勿重复检测浏览器
    事件模块的演变(8)
    读jQuery之三(构建选择器)
    读jQuery之二(两种扩展)
    新API解析JSONAjax之七
    JS Queue LazyLoad 之二
  • 原文地址:https://www.cnblogs.com/xiaoshen666/p/10867402.html
Copyright © 2011-2022 走看看