zoukankan      html  css  js  c++  java
  • Storm- 使用Storm实现累积求和的操作

    需求:1+2+3+... = ???

    实现方案

      Spout发出数字作为input

      使用Bolt来处理业务逻辑:求和

      将结果输出到控制台

    拓扑设计:DataSourceSpout -->SumBolt→输出

    package com.imooc.bigdata;
    
    import org.apache.storm.Config;
    import org.apache.storm.LocalCluster;
    import org.apache.storm.spout.SpoutOutputCollector;
    import org.apache.storm.task.OutputCollector;
    import org.apache.storm.task.TopologyContext;
    import org.apache.storm.topology.OutputFieldsDeclarer;
    import org.apache.storm.topology.TopologyBuilder;
    import org.apache.storm.topology.base.BaseRichBolt;
    import org.apache.storm.topology.base.BaseRichSpout;
    import org.apache.storm.tuple.Fields;
    import org.apache.storm.tuple.Tuple;
    import org.apache.storm.tuple.Values;
    import org.apache.storm.utils.Utils;
    
    import java.util.Map;
    
    /**
     * 使用Storm实现累计求和的操作
     */
    public class LocalSumStormTopology {
        /**
         * spout 需要继承BaseRichSpout
         * 数据源需要产生数据并发射
         */
        public static class DataSourceSpout extends BaseRichSpout{
    
            private SpoutOutputCollector collector;
    
            /**
             * 初始化方法,只会被调用一次
             * @param conf 配置参数
             * @param context 上下文
             * @param collector 数据发射器
             */
            @Override
            public void open(Map conf, TopologyContext context, SpoutOutputCollector collector) {
                this.collector = collector;
            }
    
            int number = 0;
            /**
             * 会产生数据,在生产上肯定是从消息队列中获取数据
             *
             * 这个方法是一个死循环,会一直不停的执行
             */
            @Override
            public void nextTuple() {
                this.collector.emit(new Values(++number));
    
                System.out.println("Spout:"+number);
    
                //防止数据产生太快
                Utils.sleep(1000);
            }
    
            /**
             * 声明输出字段
             * @param declarer
             */
            @Override
            public void declareOutputFields(OutputFieldsDeclarer declarer) {
                declarer.declare(new Fields("num"));
            }
        }
    
    
        /**
         * 数据的累计求和Bolt:接收数据并处理
         */
        public static class SumBolt extends BaseRichBolt{
    
            /**
             * 初始化方法,会被执行一次
             * @param stormConf
             * @param context
             * @param collector
             */
            @Override
            public void prepare(Map stormConf, TopologyContext context, OutputCollector collector) {
    
            }
    
            int sum= 0;
            /**
             * 其实也是一个死循环,职责:获取Spout发送过来的数据
             * @param input
             */
            @Override
            public void execute(Tuple input) {
    
                // Bolt中获取值可以根据index获取,也可以根据上一个环节中定义的field的名称获取(建议使用该方式)
                Integer value = input.getIntegerByField("num");
                sum += value;
    
                System.out.println("Bolt:sum = ["+sum +"]");
            }
    
            /**
             *
             * @param declarer
             */
            @Override
            public void declareOutputFields(OutputFieldsDeclarer declarer) {
            }
        }
    
        public static void main(String[] args) {
    
            // TopologyBuilder根据Spout和Bolt来构建Topology
            // Storm中任何一个作业都是通过Topology的方式进行提交的
            // Topology中需要指定Spout和Bolt的执行顺序
            TopologyBuilder builder = new TopologyBuilder();
            builder.setSpout("DataSourceSpout", new DataSourceSpout());
            builder.setBolt("SumBolt", new SumBolt()).shuffleGrouping("DataSourceSpout");
    
            // 创建一个本地的Storm集群:本地模式运行,不需要搭建Storm集群
            LocalCluster cluster = new LocalCluster();
            cluster.submitTopology("LocalSumStormTopology", new Config(), builder.createTopology());
        }
    
    
    }
  • 相关阅读:
    11.重写、抽象、接口、异常
    3.用户组、指令运行级别、帮助指令、文件目录类(一)
    2.vi和vim编辑器、vi和vim三种模式、vi和vim快捷键、关机、重启命令、用户管理
    1.VM和Linux系统(centos)安装、linux目录结构、远程登录到Linux服务器、远程上传下载文件xftp
    10.函数、流程控制
    9.变量、存储过程
    8.事务、视图
    7.库和表的管理、常见数据类型、常见约束、标识符
    CH6801 棋盘覆盖(二分图最大匹配)
    洛谷P1525 关押罪犯(二分图判定+二分)
  • 原文地址:https://www.cnblogs.com/RzCong/p/9382940.html
Copyright © 2011-2022 走看看