zoukankan      html  css  js  c++  java
  • Amazon Kinesis Producer Library 使用记录

    Amazon Kinesis 是一种托管的服务,用于有弹性与扩展性的实时处理大规模的流数据。该服务收集大数据记录流,多个可在 Amazon EC2 实例上运行的数据处理应用程序随后可实时使用此流。

    在我目前的使用中,Kinesis更多的时候是作为一个数据管道使用,生产者不断地的产生数据,向Kinesis推送,消费者不断的从Kinesis取出数据进行处理,分发,计算等。

    本来使用的是Kinesis的原始API做处理,但是需要自己做一些网络传输异常、各种异常的捕捉,需要写不少逻辑。和AWS的专家沟通后,建议使用KPL(Kinesis Producer Library )进行开发,这个库帮助做一些Kinesis的负载分发、本地缓存、异常捕获等。

    使用记录
    1、先从Github上下载一份Kinesis的Sample,用来调试学习
    2、导入maven项目,maven仓库选择阿里的就行
    1. <mirror>
    2. <id>alimaven</id>
    3. <name>aliyun maven</name>
    4. <url>http://maven.aliyun.com/nexus/content/groups/public/</url>
    5. <mirrorOf>central</mirrorOf>
    6. </mirror>


    结束使用,因为AWS的工程师和我说,kpl不能再windows使用,而我没得linux开发环境。。。




  • 相关阅读:
    学习进度笔记16
    《软件架构师的12项修炼》阅读笔记1
    学习进度笔记15
    CSS前端性能优化
    多行文本溢出,显示省略号
    VIM编辑器使用
    iOS 兼容性处理
    javascript 对象
    JS滚轮事件(mousewheel/DOMMouseScroll)了解
    MarkDown编辑器基础使用教程
  • 原文地址:https://www.cnblogs.com/tilv37/p/6228867.html
Copyright © 2011-2022 走看看