LearnJava
  • Summary
    • Introduction
    • MyResume
  • 开发
    • 小程序
      • 小程序开发问题总结
      • 小程序bug
    • 环境搭建
      • Linux搭建git服务器
      • Linux切换JDK版本
      • Mac搭建http服务器
      • Ubuntu搭建C++开发环境
      • ProtoBuffer安装
      • Ubuntu开启Telnet
      • Linux搭建邮件服务器
    • 遇到的问题
      • Mac下eclipse问题
      • Mac下Github问题
      • Markdown解决方案实例
      • Spring问题
  • 编程语言
    • C++
      • C&C++框架汇总
      • C++Primer课后习题记录
      • C++疑问
      • C++与java的异同
      • C++内存模型
      • C++知识点
      • Make和Cmake
    • GO
      • Go语言简介
      • Go语言知识点
    • XML
      • XML知识点
  • 技术学习
    • JavaIO
      • AIO通信
      • IO和NIO
      • 阻塞式IO通信
      • 非阻塞式IO通信
    • 计算机网络
      • CDN
      • HTTPS协议入门
      • HTTP_POST请求的数据格式
      • HTTP错误码和出现场景
      • HTTP协议入门
      • TCP/IP协议入门
      • Wireshark抓包
      • 域名解析过程
    • 计算机原理
      • 整型计算
      • GPU
      • Swap内存
    • 架构学习
      • 分布式锁
      • 分布式系统的CAP理论
      • IaaS,PaaS,SaaS的区别
      • Web框架
      • 康威定律
      • 秒杀系统设计
      • 数据异构
      • 微服务架构入门
      • 协程
      • MQ推拉模式对比
      • UML图
      • 缓存穿透击穿和雪崩
    • 前端学习
      • 安装使用VUE
      • 搭建VUE项目
    • 大数据
      • Hadoop之HBASE
      • Hadoop之HDFS
      • Hadoop之MapReduce
      • Hadoop简介
    • 数据结构
      • 二叉树
      • 图
      • 跳表
      • Bitmap
    • 算法
      • 排序算法
        • 插入排序
        • 归并排序
        • 计数排序
        • 快速排序
        • 冒泡排序
        • 选择排序
      • Hash算法
      • MD5介绍
      • 一致性Hash算法
      • 数字全排列
      • MD5介绍
      • 储水量
      • 最大子序列
    • Java多线程
      • AQS原理
      • AtomicInteger原理
      • Condition
      • Fork/Join框架
      • happens-before
      • Java锁优化
      • Java线程池
      • Java中的阻塞队列
      • Java实现线程的三种方式
      • Lock
      • Lock的种类
      • ThreadLocal
      • 线程状态及其转换
    • Java设计模式
      • Builder模式
      • 代理模式
      • 工厂和抽象工厂模式
      • 观察者模式
      • 设计模式概述
      • 职责链模式
      • 装饰者模式
      • Java实现单例的5种方式
    • Java学习
      • Java拓展学习
        • JavaSPI
      • Java序列化
      • Java异常
      • Java注解
      • 学习UML图
      • Java的Lambda表达式
      • Java集合之ArrayList
      • Java集合之HashMap
      • Java集合之LinkedList
      • List⤅&Set的操作和遍历
      • JavaP反编译命令
      • Servlet学习
    • JVM学习
      • 分层编译
      • Java进程内存占用
      • JVM参数
      • JVM常用工具
      • JVM的内存模型
      • 垃圾回收机制
      • 看懂gc日志
      • 类加载机制和双亲委派模型
      • 类的反射
      • 自己动手编译OPENJDK
      • ASM字节码增强技术
      • CodeCache
      • GC耗时案例
      • JVM性能调优
    • Linux学习
      • gdb调试定位
      • Linux常用命令
      • Linux工具
      • Linux进程通信的方式
      • Linux文件系统结构
      • Linux系统知识点
      • Linux小技巧
      • Shell学习
      • Vim常用命令
    • Java设计模式
      • 设计模式概述
      • 代理模式
      • 装饰者模式
    • Mysql
      • InnoDB介绍
      • Mac_mysql问题
      • mysql之group_concat函数
      • mysql事务
      • Mysql优化
      • Mysql实用命令
      • mysql慢查询
      • mysql文件
      • mysql视图
      • mysql锁
      • mysql索引
      • mysql约束
      • 存储过程和触发器
      • mysql常用语法
    • Spring
      • SpringCloud
        • 搭建Jenkins自动部署
        • SpringCloud介绍
        • SpringCloudBus
        • SpringCloudConfig
        • SpringCloudEureka
        • SpringCloudFeign
        • SpringCloudHystrix
        • SpringCloudRibbon
        • SpringCloudSleuth
        • SpringCloudStream
        • SpringCloudZuul
      • FactoryBean理解
      • MyBatis入门介绍
      • rose框架学习
      • SpringMVC的启动流程
      • SpringBean的生命周期
      • SpringBoot入门
      • Spring入门AOP和IOC
      • SpringMVC入门笔记
      • SpringMVC集成Log4j2
      • web.xml详解
    • web中间件学习
      • Redis
        • Redis入门
        • Redis持久化
        • Redis的数据类型
        • Redis特性
      • Gremlin入门
      • Elasticsearch安装使用
      • HugeGraph入门
      • jetty介绍
      • Kafka介绍使用
      • Maven安装配置
      • Netty介绍使用
      • Netty的编解码
      • Maven的pom介绍
      • Nginx介绍
      • Nginx配置详解
      • ProtocolBuffers学习笔记
      • Resin学习
      • RESTful入门
      • RocketMQ入门
      • RPC入门
      • Thrift介绍
      • Tomcat常用配置
      • Tomcat学习
      • Tomcat实现
      • zookeeper入门
      • Zookerper选举原理
  • 文档读后感
    • 除了写代码你还会干什么
  • 效率提升
    • Java诊断工具Arthas
    • Mac下安装多版本java
    • Mac下显示git分支
    • Mac中Clion快捷键
    • Mac中Eclipse快捷键
    • MacShell常用快捷键
    • PlantUML入门
    • Windows与Linux服务器传文件
    • Sublime技巧
    • 搜索引擎检索技巧
  • 总结
    • 2017工作总结
Powered by GitBook
On this page
  • 一、Kafka介绍
  • 二、安装启动kafka
  • 三、使用kafka
  • 四、使用java api
  • 五、分区策略
  • 六、kafka的一些能力

Was this helpful?

  1. 技术学习
  2. web中间件学习

Kafka介绍使用

Previousjetty介绍NextMaven安装配置

Last updated 2 years ago

Was this helpful?

一、Kafka介绍

Apache Kafka是一个发布/订阅的消息系统,在2011年开源。Kafka具有很多特性:

  1. Kafka本身支持分布式,很容易横向扩展

  2. 高吞吐量,高性能

  3. 高容错性

kafka术语:

  • Broker:Kafka的服务器端由被称为Broker的服务进程构成,即一个Kafka集群由多个Broker组成,Broker负责接收和处理客户端发送过来的请求,以及对消息进行持久化。

  • 备份机制:一个leader,多个follower。只有leader提供服务,leader向follower同步数据,follower只做一件事,向leader发送请求,请求leader把最新消息发给它以保证主从同步。

  • Partition:分区,将每个主题划分为多个分区,每一个分区是一组有序的消息日志。每条消息只会被发送到一个分区中,上面的leader和follower就是对分区说的,一个分区有一个leader和多个follower。

  • 持久化:使用消息日志持久化,就是一个只能追加写的物理文件,通过日志段(log segment)回收磁盘,一个日志细分为多个日志段,消息总是被写入最新的日志段,当写满一个日志段后,kafka会自动切出一个新的日志段,kafka后台有定时任务定时判断老的日志段是否要删除。

  • 消息位移:offset,表示分区中每条消息的位置信息,是一个单调递增且不变的值。

  • 消费者位移:Consumer Offset。表征消费者消费进度,每个消费者都有自己的消费者位移。

  • 消费者组:Consumer Group。多个消费者实例共同组成的一个组,同时消费多个分区以实现高吞吐。

  • 重平衡:Rebalance。消费者组内某个消费者实例挂掉后,其他消费者实例自动重新分配订阅主题分区的过程。Rebalance是Kafka消费者端实现高可用的重要手段。

二、安装启动kafka

# 下载kafka
wget http://mirror.bit.edu.cn/apache/kafka/2.4.0/kafka_2.13-2.4.0.tgz
# 解压
tar -zxvf kafka_2.13-2.4.0.tgz
cd kafka_2.13-2.4.0
# 目录如下
bin:包含Kafka运行的所有脚本,如:start/stop Zookeeper,start/stop Kafka
libs:Kafka运行的依赖库
config:zookeeper,Logger,Kafka等相关配置文件
sit-docs:Kafka相关文档

kafka能够以三种方式部署集群:

  • 单节点-单Broker集群:只在一个节点上部署一个Broker

  • 单节点-多Broker集群:在一个节点上部署多个Broker,只不过各个Broker以不同的端口启动

  • 多节点-多Broker集群:以上两种的组合,每个节点上部署一到多个Broker,且各个节点连接起来

kafka使用Zookeeper来存储集群元数据和Consumer信息,因此有两种选项:

  • 独立部署Zookeeper应用并部署kafka集群到该Zookeeper;

  • 使用kafka自带的Zookeeper;

为了方便测试,下面使用kafka自带的Zookeeper来启动。

# 启动Zookeeper,默认的端口号是2181,可以在./config/zookeeper.properties修改,本次测试已改为2182
./bin/zookeeper-server-start.sh ./config/zookeeper.properties
# 启动kafka
./bin/kafka-server-start.sh ./config/server.properties 
......
[2020-02-21 15:49:10,389] INFO Kafka commitId: 77a89fcf8d7fa018 (org.apache.kafka.common.utils.AppInfoParser)
[2020-02-21 15:49:10,389] INFO Kafka startTimeMs: 1582271350379 (org.apache.kafka.common.utils.AppInfoParser)
[2020-02-21 15:49:10,393] INFO [KafkaServer id=0] started (kafka.server.KafkaServer)

三、使用kafka

# 创建名为topic1的topic
./bin/kafka-topics.sh --create --zookeeper localhost:2182 --replication-factor 1 --partitions 1 --topic topic1
# 列出所有的topic
 ./bin/kafka-topics.sh --list --zookeeper localhost:2182
# 启动一个Producer并发送消息
./bin/kafka-console-producer.sh --broker-list localhost:9092 --topic topic1
OpenJDK Client VM warning: G1 GC is disabled in this release.
>hello
>kafka
>
# 启动另一个Consumer并接受消息
./bin/kafka-console-consumer.sh --bootstrap-server localhost:9092 --topic topic1 --from-beginning
OpenJDK Client VM warning: G1 GC is disabled in this release.
hello
kafka

四、使用java api

依赖kafka的client包:

<dependency>
		    <groupId>org.apache.kafka</groupId>
		    <artifactId>kafka-clients</artifactId>
		    <version>2.4.0</version>
		</dependency>

生产者源码:

Properties properties = new Properties();
        properties.put("bootstrap.servers", "127.0.0.1:9092");
        properties.put("acks", "all");
        properties.put("retries", 0);
        properties.put("batch.size", 16384);
        properties.put("linger.ms", 1);
        properties.put("buffer.memory", 33554432);
        properties.put("key.serializer", "org.apache.kafka.common.serialization.StringSerializer");
        properties.put("value.serializer", "org.apache.kafka.common.serialization.StringSerializer");
        Producer<String, String> producer = null;
        try {
            producer = new KafkaProducer<String, String>(properties);
            for (int i = 0; i < 100; i++) {
                String msg = "Message " + i;
                producer.send(new ProducerRecord<String, String>("topic1", msg));
                System.out.println("Sent:" + msg);
            }
        } catch (Exception e) {
            e.printStackTrace();

        } finally {
            producer.close();
        }

五、分区策略

所谓分区策略就是生产者决定将消息发送到哪个分区的算法。

  • 轮询策略:就是顺序分配,是kafka的默认策略;

  • 随机策略:就是随机将消息发到某个分区上;

  • 按消息键保序策略:kafka允许为每条消息定义消息键,一旦消息被定义了消息键,那么kafka就保证同一个消息键的消息会发送到同一个分区上,由于分区上的消息是有序的,所以叫消息键保序策略,如果消息定义了消息键,这个就是默认策略,否则默认策略是轮询。

  • 自定义策略:你需要显式地配置生产者端的参数partitioner.class。然后在编写生产者程序时,你可以编写一个具体的类实现org.apache.kafka.clients.producer.Partitioner接口。

六、kafka的一些能力

  • 拦截器:生产者拦截器支持在消息发送前以及消息提交成功后植入拦截器逻辑,消费者拦截器支持在消息消费前以及提交位移后植入拦截器逻辑。可用于监控,审计,性能检测等场景。

  • 消息可靠性:kafka提供了三种消息生产可靠性保证:至多一次,至少一次,精确一次。精确一次通过幂等性Producer和事务性Producer实现,其中幂等性保证单会话单分区的精确一次的消息生产,多分区和多会话不保证,比如重启后就不能保证。而事务性Producer则能保证多分区和多会话的精确一次的消息生产。

参考:

http://www.itrensheng.com/archives/apache-kafka-java-api