博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
kafka/zookeeper学习记录
阅读量:5883 次
发布时间:2019-06-19

本文共 3466 字,大约阅读时间需要 11 分钟。

  hot3.png

 

1,kafka依赖于zookeeper,下载:

,;

2,配置启动ZOOKEEPER

    配置项:ZOOKEEPER_HOME,和PATH;参考:

200607_0vxZ_856051.png

修改zookeeper-3.4.10/conf下,zoo.conf文件:

设置项:

dataDir=/home/t/source/zookeeper-3.4.10/dataDirdataLogDir=/home/t/source/zookeeper-3.4.10/dataLogDir

zookeeper启动:

201039_VgW1_856051.png

./zkServer.sh start

3,配置启动kafka

修改kafka配置项:

201421_I6ZP_856051.png

启动kafka

200718_pwYu_856051.png

./kafka-server-start.sh  ../config/server.properties

创建topic(消息类型)

./kafka-topics.sh --create --zookeeper localhost:2181 --replication-factor 1 --partitions 1 --topic test

生产消息:

./kafka-console-producer.sh  --broker-list localhost:9092 --topic test

消费消息:

./kafka-console-consumer.sh --zookeeper localhost:2181 --topic test --from-beginning

最终效果:

202919_NdEl_856051.png

202936_NBCh_856051.png

生产端输入什么,消费端输出什么。

分区,对于一个topic,3个分区,则同一组消费者数量应当<=3,否则有消费者接受不到数据;

http://www.cnblogs.com/liuwei6/p/6900686.html

Topic在逻辑上可以被认为是一个queue,每条消费都必须指定它的Topic,可以简单理解为必须指明把这条消息放进哪个queue里。为了使得Kafka的吞吐率可以线性提高,物理上把Topic分成一个或多个Partition,每个Partition在物理上对应一个文件夹,该文件夹下存储这个Partition的所有消息和索引文件。

kafka外网访问 advertised.listeners=PLAINTEXT://x.x.x.x:9092

kafka读写

import org.apache.kafka.clients.consumer.ConsumerRecord;  import org.apache.kafka.clients.consumer.ConsumerRecords;  import org.apache.kafka.clients.consumer.KafkaConsumer;import org.apache.kafka.clients.producer.KafkaProducer;import org.apache.kafka.clients.producer.ProducerConfig;import org.apache.kafka.clients.producer.ProducerRecord;import org.apache.kafka.common.TopicPartition;import java.util.Arrays;import java.util.Date;import java.util.Properties;import javax.print.attribute.standard.PrinterLocation;    public class KafkaConsumerExample {      public static void main(String[] args) throws InterruptedException {          Properties props = new Properties();          props.put("bootstrap.servers", "192.168.1.166:9092");          props.put("group.id", "test13");          props.put("enable.auto.commit", "true");          props.put("auto.commit.interval.ms", "1000");          props.put("session.timeout.ms", "30000");          props.put("key.deserializer", "org.apache.kafka.common.serialization.StringDeserializer");          props.put("value.deserializer", "org.apache.kafka.common.serialization.StringDeserializer");          props.put("key.serializer", "org.apache.kafka.common.serialization.StringSerializer");          props.put("value.serializer", "org.apache.kafka.common.serialization.StringSerializer");          props.put("auto.offset.reset", "earliest");                props.put(ProducerConfig.BATCH_SIZE_CONFIG, 1024*1024*5);          //往kafka服务器提交消息间隔时间,0则立即提交不等待          props.put(ProducerConfig.LINGER_MS_CONFIG,0);                          //Kafka Reader        KafkaConsumer
consumer = new KafkaConsumer<>(props); consumer.subscribe(Arrays.asList("test")); consumer.seek(new TopicPartition("test", 1), 1); while (true) { ConsumerRecords
records = consumer.poll(2000); System.out.println("-------------"+new Date()); for (ConsumerRecord
record : records) System.out.printf("offset = %d, key = %s, value = %s\n", record.offset(), record.key(), record.value()); } /* //KafkaWriter KafkaProducer
productor = new KafkaProducer<>(props); productor.send(new ProducerRecord
("test", "aaa", "xiaoxiaoxiao2018")); */ } }

名词解释:

bootstrap.servers:Kafka集群连接串,可以由多个host:port组成【your.host.name:9092】

 

转载于:https://my.oschina.net/u/856051/blog/1476643

你可能感兴趣的文章
Linux 查询命令
查看>>
Some tips for your Number 157842 369 the earth number
查看>>
梦网云通讯API接口匹配状态报告规则
查看>>
Linux之线程管理
查看>>
Cocos2d-x游戏《雷电大战》开源啦!要源代码要资源快快来~~
查看>>
常见随机变量的数学期望和方差
查看>>
eclipse黄色警告(finally block does not complete normally) ,不建议在finally中使用return语句...
查看>>
msyql sql语句收集
查看>>
面试题一份
查看>>
关于ubuntu上执行错误命令报错
查看>>
使用grep恢复被删文件内容
查看>>
【转】Google 的眼光
查看>>
在同一台电脑上使用两个github账户
查看>>
简单一招,使解决方案下的项目版本号统一
查看>>
js 发布订阅模式
查看>>
Word Ladder(LintCode)
查看>>
JS面向对象组件(五) -- 复制对象(拷贝继承)
查看>>
分析一下jquery中的ajax操作
查看>>
装饰者模式(Decorator Pattern)C#版本的
查看>>
C++四种强制类型转换关键字
查看>>