SpringBoot实现Kafka消息的多组消费
包含内容: 源码,全套工具
作者QQ549710689
下载Demo
实例讲解了使用SpringBoot开发Kafka消息的发布与订阅, SpringBoot启动二个实例, 分别以二个不同的组对kafka的一个topic进行订阅, 观察结论为: 二个组都可以拿到kafka对应topic的全量数据
假设你了解过 SpringBoot 和 Kafka。
1、SpringBoot
如果对 SpringBoot 不了解的话，可以在视频【http://wisdomdd.cn/Wisdom/lesson/dist/lessonList/index.html#/lessonDetail?resourceId=1350】学习下。
2、Kafka
Kafka 的话可以看看我前两天写的博客 ： Kafka 安装及快速入门 学习的话自己开台虚拟机自己手动搭建环境吧，有条件的买服务器。
注意：一定要亲自自己安装实践，接下来我们将这两个进行整合。
3. Zookeeper与Kafka的启动
请观看以上视频
创建项目
项目整体架构：
使用 IDEA 创建 SpringBoot 项目，这个很简单了，这里不做过多的讲解。
4、pom 文件代码如下：
<?xml version="1.0" encoding="UTF-8"?> <project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" xsi:schemakafkaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apache.org/xsd/maven-4.0.0.xsd"> <modelVersion>4.0.0</modelVersion> <groupId>com.example.kafka</groupId> <artifactId>demo</artifactId> <version>0.0.1-SNAPSHOT</version> <packaging>jar</packaging> <name>demo</name> <description>Demo project for Spring Boot</description> <parent> <groupId>org.springframework.boot</groupId> <artifactId>spring-boot-starter-parent</artifactId> <version>2.1.0.RELEASE</version> <relativePath/> <!-- lookup parent from repository --> </parent> <properties> <project.build.sourceEncoding>UTF-8</project.build.sourceEncoding> <project.reporting.outputEncoding>UTF-8</project.reporting.outputEncoding> <java.version>1.8</java.version> </properties> <dependencies> <dependency> <groupId>org.springframework.boot</groupId> <artifactId>spring-boot-starter-web</artifactId> </dependency> <dependency> <groupId>org.springframework.kafka</groupId> <artifactId>spring-kafka</artifactId> </dependency> <dependency> <groupId>org.springframework.boot</groupId> <artifactId>spring-boot-starter-test</artifactId> <scope>test</scope> </dependency> <dependency> <groupId>org.springframework.kafka</groupId> <artifactId>spring-kafka-test</artifactId> <scope>test</scope> </dependency> <dependency> <groupId>com.google.code.gson</groupId> <artifactId>gson</artifactId> <version>2.8.2</version> </dependency> </dependencies> <build> <plugins> <plugin> <groupId>org.springframework.boot</groupId> <artifactId>spring-boot-maven-plugin</artifactId> </plugin> </plugins> </build> </project>
主要引入了 spring-kafka 、lombok 、 gson 依赖。
5 消息实体类 Message.java 如下：
public class Message {
private Long id; //id
private String msg; //消息
private Date sendTime; //时间戳
public Long getId() {
return id;
}
public void setId(Long id) {
this.id = id;
}
public String getMsg() {
return msg;
}
public void setMsg(String msg) {
this.msg = msg;
}
public Date getSendTime() {
return sendTime;
}
public void setSendTime(Date sendTime) {
this.sendTime = sendTime;
}
}6. 消息发送类 KafkaSender.java
@Component
public class KafkaSender {
@Autowired
private KafkaTemplate<String,String> kafkaTemplate;//kafkaTemplate相当于生产者
public final static Logger logger = LoggerFactory.getLogger(KafkaSender.class);
private Gson gson = new GsonBuilder().create();
//发送消息方法
public void send(long l) {
Message message = new Message();
message.setId(System.currentTimeMillis());
message.setMsg(UUID.randomUUID().toString());
message.setSendTime(new Date());
logger.info("+++++++++++++++++++++ message = {}", gson.toJson(message));
kafkaTemplate.send("zhisheng", gson.toJson(message));
}
}这里关键的代码为 kafkaTemplate.send() 方法，zhisheng 是 Kafka 里的 topic ，这个 topic 在 Java 程序中是不需要提前在 Kafka 中设置的，因为它会在发送的时候自动创建你设置的 topic， gson.toJson(message) 是消息内容，这里暂时先说这么多了，不详解了，后面有机会继续把里面源码解读写篇博客出来（因为中途碰到坑，老子跟了几遍源码）
7. 消息接收类 KafkaReceiver.java
@Component
public class KafkaReceiver {
public final static Logger logger = LoggerFactory.getLogger(KafkaReceiver.class);
@KafkaListener(topics = {"zhisheng"})
public void listen(ConsumerRecord<?, ?> record) {
Optional<?> kafkaMessage = Optional.ofNullable(record.value());
if (kafkaMessage.isPresent()) {
Object message = kafkaMessage.get();
logger.info("----------------- record =" + record);
logger.info("------------------ message =" + message);
}
}
}客户端 consumer 接收消息特别简单，直接用 @KafkaListener 注解即可，并在监听中设置监听的 topic ，topics 是一个数组所以是可以绑定多个主题的，上面的代码中修改为 @KafkaListener(topics = {"zhisheng","tian"}) 就可以同时监听两个 topic 的消息了。需要注意的是：这里的 topic 需要和消息发送类 KafkaSender.java 中设置的 topic 一致。
8. 在application.properties中配置:
spring.kafka.consumer.group-id=test-consumer-group1
8、启动类 KafkaApplication.java
@SpringBootApplication
public class DemoApplication {
public static void main(String[] args) {
ConfigurableApplicationContext context = SpringApplication.run(DemoApplication.class, args);
KafkaSender sender = context.getBean(KafkaSender.class);
int count = 1000;
for (int i = 0; i < 0; i++) {
//调用消息发送类中的消息发送方法
sender.send(count++);
try {
Thread.sleep(10000);
} catch (InterruptedException e) {
e.printStackTrace();
}
}
}
}9. 再次配置
spring.kafka.consumer.group-id=test-consumer-group1 然后启动项目的另一个实例
10. 在kafka的命令行窗口中，通过命令向topic发送相应的消息， 可以看到springboot的二个实例都成功订阅到了消息
bin\windows\kafka-console-producer.bat --broker-list localhost:9092 --topic zhisheng
具体见视频