Spark 系列(十六)—— Spark Streaming 整合 Kafka

  • 时间:
  • 浏览:1
  • 来源:极速快3_快3官网ios版_极速快3官网ios版

一、版本说明

Spark 针对 Kafka 的不同版本,提供了两套整合方案:spark-streaming-kafka-0-8spark-streaming-kafka-0-10,其主要区别如下:

Kafka 版本 0.8.2.1 or higher 0.10.0 or higher
AP 情形 Deprecated

从 Spark 2.3.0 版本开始英语 英语 ,Kafka 0.8 支持已被弃用
Stable(稳定版)
语言支持 Scala, Java, Python Scala, Java
Receiver DStream Yes No
Direct DStream Yes Yes
SSL / TLS Support No Yes
Offset Commit API(偏移量提交) No Yes
Dynamic Topic Subscription

(动态主题订阅)
No Yes

本文使用的 Kafka 版本为 kafka_2.12-2.2.0,故采用第二种法律妙招进行整合。

二、项目依赖

项目采用 Maven 进行构建,主要依赖如下:

<properties>
    <scala.version>2.12</scala.version>
</properties>

<dependencies>
    <!-- Spark Streaming-->
    <dependency>
        <groupId>org.apache.spark</groupId>
        <artifactId>spark-streaming_${scala.version}</artifactId>
        <version>${spark.version}</version>
    </dependency>
    <!-- Spark Streaming 整合 Kafka 依赖-->
    <dependency>
        <groupId>org.apache.spark</groupId>
        <artifactId>spark-streaming-kafka-0-10_${scala.version}</artifactId>
        <version>2.4.3</version>
    </dependency>
</dependencies>

完整性源码见本仓库:spark-streaming-kafka

三、整合Kafka

通过调用 KafkaUtils 对象的 createDirectStream 法律妙招来创建输入流,完整性代码如下:

import org.apache.kafka.common.serialization.StringDeserializer
import org.apache.spark.SparkConf
import org.apache.spark.streaming.kafka010.ConsumerStrategies.Subscribe
import org.apache.spark.streaming.kafka010.LocationStrategies.PreferConsistent
import org.apache.spark.streaming.kafka010._
import org.apache.spark.streaming.{Seconds, StreamingContext}

/**
  * spark streaming 整合 kafka
  */
object KafkaDirectStream {

  def main(args: Array[String]): Unit = {

    val sparkConf = new SparkConf().setAppName("KafkaDirectStream").setMaster("local[2]")
    val streamingContext = new StreamingContext(sparkConf, Seconds(5))

    val kafkaParams = Map[String, Object](
      /*
       * 指定 broker 的地址清单,清单里不需用富含所有的 broker 地址,生产者会从给定的 broker 里查找一些 broker 的信息。
       * 不过建议要花费提供3个


 broker 的信息作为容错。
       */
      "bootstrap.servers" -> "hadoop001:9092",
      /*键的序列化器*/
      "key.deserializer" -> classOf[StringDeserializer],
      /*值的序列化器*/
      "value.deserializer" -> classOf[StringDeserializer],
      /*消费者所在分组的 ID*/
      "group.id" -> "spark-streaming-group",
      /*
       * 该属性指定了消费者在读取3个


没法偏移量的分区原应偏移量无效的情形下该作何处里:
       * latest: 在偏移量无效的情形下,消费者将从最新的记录开始英语

英语

读取数据(在消费者启动前一天生成的记录)
       * earliest: 在偏移量无效的情形下,消费者将从起始位置读取分区的记录
       */
      "auto.offset.reset" -> "latest",
      /*算是自动提交*/
      "enable.auto.commit" -> (true: java.lang.Boolean)
    )
    
    /*还里能并肩订阅多个主题*/
    val topics = Array("spark-streaming-topic")
    val stream = KafkaUtils.createDirectStream[String, String](
      streamingContext,
      /*位置策略*/
      PreferConsistent,
      /*订阅主题*/
      Subscribe[String, String](topics, kafkaParams)
    )

    /*打印输入流*/
    stream.map(record => (record.key, record.value)).print()

    streamingContext.start()
    streamingContext.awaitTermination()
  }
}

3.1 ConsumerRecord

这里获得的输入流中每3个 Record 实际上是 ConsumerRecord<K, V> 的实例,其富含了 Record 的所有可用信息,源码如下:

public class ConsumerRecord<K, V> {
    
    public static final long NO_TIMESTAMP = RecordBatch.NO_TIMESTAMP;
    public static final int NULL_SIZE = -1;
    public static final int NULL_CHECKSUM = -1;
    
    /*主题名称*/
    private final String topic;
    /*分区编号*/
    private final int partition;
    /*偏移量*/
    private final long offset;
    /*时间戳*/
    private final long timestamp;
    /*时间戳代表的含义*/
    private final TimestampType timestampType;
    /*键序列化器*/
    private final int serializedKeySize;
    /*值序列化器*/
    private final int serializedValueSize;
    /*值序列化器*/
    private final Headers headers;
    /*键*/
    private final K key;
    /*值*/
    private final V value;
    .....   
}

3.2 生产者属性

在示例代码中 kafkaParams 封装了 Kafka 消费者的属性,那此属性和 Spark Streaming 无关,是 Kafka 原生 API 中需用定义的。其中服务器地址、键序列化器和值序列化器是必选的,一些配置是可选的。其余可选的配置项如下:

1. fetch.min.byte

消费者从服务器获取记录的最小字节数。原应可用的数据量小于设置值,broker 会停留有足够的可用数据时才会把它返回给消费者。

2. fetch.max.wait.ms

broker 返回给消费者数据的停留时间。

3. max.partition.fetch.bytes

分区返回给消费者的最大字节数。

4. session.timeout.ms

消费者在被认为死亡前一天还里能与服务器断开连接的时间。

5. auto.offset.reset

该属性指定了消费者在读取3个 没法偏移量的分区原应偏移量无效的情形下该作何处里:

  • latest(默认值) :在偏移量无效的情形下,消费者将从其启动前一天生成的最新的记录开始英语 英语 读取数据;
  • earliest :在偏移量无效的情形下,消费者将从起始位置读取分区的记录。

6. enable.auto.commit

算是自动提交偏移量,默认值是 true,为了处里出显重复数据和数据丢失,还里能把它设置为 false。

7. client.id

客户端 id,服务器用来识别消息的来源。

8. max.poll.records

单次调用 poll() 法律妙招利于返回的记录数量。

9. receive.buffer.bytes 和 send.buffer.byte

这3个 参数分别指定 TCP socket 接收和发送数据包缓冲区的大小,-1 代表使用操作系统的默认值。

3.3 位置策略

Spark Streaming 中提供了如下有一种位置策略,用于指定 Kafka 主题分区与 Spark 执行多线程 池池 Executors 之间的分配关系:

  • PreferConsistent : 它将在所有的 Executors 上均匀分配分区;

  • PreferBrokers : 当 Spark 的 Executor 与 Kafka Broker 在同一机器上时还里能选泽该选项,它优先将该 Broker 上的首领分区分配给该机器上的 Executor;
  • PreferFixed : 还里能指定主题分区与特定主机的映射关系,显示地将分区分配到特定的主机,其构造器如下:

@Experimental
def PreferFixed(hostMap: collection.Map[TopicPartition, String]): LocationStrategy =
  new PreferFixed(new ju.HashMap[TopicPartition, String](hostMap.asJava))

@Experimental
def PreferFixed(hostMap: ju.Map[TopicPartition, String]): LocationStrategy =
  new PreferFixed(hostMap)

3.4 订阅法律妙招

Spark Streaming 提供了有一种主题订阅法律妙招,分别为 SubscribeSubscribePattern。后者还里能使用正则匹配订阅主题的名称。其构造器分别如下:

/**
  * @param 需用订阅的主题的集合
  * @param Kafka 消费者参数
  * @param offsets(可选): 在初始启动时开始英语

英语

的偏移量。原应没法,则将使用保存的偏移量或 auto.offset.reset 属性的值
  */
def Subscribe[K, V](
    topics: ju.Collection[jl.String],
    kafkaParams: ju.Map[String, Object],
    offsets: ju.Map[TopicPartition, jl.Long]): ConsumerStrategy[K, V] = { ... }

/**
  * @param 需用订阅的正则
  * @param Kafka 消费者参数
  * @param offsets(可选): 在初始启动时开始英语

英语

的偏移量。原应没法,则将使用保存的偏移量或 auto.offset.reset 属性的值
  */
def SubscribePattern[K, V](
    pattern: ju.regex.Pattern,
    kafkaParams: collection.Map[String, Object],
    offsets: collection.Map[TopicPartition, Long]): ConsumerStrategy[K, V] = { ... }

在示例代码中,亲戚亲戚一些人实际上并没法指定第3个 参数 offsets,什么都有有多线程 池池默认采用的是配置的 auto.offset.reset 属性的值 latest,即在偏移量无效的情形下,消费者将从其启动前一天生成的最新的记录开始英语 英语 读取数据。

3.5 提交偏移量

在示例代码中,亲戚亲戚一些人将 enable.auto.commit 设置为 true,代表自动提交。在一些情形下,你原应需用更高的可靠性,如在业务完整性处里完成后再提交偏移量,这前一天还里能使用手动提交。你会 进行手动提交,需用调用 Kafka 原生的 API :

  • commitSync: 用于异步提交;
  • commitAsync:用于同步提交。

具体提交法律妙招还里能参见:Kafka 消费者详解

四、启动测试

4.1 创建主题

1. 启动Kakfa

Kafka 的运行依赖于 zookeeper,需用预先启动,还里能启动 Kafka 内置的 zookeeper,也还里能启动买车人安装的:

# zookeeper启动命令
bin/zkServer.sh start

# 内置zookeeper启动命令
bin/zookeeper-server-start.sh config/zookeeper.properties

启动单节点 kafka 用于测试:

# bin/kafka-server-start.sh config/server.properties

2. 创建topic

# 创建用于测试主题
bin/kafka-topics.sh --create \
                    --bootstrap-server hadoop001:9092 \
                    --replication-factor 1 \
                    --partitions 1  \
                    --topic spark-streaming-topic

# 查看所有主题
 bin/kafka-topics.sh --list --bootstrap-server hadoop001:9092

3. 创建生产者

这里创建3个 Kafka 生产者,用于发送测试数据:

bin/kafka-console-producer.sh --broker-list hadoop001:9092 --topic spark-streaming-topic

4.2 本地模式测试

这里我直接使用本地模式启动 Spark Streaming 多线程 池池。启动后使用生产者发送数据,从控制台查看结果。

从控制台输出中还里能就看数据流原应被成功接收,原应采用 kafka-console-producer.sh 发送的数据默认是没法 key 的,什么都有有 key 值为 null。并肩从输出中也还里能就看在多线程 池池中指定的 groupId 和多线程 池池自动分配的 clientId

参考资料

  1. https://spark.apache.org/docs/latest/streaming-kafka-0-10-integration.html

更多大数据系列文章还里能参见 GitHub 开源项目大数据入门指南