(32 MB)消费者配置

发布时间:2025-06-24 17:40:53  作者:北方职教升学中心  阅读量:606


:新闻确认的级别,可以是。

  • 示例。 earliest。
    • 描述。:每个分区日志数据的最大保留大小,大小以上的日志将被删除。(32 MB)
  • 消费者配置。:ZooKeeper 集群连接字符串,用于 Kafka 元数据管理与协调集群。:log.retention.hours=168。:生产者用于缓冲等待发送消息的内存总量。
    • 描述。

    1. broker.id。
    2. auto.commit.interval.ms。或。返回的最大记录数。
    3. 示例。
      • 描述。zookeeper.connect=localhost:2181。
    4. retention.ms。
    5. 示例。(7 天)

    生产者配置。:默认的 topic 分区数量。

    1. cleanup.policy。
    2. zookeeper.connect。
    3. enable.auto.commit。
      • 描述。buffer.memory=33554432。
        • 描述。
          • 描述。
        • log.cleaner.enable。:是否使用日志清洁(压缩)。
      • log.dirs。或。。
      • 示例。
        • 描述。(16 KB)
      • linger.ms。 all。broker.id=1。
    4. default.replication.factor。
    5. 示例。:生产者在发送消息前等待的时间,以便批处理更多信息。(1 GB)
    6. segment.ms。
      • 描述。batch.size=16384。auto.commit.interval.ms=5000。
      • 示例。
        • 描述。
          • 描述。
          • 示例。default.replication.factor=3。(7 天)
        • retention.bytes。
          1. acks。max.poll.records=500。:在 ack=all ,最小同步副本数,确保消息的可靠性。 latest。log.cleaner.enable=true。:日志保留时间(以毫秒为单位)。
            • 描述。:自动提交偏移量的时间间隔(以毫秒为单位)。:enable.auto.commit=true。
              • 描述。
              • 示例。

          这些参数࿰通过正确配置c;可以确保 Kafka 集群在性能、

      • max.poll.records。:Kafka 存储日志文件目录,可配置多个目录,为了实现更好的磁盘 I/O 性能。

        在初始化 Kafka 集群配置时,需要正确设置一些重要的参数,确保集群的性能、这些参数分为不同的类别,包括 broker 配置、min.insync.replicas=2。

    7. buffer.memory。(1 GB)
    8. auto.create.topics.enable。以下是一些关键参数和功能:

      Broker 配置。:消费者群体的唯一标识符。
      • 描述。:日志清理策略,可以是。
      • 示例。(1 GB)

    9. log.retention.bytes。 0, 1。:自动提交偏移量是否启用。linger.ms=5。
    10. listeners。:日志保留时间,超过此时间的日志将被删除。
    11. 示例。log.retention.bytes=1073741824。:每个分区日志数据的最大保留大小。
    12. 示例。
      • 描述。:每批消息最大大小(以字节为单位)。

    Topic 配置。
  • log.retention.hours。
  • 示例。:默认的 topic 副本数量。
  • 示例。可靠性和可用性方面达到最佳状态。:每个 Kafka broker 唯一的标识符。listeners=PLAINTEXT://:9092。:num.partitions=3。
    • 描述。
    • 示例。retention.ms=604800000。retries=3。
    • 示例。log.dirs=/var/lib/kafka/logs。
      • 描述。
      • 示例。:日志段最大时间(以毫秒为单位)。
      • 示例。cleanup.policy=delete。:如何处理没有初始偏移量或偏移量超出范围的,可以是。
    • batch.size。
      • 描述。具体参数值应根据实际使用场景和需要进行调整。
      • 示例。
        • 描述。(保留 7 天)
      • log.segment.bytes。
      • 示例。
      • 示例。
        • 描述。或。 delete。topic 配置和消费者配置。
    1. group.id。segment.ms=604800000。
    2. min.insync.replicas。 poll()。可靠性和可用性。log.segment.bytes=1073741824。auto.create.topics.enable=true。group.id=my-consumer-group。:acks=all。:retention.bytes=1073741824。
      • 描述。
        • 描述。:最大尺寸的日志段,达到这个大小时,Kafka 将创建一个新的日志段。
        • 示例。
      • retries。 compact。
      • 示例。
        • 描述。:是否允许自动创建 topic。:配置 broker 监控网络接口,用于客户端连接。auto.offset.reset=earliest。
        • 示例。
          • 描述。:每次调用。
          • 示例。
        • num.partitions。
      • auto.offset.reset。
      • 示例。
        • 描述。:消息发送失败时的重试次数。
        • 示例。
          • 描述。
            • 描述。