栏目分类:
子分类:
返回
终身学习网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
终身学习网 > IT > 前沿技术 > 大数据 > 大数据系统

whose size is larger than the fetch size

大数据系统 更新时间:发布时间: 百科书网 趣学号
1  整体异常描述
org.apache.kafka.common.errors.RecordTooLargeException: There are some messages at [Partition=Offset]: {ME1000002013-8=4791187} whose size is larger than the fetch size 1048576 and hence cannot be returned. Please considering upgrading your broker to 0.10.1.0 or newer to avoid this issue. Alternately, increase the fetch size on the client (using max.partition.fetch.bytes)

  

 2  背景        

   1)  消息队列使用的是Kafka

   2)  客户端消费者使用spring boot方式进行的集成

 3  原因分析

    1048576字节=1MB,消费者在消费Kafka消息的时候,默认会进行单条消息大小的控制,默认

值就是1MB。

 4  解决方案

   spring boot  配置文件加入配置,设置拉取消息的最大值即可

 

spring:
  kafka:
    consumer:
      properties:
        max.partition.fetch.bytes: 104857600

  

转载请注明:文章转载自 www.051e.com
本文地址:http://www.051e.com/it/601430.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 ©2023-2025 051e.com

ICP备案号:京ICP备12030808号