kafka文件存储机制

命运对每个人都是一样的,不一样的是各自的努力和付出不同,付出的越多,努力的越多,得到的回报也越多,在你累的时候请看一下身边比你成功却还比你更努力的人,这样,你就会更有动力。

导读:本篇文章讲解 kafka文件存储机制,希望对大家有帮助,欢迎收藏,转发!站点地址:www.bmabk.com,来源:原文

前言

我们知道,生产者发送给kafka的数据肯定是需要存储的,存储意味着数据落盘,但是这个数据存储的结构是怎样的呢?

不妨先来了解下kafka文件存储机制

  • Topic是逻辑上的概念,而partition是物理上的概念,每个partition对应于一个log文件,该log文件中存储的就是Producer生产的数据;
  • Producer生产的数据会被不断追加到该log文件末端,为防止log文件过大导致数据定位效率低下,Kafka采取了分片和索引机制,将每个partition分为多个segment;
  • 每个segment包括:“.index”文件、“.log”文件和.timeindex等文件。这些文件位于一个文件夹下,该文件夹的命名规则为:topic名称+分区序号,例如:first-0;

总体的文件结构如下图所示:

kafka文件存储机制

对上面的文件结构再做几点补充说明:

  • 一个partition分为多个segment
  • .log 日志文件  .index 偏移量

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 举报,一经查实,本站将立刻删除。

文章由半码博客整理,本文链接:https://www.bmabk.com/index.php/post/143306.html

(0)

相关推荐

  • Postman传日期类型

    导读:本篇文章讲解 Postman传日期类型,希望对大家有帮助,欢迎收藏,转发!站点地址:www.bmabk.com

    2023年2月21日
    00
  • 【Python】enumerate() 函数

    导读:本篇文章讲解 【Python】enumerate() 函数,希望对大家有帮助,欢迎收藏,转发!站点地址:www.bmabk.com

    后端笔记 2023年2月26日
    00
  • 【服务器安装Redis】Centos7离线安装redis

    人生之路不会是一帆风顺的,我们会遇上顺境,也会遇上逆境,在所有成功路上折磨你的,背后都隐藏着激励你奋发向上的动机,人生没有如果,只有后果与结果,成熟,就是用微笑来面对一切小事。

    导读:本篇文章讲解 【服务器安装Redis】Centos7离线安装redis,希望对大家有帮助,欢迎收藏,转发!站点地址:www.bmabk.com,来源:原文

    后端笔记 2023年3月8日
    00
  • 【Redis】持久化操作

    生活中,最使人疲惫的往往不是道路的遥远,而是心中的郁闷;最使人痛苦的往往不是生活的不幸,而是希望的破灭;最使人颓废的往往不是前途的坎坷,而是自信的丧失;最使人绝望的往往不是挫折的打击,而是心灵的死亡。所以我们要有自己的梦想,让梦想的星光指引着我们走出落漠,走出惆怅,带着我们走进自己的理想。

    导读:本篇文章讲解 【Redis】持久化操作,希望对大家有帮助,欢迎收藏,转发!站点地址:www.bmabk.com,来源:原文

    后端笔记 2023年4月22日
    00
  • java.lang.NoClassDefFoundError: com/alibaba/fastjson/JSONArray 解决方法

    书读的越多而不加思考,你就会觉得你知道得很多;而当你读书而思考得越多的时候,你就会越清楚地看到,你知道得很少。

    导读:本篇文章讲解 java.lang.NoClassDefFoundError: com/alibaba/fastjson/JSONArray 解决方法,希望对大家有帮助,欢迎收藏,转发!站点地址:www.bmabk.com,来源:原文

    2023年3月4日
    00
  • JavaScript实例–网页跳转下拉框-JS修改表格内容-JS下拉框加元素

    导读:本篇文章讲解 JavaScript实例–网页跳转下拉框-JS修改表格内容-JS下拉框加元素,希望对大家有帮助,欢迎收藏,转发!站点地址:www.bmabk.com

    2023年2月20日
    00
  • PyCharm使用技巧:Find Usages(查找引用)

    命运对每个人都是一样的,不一样的是各自的努力和付出不同,付出的越多,努力的越多,得到的回报也越多,在你累的时候请看一下身边比你成功却还比你更努力的人,这样,你就会更有动力。

    导读:本篇文章讲解 PyCharm使用技巧:Find Usages(查找引用),希望对大家有帮助,欢迎收藏,转发!站点地址:www.bmabk.com,来源:原文

    后端笔记 2023年5月10日
    00
  • python中locals函数用法详解

    命运对每个人都是一样的,不一样的是各自的努力和付出不同,付出的越多,努力的越多,得到的回报也越多,在你累的时候请看一下身边比你成功却还比你更努力的人,这样,你就会更有动力。

    导读:本篇文章讲解 python中locals函数用法详解,希望对大家有帮助,欢迎收藏,转发!站点地址:www.bmabk.com,来源:原文

    后端笔记 2023年5月10日
    00
  • 面试:GET 请求能上传图片吗,已解决

    人生之路不会是一帆风顺的,我们会遇上顺境,也会遇上逆境,在所有成功路上折磨你的,背后都隐藏着激励你奋发向上的动机,人生没有如果,只有后果与结果,成熟,就是用微笑来面对一切小事。

    导读:本篇文章讲解 面试:GET 请求能上传图片吗,已解决,希望对大家有帮助,欢迎收藏,转发!站点地址:www.bmabk.com,来源:原文

    后端笔记 2023年3月8日
    00
  • windows系统jdk1.8下载及安装步骤,配置环境变量【非常详细】

    导读:本篇文章讲解 windows系统jdk1.8下载及安装步骤,配置环境变量【非常详细】,希望对大家有帮助,欢迎收藏,转发!站点地址:www.bmabk.com

    后端笔记 2023年2月21日
    00

发表回复

登录后才能评论