当前位置: 首页 > news >正文

flume系列之:定位flume没有关闭某个时间点生成的tmp文件的原因,并制定解决方案

flume系列之:定位flume没有关闭某个时间点生成的tmp文件的原因,并制定解决方案

  • 一、背景
  • 二、分析tmp文件
  • 三、定位原因
  • 四、解决方法

一、背景

  • flume没有关闭生成的tmp文件
  • 临时解决方案是批量关闭tmp文件
  • 下一步深入定位分析原因

二、分析tmp文件

  • 观察tmp文件,发现tmp文件的时间点都是10点28分一个时间点,并且所有tmp文件都是有flume2机器节点生成,因此去flume2机器agent日志,并对比flume1、flume3机器上的agent日志

三、定位原因

flume2机器上看到下面的报错:

  • 15 Aug 2024 10:00:55,099 ERROR [[channel=channel1] - CheckpointBackUpThread] (org.apache.flume.channel.file.Serialization.copyFile:160) - Error while attempting to copy /data/datum/flume-prod/teflume_prod8/channel1/checkpoint/checkpoint to /data/datum/flume-prod/teflume_prod8/channel1/checkpoint_backup/checkpoint.
  • java.io.IOException: Cannot allocate memory
    at java.io.RandomAccessFile.writeBytes(Native Method)
    at java.io.RandomAccessFile.write(RandomAccessFile.java:525)
    at org.apache.flume.channel.file.Serialization.copyFile(Serialization.java:152)
    at org.apache

http://www.mrgr.cn/news/2227.html

相关文章:

  • 【嵌入式开发之网络编程】网络分层、OSI七层模型、TCP/IP及五层体系结构
  • PE文件格式
  • HarmonyOS开发:长列表界面实现详解(使用懒加载)
  • python3爬虫(未完结)
  • 「OC」探索CALayer:基础知识与实用技巧简要介绍
  • 【知识分享】ubuntu22.04-ESP32环境搭建
  • AI系列-黑神话:悟空
  • 如何将excel以文本形式储存的数字一键转换为数字
  • 8.20刷题笔记
  • SQL学习五大步骤
  • 可复制拖拽流程图
  • AI 进阶实战 | 走进大模型(LLM)+智能体(Agent)+提示词(Prompt)
  • 深度学习基础—Batch Norm
  • PMP考试不用慌,收下这份备考指南(附PMP学习资料包)
  • Tomcat部署项目get请求中文乱码
  • 为什么apple email的邮件显示不全
  • avx2 计算一个uint8_t数组的平方加速
  • react中 useContext 和useReducer的使用
  • RabbitMQ环境搭建
  • 【Vue3】编程式路由导航