溧陽做網(wǎng)站哪家好,什么網(wǎng)站可以做海報(bào)賺錢,競價交易,寧波在線制作網(wǎng)站一、背景kafka消息總量10億/天#xff0c;每分鐘生成70萬條消息#xff0c;生成環(huán)境部署了12個服務(wù)#xff0c;消費(fèi)2個Topic#xff0c;每個Topic部署12個分區(qū)二、現(xiàn)象問題消費(fèi)者方面1、單個服務(wù)#xff0c;同時消費(fèi)2個不同Topic的2個分區(qū)#xff0c;一個分區(qū)消費(fèi)正常每分鐘生成70萬條消息生成環(huán)境部署了12個服務(wù)消費(fèi)2個Topic每個Topic部署12個分區(qū)二、現(xiàn)象問題消費(fèi)者方面1、單個服務(wù)同時消費(fèi)2個不同Topic的2個分區(qū)一個分區(qū)消費(fèi)正常一個分區(qū)停止消費(fèi)異常分區(qū)的Lag出現(xiàn)積壓出現(xiàn)異常沒有時間規(guī)律。2、消費(fèi)者的配置參數(shù)如下圖kafka服務(wù)器方面1、查詢消費(fèi)組狀態(tài)發(fā)現(xiàn)Topic的分區(qū)4發(fā)生積壓2、在此期間kafka、zk的集群狀態(tài)正常服務(wù)端日志無相關(guān)報(bào)錯信息3、積壓恢復(fù)后相關(guān)日志排查發(fā)現(xiàn)消費(fèi)者ID(consumer-3-5b6d2a-6989-377409)在過程中無法繼續(xù)發(fā)送心跳被判斷為消費(fèi)者已經(jīng)下線從該消費(fèi)組中移除。如果消費(fèi)者下線一段時間后在這期間沒有其他消費(fèi)者從該分區(qū)中消費(fèi)消息那Lag將發(fā)生積壓。三、排查思路和過程1、查看資料消費(fèi)者配置參數(shù)(max.poll.interval.ms)設(shè)置為10分鐘此參數(shù)的作用定義了消費(fèi)者處理單個調(diào)用poll()方法的最大時間如果在此時間內(nèi)未調(diào)用poll()則kafka服務(wù)器會認(rèn)為消費(fèi)者已經(jīng)死亡并將其標(biāo)記為離線同時觸發(fā)rebalance將分區(qū)進(jìn)行重新分配但是實(shí)際情況是kakfa服務(wù)器沒有出發(fā)rebalance造成分區(qū)沒有被其他正常消費(fèi)者繼續(xù)消費(fèi)最終導(dǎo)致分區(qū)消息積壓。四、分析總結(jié)1、經(jīng)過不斷嘗試驗(yàn)證以及出問題前后時間節(jié)點(diǎn)上各個方面的調(diào)整分析最后初步判斷是kafka服務(wù)器版本升級后不兼容springboot kafka clietn版本導(dǎo)致于是升級將spring-kafka從2.3.7升級到2.4.1同時建kafka-clients升級到2.4.1問題解決。