作者：范海秋
單位：中移物聯(lián)網(wǎng)有限公司
Part 01● 功能介紹 ●
開發(fā)者控制臺功能
1.服務實例管理：Kafka集群實例配置信息及白名單管理。
2.數(shù)據(jù)統(tǒng)計：統(tǒng)計單Topic、Group每日消息生產(chǎn)量及消費量。
3.Topic管理：Topic基礎(chǔ)信息及訂閱關(guān)系管理。
4.Consumer Group管理：Group基礎(chǔ)信息及消費狀態(tài)管理。
后臺管理系統(tǒng)
1.服務集群管理：提供Kafka集群實例添加及配置管功能。
2.授權(quán)用戶管理：為開發(fā)者配置Kafka集群實例及資源權(quán)限。
城市物聯(lián)網(wǎng)平臺實現(xiàn)的Kafka推送是在開源Apache Kafka 2.8.x版本上，增加了以用戶為維度的鑒權(quán)、授權(quán)機制以及資源管理功能，同時實現(xiàn)了與規(guī)則引擎的數(shù)據(jù)對接，通過配置規(guī)則引擎，將設(shè)備基礎(chǔ)數(shù)據(jù)，感知數(shù)據(jù)等應用數(shù)據(jù)推送給上層SaaS應用，可以直接通過Kafka官網(wǎng)的客戶端消費數(shù)據(jù)。
Part 02● Kafka推送優(yōu)勢 ●
性能對比
Kafka具有低時延、高可用性的特性，吞吐量高，單機寫入TPS約在百萬條/秒，與物聯(lián)網(wǎng)設(shè)備數(shù)據(jù)量大的場景比較契合。
運維實施
社區(qū)活躍，使用場景廣泛，部署實踐經(jīng)驗較豐富、開源學習成本低，對于研發(fā)、運維人員門檻低，能夠輕松完成應用數(shù)據(jù)對接開發(fā)。
項目支撐
可同時支持多個應用子系統(tǒng)的數(shù)據(jù)集成需求，減少內(nèi)部消息轉(zhuǎn)發(fā)業(yè)務研發(fā),同時可緩存部分數(shù)據(jù);Kafka消息中間件，通用性強、適用范圍更廣，數(shù)據(jù)對接流程簡單。
Part 03● Kafka推送關(guān)鍵技術(shù)分析 ●
城市平臺Kafka推送基于官方的客戶端實現(xiàn)，通過官網(wǎng)客戶端提供的API進行鑒權(quán)，授權(quán)及資源隔離等操作。
Kafka鑒權(quán)
基于SASL/SCRAM連接鑒權(quán)，可以通過命令或者API創(chuàng)建、刪除用戶。
Kafka授權(quán)
可以基于Topic、分組對用戶授權(quán)，保證用戶的數(shù)據(jù)隔離。
資源隔離
可以基于用戶消費、生產(chǎn)速率配額，限制帶寬。
關(guān)鍵API列舉
