kafka同步發(fā)送和異步發(fā)送 日志采集系統(tǒng)flume和kafka有什么區(qū)別及聯(lián)系?
日志采集系統(tǒng)flume和kafka有什么區(qū)別及聯(lián)系?flume和Kafka的一些功能是相同的,但總的來說,它們是完全不同的;它們的場(chǎng)景是不同的,但它們可以一起使用。簡(jiǎn)而言之,flume是一個(gè)分布式日志
日志采集系統(tǒng)flume和kafka有什么區(qū)別及聯(lián)系?
flume和Kafka的一些功能是相同的,但總的來說,它們是完全不同的;它們的場(chǎng)景是不同的,但它們可以一起使用。
簡(jiǎn)而言之,flume是一個(gè)分布式日志收集系統(tǒng),它從各種服務(wù)器收集日志并將其傳輸?shù)街付ǖ奈恢?,如HDFS。
Kafka是一個(gè)分布式消息中間件,有自己的存儲(chǔ),提供推拉數(shù)據(jù)訪問功能。
整個(gè)過程如下:
登錄服務(wù)器<--flume-->kafka-->hdfs-->離線計(jì)算
登錄服務(wù)器<--flume-->kafka-->storm
希望我的回答能對(duì)您有所幫助
如何基于kafka來實(shí)現(xiàn)一個(gè)全功能的關(guān)系型數(shù)據(jù)庫?
以下是我對(duì)你的回答,拒絕復(fù)制和粘貼。
首先,Kafka是一個(gè)分布式消息中間件,主要用于消費(fèi)者和生產(chǎn)者的場(chǎng)景。這是一種發(fā)布-訂閱關(guān)系。
關(guān)系數(shù)據(jù)庫是一個(gè)數(shù)據(jù)存儲(chǔ)系統(tǒng),主要用于存儲(chǔ)關(guān)系數(shù)據(jù)。
基于Kafka,無法實(shí)現(xiàn)全功能關(guān)系數(shù)據(jù)庫。卡夫卡本身與數(shù)據(jù)庫沒有對(duì)應(yīng)關(guān)系,它們存儲(chǔ)的數(shù)據(jù)庫也沒有對(duì)應(yīng)關(guān)系。
如果我們要把這兩件事聯(lián)系起來,我們通常會(huì)把數(shù)據(jù)庫的信息讀出來放在卡夫卡中,也就是消息生產(chǎn)者;而從卡夫卡獲取數(shù)據(jù)的客戶端或終端就是消費(fèi)消息,也就是消費(fèi)者。當(dāng)然,您可以讀取來自卡夫卡的消息,并在處理后將其存儲(chǔ)在數(shù)據(jù)庫中。您應(yīng)該知道Kafka是一個(gè)中間件,它的主要功能不是像數(shù)據(jù)庫那樣存儲(chǔ)數(shù)據(jù)。
建議您首先明確需求,并確定您的問題是否滿足需求。