Nginx怎么整合Kafka

這篇“Nginx怎么整合Kafka”文章的知識點大部分人都不太理解,所以小編給大家總結(jié)了以下內(nèi)容,內(nèi)容詳細,步驟清晰,具有一定的借鑒價值,希望大家閱讀完這篇文章能有所收獲,下面我們一起來看看這篇“Nginx怎么整合Kafka”文章吧。

成都創(chuàng)新互聯(lián)專注于陵水黎族網(wǎng)站建設(shè)服務(wù)及定制,我們擁有豐富的企業(yè)做網(wǎng)站經(jīng)驗。 熱誠為您提供陵水黎族營銷型網(wǎng)站建設(shè),陵水黎族網(wǎng)站制作、陵水黎族網(wǎng)頁設(shè)計、陵水黎族網(wǎng)站官網(wǎng)定制、小程序設(shè)計服務(wù),打造陵水黎族網(wǎng)絡(luò)公司原創(chuàng)品牌,更為您提供陵水黎族網(wǎng)站排名全網(wǎng)營銷落地服務(wù)。

背景

nginx-kafka-module是nginx的一個插件,可以將kafka整合到nginx中,便于web項目中前端頁面埋點數(shù)據(jù)的收集,如前端頁面設(shè)置了埋點,即可將用戶的一些訪問和請求數(shù)據(jù)通過http請求直接發(fā)送到消息中間件kafka中,后端可以通過程序消費kafka中的消息來進行實時的計算。比如通過sparkstream來實時的消費kafka中的數(shù)據(jù)來分析用戶pv,uv、用戶的一些行為及頁面的漏斗模型轉(zhuǎn)化率,來更好的對系統(tǒng)進行優(yōu)化或者對來訪用戶進行實時動態(tài)的分析。

具體整合步驟

1.安裝git

yum install -y git

2.切換到/usr/local/src目錄,然后將kafka的c客戶端源碼clone到本地

cd /usr/local/src
git clone https://github.com/edenhill/librdkafka

3.進入到librdkafka,然后進行編譯

cd librdkafka
yum install -y gcc gcc-c++ pcre-devel zlib-devel
./configure
make && make install

4.安裝nginx整合kafka的插件,進入到/usr/local/src,clone nginx整合kafka的源碼

cd /usr/local/src
git clone https://github.com/brg-liuwei/ngx_kafka_module

5.進入到nginx的源碼包目錄下 (編譯nginx,然后將將插件同時編譯)

cd /usr/local/src/nginx-1.12.2
./configure --add-module=/usr/local/src/ngx_kafka_module/
make && make install

6.修改nginx的配置文件:設(shè)置一個location和kafaka的topic

#添加配置(2處)
kafka;
kafka_broker_list f1:9092 f2:9092 f3:9092;

location = /kafka/access {
kafka_topic access888;
}

如下圖:

Nginx怎么整合Kafka

Nginx怎么整合Kafka

7.啟動zk和kafka集群(創(chuàng)建topic)

zkserver.sh start
kafka-server-start.sh -daemon config/server.properties

8.啟動nginx,報錯,找不到kafka.so.1的文件

error while loading shared libraries: librdkafka.so.1: cannot open shared object file: no such file or directory

9.加載so庫

#開機加載/usr/local/lib下面的庫
echo "/usr/local/lib" >> /etc/ld.so.conf
#手動加載
ldconfig

10.測試,向nginx中寫入數(shù)據(jù),然后觀察kafka的消費者能不能消費到數(shù)據(jù)

curl http://localhost/kafka/access -d "message send to kafka topic"
curl http://localhost/kafka/access -d "小偉666"測試

也可以模擬頁面埋點請求接口來發(fā)送信息:

Nginx怎么整合Kafka

后臺kafka消費信息如圖:

Nginx怎么整合Kafka

以上就是關(guān)于“Nginx怎么整合Kafka”這篇文章的內(nèi)容,相信大家都有了一定的了解,希望小編分享的內(nèi)容對大家有幫助,若想了解更多相關(guān)的知識內(nèi)容,請關(guān)注創(chuàng)新互聯(lián)行業(yè)資訊頻道。

新聞標題:Nginx怎么整合Kafka
轉(zhuǎn)載來于:http://muchs.cn/article34/ihjdse.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供移動網(wǎng)站建設(shè)做網(wǎng)站、品牌網(wǎng)站建設(shè)、建站公司全網(wǎng)營銷推廣、商城網(wǎng)站

廣告

聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請盡快告知,我們將會在第一時間刪除。文章觀點不代表本網(wǎng)站立場,如需處理請聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時需注明來源: 創(chuàng)新互聯(lián)

成都網(wǎng)頁設(shè)計公司