背景

nginx-kafka-module是nginx的一個(gè)插件，可以將kafka整合到nginx中，便于web項(xiàng)目中前端頁(yè)面埋點(diǎn)數(shù)據(jù)的收集，如前端頁(yè)面設(shè)置了埋點(diǎn)，即可將用戶的一些訪問(wèn)和請(qǐng)求數(shù)據(jù)通過(guò)http請(qǐng)求直接發(fā)送到消息中間件kafka中，后端可以通過(guò)程序消費(fèi)kafka中的消息來(lái)進(jìn)行實(shí)時(shí)的計(jì)算。比如通過(guò)SparkStream來(lái)實(shí)時(shí)的消費(fèi)Kafka中的數(shù)據(jù)來(lái)分析用戶PV,UV、用戶的一些行為及頁(yè)面的漏斗模型轉(zhuǎn)化率，來(lái)更好的對(duì)系統(tǒng)進(jìn)行優(yōu)化或者對(duì)來(lái)訪用戶進(jìn)行實(shí)時(shí)動(dòng)態(tài)的分析。

具體整合步驟

1.安裝git

yum install -y git

2.切換到/usr/local/src目錄，然后將kafka的c客戶端源碼clone到本地

cd /usr/local/src
git clone https://github.com/edenhill/librdkafka

3.進(jìn)入到librdkafka，然后進(jìn)行編譯

cd librdkafka
yum install -y gcc gcc-c++ pcre-devel zlib-devel
./configure
make && make install

4.安裝nginx整合kafka的插件，進(jìn)入到/usr/local/src，clone nginx整合kafka的源碼

cd /usr/local/src
git clone https://github.com/brg-liuwei/ngx_kafka_module

5.進(jìn)入到nginx的源碼包目錄下 （編譯nginx，然后將將插件同時(shí)編譯）

cd /usr/local/src/nginx-1.12.2
./configure --add-module=/usr/local/src/ngx_kafka_module/
make && make install

6.修改nginx的配置文件：設(shè)置一個(gè)location和kafaka的topic，詳情請(qǐng)查看當(dāng)前目錄的nginx.conf

#添加配置(2處)
kafka;
kafka_broker_list f1:9092 f2:9092 f3:9092;
location = /kafka/access {
kafka_topic access888;
}

如下圖：

7.啟動(dòng)zk和kafka集群(創(chuàng)建topic)

zkServer.sh start
kafka-server-start.sh -daemon config/server.properties

8.啟動(dòng)nginx，報(bào)錯(cuò)，找不到kafka.so.1的文件

error while loading shared libraries: librdkafka.so.1: cannot open shared object file: No such file or directory

9.加載so庫(kù)

#開(kāi)機(jī)加載/usr/local/lib下面的庫(kù)
echo "/usr/local/lib" >> /etc/ld.so.conf
#手動(dòng)加載
ldconfig

10.測(cè)試，向nginx中寫入數(shù)據(jù)，然后觀察kafka的消費(fèi)者能不能消費(fèi)到數(shù)據(jù)

curl http://localhost/kafka/access -d "message send to kafka topic"
curl http://localhost/kafka/access -d "小偉666"測(cè)試

也可以模擬頁(yè)面埋點(diǎn)請(qǐng)求接口來(lái)發(fā)送信息：

后臺(tái)Kafka消費(fèi)信息如圖：

以上就是本文的全部?jī)?nèi)容，希望對(duì)大家的學(xué)習(xí)有所幫助，也希望大家多多支持本站。

版權(quán)聲明：本站文章來(lái)源標(biāo)注為YINGSOO的內(nèi)容版權(quán)均為本站所有，歡迎引用、轉(zhuǎn)載，請(qǐng)保持原文完整并注明來(lái)源及原文鏈接。禁止復(fù)制或仿造本網(wǎng)站，禁止在非maisonbaluchon.cn所屬的服務(wù)器上建立鏡像，否則將依法追究法律責(zé)任。本站部分內(nèi)容來(lái)源于網(wǎng)友推薦、互聯(lián)網(wǎng)收集整理而來(lái)，僅供學(xué)習(xí)參考，不代表本站立場(chǎng)，如有內(nèi)容涉嫌侵權(quán)，請(qǐng)聯(lián)系alex-e#qq.com處理。