Kubernetes監控之InfluxDB

Robinly發表於2019-02-16

什麼是InfluxDB?

InfluxDB介紹

InfluxDB是一款用Go語言編寫的開源分散式時序、事件和指標資料庫,無需外部依賴。
該資料庫現在主要用於儲存涉及大量的時間戳資料,如DevOps監控資料,APP metrics, loT感測器資料和實時分析資料。
InfluxDB特徵:

  • 無結構(無模式):可以是任意數量的列

  • 可以設定metric的儲存時間

  • 支援與時間有關的相關函式(如min、max、sum、count、mean、median等),方便統計

  • 支援儲存策略:可以用於資料的刪改。(influxDB沒有提供資料的刪除與修改方法)

  • 支援連續查詢:是資料庫中自動定時啟動的一組語句,和儲存策略搭配可以降低InfluxDB的系統佔用量。

  • 原生的HTTP支援,內建HTTP API

  • 支援類似sql語法

  • 支援設定資料在叢集中的副本數

  • 支援定期取樣資料,寫入另外的measurement,方便分粒度儲存資料。

  • 自帶web管理介面,方便使用(登入方式:http://< InfluxDB-IP >:8083)

關鍵概念

InfluxDB關鍵概念列表:

database field key field set
field value measurement point
retention policy series tag key
tag set tag value timestamp

下面舉個例子進行概念介紹:
我們虛擬一組資料,其中有一張資料表(measurement)為census,該表記錄了由兩個科學家(langstroth和perpetua)在兩個不同的位置(1和2),統計了butterflies和honeybees的資料,時間段是2015-08-18 00: 00:00 — 2015-08-18 06: 12:00. 我們假設這些資料屬於叫my_database的資料庫(database),且該資料儲存在autogen的儲存策略(retention policy)中。
資料展示如下:

name: census
---------------------
time                    butterflies     honeybees     location     scientist
2015-08-18T00:00:00Z      12             23              1         langstroth
2015-08-18T00:00:00Z      1              30              1         perpetua
2015-08-18T00:06:00Z      11             28              1         langstroth
2015-08-18T00:06:00Z      3              28              1         perpetua
2015-08-18T05:54:00Z      2              11              2         langstroth
2015-08-18T06:00:00Z      1              10              2         langstroth
2015-08-18T06:06:00Z      8              23              2         perpetua
2015-08-18T06:12:00Z      7              22              2         perpetua

我們針對資料來進行概念分析:
InfluxDB是時序資料庫,所以怎麼都繞不開時間,第一縱列time儲存著時間戳,而時間戳是與資料進行關聯,這樣才能將時間和資料進行展示。
接下去兩縱列(butterflies和honeybees),稱為FieldsFields由field keys和field values組成。butterflies和honeybees兩個字串就是field keys;而butterflies這個field key對應的field values就是12 — 7, honeybees這個field key對應的field values就是23 — 22。
Field values就是你的資料,它們可以是string、float、int或者bool等。因為influxdb是時序資料庫,所以field values總是要和timestamp關聯。

field set是在資料層之上應用概念,由field key和field value組成了field set,如這裡有8組field set資料:

  • butterflies = 12 honeybees = 23

  • butterflies = 1 honeybees = 30

  • butterflies = 11 honeybees = 28

  • butterflies = 3 honeybees = 28

  • butterflies = 2 honeybees = 11

  • butterflies = 1 honeybees = 10

  • butterflies = 8 honeybees = 23

  • butterflies = 7 honeybees = 22

field是InfluxDB的必要結構,但也需要注意field是沒有索引的。

剩下的兩個縱列是location和scientist,它們是tagsTags也是由鍵值對(tag keys和tag values)組成。這裡的tag keys是字串location和scientist;location 這個tag key有兩個tag values: 1和2;scientist這個tag key也有兩個tag values:perpetua和langstroth。
tag set也是資料之上的概念,是不同的tag key-value組合,這裡有4組tag sets資料:

  • location = 1, scientist = langstroth

  • location = 2, scientist = langstroth

  • location = 1, scientist = perpetua

  • location = 2, scientist = perpetua

Tags是可選的引數,也就是說你儲存的資料結構中不一定非要帶tags,但是它非常好用,因為可以索引。一般都會通過tags來查詢資料會快很多。

measurement包含了tags、fields和time,就類似於傳統資料庫的表。一個measurement可以屬於不同的retention policy(儲存策略),儲存策略描述了InfluxDB怎麼去保持資料(DURATION),需要在叢集中儲存多少份資料副本(REPLICATION)。
示例中的資料都屬於census這個measurement,而該measurement又屬於autogen這個儲存策略。InfluxDB一般都會建立一個default儲存策略,它有無限長的持續時間和等於1的副本數。

我們瞭解過了measurements、tag sets和retention policies的概念後,是時候該知道series了。
在同一個database中,series由retention policy、measurement、tag sets三部分組成,在我們上面的資料中有如下4個series:

Arbitrary series number Retention policy Measurement Tag set
series 1 autogen census location = 1,scientist = langstroth
series 2 autogen census location = 2,scientist = langstroth
series 3 autogen census location = 1,scientist = perpetua
series 4 autogen census location = 2,scientist = perpetua

同一個Series的資料在物理上會按照時間順序排列儲存在一起。
Series的key為measurement + 所有tags的序列化字串。
程式碼結構如下:

tyep Series struct {
    mu           sync.RWMutex
    Key          string
    Tags         map[string]string  
    id           uint64
    measurement  *Measurement
}

介紹完Series後,就可以解釋point了。point是在一個series中有相同時間戳的field set,也可以理解如表裡的一行資料。示例中一個Point:

name: census
-----------------
time                   butterflies     honeybees     location     scientist
2015-08-18T00:00:00Z        1              30           1         perpetua

上例中,series由retention policy(autogen), measurement(census)和tag set(location=1,scientist=perpetua)進行定義。而這個point的時間戳則是2015-08-18T 00: 00: 00Z。

InfluxDB Database可以有多個users、continuous queries、retention policy、measurement。因為InfluxDB是一個結構化的資料庫,我們可以輕鬆的去新增measurements、tags、fields。

高階概念

Retention Policy

之前講關鍵性概念時有簡單介紹了RP,這裡會進行較詳細的介紹。
InfluxDB的資料保留策略(RP)是用來定義資料在資料庫中存放的時間,或者定義儲存某個期間的資料。
RP在InfluxDB中是比較重要的概念,因為InfluxDB本身是沒有提供資料的刪除操作,所以需要通過定義RP來控制資料量的問題。
(一個資料庫可以有多個RP,但是每個RP必須是獨一無二的。)

在具體介紹RP之前,先介紹下另外一個跟RP相關的基礎概念(shard)。
shard:
每個RP下面會存在很多shard,每個shard都儲存了實際編碼和壓縮資料,並且不重複。例如你在建立RP時指定了shard duration為1h,那麼7–8點存入shard_group0,8–9點就會存入shard_group1中。所以shard才是真實儲存InfluxDB資料的地方。
每個shard都屬於唯一一個shard group,一個group中會有多個shard;而每個shard包含一組特定的series;所有的points都落在給定的series中,而series是都落在給定的shard group中;

問題1:每個shard group指定了一段時間區域,而且其中有多個shard;每個shard包含一組特定的series。那麼shard中存的資料是怎麼區分的?series是由RP、meansurement、tags組成,那麼shard的區分是根據tags??

shard duration:
shard duration決定了每個shard group存放資料的時間區域。這段時間是在定義RP時由”SHARD DURATION”欄位決定。
例如你建立RP時指定了SHARD DURATION為1w,那麼每個shard group的時間跨度就為1w,它將包含所有在這一週時間戳內的points。

OK,大概瞭解了shard之後,繼續回到Retention Policy。

當你建立一個資料庫時,InfluxDB會自動給你建立一個叫”autogen”的retention Policy,這個RP的資料保留時間是無限。
1.建立RP語法:

CREATE RETETION POLICY {rp_name} ON {database_name} DURATION {duration} REPLICATION {n} [SHARD DURATION {duration}] [DEFAULT]

注:
DURATION: 用於描述資料保留時間。可設定的時間區間是1h — INF(無窮大)。
REPLICATION: 用於指定資料的備份數量,n是表示資料節點的數量。
SHARD DURATION: 用於指定shard group的時間區域,這個欄位的duration是不支援INF的。預設情況下,shard group的duration由RP的duration決定。

Retention Policy`s DURATION Shard Group Duration
< 2 days 1h
>= 2 days and <= 6 mouths 1day
> 6 mouths 7days

DEFAULT: 可選引數,用於指定使用新的RP來作為資料庫的預設RP。(具體新在哪?需要進一步檢視)

2.修改RP語法:

ALTER RETENTION POLICY {rp_name} ON {database_name} DURATION {duration} REPLICATION {n} SHARD DURATION {duration} DEFAULT

注:
後面的引數欄位都一樣,主要差別就在於關鍵欄位:ALTER RETENTION POLICY

3.刪除RP語法:

DROP RETENTION POLICY {rp_name} ON {database_name}

注:
即使你企圖去刪除一個不存在的rp,命令返回值也是空,不會返回一個錯誤碼。

Continuous Queries

之前我們介紹了資料儲存策略,資料超過儲存策略裡指定的時間之後,就會被刪除。但我們不想完全刪除這些資料,比如我們想把每秒的監控資料至少保留成每小時,就需要用到連續查詢(Continuous Queries)功能。
連續查詢主要用在將資料歸檔,以降低系統空間的佔用率,但這主要是以降低資料精度為代價。
基本語法:

CREATE CONTINUOUS QUERY {cq_name} ON {database_name}
BEGIN
    {cq_query}
END
注:cq_name表示建立的Continuous query的名字;database_name表示要操作的資料庫。

cq_query是操作函式,如下:
SELECT {function[s]} INTO {destnation_measurement} FROM {measurement} [WHERE {stuff}] GROUP BY time({interval})[,{tag_key[s]}]
注:destnation_measurement表示新生成的資料存放的表;measurement表示資料查詢的表;
GROUP BY time表示取樣分析的資料時間,比如設定1h,如果當前是17:00,那麼需要計算的資料時間就是16:00 -- 16:59。

例子1: 自動降低精度來取樣資料

CREATE CONTINUOUS QUERY "cq_basic" ON "transportation"
BEGIN
    SELECT mean("passengers") INTO "average_passengers" FROM "bus_data" GROUP BY time(1h)
END

檢視結果:
> SELECT * FROM "average_passengers"
name: average_passengers
------------------------
time                   mean
2016-08-28T07:00:00Z   7
2016-08-28T08:00:00Z   13.75

連續查詢(cq_basic)通過在資料庫”transportation”中的”bus_data”表,計算每小時平均的旅客數,然後在該資料庫中新建”average_passengers”表,並將資料存入該表中。該cq_basic每小時執行一遍,然後將每個小時的point寫入表中。

例子2:自動降低精度來取樣資料,並將資料存入另外一個Retention Policy(RP)

CREATE CONTINUOUS QUERY "cq_basic_rp" ON "transportation"
BEGIN
    SELECT mean("passengers") INTO "transportation"."three_weeks"."average_passengers" FROM "bus_data" GROUP BY time(1h)
END

檢視結果:
> SELECT * FROM "transportation"."three_weeks"."average_passengers"
name: average_passengers
------------------------
time                   mean
2016-08-28T07:00:00Z   7
2016-08-28T08:00:00Z   13.75

連續查詢(cq_basic_rp)通過在資料庫”transportation”中的”bus_data”表,計算每小時平均的旅客數,然後將資料存入transportation資料庫中的three_weeks(RP)的average_passengers表中。該cq_basic_rp每小時執行一遍,然後將每個小時的point寫入表中。

例子3:採用萬用字元,自動降低精度取樣資料

CREATE CONTINUOUS QUERY "cq_basic_br" ON "transportation"
BEGIN
    SELECT mean(*) INTO "dowmsample_transportation"."autogen".:MEASUREMENT FROM /.*/ GROUP BY time(30m),*
END

檢視結果:
> SELECT * FROM "downsample_transportation"."autogen"."bus_data"
name: bus_data
--------------
time                   mean_complaints   mean_passengers
2016-08-28T07:00:00Z   9                 6.5
2016-08-28T07:30:00Z   9                 7.5
2016-08-28T08:00:00Z   8                 11.5
2016-08-28T08:30:00Z   7                 16

連續查詢(cq_basic_br),計算資料庫(transportation)中每張表(這裡只有一張表”bus_data”),每30分鐘平均的旅客數和投訴量,然後將資料存入downsample_transportation資料庫中的autogen(RP)中。該cq_basic_br每30分鐘執行一遍,然後將每個小時的point寫入表中。

例子4:配置CQ的時間偏移,來採集資料:

CREATE CONTINUOUS QUERY "cq_basic_offset" ON "transportation"
BEGIN
    SELECT mean("passengers") INTO "average_passengers" FROM "bus_data" GROUP BY time(1h,15m)
END

檢視結果:
> SELECT * FROM "average_passengers"
name: average_passengers
------------------------
time                   mean
2016-08-28T07:15:00Z   7.75      //注意時間是從7:15 -- 8:15
2016-08-28T08:15:00Z   16.75

該CQ(cq_basic_offset),設定了每整點往後偏移15分鐘,再進行每小時的平均值計算。比如會將8 : 15–9: 15,來代替8: 00–9: 00。

高階語法:

CREATE CONTINUOUS QUERY {cq_name} ON {database_name}
RESAMPLE EVERY {val1} FOR {val2}
BEGIN
    {cq_query}
END

注意: cq_name、database_name、cq_query和之前的基本語法都一致。
EVERY後面帶的時間,表示每val1點時間就觸發一次資料取樣,而資料的區間是和cq_query、FOR有關。在這段時間內每val1點時間再採集一次。比如cq_query設定1h,val1設定為30m,表示在1h內會有兩次資料計算。比如8點--9點之間就會有兩次資料的計算,第一次計算是8:30觸發的,計算的區間是8:00--8:30,第二次計算是9:00觸發的,計算的區間是8:00--9:00。在目的資料庫中,預設第二次的計算結果會覆蓋第一次的計算結果。
FOR後面帶的時間,表示修改了cq_query計算的資料區間,比如cq_query時間設定為30m,val2設定的是1h。那麼cq每30m會觸發一次資料計算,計算的區間是(now-1h)--now。

示例資料: 給下面的例子使用

name: bus_data
--------------
time                   passengers
2016-08-28T06:30:00Z   2
2016-08-28T06:45:00Z   4
2016-08-28T07:00:00Z   5
2016-08-28T07:15:00Z   8
2016-08-28T07:30:00Z   8
2016-08-28T07:45:00Z   7
2016-08-28T08:00:00Z   8
2016-08-28T08:15:00Z   15
2016-08-28T08:30:00Z   15
2016-08-28T08:45:00Z   17
2016-08-28T09:00:00Z   20

例子1:配置執行間隔

CREATE CONTINUOUS QUERY "cq_advanced_every" ON "transportation"
RESAMPLE EVERY 30m
BEGIN
  SELECT mean("passengers") INTO "average_passengers" FROM "bus_data" GROUP BY time(1h)
END

中間的執行過程:
At 8:00, cq_advanced_every executes a query with the time range WHERE time >= `7:00` AND time < `8:00`.
cq_advanced_every writes one point to the average_passengers measurement:
name: average_passengers
------------------------
time                   mean
2016-08-28T07:00:00Z   7

At 8:30, cq_advanced_every executes a query with the time range WHERE time >= `8:00` AND time < `9:00`.
cq_advanced_every writes one point to the average_passengers measurement:
name: average_passengers
------------------------
time                   mean
2016-08-28T08:00:00Z   12.6667

At 9:00, cq_advanced_every executes a query with the time range WHERE time >= `8:00` AND time < `9:00`.
cq_advanced_every writes one point to the average_passengers measurement:
name: average_passengers
------------------------
time                   mean
2016-08-28T08:00:00Z   13.75

檢視結果:
> SELECT * FROM "average_passengers"
name: average_passengers
------------------------
time                   mean
2016-08-28T07:00:00Z   7
2016-08-28T08:00:00Z   13.75

cq_advanced_every在8點–9點執行了兩次。第一次8:30觸發,因為cq_query設定了1h,所以資料區間是8: 00–9: 00,但因為是在8:30觸發的,8: 30–9: 00的資料還沒產生呢,所以實際採集的資料區間是在8: 00–8: 30,即資料(8, 15, 15), 計算的平均值為12.6667;第二次9:00觸發,計算的區間是8: 00–9: 00,即資料(8, 15, 15, 17),計算的平均值為13.75.

例子2:配置重取樣的時間區間

CREATE CONTINUOUS QUERY "cq_advanced_for" ON "transportation"
RESAMPLE FOR 1h
BEGIN
  SELECT mean("passengers") INTO "average_passengers" FROM "bus_data" GROUP BY time(30m)
END

取樣過程:
At 8:00 cq_advanced_for executes a query with the time range WHERE time >= `7:00` AND time < `8:00`.
cq_advanced_for writes two points to the average_passengers measurement:
name: average_passengers
------------------------
time                   mean
2016-08-28T07:00:00Z   6.5
2016-08-28T07:30:00Z   7.5

At 8:30 cq_advanced_for executes a query with the time range WHERE time >= `7:30` AND time < `8:30`.
cq_advanced_for writes two points to the average_passengers measurement:
name: average_passengers
------------------------
time                   mean
2016-08-28T07:30:00Z   7.5
2016-08-28T08:00:00Z   11.5

At 9:00 cq_advanced_for executes a query with the time range WHERE time >= `8:00` AND time < `9:00`.
cq_advanced_for writes two points to the average_passengers measurement:
name: average_passengers
------------------------
time                   mean
2016-08-28T08:00:00Z   11.5
2016-08-28T08:30:00Z   16

結果查詢:
> SELECT * FROM "average_passengers"
name: average_passengers
------------------------
time                   mean
2016-08-28T07:00:00Z   6.5
2016-08-28T07:30:00Z   7.5
2016-08-28T08:00:00Z   11.5
2016-08-28T08:30:00Z   16

該cq_advanced_for,每30m重取樣一次,取樣的區間是(now-1h — now), 也就是每觸發一次執行,就會進行兩次計算。因為取樣的區間是1h,而需要計算的是每30m的平均值。

例子3:配置cq的執行區間和時間範圍

CREATE CONTINUOUS QUERY "cq_advanced_every_for" ON "transportation"
RESAMPLE EVERY 1h FOR 90m
BEGIN
  SELECT mean("passengers") INTO "average_passengers" FROM "bus_data" GROUP BY time(30m)
END

取樣過程:
At 8:00 cq_advanced_every_for executes a query with the time range WHERE time >= `6:30` AND time < `8:00`.
cq_advanced_every_for writes three points to the average_passengers measurement:
name: average_passengers
------------------------
time                   mean
2016-08-28T06:30:00Z   3
2016-08-28T07:00:00Z   6.5
2016-08-28T07:30:00Z   7.5

At 9:00 cq_advanced_every_for executes a query with the time range WHERE time >= `7:30` AND time < `9:00`.
cq_advanced_every_for writes three points to the average_passengers measurement:
name: average_passengers
------------------------
time                   mean
2016-08-28T07:30:00Z   7.5
2016-08-28T08:00:00Z   11.5
2016-08-28T08:30:00Z   16

結果查詢:
> SELECT * FROM "average_passengers"
name: average_passengers
------------------------
time                   mean
2016-08-28T06:30:00Z   3
2016-08-28T07:00:00Z   6.5
2016-08-28T07:30:00Z   7.5
2016-08-28T08:00:00Z   11.5
2016-08-28T08:30:00Z   16

該cq_advanced_every_for,需要計算30m的平均值,每1小時觸發一次cq執行,取樣的資料區間是90m,所以每觸發一次就會計算3次平均值。

例子4:配置CQ的取樣時間區間,並且填充空結果

CREATE CONTINUOUS QUERY "cq_advanced_for_fill" ON "transportation"
RESAMPLE FOR 2h
BEGIN
  SELECT mean("passengers") INTO "average_passengers" FROM "bus_data" GROUP BY time(1h) fill(1000)
END

取樣過程:
At 6:00, cq_advanced_for_fill executes a query with the time range WHERE time >= `4:00` AND time < `6:00`.
cq_advanced_for_fill writes nothing to average_passengers; bus_data has no data that fall within that time range. 

At 7:00, cq_advanced_for_fill executes a query with the time range WHERE time >= `5:00` AND time < `7:00`.
cq_advanced_for_fill writes two points to average_passengers:
name: average_passengers
------------------------
time                   mean
2016-08-28T05:00:00Z   1000          <------ fill(1000)
2016-08-28T06:00:00Z   3             <------ average of 2 and 4

[…] 

At 11:00, cq_advanced_for_fill executes a query with the time range WHERE time >= `9:00` AND time < `11:00`.
cq_advanced_for_fill writes two points to average_passengers:
name: average_passengers
------------------------
2016-08-28T09:00:00Z   20            <------ average of 20
2016-08-28T10:00:00Z   1000          <------ fill(1000)     

At 12:00, cq_advanced_for_fill executes a query with the time range WHERE time >= `10:00` AND time < `12:00`.
cq_advanced_for_fill writes nothing to average_passengers; bus_data has no data that fall within that time range.

結果查詢:
> SELECT * FROM "average_passengers"
name: average_passengers
------------------------
time                   mean
2016-08-28T05:00:00Z   1000
2016-08-28T06:00:00Z   3
2016-08-28T07:00:00Z   7
2016-08-28T08:00:00Z   13.75
2016-08-28T09:00:00Z   20
2016-08-28T10:00:00Z   1000

該cq_advcanced_for_fill,增加了空資料區的預設值填充,使用fill(value)來實現。

連續查詢使用案例:
1.實現重取樣和資料保留:
使用CQ和retention policy配合達到該功能。可以降低資料庫儲存壓力。

2.預先計算來解決費時的查詢:
CQ會自動進行重取樣,將高精度的資料轉換為低精度的資料。低精度的資料查詢會耗費更少的資源和時間。

3.替代HAVING條款:
InfluxDB不支援HAVING欄位,需要使用CQ+別的命令來實現替換。
例子:

SELECT mean("bees") FROM "farm" GROUP BY time(30m) HAVING mean("bees") > 20

以上的命令,InfluxDB不支援。其實就是需要實現採集30m的平均值,然後取那些大於20的值。
InfluxDB的替代方案:

  • 先建立CQ:

CREATE CONTINUOUS QUERY "bee_cq" ON "mydb" 
BEGIN
    SELECT mean("bees") AS "mean_bees" INTO "aggregate_bees" FROM "farm" GROUP BY time(30m) 
END

該建立的CQ,每30m進行bees的平均值計算,並將結果寫入aggregate_bees表中的mean_bees field中。

  • 查詢CQ結果:
    這一步就是需要執行HAVING mean(“bees”) > 20這條命令。InfluxDB命令使用如下:

SELECT "mean_bees" FROM "aggregate_bees" WHERE "mean_bees" > 20

4.替代內嵌函式:
InfluxDB不支援內嵌函式,比如:

SELECT mean(count("bees")) FROM "farm" GROUP BY time(30m)

替換上述方案:

  • 建立CQ:

CREATE CONTINUOUS QUERY "bee_cq" ON "mydb" 
BEGIN
    SELECT count("bees") AS "count_bees" INTO "aggregate_bees" FROM "farm" GROUP BY time(30m) 
END
  • 查詢CQ結果:
    這一步就是需要執行mean([…])這條命令,其實就是計算某段區間的count(“bees”)平均值,如下:

SELECT mean("count_bees") FROM "aggregate_bees" WHERE time >= {start_time} AND time <= {end_time}

Kapacitor是InfluxData的資料處理引擎,它可以達到CQ一樣的功能。參考HERE

InfluxDB使用

資料庫配置

參考Here

Database

1.查詢:

SHOW DATABASES 

2.建立:

CREATE DATABASE {database_name} [WITH [DURATION <duration>] [REPLICATION <n>] [SHARD DURATION <duration>] [NAME <retention-policy-name>]]
注:WITH帶的這段屬性,就是Retention Policy的,可以參考它。

3.刪除:

DROP DATABASE {database_name}

RETENTION POLICY

1.查詢:

SHOW RETETION POLICIES

2.建立:

CREATE RETENTION POLICY {retention_policy_name} ON {database_name} DURATION {duration} REPLICATION {n} [SHARD DURATION {duration}] [DEFAULT]

3.修改:

ALTER RETENTION POLICY {rp_name} ON {database_name} DURATION {duration} REPLICATION {n} SHARD DURATION {duration} DEFAULT

4.刪除:

DROP RETENTION POLICY {rp_name} ON {database_name}

CONTINUOUS QUERY:

1.查詢:

SHOW CONTINUOUS QUERY

2.建立:

參考之前的例子,介紹了較多的建立方式。

3.刪除:

DROP CONTINUOUS QUERY {cq_name} ON {database_name}

舉了部分例子,具體的可以再檢視官方資料。

API

InfluxDB API提供了較簡單的方式用於資料庫互動。該API使用了HTTP的方式,並以JSON格式進行返回。
下面對API進行介紹:

支援的Endpoints

Endpoint 描述
/ping 使用/ping用於檢查InfluxDB的狀態或者版本資訊
/query 使用/query用於查詢資料,管理資料庫、rp、users等
/write 使用/write去寫資料到資料庫中

/ping

/ping支援GET和HEAD,都可用於獲取指定資訊。
定義:

示例:
獲取InfluxDB版本資訊:

$ curl -sl -I http://localhost:8086/ping
HTTP/1.1 204 No Content
Request-Id: 245a330d-baba-11e6-8098-000000000000
X-Influxdb-Version: 0.9.4.1
Date: Mon, 05 Dec 2016 07:12:11 GMT

/query

/query支援GET和POST的HTTP請求。可用於查詢資料和管理資料庫、rp、users。
定義:

用法說明:

動作 查詢型別
GET 用於所有資料的查詢:
SELECT *
SHOW
POST 支援的動作如下:
ALTER
CREATE
DELETE
DROP
GRANT
KILL
REVOKE

只有SELECT特殊點,支援INTO欄位

示例:
1.使用SELECT查詢資料:

$ curl -G `http://localhost:8086/query?db=mydb` --data-urlencode `q=SELECT * FROM "mymeas"`

{"results":[{"series":[{"name":"mymeas","columns":["time","myfield","mytag1","mytag2"],"values":[["2016-05-20T21:30:00Z",12,"1",null],["2016-05-20T21:30:20Z",11,"2",null],["2016-05-20T21:30:40Z",18,null,"1"],["2016-05-20T21:31:00Z",19,null,"3"]]}]}]}

再使用額外的INTO欄位:

$ curl -XPOST `http://localhost:8086/query?db=mydb` --data-urlencode `q=SELECT * INTO "newmeas" FROM "mymeas"`

{"results":[{"series":[{"name":"result","columns":["time","written"],"values":[["1970-01-01T00:00:00Z",4]]}]}]}

2.建立資料庫:

$ curl -XPOST `http://localhost:8086/query` --data-urlencode `q=CREATE DATABASE "mydb"`

{"results":[{}]}

Query引數說明:

引數 是否可選 描述
chunked=[true or {number_of_points}] 可選 返回批量的points資訊,以代替單個響應。設定成true,InfluxDB返回一批series或者10000個points;或者設定對應的points數量
db={db_name} 必選 設定資料庫名
epoch=[h,m,s,ms,u,ns] 可選 指定時間戳的精度,預設是ns
p={password} 可選 如果設定了認證,則需要使用者密碼
pretty=true 可選 優化輸出格式,設定之後會議json格式進行輸出,利於除錯
rp={rp_name} 可選 設定查詢的rp。如果沒有設定,則查詢預設的rp
u={username} 可選 如果設定了認證,則需要使用者密碼

示例1:使用http認證來建立資料庫:

$ curl -XPOST `http://localhost:8086/query?u=myusername&p=mypassword` --data-urlencode `q=CREATE DATABASE "mydb"`

{"results":[{}]}

示例2:使用基礎認證來建立資料庫:

$ curl -XPOST -u myusername:mypassword `http://localhost:8086/query` --data-urlencode `q=CREATE DATABASE "mydb"`

{"results":[{}]}

資料請求體:

--data-urlencode `q=< influxDB query >`
  • 可支援多條請求命令: 需要使用分號(;),來進行命令分隔

  • 可支援匯入檔案的格式進行查詢: 如果檔案中使用了多條請求命令,則也需要使用分號(;)進行分隔

    語法:
    curl -F "q=@<path_to_file>" -F "async=true" http://localhost:8086/query
  • 以CSV的格式返回請求結果:

    語法:
    curl -H "Accept: application/csv" -G `http://localhost:8086/query [...]
  • 支援繫結引數:
    該API支援使用WHERE繫結引數,來進行指定field values或者tag vaules。

    Query語法:
    --data-urlencode `q= SELECT [...] WHERE [ < field_key > | < tag_key > ] = $< placeholder_key >`
    
    Map語法:
    --data-urlencode `params={"< placeholder_key >":[ < placeholder_float_field_value > | < placeholder_integer_field_value > | "< placeholder_string_field_value >" | < placeholder_boolean_field_value > | "< placeholder_tag_value >" ]}`

示例1:傳送多條Query命令

$ curl -G `http://localhost:8086/query?db=mydb&epoch=s` --data-urlencode `q=SELECT * FROM "mymeas";SELECT mean("myfield") FROM "mymeas"`

{"results":[{"series":[{"name":"mymeas","columns":["time","myfield","mytag1","mytag2"],"values":[[1463779800,12,"1",null],[1463779820,11,"2",null],[1463779840,18,null,"1"],[1463779860,19,null,"3"]]}]},{"series":[{"name":"mymeas","columns":["time","mean"],"values":[[0,15]]}]}]}

示例2:以CSV格式返回請求結果

curl -H "Accept: application/csv" -G `http://localhost:8086/query?db=mydb` --data-urlencode `q=SELECT * FROM "mymeas" LIMIT 3`

name,tags,time,tag1,tag2,value
mymeas,,1478030187213306198,blue,tag2,23
mymeas,,1478030189872408710,blue,tag2,44
mymeas,,1478030203683809554,blue,yellow,101

示例3:通過檔案的形式匯入Queries

curl -F "q=@queries.txt" -F "async=true" `http://localhost:8086/query`
文字內容如下:
CREATE DATABASE mydb;
CREATE RETENTION POLICY four_weeks ON mydb DURATION 4w REPLICATION 1;

示例4:通過WHERE欄位指定tag value

curl -G `http://localhost:8086/query?db=mydb` --data-urlencode `q=SELECT * FROM "mymeas" WHERE "mytagkey" = $tag_value` --data-urlencode `params={"tag_value":"mytagvalue1"}`

{"results":[{"series":[{"name":"mymeas","columns":["time","myfieldkey","mytagkey"],"values":[["2016-09-05T18:25:08.479629934Z",9,"mytagvalue1"],["2016-09-05T18:25:20.892472038Z",8,"mytagvalue1"],["2016-09-05T18:25:30.408555195Z",10,"mytagvalue1"],["2016-09-05T18:25:39.108978991Z",111,"mytagvalue1"]]}]}]}

示例5:通過WHERE欄位指定數字區間

curl -G `http://localhost:8086/query?db=mydb` --data-urlencode `q=SELECT * FROM "mymeas" WHERE "myfieldkey" > $field_value` --data-urlencode `params={"field_value":9}`

{"results":[{"series":[{"name":"mymeas","columns":["time","myfieldkey","mytagkey"],"values":[["2016-09-05T18:25:30.408555195Z",10,"mytagvalue1"],["2016-09-05T18:25:39.108978991Z",111,"mytagvalue1"],["2016-09-05T18:25:46.587728107Z",111,"mytagvalue2"]]}]}]}

示例6:通過WHERE欄位指定多個條件

curl -G `http://localhost:8086/query?db=mydb` --data-urlencode `q=SELECT * FROM "mymeas" WHERE "mytagkey" = $tag_value AND  "myfieldkey" > $field_value` --data-urlencode `params={"tag_value":"mytagvalue2","field_value":9}`

{"results":[{"series":[{"name":"mymeas","columns":["time","myfieldkey","mytagkey"],"values":[["2016-09-05T18:25:46.587728107Z",111,"mytagvalue2"]]}]}]}

/write

/wirte只支援POST的HTTP請求,使用該Endpoint可以寫資料到已存在的資料庫中。
定義:
POST http://localhost:8086/write

Query引數說明:

引數 是否可選 描述
consistency=[any,one,quorum,all] 可選 設定point的寫入一致性,預設是one.詳細的請參考HERE
db={db_name} 必選 設定資料庫名
precision=[h,m,s,ms,u,n] 可選 指定時間戳的精度,預設是ns
p={password} 可選 如果設定了認證,則需要使用者密碼
rp={rp_name} 可選 設定查詢的rp。如果沒有設定,則查詢預設的rp
u={username} 可選 如果設定了認證,則需要使用者密碼

示例1:使用秒級的時間戳,將一個point寫入資料庫mydb

$ curl -i -XPOST "http://localhost:8086/write?db=mydb&precision=s" --data-binary `mymeas,mytag=1 myfield=90 1463683075`

示例2:將一個point寫入資料庫mydb,並指定RP為myrp

$ curl -i -XPOST "http://localhost:8086/write?db=mydb&rp=myrp" --data-binary `mymeas,mytag=1 myfield=90`

示例3:使用HTTP認證的方式,將一個point寫入資料庫mydb

$ curl -i -XPOST "http://localhost:8086/write?db=mydb&u=myusername&p=mypassword" --data-binary `mymeas,mytag=1 myfield=91`

示例4:使用基礎認證的方式,將一個point寫入資料庫mydb

$ curl -i -XPOST -u myusername:mypassword "http://localhost:8086/write?db=mydb" --data-binary `mymeas,mytag=1 myfield=91`

資料請求體:

--data-binary `< Data in Line Protocol format >`

所有寫入的資料必須是二進位制,且使用Line Protocol格式。

示例1:寫多個points到資料庫中,需要使用新的一行

$ curl -i -XPOST "http://localhost:8086/write?db=mydb" --data-binary `mymeas,mytag=3 myfield=89
mymeas,mytag=2 myfield=34 1463689152000000000`

示例2:通過匯入檔案的形式,寫入多個points。需要使用@來指定檔案

$ curl -i -XPOST "http://localhost:8086/write?db=mydb" --data-binary @data.txt
檔案內容如下
mymeas,mytag1=1 value=21 1463689680000000000
mymeas,mytag1=1 value=34 1463689690000000000
mymeas,mytag2=8 value=78 1463689700000000000
mymeas,mytag3=9 value=89 1463689710000000000

響應的狀態碼:

HTTP狀態碼 描述
204 No Content 成功
400 Bad Request 不能接受的請求。可能是Line Protocol語法錯誤;寫入錯誤的field values型別;等。。
404 Not Fount 不能接受的請求。可能是資料庫不存在,或者別的原因
500 Internal Server Error 系統超負荷了或者明顯受損。可能是使用者企圖去寫一個不存在的RP。或者別的原因

InfluxDB叢集化

InfluxDB v0.12及以上版本已經不再開源其叢集部分程式碼,轉為商業版本功能。
可以參考支援叢集的最新版本v0.11。

參考資料

1.官方概念介紹: https://docs.influxdata.com/i…
2.InfluxDB詳解之TSM儲存引擎解析(一): http://blog.fatedier.com/2016…
 InfuxDB詳解之TSM儲存引擎解析(二):http://blog.fatedier.com/2016…

相關文章