Test Adapter influxdb 2.0

Feuersturm

@apollon77 Github Version installiert und das Ticket entsprechend kommentiert.

Sputnik24

Hallo zusammen,

habe aktuell noch influxdb 1.8 laufen, wollte auf 2.0 hoch und hab zuerst den Adapter über github installiert. Allerdings sind jetzt ALLE alten Daten weg - auch nach Einspielen eines Backups kurz vorm Update des Adapters. Neue Daten werden geschrieben.

Thomas Braun

@sputnik24 Du hast gelesen, dass man seine 1.8er Daten nicht einfach in 2.0 übernehmen kann? Die müssen zuvor konvertiert werden. Das hat aber nix mit dem ioBroker-Adapter zu tun.

Sputnik24

@thomas-braun Ich hab den Adapter auf 2.0 geupdatet und Datenbank auf 1.x gestellt. InfluxDB ist noch auf 1.x. Wollte zuerst den Adapter updaten, danach influxdb. Aber nach dem Adapter-Update sind die Daten in influxDB alle weg.

apollon77

@sputnik24 Was ist denn Deine Einstellung zu "Retention Time"im Adapter? Nicht das der jetzt "endlich" die korrekte Retention time gesetzt hat ... was dann bei dir diese Auswirkung hatte.
Bitte mla das iobroker Log vom ersten start der 2.0 zeigen (Logfile unter /opt/iobroker/log/...)

Sputnik24

@apollon77 Danke für den Hinweis. Die Storage Vorhaltezeit steht auf "Keine automatische Löschung"

Log:

2021-08-01 14:06:11.591  - [32minfo[39m: influxdb.0 (31576) starting. Version 2.0.0 in /opt/iobroker/node_modules/iobroker.influxdb, node: v12.20.1, js-controller: 3.3.11
2021-08-01 14:06:11.633  - [32minfo[39m: influxdb.0 (31576) No stored data from last exit found
2021-08-01 14:06:11.635  - [32minfo[39m: influxdb.0 (31576) Connecting http://10.0.0.9:8086 ...
2021-08-01 14:06:11.636  - [32minfo[39m: influxdb.0 (31576) Influx DB Version used: 1.x
2021-08-01 14:06:11.732  - [32minfo[39m: influxdb.0 (31576) Connected!
2021-08-01 14:06:11.754  - [32minfo[39m: influxdb.0 (31576) Applying retention policy for iobroker to 0 seconds. Shard Duration: 604800 seconds

Thomas Braun

@sputnik24

node: v12.20.1, js-controller: 3.3.11

Würde ich beides aktuell halten. Beta-Testing ist nur gegen die aktuelle Version sinnvoll.

Sputnik24

@thomas-braun said in Test Adapter influxdb 2.0:

@sputnik24
node: v12.20.1, js-controller: 3.3.11
Würde ich beides aktuell halten. Beta-Testing ist nur gegen die aktuelle Version sinnvoll.

Ich nutze iobroker als Docker-Image von https://github.com/buanet/ioBroker.docker , was leider seit längerem kein Update erhalten hat.

Thomas Braun

@sputnik24
Und das kann/muss man nicht selber auf Stand halten?

apollon77

@sputnik24 Hm ... 0 heisst an sich unendlich ... aoso das kanns nicht sein

apollon77

@sputnik24 Kannst DU bitte auch mal im influxdb log schauen?

Sputnik24

@apollon77 Gerne und danke.

Aber muss doch an der retention liegen. Log vom gleichen Zeitstempel wie oben:

2021-08-01 12:06:11	stdout	[httpd] 10.0.0.9 - user [01/Aug/2021:12:06:11 +0000] "GET /query?db=iobroker&p=%5BREDACTED%5D&precision=ms&q=CREATE+RETENTION+POLICY+%22global%22+ON+iobroker+DURATION+0s+REPLICATION+1+SHARD+DURATION+604800s+DEFAULT&u=user HTTP/1.1" 200 248 "-" "-" dcd65bb8-f2c0-11eb-9ebb-001132661b83 89601
2021-08-01 12:06:11	stdout	2021-08-01T12:06:11.761523Z info Executing query {"log_id": "0V2ScIbW000", "service": "query", "query": "CREATE RETENTION POLICY global ON iobroker DURATION 0s REPLICATION 1 SHARD DURATION 1w DEFAULT"}
2021-08-01 12:06:11	stdout	[httpd] 10.0.0.9 - user [01/Aug/2021:12:06:11 +0000] "GET /query?db=iobroker&p=%5BREDACTED%5D&precision=ms&q=SHOW+RETENTION+POLICIES+ON+iobroker&u=user HTTP/1.1" 200 164 "-" "-" dcd3211e-f2c0-11eb-9eba-001132661b83 7913
2021-08-01 12:06:11	stdout	2021-08-01T12:06:11.747205Z info Executing query {"log_id": "0V2ScIbW000", "service": "query", "query": "SHOW RETENTION POLICIES ON iobroker"}
2021-08-01 12:06:11	stdout	[httpd] 10.0.0.9 - user [01/Aug/2021:12:06:11 +0000] "GET /query?db=iobroker&p=%5BREDACTED%5D&precision=ms&q=show+databases&u=user HTTP/1.1" 200 122 "-" "-" dccc4a57-f2c0-11eb-9eb9-001132661b83 27108
2021-08-01 12:06:11	stdout	2021-08-01T12:06:11.714386Z info Executing query {"log_id": "0V2ScIbW000", "service": "query", "query": "SHOW DATABASES"}
2021-08-01 12:04:30	stdout	2021-08-01T12:04:30.348661Z info TSM compaction (end) {"log_id": "0V2ScIbW000", "engine": "tsm1", "tsm1_strategy": "full", "tsm1_optimize": false, "trace_id": "0VhPTHN0000", "op_name": "tsm1_compact_group", "op_event": "end", "op_elapsed": "176.472ms"}
2021-08-01 12:04:30	stdout	2021-08-01T12:04:30.348414Z info Finished compacting files {"log_id": "0V2ScIbW000", "engine": "tsm1", "tsm1_strategy": "full", "tsm1_optimize": false, "trace_id": "0VhPTHN0000", "op_name": "tsm1_compact_group", "tsm1_files_n": 1}
2021-08-01 12:04:30	stdout	2021-08-01T12:04:30.348078Z info Compacted file {"log_id": "0V2ScIbW000", "engine": "tsm1", "tsm1_strategy": "full", "tsm1_optimize": false, "trace_id": "0VhPTHN0000", "op_name": "tsm1_compact_group", "tsm1_index": 0, "tsm1_file": "/var/lib/influxdb/data/iobroker/autogen/319/000000011-000000002.tsm.tmp"}
2021-08-01 12:04:30	stdout	2021-08-01T12:04:30.172427Z info Compacting file {"log_id": "0V2ScIbW000", "engine": "tsm1", "tsm1_strategy": "full", "tsm1_optimize": false, "trace_id": "0VhPTHN0000", "op_name": "tsm1_compact_group", "tsm1_index": 2, "tsm1_file": "/var/lib/influxdb/data/iobroker/autogen/319/000000011-000000001.tsm"}
2021-08-01 12:04:30	stdout	2021-08-01T12:04:30.172376Z info Compacting file {"log_id": "0V2ScIbW000", "engine": "tsm1", "tsm1_strategy": "full", "tsm1_optimize": false, "trace_id": "0VhPTHN0000", "op_name": "tsm1_compact_group", "tsm1_index": 1, "tsm1_file": "/var/lib/influxdb/data/iobroker/autogen/319/000000010-000000001.tsm"}
2021-08-01 12:04:30	stdout	2021-08-01T12:04:30.172338Z info Compacting file {"log_id": "0V2ScIbW000", "engine": "tsm1", "tsm1_strategy": "full", "tsm1_optimize": false, "trace_id": "0VhPTHN0000", "op_name": "tsm1_compact_group", "tsm1_index": 0, "tsm1_file": "/var/lib/influxdb/data/iobroker/autogen/319/000000009-000000005.tsm"}
2021-08-01 12:04:30	stdout	2021-08-01T12:04:30.172303Z info Beginning compaction {"log_id": "0V2ScIbW000", "engine": "tsm1", "tsm1_strategy": "full", "tsm1_optimize": false, "trace_id": "0VhPTHN0000", "op_name": "tsm1_compact_group", "tsm1_files_n": 3}
2021-08-01 12:04:30	stdout	2021-08-01T12:04:30.172190Z info TSM compaction (start) {"log_id": "0V2ScIbW000", "engine": "tsm1", "tsm1_strategy": "full", "tsm1_optimize": false, "trace_id": "0VhPTHN0000", "op_name": "tsm1_compact_group", "op_event": "start"}
2021-08-01 12:04:03	stdout	2021-08-01T12:04:03.266358Z info Retention policy deletion check (end) {"log_id": "0V2ScIbW000", "service": "retention", "trace_id": "0VhPRdGG000", "op_name": "retention_delete_check", "op_event": "end", "op_elapsed": "0.444ms"}
2021-08-01 12:04:03	stdout	2021-08-01T12:04:03.265951Z info Retention policy deletion check (start) {"log_id": "0V2ScIbW000", "service": "retention", "trace_id": "0VhPRdGG000", "op_name": "retention_delete_check", "op_event": "start"}

Excodibur

@sputnik24
Die Sache ist die: In Influx kann man "by Design" keine Retention von weniger als einer Stunde setzen, da die Entwickler explizit verhinden wollten, dass so etwas passiert.

Eine Retention von 0s ist gleichbedeutend mit unendlich (INF). In der Retention Tabelle kannst du das selbst sehen, wenn du Folgendes ausführst:

show retention policies
name    duration shardGroupDuration replicaN default
----    -------- ------------------ -------- -------
autogen 0s       168h0m0s           1        false
global  0s       168h0m0s           1        true

Da siehst man, dass nicht nur unsere custom Retention-Policy "global" mit 0s gesetzt ist, sondern auch die Default-Policy "autogen" die Influx immer anlegt und auf unendlich stellt. Wir packen diese im Adapter auch nicht an.

Folgende Befehle zeigen auch, das Influx unter 0s "unendlich" versteht:

> alter retention policy global on iobroker duration 0s
> show retention policies
name    duration shardGroupDuration replicaN default
----    -------- ------------------ -------- -------
autogen 0s       168h0m0s           1        false
global  0s       168h0m0s           1        true
>
> alter retention policy global on iobroker duration INF
> show retention policies
name    duration shardGroupDuration replicaN default
----    -------- ------------------ -------- -------
autogen 0s       168h0m0s           1        false
global  0s       168h0m0s           1        true
>
> alter retention policy global on iobroker duration 1s
ERR: retention policy duration must be at least 1h0m0s

In den ersten beiden Fällen setzt Influx unabhängig von INF, oder 0s die Retention in der Tabelle immer auf 0s. Im letzten Fall bei 1s beschwert sich Influx, da die Retention zu kurz ist.

Mir ist nur bekannt, dass Influx alle Daten löscht, wenn man die alte Retention Policy löscht und danach eine neue anlegt. Der Adapter macht das aber explizit nicht, sondern aktualisiert immer die bestehende Policy. Hast du sonst noch andere Änderungen an der Retention manuell in der DB durchgeführt?

Sputnik24

@excodibur Wenn ich show retention policies ausführe, erhalte ich:

show retention policies                                                       
name    duration shardGroupDuration replicaN default                            
----    -------- ------------------ -------- -------                            
autogen 0s       168h0m0s           1        true

global fehlt mir also. Zu deiner letzten Frage: Ich hatte vor dem Update des Adapters (aktuell bin ich wieder auf 1.9.2) manuell weitere Datenpunkte zum Logging in influxdb hinzugefügt und deren Vorhaltezeit auf einen Tag gesetzt, da ich eigentlich nur am aktuellen Wert interessiert bin für Grafana.

Der Punkt ist, selbst wenn ich auf Adapter-Version 2.0 bin, das influxdb Backup einspiele und dann Adapter starte, werden alle Werte immer gelöscht.

Excodibur

@sputnik24 Verstehe ich das richtig, dass deiner Datenbank nur vor dem Starten der neuen Adapter-Version die "global" policy fehlt? Nachdem die neue Adapter-Version gestartet wird, sollte diese angelegt werden und in deiner DB neben "autogen" als default sichtbar sein. Die Logs deines Influx-Servers zeigen ja, das das Kommando zum Erstellen der Policy empfangen wurde (Zeile 2). D.h. sie müsste danach da sein.

Sollte dem so sein, vermute ich, dass es an dem Wechsel der default-Policy liegt. In dem Fall sollten die vorigen Daten nicht weg sein, sondern nur mit den regulären DB-Queries nicht mehr angezeigt werden. Gibt man die alte Policy z.B. beim SELECT Query mit an, sollten die Daten wieder sichtbar sein. Siehe auch https://docs.influxdata.com/influxdb/v1.7/troubleshooting/frequently-asked-questions/#why-am-i-missing-data-after-creating-a-new-default-retention-policy für mehr Infos dazu.

Siehst du die alten Daten so nach dem Start der neuen Adapter-Version so direkt in der DB noch?

Sputnik24

@excodibur Schau ich mir morgen in Ruhe an, aber klingt plausibel. Ich bin aktuell ja wieder auf 1.9.2 und möchte heut nicht mehr am System basteln.

Blöde Frage: Krieg ich die Daten über die default-Policy wieder angezeigt oder zur default-Policy portiert?

Excodibur

@sputnik24

Ich habe es jetzt noch nicht getestet, aber müsste so in die Richtung gehen:

/* DB auswählen */
use iobroker
/* Namen all gespeicherten States rausfinden */
show measurements
/* Gespeicherte Daten von alter (autogen) in neue (global) retention kopieren */
SELECT * INTO "iobroker"."global"."<measurement-name>" FROM "iobroker"."autogen"."<measurement-name>" GROUP BY *
/* Alte retention policy löschen, damit alle damit verbunden Measurements gelöscht werden. Vorher checken, das sie kopiert wurden!!!! */
DROP RETENTION POLICY "autogen" ON "iobroker"

Excodibur

@sputnik24 Bevor du migrierst, warte bitte noch kurz. Wir überlegen, ob man den Namen der Retention nicht per Config änderbar machen sollte, sodass man z.B. in deinem Fall den Adapter dazu bringen kann, "autogen" weiter zu nutzen.

lessthanmore

Moin, habe gerade versucht auf den Adapter 2.0 zu wechseln und bekomme die Instanz nicht mehr ans Laufen:

startInstance system.adapter.influxdb.0: required adapter "admin" has wrong version. Installed "5.1.15", required ">=5.1.19"!

Installiert ist Admin 5.1.19.
Meldung bleibt allerdings auch beim Downgrade vom Adapter auf 1.9.5 erhalten.

Eine Idee, wo es hier hängt?

Danke vorab.

Thomas Braun

@lessthanmore

iobroker list adapters
iobroker list instances

NEWS

Test Adapter influxdb 2.0

Support us

1.6k
Online

30.4k
Users

76.7k
Topics

1.2m
Posts

NEWS

Test Adapter influxdb 2.0

Support us

1.6kOnline

30.4kUsers

76.7kTopics

1.2mPosts

1.6k
Online

30.4k
Users

76.7k
Topics

1.2m
Posts