[gelöst] backitup und influxdbv2

[Marc Berg]

@dieter_p sagte in [gelöst] backitup und influxdbv2:

Also dann wieder per Try&Error
So mein Fazit.

Ja, das Backup-Konzept für InfluxDB muss man sich genauer anschauen und am besten auch mal durchtesten. Das "Problem", was du hast, ist dass Backitup jeweils einzelne Buckets sichert und auch wiederherstellt. Das ist gut, wenn mal Daten versehentlich gelöscht wurden und wieder hergestellt werden sollen. Sobald man aber mit mehreren Buckets arbeitet, so erhöht sich der Aufwand beim "Desaster Recovery", wenn man bei Null anfängt. Das hast du ja gemerkt.
Deshalb sollte man in Erwägung ziehen, die InfluxDB insgesamt (zusätzlich) per Kommandozeile/Cron zu sichern. Dann hat man die Möglichkeit, mit dem Flag "--full" ALLE Daten (inkl. aller User/Token!) in einem Rutsch wiederherzustellen.
Das ist aber für den "Otto-Normal-User" zugegebenermaßen nicht so leicht.

[simatec]

@dieter_p
Am Ende ist es doch logisch, dass du bei einem neu aufgesetzten InfluxDB System auch einen neuen Token hast und dieser dann natürlich auch in Backitup angepasst werden muss.

Backitup kann sich den ja nicht irgendwie holen, dass ist deine Konfiguration.

Gerne kannst du dich am Wiki beteiligen.
Mein Aufruf dazu hatte bisher nicht viel Resonanz und dementsprechend kannst du gerne deinen Beitrag dazu leisten

https://forum.iobroker.net/topic/63694/aufruf-zur-unterstützung-für-backitup-wiki/32

[Homoran]

@simatec hier nochmal der Link dahin
https://forum.iobroker.net/topic/63694/aufruf-zur-unterstützung-für-backitup-wiki?_=1680895401094

EDIT:
du hast ja editiert

[Dieter_P]

@simatec said in [gelöst] backitup und influxdbv2:

@dieter_p
Am Ende ist es doch logisch ...

Da kann man drüber streiten und im Fall von wiederum für mich subjektiv empfundenen absoluten Standardprozeduren wäre es einfach nett, gesichert per Doku an einem System arbeiten zu können. Was so manche Humänitäre Wesen als Logisch empfinden überrascht nicht selten.

@simatec said in [gelöst] backitup und influxdbv2:

@dieter_p
Gerne kannst du dich am Wiki beteiligen.
Mein Aufruf dazu hatte bisher nicht viel Resonanz und dementsprechend kannst du gerne deinen Beitrag dazu leisten

https://forum.iobroker.net/topic/63694/aufruf-zur-unterstützung-für-backitup-wiki/32

Kein Thema, folgt im Laufe dieses Wochenendes und sehr gerne. Schreibe dabei auch gerne einen Halbsatz mehr, da für mich eine Doku auch gerne etwas erläuternden Charakter haben darf um weniger Missverständnisse bzw. Raum für logische, eigenständige Interpretationen zu lassen. Damit kommt nicht jeder klar, aber dafür ist es ja ein editierbares Wiki und keine "gedruckte Bibel"

[manrum1]

Hallo zusammen, hoffe ich bin hier richtig.

Mein Problem ist folgendes: Ich möchte aus einer alten Sicherung (Stand Juni23) das alte Bucket wiederherstellen. Damals hieß mein Bucket "iobold", in meiner aktuellen Installation "iobroker-data". Nun dachte ich ganz naiv, dass das Backitup-Restore aus der alten Sicherung ein das alte Bucket parallel zu dem neuen wieder herstellt und ich per Grafana auf die alten Daten zugreifen kann.

Dem ist aber nicht so. Ich sehe, wenn ich mich in influxdb (InfluxDB v2.7.1) direkt einlogge nur die aktuellen buckets. Was mache ich falsch?

Danke im Voraus!

[Marc Berg]

@manrum1 sagte in [gelöst] backitup und influxdbv2:

Was mache ich falsch?

In der Backitup-Konfiguration musst du "Sicherung mehrerer Systeme" anklicken, Daten eingeben und speichern.
Danach zieht sich Backitup den korrekten Bucket-Namen aus den Metadaten und es sollte funktionieren.

[manrum1]

@marc-berg Danke für die Hilfe, bei mir schaut das so aus (backitup 2.8.1):

Kann unter Token nichts eingeben und rechts nichts auswählen.

[Marc Berg]

@manrum1 sagte in [gelöst] backitup und influxdbv2:

Kann unter Token nichts eingeben und rechts nichts auswählen.

Du kannst den Token eingeben, sobald du "Version 2.x" auswählen konntest. Die Auswahl der Version ist in der Tat ein wenig buggy. Versuch's mal mit der Tastatur.

Edit:
machmal hilft es auch, ein wenig mit dem Browser Zoom zu spielen.

[manrum1]

@marc-berg Auswahl geht jetzt, danke!

Restore geht aber leider nicht, damals hieß meine Org anders: Homebase

Started restore ...
[DEBUG] [influxDB] - Created tmp directory
[DEBUG] [influxDB] - Start infuxDB Restore ...
[DEBUG] [influxDB] - influxdb.0 is stopped
[ERROR] [influxDB] - Error: failed to check existence of organization "Homebase": 401 Unauthorized: unauthorized access

[DEBUG] [influxDB] - Try deleting the InfluxDB tmp directory
[DEBUG] [influxDB] - InfluxDB tmp directory was successfully deleted
[DEBUG] [influxDB] - infuxDB Restore completed successfully
[EXIT] influxDB restore done
[DEBUG] [influxDB] - influxdb.0 started

So schaut die Config aus:

[Marc Berg]

@manrum1 sagte in [gelöst] backitup und influxdbv2:

Restore geht aber leider nicht, damals hieß meine Org anders: Homebase

Mehh! Diese Konstellation hatte ich noch nicht getestet.
Die Fehlermeldung sieht mir aber eher nach einem falschen Token aus. Ganz sicher, dass da der richtige (Operator-) Token drin ist?

[manrum1]

@marc-berg Dachte ich eigentlich schon. Hab ein altes Image von der damaligen Installtion. Könnte diese noch mal starten und die Einstellungen nachschauen. Aber ich glaube in der infuxdb v2 kommt man, glaube ich, nicht mehr so leicht an den Token?

[Marc Berg]

@manrum1 sagte in [gelöst] backitup und influxdbv2:

Aber ich glaube in der infuxdb v2 kommt man nicht mehr so leicht an den Token?

Nein, du benötigst den Token der NEUEN DB.
Mach mal auf der Kommandozeile

influx auth list --json

[manrum1]

@marc-berg Nach Eingabe meines aktuellen Tokens hat er eine db namens iobold restored. Leider sehe ich diese aber nirgends.
Müsste denn diese im influx Data Explorer nicht auftauchen?

Wenn ich den restore nochmal starte bekomme ich jetzt folgende Fehlermeldung:

Started restore ...
[DEBUG] [influxDB] - Created tmp directory
[DEBUG] [influxDB] - Start infuxDB Restore ...
[DEBUG] [influxDB] - influxdb.0 is stopped
[ERROR] [influxDB] - 2023/10/15 14:14:34 INFO: Restoring bucket "5d5a5dbc9205129a" as "iobold"
Error: failed to restore bucket "iobold": 422 Unprocessable Entity: bucket with name iobold already exists

[DEBUG] [influxDB] - Try deleting the InfluxDB tmp directory
[DEBUG] [influxDB] - InfluxDB tmp directory was successfully deleted
[DEBUG] [influxDB] - infuxDB Restore completed successfully
[EXIT] influxDB restore done

[Marc Berg]

@manrum1 sagte in [gelöst] backitup und influxdbv2:

Müsste denn diese im influx Data Explorer nicht auftauchen?

Wenn deine Organisation vorher anders hieß, wird er die auch angelegt haben. Du müsstest also die Org. umschalten.

[manrum1]

@marc-berg Ja, logisch - hätte ich selbst drauf kommen können. Danke vielmals!

Trotzdem noch eine Frage: Warum obige Fehlermeldung wenn ich den restore neu anstoße?

[Marc Berg]

@manrum1 sagte in [gelöst] backitup und influxdbv2:

Warum obige Fehlermeldung wenn ich den restore neu anstoße?

Weil ein Restore nur möglich ist, wenn das Bucket nicht existiert. Du musst es also vorher löschen.

[manrum1]

@marc-berg Noch mal vielen Dank für Deine schnelle und kompetente Hilfe

[manrum1]

@marc-berg Sorry, dass ich dich noch mal "belästigen" muss.

ich kann von Grafana auf die die Datenbank (iobold) der zweiten Organisation (Homebase) zugreifen, allerdings nur, wenn ich dafür eine eigene Datasource anlege. Diese ist geht aber nur über Flux, da ich nur dann die Option für Angabe der Organization angeboten bekomme:

Ich kann aber nicht in der gleichen Visulalisierung auf Datenbank der anderen Organisation (home) zugreifen.

Meine Hoffnung war nun per InfluxQL auf beide Datenbanken in den verschiedenen Organisationen zugreifen zu können, hier gibt es ja folgenden Hinweis:

Frage1: Geht das?
Frage2: Warum gelingt es mir nicht per InfluxQL auf die Datenbank (iobold) der zweiten Organisation (Homebase) zugreifen

Danke im Voraus!

[Marc Berg]

@manrum1 sagte in [gelöst] backitup und influxdbv2:

Frage1: Geht das?

Dass du mit den alten Daten eine übergreifende Query basteln willst, hattest du nicht erwähnt.

Um allen Problemen aus dem Weg zu gehen, würde ich die Org. "Homebase" wieder löschen und stattdessen den Restore in die bestehende Organisation ausführen. Das geht aber nur über die Kommandozeile. Backitup ist dafür nicht geeignet.
Du musst dafür das Flag "--new-org" benutzen. Im Detail ist dies hier erklärt:

https://docs.influxdata.com/influxdb/v2/reference/cli/influx/restore/

Das Backitup-Backup-File muss entpackt werden.

Edit:
Das müsste dann wahrscheinlich so aussehen:

influx restore --bucket iobold --new-bucket <hier könnte ein neuer Bucketname rein> --new-org <Name der bestehenden Org> --org <Name der bestehenden Org> --token <Token ID> <Pfad zum entpackten Backup-File>

[manrum1]

@marc-berg Danke für die prompte Hilfe!

Ich kann das Bucket iobold in die neue Org restoren, allerdings sehe ich keine Daten. Das Kommando musste ich dafür wie folgt anpassen:

influx restore --bucket iobold --org <Name der alten Org> --new-bucket <hier könnte ein neuer Bucketname rein> --new-org <Name der bestehenden Org>  --token <Token ID der neuen ORg> <Pfad zum entpackten Backup-File>

Soweit klappte das dann auch:

 influx restore --bucket iobold  --org Homebase --new-bucket iobold --new-org home --token xxx /opt/iobroker/backups/tmp                                                                                 /
2023/10/18 11:12:35 INFO: Restoring bucket "5d5a5dbc9205129a" as "iobold"
2023/10/18 11:12:41 INFO: Restoring TSM snapshot for shard 585
2023/10/18 11:12:41 INFO: Restoring TSM snapshot for shard 586
hier folgen weitere...

Leider sehe ich im Influx Data Explorer zwar das bucket iobold aber keine Daten dazu: