InfluxDB - Daten weg / Wiederherstellung [gelöst]

Naturfreund

Wäre auch eine Option.

Glasfaser

~~gz zip entpacken ( welches Backup du haben möchtest ) und dann am Ende den Pfad im Code dazu angeben~~

Beispiel:

influxd restore -portable -db NamederaltenDatenbank -newdb NeuerDatenbankname  /opt/iobroker/backups/influxDB_2023_01_12-02_40_18_backupiobroker

NamederaltenDatenbank ist die alte Datenbank von Influx gemeint
NeuerDatenbankname ist deine neuen Datenbank zum testen gemeint

EDIT :
siehe oben

Naturfreund

@glasfaser

Ich hab aktuell nur eine Datenbank. Mit NamederaltenDatenbank ist dann iobroker gemeint?

pi@raspberrypi:~ $ influx
Connected to http://localhost:8086 version 1.8.10
InfluxDB shell version: 1.8.10
> show databases
name: databases
name
----
_internal
iobroker

Glasfaser

@naturfreund

ist dann iobroker gemeint?

ja

Naturfreund

@glasfaser

pi@raspberrypi:/tmp $ tar xfvz iobroker_2023_01_09-02_40_10_backupiobroker.tar.gz
backup/
backup/backup.json
backup/files/
backup/files/0_userdata.0/
backup/files/admin.0/
backup/files/lovelace.0/
backup/files/shelly.0/
backup/files/web.0/
backup/files/shelly.0/scripts/

Soweit so gut ;-)
Och mist, ich sehe ich hab die falsche Datei erwischt :confounded:

Glasfaser

@naturfreund sagte in InfluxDB - Daten weg / Wiederherstellung:

iobroker_2023

???

Naturfreund

@glasfaser

pi@raspberrypi:/tmp $ tar xfvz influxDB_2023_01_09-02_40_18_backupiobroker.tar.gz
...
tar: .: Funktion utime fehlgeschlagen: Die Operation ist nicht erlaubt
tar: .: Kann Zugriffsrechte nicht zu rwxr-xr-t ändern: Die Operation ist nicht erlaubt
tar: Beende mit Fehlerstatus aufgrund vorheriger Fehler

Was hab ich jetzt wieder falsch gemacht?

mit sudo hat es geklappt:

pi@raspberrypi:/tmp/backup $ dir
20230109T014018Z.manifest     20230109T014018Z.s494.tar.gz  20230109T014018Z.s726.tar.gz
20230109T014018Z.meta         20230109T014018Z.s502.tar.gz  20230109T014018Z.s734.tar.gz
20230109T014018Z.s278.tar.gz  20230109T014018Z.s510.tar.gz  20230109T014018Z.s742.tar.gz
20230109T014018Z.s286.tar.gz  20230109T014018Z.s518.tar.gz  20230109T014018Z.s750.tar.gz
20230109T014018Z.s294.tar.gz  20230109T014018Z.s526.tar.gz  20230109T014018Z.s758.tar.gz
20230109T014018Z.s302.tar.gz  20230109T014018Z.s534.tar.gz  20230109T014018Z.s766.tar.gz
20230109T014018Z.s310.tar.gz  20230109T014018Z.s542.tar.gz  20230109T014018Z.s774.tar.gz
20230109T014018Z.s318.tar.gz  20230109T014018Z.s550.tar.gz  20230109T014018Z.s782.tar.gz
20230109T014018Z.s326.tar.gz  20230109T014018Z.s558.tar.gz  20230109T014018Z.s790.tar.gz
20230109T014018Z.s334.tar.gz  20230109T014018Z.s566.tar.gz  20230109T014018Z.s798.tar.gz
20230109T014018Z.s342.tar.gz  20230109T014018Z.s574.tar.gz  20230109T014018Z.s806.tar.gz
20230109T014018Z.s350.tar.gz  20230109T014018Z.s582.tar.gz  20230109T014018Z.s814.tar.gz
20230109T014018Z.s358.tar.gz  20230109T014018Z.s590.tar.gz  20230109T014018Z.s822.tar.gz
20230109T014018Z.s366.tar.gz  20230109T014018Z.s598.tar.gz  20230109T014018Z.s830.tar.gz
20230109T014018Z.s374.tar.gz  20230109T014018Z.s606.tar.gz  20230109T014018Z.s838.tar.gz
20230109T014018Z.s382.tar.gz  20230109T014018Z.s614.tar.gz  20230109T014018Z.s846.tar.gz
20230109T014018Z.s390.tar.gz  20230109T014018Z.s622.tar.gz  20230109T014018Z.s854.tar.gz
20230109T014018Z.s398.tar.gz  20230109T014018Z.s630.tar.gz  20230109T014018Z.s862.tar.gz
20230109T014018Z.s406.tar.gz  20230109T014018Z.s638.tar.gz  20230109T014018Z.s870.tar.gz
20230109T014018Z.s414.tar.gz  20230109T014018Z.s646.tar.gz  20230109T014018Z.s878.tar.gz
20230109T014018Z.s422.tar.gz  20230109T014018Z.s654.tar.gz  20230109T014018Z.s886.tar.gz
20230109T014018Z.s430.tar.gz  20230109T014018Z.s662.tar.gz  20230109T014018Z.s894.tar.gz
20230109T014018Z.s438.tar.gz  20230109T014018Z.s670.tar.gz  20230109T014018Z.s902.tar.gz
20230109T014018Z.s446.tar.gz  20230109T014018Z.s678.tar.gz  20230109T014018Z.s910.tar.gz
20230109T014018Z.s454.tar.gz  20230109T014018Z.s686.tar.gz  20230109T014018Z.s918.tar.gz
20230109T014018Z.s462.tar.gz  20230109T014018Z.s694.tar.gz  20230109T014018Z.s926.tar.gz
20230109T014018Z.s470.tar.gz  20230109T014018Z.s702.tar.gz  20230109T014018Z.s934.tar.gz
20230109T014018Z.s478.tar.gz  20230109T014018Z.s710.tar.gz  20230109T014018Z.s942.tar.gz
20230109T014018Z.s486.tar.gz  20230109T014018Z.s718.tar.gz  influxDB_2023_01_09-02_40_18_backupiobroker.tar.gz

Naturfreund

@glasfaser said in InfluxDB - Daten weg / Wiederherstellung:

@naturfreund

~~gz zip entpacken ( welches Backup du haben möchtest ) und dann am Ende den Pfad im Code dazu angeben~~

Beispiel:
influxd restore -portable -db NamederaltenDatenbank -newdb NeuerDatenbankname  /opt/iobroker/backups/influxDB_2023_01_12-02_40_18_backupiobroker
NamederaltenDatenbank ist die alte Datenbank von Influx gemeint
NeuerDatenbankname ist deine neuen Datenbank zum testen gemeint

EDIT :
siehe oben

War schon zu spät gestern, hab nicht gesehen, dass du es durchgestrichen hattest.

Naturfreund

So, heute hab ich Zeit gehabt und hab die alte Datenbank wiedergestellt:

pi@raspberrypi:~ $ influx
Connected to http://localhost:8086 version 1.8.10
InfluxDB shell version: 1.8.10
> show databases
name: databases
name
----
_internal
iobroker
iobroker20230109

Hab mir mit InfluxDBStudio die Daten aus der Datenbank iobroker20230109 angesehen, bekomme aber keine "results":

Gleiches Query für die aktive ioBroker Datenbank fördert folgendes zu Tage:

Die Sicherung scheint für den Zeitraum gar keine Daten zu enthalten.

Auch für andere Datenpunkte sind in dem Backup Daten teilweise nur bis Februar vorhanden (Stichprobe):

Das verunsichert mich jetzt. Ich mache die Backups damit ich die Daten wieder herstellen kann. Die scheinen aber gar nicht enthalten zu sein :dizzy_face:

Naturfreund

Gestern war der Log leer, also keine warns oder errors influxdb betreffend. Heute wieder ein Eintrag:

2023-01-15 13:05:16.797 - info: shelly.0 (19859) [MQTT] Device 192.168.1.111 (shellyht / shellyht-A4CF12F40446 / SHHT-1#A4CF12F40446#1) connected! Polltime set to 5 sec.
2023-01-15 13:05:23.543 - info: influxdb.0 (19727) Store 1001 buffered influxDB history points
2023-01-15 13:05:23.640 - warn: influxdb.0 (19727) Error on writeSeries: Error: connect ECONNREFUSED 127.0.0.1:8086
2023-01-15 13:05:23.641 - info: influxdb.0 (19727) Host not available, move all points back in the Buffer
2023-01-15 13:05:33.645 - info: influxdb.0 (19727) Connecting http://localhost:8086/ ...
2023-01-15 13:05:33.645 - info: influxdb.0 (19727) Influx DB Version used: 1.x
2023-01-15 13:05:33.657 - error: influxdb.0 (19727) Error: connect ECONNREFUSED 127.0.0.1:8086
2023-01-15 13:05:43.657 - info: influxdb.0 (19727) Connecting http://localhost:8086/ ...
2023-01-15 13:05:43.658 - info: influxdb.0 (19727) Influx DB Version used: 1.x
2023-01-15 13:05:43.684 - info: influxdb.0 (19727) Store 1209 buffered influxDB history points

crunchip

@naturfreund noch irgendwelche anderen verdächtigen Meldungen vor dieser Zeit im log?
lief ein backup?

so am Rande wie voll ist die Platte?
wenn du da sämtliche Backups local liegen hast und ne Datenbank, könnte auch sein das die Platte voll ist und keine Daten gespeichert werden

Naturfreund

@crunchip

Auf der SD Karte sind noch 4,6 GB frei.
Ein Grund warum ich auf Google Drive umgestiegen bin, ich wollte die Backups nicht lokal liegen haben und die SD zusätzlich mit Schreibzyklen quälen.
Das hat nicht funktioniert, da er immer erst auf SD schreibt und dann ans Drive verschickt.

Hab die Anzahl an Datenpunkten im Buffer von 50 auf 1000 erhöht, siehst du auch im Log.
Macht absolut Sinn so viele wie möglich zu puffern.

Ich werde jetzt noch ein neueres Backup (> 09.01.23) wieder herstellen und nachsehen ob die Daten der letzten Tage da enthalten sind.

Wenn das auch nichts drin hat, stoße ich direkt ein Backup über Influxd an.

Naturfreund

Ich verliere weiterhin Daten :astonished: :confounded:

Screenshot_20230117-225214~2.png

Die Dateigröße der Sicherungen nimmt auch immer weiter ab:

Log vom 14.01. war leer (keine Errors oder Warns)
Folgenden Eintrag hatte ich am 15.01. im Log:

2023-01-15 13:05:23.543 - info: influxdb.0 (19727) Store 1001 buffered influxDB history points
2023-01-15 13:05:23.640 - warn: influxdb.0 (19727) Error on writeSeries: Error: connect ECONNREFUSED 127.0.0.1:8086
2023-01-15 13:05:23.641 - info: influxdb.0 (19727) Host not available, move all points back in the Buffer
2023-01-15 13:05:33.645 - info: influxdb.0 (19727) Connecting http://localhost:8086/ ...
2023-01-15 13:05:33.645 - info: influxdb.0 (19727) Influx DB Version used: 1.x
2023-01-15 13:05:33.657 - error: influxdb.0 (19727) Error: connect ECONNREFUSED 127.0.0.1:8086
2023-01-15 13:05:43.657 - info: influxdb.0 (19727) Connecting http://localhost:8086/ ...
2023-01-15 13:05:43.658 - info: influxdb.0 (19727) Influx DB Version used: 1.x
2023-01-15 13:05:43.684 - info: influxdb.0 (19727) Store 1209 buffered influxDB history points

Log am 16.01. war dann wieder leer.

Alles deutet darauf hin, dass es an diesem Error liegt. Zeitlich gesehen spricht alles dafür. Ich finde aber nichts in Google was mir weiter hilft.

crunchip

@naturfreund da es sich wieder um die selbe Uhrzeit handelt, muss da ja irgend etwas laufen was dieses Problem verursacht

@naturfreund sagte in InfluxDB - Daten weg / Wiederherstellung:

Ich verliere weiterhin Daten

kann man an deinem screen aber nicht erkennen, da ist das Zeitfenster zu groß, da sieht man nur das Daten für ein halbes Monat fehlen

Glasfaser

@naturfreund sagte in InfluxDB - Daten weg / Wiederherstellung:

2023-01-15 13:05:33.657 - error: influxdb.0 (19727) Error: connect ECONNREFUSED 127.0.0.1:8086

Trage in der Instanz die IP von Influx fest ein ( kein localhost ) , eventuell hast du ein Netzwerkproblem !?
oder hast du das schon getestet !?

Naturfreund

@crunchip said in InfluxDB - Daten weg / Wiederherstellung:

kann man an deinem screen aber nicht erkennen, da ist das Zeitfenster zu groß, da sieht man nur das Daten für ein halbes Monat fehlen

Vorher (siehe screenshot oben) waren die Daten bis einschließlich 09.01. weg, jetzt fehlen die Daten bis einschließlich 15.01..

Naturfreund

@glasfaser said in InfluxDB - Daten weg / Wiederherstellung:

@naturfreund sagte in InfluxDB - Daten weg / Wiederherstellung:

2023-01-15 13:05:33.657 - error: influxdb.0 (19727) Error: connect ECONNREFUSED 127.0.0.1:8086

Trage in der Instanz die IP von Influx fest ein ( kein localhost ) , eventuell hast du ein Netzwerkproblem !?
oder hast du das schon getestet !?

Ich Update gerade das System auf den neusten Stand. Danach lasse ich einen iobroker fix laufen. Schaden kann es nicht. Die IP werde ich fest vergeben, hoffe das bringt evlt. Besserung.

Bisher habe ich nur Problembeschreibungen mit dem selben Problem in Verbindung mit Docker/Node Red gelesen. Nutze ich beides nicht. Allerdings war die Ursache immer die Host IP.

Glasfaser

@naturfreund

wie schon am Anfang von mir selber beschrieben ... hatte ich auch dieses Phänomen immer um die gleiche Uhrzeit .
Leider sporadisch und konnte keinen zusammenhang dazu finden ...

Naturfreund

@glasfaser said in InfluxDB - Daten weg / Wiederherstellung:

@naturfreund sagte in InfluxDB - Daten weg / Wiederherstellung:

2023-01-15 13:05:33.657 - error: influxdb.0 (19727) Error: connect ECONNREFUSED 127.0.0.1:8086

Trage in der Instanz die IP von Influx fest ein ( kein localhost ) , eventuell hast du ein Netzwerkproblem !?
oder hast du das schon getestet !?

Ich kann den Zusammenhang noch nicht herstellen mit einem Netzwerkproblem.
Bei mir läuft auf dem Raspi ioBroker/InfluxDB und die Datenbank von Influx liegt ebenfalls auf dem Raspi (aktuell noch SD Karte, da möchte ich auf eine SSD).
Es passieren hier doch nur lokale Zugriffe?

Glasfaser

@naturfreund sagte in InfluxDB - Daten weg / Wiederherstellung:

Es passieren hier doch nur lokale Zugriffe?

richtig .. bei dir ja .

Es wäre dann die Frage ..

läuft der Dienst von Influx zu diesem Zeitpunkt nicht mehr
Port Probleme
sonst noch was außer Influx läuft noch auf deiner Raspberry

Community Forum

NEWS

InfluxDB - Daten weg / Wiederherstellung [gelöst]

Support us

685

32.5k

81.6k

1.3m