Influxdb: Wie altes backup in neuere DB einspielen

[hukio]

@marc-berg
Habe dies so versucht mit delta t = 1 Monat

> select * INTO "iobroker".autogen.:MEASUREMENT FROM "iobroker_tmp".autogen./.*/  where time >= '2023-06-01 00:00:00' and time < '2023-06-30 00:00:00' GROUP BY *
ERR: timeout
> select * INTO "iobroker".autogen.:MEASUREMENT FROM "iobroker_tmp".autogen./.*/  where time >= '2023-06-01 00:00:00' and time < '2023-06-30 00:00:00' GROUP BY *
ERR: partial write: points beyond retention policy dropped=155

Dann noch einmal, mit neuem Fehler. Die alte Datenbank ist nur 18.905 KB groß als GZ Datei (für ca. 9 Monate). Die jetzige ist 422 KB für ca. 7 Tage. Beide wirklich nicht groß würde ich denken. Werde die Umkehrung versuchen.
HUK

[Marc Berg]

@hukio Wenn du mit unterschiedlichen Retention policies arbeitest, musst du natürlich "autogen" durch den Namen der policy ersetzen.

[hukio]

@marc-berg
Bei mir ist alles default, wüßte nicht, wie ich die retention policy beeinflussen kann.
HUK

[A Former User]

@hukio sagte in Influxdb: Wie altes backup in neuere DB einspielen:

Habe dies so versucht mit delta t = 1 Monat

Moin,

lese nur noch am Rande mit, aber wie ist denn die Retention der Datenbank, sagen wir mal, die steht auf 30 Tage, dann kannst Du keine Daten einfügen, die älter als 30 Tage sind.
Wie gesagt, lese hier nur noch sporadisch mit, falls das schon beantwortet wurde, sorry.

VG
Bernd

P.S.: @Marc-Berg war schneller

[A Former User]

@hukio sagte in Influxdb: Wie altes backup in neuere DB einspielen:

Bei mir ist alles default, wüßte nicht, wie ich die retention policy beeinflussen kann.

Moin,

und wieder mal die schöne Dokumentation vom Hersteller https://docs.influxdata.com/influxdb/v1.8/query_language/explore-schema/#show-retention-policies

VG
Bernd

P.S.: und wenn Du das ändern möchtest https://docs.influxdata.com/influxdb/v1.8/query_language/manage-database/#modify-retention-policies-with-alter-retention-policy

[Marc Berg]

@dp20eic sagte in Influxdb: Wie altes backup in neuere DB einspielen:

lese nur noch am Rande mit, aber wie ist denn die Retention der Datenbank, sagen wir mal, die steht auf 30 Tage, dann kannst Du keine Daten einfügen, die älter als 30 Tage sind.

Ja, das sieht für mich auch so aus, dass nach dem Crash eine Retention policy ungleich "unendlich" angelegt wurde. Aber dann ist der umgekehrte Weg der Wiederherstellung wahrscheinlich sowieso der bessere.

Edit:

Aber die Überlegung wirft nochmal ein anderes Licht auf das "Verschwinden" der Daten. Vielleicht wurden durch das Verstellen der Retention policy Daten gelöscht.

[hukio]

@marc-berg

 SHOW RETENTION POLICIES
name    duration   shardGroupDuration replicaN default
----    --------   ------------------ -------- -------
autogen 17520h0m0s 168h0m0s           1        true

Ist offensichtlich nicht unendlich, wäre 0 h für duration denke ich.
HUK

[A Former User]

@marc-berg sagte in Influxdb: Wie altes backup in neuere DB einspielen:

Ja, das sieht für mich auch so aus, dass nach dem Crash eine Retention policy

Moin,

ich müsste mich erst durch den Thread lesen, bevor ich mir da ein Urteil erlauben kann, ich wäre gleich auf influxDB V2.x gegangen, vielleicht auch parallel zur V 1.8 und hätte dann nach einer Zeit des parallelen Befüllens, eine Migration der Altdaten gemacht.
Stecke da aber nicht im Detail, was der TE haben/erreichen möchte.

VG
Bernd

@hukio sagte in Influxdb: Wie altes backup in neuere DB einspielen:

Ist offensichtlich nicht unendlich, wäre 0 h für duration denke ich.

Ja, steht nicht auf Unendlich, aber auf ~ 2 Jahre -> 17520 Std.

duration

The attribute of the retention policy that determines how long InfluxDB stores data. 
Data older than the duration are automatically dropped from the database. See Database 
Management for how to set duration.

Warum da dann die Daten nicht hineinlaufen, keine Ahnung.

VG
Bernd

[hukio]

@marc-berg und andere,
Ich habe jetzt den umgekehrten Ansatz durchgeführt, neue kurze Datenbank in alte lange eingefügt. Gleiches Verhalten. timeout error wie vorher. Habe dann Zeitintervall auf einen Tag eingeschränkt, von Tag zu Tag. Das ging ohne Fehler.
War ein langer Weg. Vielen Dank für die ausführliche Unterstützung. Geht das alles mit der Version 2.x besser?
HUK
PS: die retention time autogen war auch in der "intakten" DB auf den gleichen Wert gesetzt. Wo das herkommt? Habe sie auf INF gesetzt.

[A Former User]

@hukio sagte in Influxdb: Wie altes backup in neuere DB einspielen:

Vielen Dank für die ausführliche Unterstützung

Moin,

schön, dass Du da wieder auf dem Laufenden bist und es dann zum Schluss doch funktioniert hat.

@hukio sagte in Influxdb: Wie altes backup in neuere DB einspielen:

War ein langer Weg.

Dass Du diese Timeouts hast, ist schon seltsam, wie bist Du denn unterwegs, also auf welchem System und was läuft da noch alles?
Hattest Du die Systemlast bei den Aktionen im Auge, welches Speichermedium?

@hukio sagte in Influxdb: Wie altes backup in neuere DB einspielen:

Geht das alles mit der Version 2.x besser?

Was, ich hatte noch kein Verhalten wie Deines, bei meinen drei influxDB Installationen, zwei V 2.7x und eine V 1.8.
V 2.x ist halt eine andere Abfragesprache FLUX man kann zwar auch influxQL weiter nutzen, ist halt Geschmackssache. Lies Dir das mal auf den Herstellerseiten durch, Dir kann da kein Außenstehender sagen, das musst Du selbst an Deinen Fähigkeiten fest machen.
Ich bin da immer auf dem aktuellsten Stand, ich werde mir wohl auch eine Test influxDB V 3 Cloud holen, um zu sehen, wohin die Reise geht, wenn es sie dann gibt.

VG
Bernd