InfluxDB 2.7 Totalabsturz - BackItUp mit Fehler

[Marc Berg]

@akuhnsh sagte in InfluxDB 2.7 Totalabsturz - BackItUp mit Fehler:

Zu der Zeit lief kein Rechner zu Hause und es war auch niemand anwesend. Das Desaster ist einfach vom Himmel gefallen und ich habe keine Ahnung wie ich meine Datenbank wiederherstellen und so etwas in Zukunft vermeiden kann.

Wenn ich die Logs richtig lese, hast du alles auf SD Card installiert? Das würde ich für ein System, welches mir wichtig ist, nicht so machen. Die Vermutung liegt nahe, dass es dir das Filesystem zerschossen hat. Eine InfluxDB stürzt eigentlich nicht einfach so ab.

Hat jemand eine Idee und Step by Step Vorgehensweise für mich?

Das bekommen wir wieder hin, falls das Backup funktionsfähig ist. Wenn sich die InfluxDB "vergessen" hat, dann hast du auch einen neuen Token, den du in Backitup eingeben musst. Vorher würde ich aber die Ursache abklären (lassen).

[akuhnsh]

@marc-berg said in InfluxDB 2.7 Totalabsturz - BackItUp mit Fehler:

Wenn ich die Logs richtig lese, hast du alles auf SD Card installiert? Das würde ich für ein System, welches mir wichtig ist, nicht so machen. Die Vermutung liegt nahe, dass es dir das Filesystem zerschossen hat. Eine InfluxDB stürzt eigentlich nicht einfach so ab.

Über welches Medium machst du es? Mir ist es wichtig und eine kleine HDD über USB wäre ein Gedanke der mir dazu gekommen ist. Funktioniert das mit Power over USB beim Pi?

Das bekommen wir wieder hin, falls das Backup funktionsfähig ist. Wenn sich die InfluxDB "vergessen" hat, dann hast du auch einen neuen Token, den du in Backitup eingeben musst. Vorher würde ich aber die Ursache abklären (lassen).

BackItUp hat den neuen Token und wie erwähnt, habe ich Influx wieder so eingerichtet, wie es vorher war. Bucket gelöscht bzw. umbenannt und dann über BackItUp die Wiederherstellung gestartet. Gerade nochmal probiert:

Started restore ...
[DEBUG] [influxDB] - Created tmp directory
[DEBUG] [influxDB] - Start infuxDB Restore ...
[DEBUG] [influxDB] - influxdb.0 is stopped
[ERROR] [influxDB] - Error: failed to check existence of organization "privat": 401 Unauthorized: unauthorized access

[DEBUG] [influxDB] - Try deleting the InfluxDB tmp directory
[DEBUG] [influxDB] - InfluxDB tmp directory was successfully deleted
[DEBUG] [influxDB] - infuxDB Restore completed successfully
[EXIT] influxDB restore done
[DEBUG] [influxDB] - influxdb.0 started

[Marc Berg]

@akuhnsh sagte in InfluxDB 2.7 Totalabsturz - BackItUp mit Fehler:

Über welches Medium machst du es? Mir ist es wichtig und eine kleine HDD über USB wäre ein Gedanke der mir dazu gekommen ist. Funktioniert das mit Power over USB beim Pi?

Dazu bin ich leider keine Hilfe. Ich habe das mal probiert mit der SSD über USB, aber entnervt abgebrochen, weil es da einige Abhängigkeiten bzgl. des passenden Adapters etc. gibt. Ich arbeite seit einiger Zeit auf einem NUC und bin damit zufrieden.

BackItUp hat den neuen Token und wie erwähnt, habe ich Influx wieder so eingerichtet, wie es vorher war. Bucket gelöscht bzw. umbenannt und dann über BackItUp die Wiederherstellung gestartet. Gerade nochmal probiert:

Wo hast du den Token her?

[Homoran]

@akuhnsh sagte in InfluxDB 2.7 Totalabsturz - BackItUp mit Fehler:

Funktioniert das mit Power over USB beim Pi?

Da gibt es einige Fallstricke

• Das Netzteil des Pi muss stark genug sein
• Beim Pi4 gibt es Störeinstrahlungen in den USB3
  • Der USB2 liefert möglicherweise nicht genug Power

USB2 mit aktivem Hub wäre dann eine Lösung

[akuhnsh]

@marc-berg said in InfluxDB 2.7 Totalabsturz - BackItUp mit Fehler:

Wo hast du den Token her?

Ich hab InfluxDB nach dem Willkommensschirm über GUI eingerichtet wie es zuvor war und mir dann das neue admin Token kopiert und in BackItUp sowie in der Influx Instanz hinterlegt. Verbindungstest dort ist i.O. Werte schreibt er dennoch nicht in die DB

influxdb.0
2023-05-06 13:13:38.511	info	Add point that had error for mqtt.0.PL1 to buffer again, error-count=4

influxdb.0
2023-05-06 13:13:38.510	warn	Error on writePoint("{"value":196.79,"time":"2023-05-06T11:12:38.280Z","from":"system.adapter.mqtt.0","q":0,"ack":true}): HttpError: unexpected error writing points to database: timeout / "unexpected error writing points to database: timeout""

influxdb.0
2023-05-06 13:13:38.510	warn	Point could not be written to database: iobroker

[Marc Berg]

@akuhnsh sagte in InfluxDB 2.7 Totalabsturz - BackItUp mit Fehler:

Ich hab InfluxDB nach dem Willkommensschirm über GUI eingerichtet wie es zuvor war und mir dann das neue admin Token kopiert und in BackItUp sowie in der Influx Instanz hinterlegt. Verbindungstest dort ist i.O. Werte schreibt er dennoch nicht in die DB

influxdb.0
2023-05-06 13:13:38.511	info	Add point that had error for mqtt.0.PL1 to buffer again, error-count=4

influxdb.0
2023-05-06 13:13:38.510	warn	Error on writePoint("{"value":196.79,"time":"2023-05-06T11:12:38.280Z","from":"system.adapter.mqtt.0","q":0,"ack":true}): HttpError: unexpected error writing points to database: timeout / "unexpected error writing points to database: timeout""

influxdb.0
2023-05-06 13:13:38.510	warn	Point could not be written to database: iobroker

Hier kommt aber ein Timeout und kein Autorisierungfehler. Das sieht für mich noch nach anderen Problemen aus.

[akuhnsh]

@marc-berg @thomas-braun

@akuhnsh said in InfluxDB 2.7 Totalabsturz - BackItUp mit Fehler:

Ich habe das System neu aufgesetzt, um zu sehen, ob sich die Backups dann einspielen lassen und nach wie vor keine Chance die Datenbank aus dem Backup wiederherzustellen:

[ERROR] [influxDB] - Error: failed to check existence of organization "privat": 401 Unauthorized: unauthorized access

[Marc Berg]

@akuhnsh sagte in InfluxDB 2.7 Totalabsturz - BackItUp mit Fehler:

@marc-berg @thomas-braun

@akuhnsh said in InfluxDB 2.7 Totalabsturz - BackItUp mit Fehler:

Ich habe das System neu aufgesetzt, um zu sehen, ob sich die Backups dann einspielen lassen und nach wie vor keine Chance die Datenbank aus dem Backup wiederherzustellen:

[ERROR] [influxDB] - Error: failed to check existence of organization "privat": 401 Unauthorized: unauthorized access

zeig mal bitte die Ausgabe von

influx auth list --json

und

influx organization list

[akuhnsh]

@marc-berg said in InfluxDB 2.7 Totalabsturz - BackItUp mit Fehler:

@akuhnsh sagte in InfluxDB 2.7 Totalabsturz - BackItUp mit Fehler:

@marc-berg @thomas-braun

@akuhnsh said in InfluxDB 2.7 Totalabsturz - BackItUp mit Fehler:

Ich habe das System neu aufgesetzt, um zu sehen, ob sich die Backups dann einspielen lassen und nach wie vor keine Chance die Datenbank aus dem Backup wiederherzustellen:

[ERROR] [influxDB] - Error: failed to check existence of organization "privat": 401 Unauthorized: unauthorized access

zeig mal bitte die Ausgabe von

influx auth list --json

[
	{
		"id": "0b28411ba4dca000",
		"description": "admin's Token",
		"token": "wljQN6vtZ1a4hNNORVh55RM2u0o1V3XXh708y7yKPmtdBIV5tG5hxucGRGnBX1IdQoYh9Mnd5dsbBBV551nDUw==",
		"status": "active",
		"userName": "admin",
		"userID": "0b28411b6b9ca000",
		"permissions": [
			"read:/authorizations",
			"write:/authorizations",
			"read:/buckets",
			"write:/buckets",
			"read:/dashboards",
			"write:/dashboards",
			"read:/orgs",
			"write:/orgs",
			"read:/sources",
			"write:/sources",
			"read:/tasks",
			"write:/tasks",
			"read:/telegrafs",
			"write:/telegrafs",
			"read:/users",
			"write:/users",
			"read:/variables",
			"write:/variables",
			"read:/scrapers",
			"write:/scrapers",
			"read:/secrets",
			"write:/secrets",
			"read:/labels",
			"write:/labels",
			"read:/views",
			"write:/views",
			"read:/documents",
			"write:/documents",
			"read:/notificationRules",
			"write:/notificationRules",
			"read:/notificationEndpoints",
			"write:/notificationEndpoints",
			"read:/checks",
			"write:/checks",
			"read:/dbrp",
			"write:/dbrp",
			"read:/notebooks",
			"write:/notebooks",
			"read:/annotations",
			"write:/annotations",
			"read:/remotes",
			"write:/remotes",
			"read:/replications",
			"write:/replications"
		]
	},
	{
		"id": "0b2852f1fbdca000",
		"description": "admin's Token (cloned at 2023-05-06 13:44:19)",
		"token": "uZKGetlcGZSZbteI1gwpkJwsCIHpj0bI5ZLdRTvEuDqds7B9X04Q8LKhPYQArrWRJ3nnQS3xfQcwDkwhOKKoCw==",
		"status": "active",
		"userName": "admin",
		"userID": "0b28411b6b9ca000",
		"permissions": [
			"read:/authorizations",
			"write:/authorizations",
			"read:/buckets",
			"write:/buckets",
			"read:/dashboards",
			"write:/dashboards",
			"read:/orgs",
			"write:/orgs",
			"read:/sources",
			"write:/sources",
			"read:/tasks",
			"write:/tasks",
			"read:/telegrafs",
			"write:/telegrafs",
			"read:/users",
			"write:/users",
			"read:/variables",
			"write:/variables",
			"read:/scrapers",
			"write:/scrapers",
			"read:/secrets",
			"write:/secrets",
			"read:/labels",
			"write:/labels",
			"read:/views",
			"write:/views",
			"read:/documents",
			"write:/documents",
			"read:/notificationRules",
			"write:/notificationRules",
			"read:/notificationEndpoints",
			"write:/notificationEndpoints",
			"read:/checks",
			"write:/checks",
			"read:/dbrp",
			"write:/dbrp",
			"read:/notebooks",
			"write:/notebooks",
			"read:/annotations",
			"write:/annotations",
			"read:/remotes",
			"write:/remotes",
			"read:/replications",
			"write:/replications"
		]
	}
]

und

influx organization list

ID			Name
2ecf2d695d1722e9	privat

[akuhnsh]

@Marc-Berg @Thomas-Braun

An die alten Tokens aus dem Backup komme ich über die *.bolt Datei ran:

influxd recovery auth list --bolt-path /opt/iobroker/backups/20230503T213019Z.bolt
2023-05-06T14:09:35.271809Z	info	Resources opened	{"log_id": "0hdMBf9l000", "system": "bolt-kvstore", "path": "/opt/iobroker/backups/20230503T213019Z.bolt"}
ID			User Name	User ID			Description						Token							Permissions
0ab87d8e68295000	admin		0ab87d8e29e95000	admin's Token						lGhesEEm7Osc8iF3Atk0ukEZhEOLdg98AQXojtHwao1MrEOYiv0uaa3BrxS-QXp3T54dXJgDECIu7zuByns0Ug==	[read:authorizations write:authorizations read:buckets write:buckets read:dashboards write:dashboards read:orgs write:orgs read:sources write:sources read:tasks write:tasks read:telegrafs write:telegrafs read:users write:users read:variables write:variables read:scrapers write:scrapers read:secrets write:secrets read:labels write:labels read:views write:views read:documents write:documents read:notificationRules write:notificationRules read:notificationEndpoints write:notificationEndpoints read:checks write:checks read:dbrp write:dbrp read:notebooks write:notebooks read:annotations write:annotations read:remotes write:remotes read:replications write:replications]
0b07e2e2b57cb000	admin		0ab87d8e29e95000	admin's Token (cloned at 2023-04-11 09:03:19)		06eJGdVPZPMsCad0sRvWS32YvB-F3Fifn3nTCM0oNBzDaY5I7Q0n-St-82r9vj1dZRnOONeIiWmTFDYIZoe3Gg==	[read:authorizations write:authorizations read:buckets write:buckets read:dashboards write:dashboards read:orgs write:orgs read:sources write:sources read:tasks write:tasks read:telegrafs write:telegrafs read:users write:users read:variables write:variables read:scrapers write:scrapers read:secrets write:secrets read:labels write:labels read:views write:views read:documents write:documents read:notificationRules write:notificationRules read:notificationEndpoints write:notificationEndpoints read:checks write:checks read:dbrp write:dbrp read:notebooks write:notebooks read:annotations write:annotations read:remotes write:remotes read:replications write:replications]
0b07e9d2857cb000	admin		0ab87d8e29e95000	admin's Token BackItUp (cloned at 2023-04-11 09:33:38)	Tvm2bJ9-WsIoyNowWCasjc2ukqsFTIj3xQjp_q_1U-sPb6sH21n35nUzV99EOJ3JE2vLKKwCPIrN8jtT4xcT4A==	[read:authorizations write:authorizations read:buckets write:buckets read:dashboards write:dashboards read:orgs write:orgs read:sources write:sources read:tasks write:tasks read:telegrafs write:telegrafs read:users write:users read:variables write:variables read:scrapers write:scrapers read:secrets write:secrets read:labels write:labels read:views write:views read:documents write:documents read:notificationRules write:notificationRules read:notificationEndpoints write:notificationEndpoints read:checks write:checks read:dbrp write:dbrp read:notebooks write:notebooks read:annotations write:annotations read:remotes write:remotes read:replications write:replications]
0b07f463437cb000	admin		0ab87d8e29e95000	admin's Token Grafana (cloned at 2023-04-11 10:19:47)	AQLf8Jld1fY0LYd3Cs0Pt4hKtzMbXK0t0_kMdh6eXzBxHiPJWR1t5OYHr7Qvx4-4zf1Q4ETOfII5W1oNCKvR5w==	[read:authorizations write:authorizations read:buckets write:buckets read:dashboards write:dashboards read:orgs write:orgs read:sources write:sources read:tasks write:tasks read:telegrafs write:telegrafs read:users write:users read:variables write:variables read:scrapers write:scrapers read:secrets write:secrets read:labels write:labels read:views write:views read:documents write:documents read:notificationRules write:notificationRules read:notificationEndpoints write:notificationEndpoints read:checks write:checks read:dbrp write:dbrp read:notebooks write:notebooks read:annotations write:annotations read:remotes write:remotes read:replications write:replications]

Aber wie soll ich über das GUI einen alten Token rekonstruieren?

[Marc Berg]

@akuhnsh sagte in InfluxDB 2.7 Totalabsturz - BackItUp mit Fehler:

Aber wie soll ich über das GUI einen alten Token rekonstruieren?

Das würde nur Sinn ergeben, wenn die alte Datenbank noch vorhanden ist. Hast du bei der Neuinstallation die Datenverzeichnisse gelöscht? Nicht, dass da noch Überbleibsel stören.

[akuhnsh]

@marc-berg said in InfluxDB 2.7 Totalabsturz - BackItUp mit Fehler:

@akuhnsh sagte in InfluxDB 2.7 Totalabsturz - BackItUp mit Fehler:

Aber wie soll ich über das GUI einen alten Token rekonstruieren?

Das würde nur Sinn ergeben, wenn die alte Datenbank noch vorhanden ist. Hast du bei der Neuinstallation die Datenverzeichnisse gelöscht? Nicht, dass da noch Überbleibsel stören.

Die alten token sind halt im Backup hinterlegt. Wenn die abgefragt werden, passen sie halt nicht zum neuen admin token. Deshalb dachte ich an die Rolle Rückwärts. Erst die alten token wieder herstellen in der neuen influxdb und dann das Backup mit denselben token wieder herstellen. Denke da liegt der Hase im Pfeffer.

Hab ein frisches Image auf die SD geschrieben und iobroker, influxdb und grafana neu installiert, wie sonst auch schon mal. Da sollte alles überschrieben worden sein.

[Marc Berg]

@akuhnsh sagte in InfluxDB 2.7 Totalabsturz - BackItUp mit Fehler:

Die alten token sind halt im Backup hinterlegt. Wenn die abgefragt werden, passen sie halt nicht zum neuen admin token. Deshalb dachte ich an die Rolle Rückwärts. Erst die alten token wieder herstellen in der neuen influxdb und dann das Backup mit denselben token wieder herstellen. Denke da liegt der Hase im Pfeffer.

nein. Du brauchst nach einer Neuinstallation für das Restore die neuen Token.

[akuhnsh]

@marc-berg

Okay verstanden. Vielleicht liegt es daran, dass das Backup aus einem Upgrade von 1.8 auf 2.7 stammt? Ich bekomme eine ähnliche Fehlermeldung, wenn ich in dem Reiter bei "Sicherung mehrerer Systeme" raus nehme und nur den einen bucket angebe, der auch zur Wiederherstellung ausgewählt wird:

Started restore ...
[DEBUG] [influxDB] - Created tmp directory
[DEBUG] [influxDB] - Start infuxDB Restore ...
[ERROR] [influxDB] - 2023/05/06 16:49:17 INFO: Restoring bucket "0db467ecf59e0de1" as "iobroker"
Error: failed to restore bucket "iobroker": 401 Unauthorized: read:authorizations is unauthorized

[DEBUG] [influxDB] - Try deleting the InfluxDB tmp directory
[DEBUG] [influxDB] - InfluxDB tmp directory was successfully deleted
[DEBUG] [influxDB] - infuxDB Restore completed successfully
[EXIT] influxDB restore done

Muss der neue token noch irgendwo anders eingetragen werden als unter dem Reiter influxdb in BackItUp?

[akuhnsh]

@marc-berg

Wenn ich den bucket vorher anlege kommt folgende Meldung:

Started restore ...
[DEBUG] [influxDB] - Created tmp directory
[DEBUG] [influxDB] - Start infuxDB Restore ...
[ERROR] [influxDB] - 2023/05/06 16:52:54 INFO: Restoring bucket "0db467ecf59e0de1" as "iobroker"
Error: failed to restore bucket "iobroker": 422 Unprocessable Entity: bucket with name iobroker already exists

[DEBUG] [influxDB] - Try deleting the InfluxDB tmp directory
[DEBUG] [influxDB] - InfluxDB tmp directory was successfully deleted
[DEBUG] [influxDB] - infuxDB Restore completed successfully
[EXIT] influxDB restore done

[Marc Berg]

@akuhnsh sagte in InfluxDB 2.7 Totalabsturz - BackItUp mit Fehler:

Vielleicht liegt es daran, dass das Backup aus einem Upgrade von 1.8 auf 2.7 stammt

Das verstehe ich nicht. Das Backup wurde doch aber nach dem Upgrade aus der 2.7 gezogen, oder?

Ganz sicher, dass der Token, der auch über "influx auth list" sichtbar ist, korrekt und ohne Leerzeichen im Backitip-Adapter eingetragen ist? An eine andere Stelle muss der für den reinen Rstore nicht eingetragen werden.

[akuhnsh]

@marc-berg said in InfluxDB 2.7 Totalabsturz - BackItUp mit Fehler:

@akuhnsh sagte in InfluxDB 2.7 Totalabsturz - BackItUp mit Fehler:

Vielleicht liegt es daran, dass das Backup aus einem Upgrade von 1.8 auf 2.7 stammt

Das verstehe ich nicht. Das Backup wurde doch aber nach dem Upgrade aus der 2.7 gezogen, oder?

Ganz sicher, dass der Token, der auch über "influx auth list" sichtbar ist, korrekt und ohne Leerzeichen im Backitip-Adapter eingetragen ist? An eine andere Stelle muss der für den reinen Rstore nicht eingetragen werden.

Das ist jetzt neu. Funktionierte doch vorhin noch einwandfrei...

pi@raspberrypi:~ $ influx auth list --json
Error: could not find authorization with given parameters: 401 Unauthorized: unauthorized access

[Marc Berg]

@akuhnsh sagte in InfluxDB 2.7 Totalabsturz - BackItUp mit Fehler:

Das ist jetzt neu. Funktionierte doch vorhin noch einwandfrei...

Ja, was soll man dazu noch sagen? Ein System, welches sich mehrfach "von selbst" vergisst ...
Ist das noch die selbe SD Card?

[akuhnsh]

@marc-berg said in InfluxDB 2.7 Totalabsturz - BackItUp mit Fehler:

@akuhnsh sagte in InfluxDB 2.7 Totalabsturz - BackItUp mit Fehler:

Das ist jetzt neu. Funktionierte doch vorhin noch einwandfrei...

Ja, was soll man dazu noch sagen? Ein System, welches sich mehrfach "von selbst" vergisst ...
Ist das noch die selbe SD Card?

Genau um den Punkt drehten sich die Überlegungen die letzten Tage und ich habe eine Lösung gefunden. Die alte SD-Karte habe ich zwar auf Herz und Nieren geprüft und keine defekten Sektoren gefunden, aber die Wiederherstellung auf dieser Karte funktionierte für die InfluxDB 2 nicht mehr. Dann habe ich die Wiederherstellung mit einem USB-Stick vorgenommen und siehe da, alles wieder im grünen Bereich.

Da dies aber ebenfalls keine Dauerlösung war und der Stick zudem füchterlich heiß wurde, habe ich mir ein neues Gehäuse samt aktivem Kühler für den Raspi zugelegt und ein Board für eine M.2 SSD lag ebenfalls bei, das nun mit einer 256GB SSD bestückt ist. Den USB-Stick habe ich einfach mit Balena Etcher darauf geklont und dann später über die raspi-config mit einem Klick bis zur vollen Größe erweitert.

Damit läuft nun alles wieder einwandfrei und hoffentlich auch störungsfrei in die Zukunft.

Danke für eure Hilfe und beste Grüße, Alex...