ioBroker sehr hohe Diskwrites in Proxmox

[Feuersturm]

@apollon77 War erstmal nur eine Überlegung. Hab gerade das Schreibintervall mal eingebaut und werde morgen mal nachsehen was heute Nacht passiert ist. Bin nicht mehr am Rechner, werde morgen mal schauen ob der Container heruntergefahren wird.

[apollon77]

@feuersturm Schau doch einfach ins Logfile ... Dann weisst Du es direkt

[paul53]

@feuersturm sagte: Werden in diesem Fall beim stoppen des Container die states und objects nochmal weggeschrieben

EDIT: siehe hier

[apollon77]

@paul53 Beim beenden wird beides geschrieben - WENN es ungeschriebene Änderungen gibt!! Code Technisch sind beide DBs "gleich" was die Basis angeht

[paul53]

@apollon77 sagte: WENN es ungeschriebene Änderungen gibt!!

Dann gab es wohl keine Änderung bei meinen objects, als ich es beobachtet habe.

[liv-in-sky]

@paul53

Heißt das, wenn ich einen Datenpunkt anlege und dann den Server einen shutdown Befehl gebe, bekomme ich anschließend, nach einem Neustart, einen Fehler, weil der Datenpunkt nicht existiert

[robbsen]

@robbsen

ok das hat bei mir von den Diskwrites scheinbar den Durchbruch geschafft. Was mir auch logisch erscheint wenn ich anstatt alle 15 Minuten nur noch alle 60 Minuten die scheinbar größeren Daten schreibe.
Die Voreinstellung für das Schreiben der Objects ist 15 Minuten? Korrekt?
Bleiben natürlich die Fragen meines Vorgängers, im Grund haben sich die Ursprungsprogrammierer (hier) ja gedacht 15 Minuten ist die richtige Häufigkeit zum Sichern der Objekte.

Hochrechnung von gestern von Änderung der Schreibintervalle:
57 GB /Tag bzw. 20.769 GB/Jahr, damit ergibt sich eine rechnerische SSD Lebensdauer von 3,5 Jahre

Änderung auf Objects "writeFileInterval": 3600000,
13,65 GB /Tag bzw. 5.350 GB/Jahr, damit ergibt sich eine rechnerische SSD Lebensdauer von 13,5 Jahre

[Kueppert]

@robbsen genau so waren meine Daten vorher <-> nachher auch

[Dr. Bakterius]

Mir dem js-controller v3.2.14 wurde auch die geschriebene Datenmenge gesenkt:

Optimize File DBs to lower write i/o by 50% ( backup file is not renamed instead of rewritten)

Danke @apollon77 !

[apollon77]

@dr-bakterius Ok, also so heftig hätte ich es jetzt nicht erwartet, krass

[robbsen]

@dr-bakterius ? Was wurde denn da so erheblich geändert? War es doch nen Bug?

[Dr. Bakterius]

@robbsen Musst du apollon77 fragen...

[Dr. Bakterius]

@apollon77 Dafür habe ich jetzt wieder alle 2-3 Minuten einen (kleinen) Schreibzugriff. Ist da die Konfiguration die Daten nur einmal die Stunde zu schreiben gelöscht worden bzw. wird jetzt nicht mehr beachtet? Oder ist der große Brocken einmal die Stunde jetzt generell weggefallen? Muss mir mal zuhause ansehen wann die Dateien das letzte Mal geschrieben wurden...

[crunchip]

@apollon77 also, ich sehe bei mir keinen Unterschied, liegt aber vllt am Eintrag (writeFileInterval auf 3600000) bei den Objekten

[apollon77]

@robbsen Im writeFileInterval wurde bisher bevor das File neu geschrieben wurde vom vorherigen File ein backup angelegt. Das wurde bisher gemacht durch "lesen und neu schreiben". Jetzt wird einfach das alte File umbenannt. Danach wird das neue FIle immer voll geschrieben wie bisher auch. mehr wurde nicht geändert

Deswegen find ich den Effekt mega krass ... aber ok

[robbsen]

@apollon77 macht mir auch Angst... bei mir schreibt der gar nichts mehr zumindest seit 12 Uhr (Umstellung auf v3.2.14)

Maxwerte / Tag

Stunde Durchschnitt

[crunchip]

@robbsen das liegt an der Zeitlichen Ansicht, weil die Spitzenwerte im M Bereich liegen, daher die"kleinen Werte" nicht sichtbar, wenn die Zeitachse weit genug gewandert ist, werden auch da "normale" Werte erscheinen.

[apollon77]

Also zum ganz sicher gehen schaut doch mal in /opt/iobroker/iobroker-data ... das *.json ist das aktuelle file und *.json.bak das letzte ... wenn sich Objekte ändern müsste das *.json neu geschrieben werden und das frühere *.json wirtd zum *.json.bak

Bei meinen Testsystemen passt das

[Dr. Bakterius]

@apollon77 Also meine objects.json ist aktuell von 16:29 und 14,6 MB groß. Die bak hat die selbe Größe und ist von 15:25. Die states sind in redis.

Meine Stundenansicht sieht so aus:

Ich sehe darin nicht die 14,6 MB die eigentlich geschrieben wurden. Bin nun etwas verwirrt...

PS: Habe für die objects auch "writeFileInterval": 3600000, eingetragen...

[apollon77]

@dr-bakterius 3600s hast Du eingetragen ... also alle 60 minuten an sich. was proxmox da anzeigt weiss ich net. kann ja nur akkumuliert über mess-zeitäume sein. wenn 1s schreinzugriff hast aber 1min interval ist die datenmenge 1/60 ... (mal gaaaanz grob vermutet)