ioBroker sehr hohe Diskwrites in Proxmox

[Adnim]

Hi,
lese hier auch von Anfang an mit. Habe ca 2,8 TB Write Volumen in 24h. Macht in der Woche etwas Mehr als 20TB. Bekomme das auch einfach nicht runter. Benutzte zur Zeit Redis für States und Object. Und ein paar Gig zu sparen ist auch nicht ausreichend. Es muss ja massiv weniger werden, habe nicht so richtig Ahnung wo Anfangen zu suchen wo der Load herkommt.

Habe aber schon mit den Adaptern etwas rumgespielt und habe so im Gefühl das der Hue-Extendend Adapter riesigen Load produziert. konnte hier noch jemand etwas beobachten, bringt Umstellung auf den normalen Hue adapter eine Besserung?

So brauch ich meinen Iobroker nicht weiter zu betreiben, kann ja nicht andauernd neue Festplatten kaufen...

Edith: habe aktuellen Stand aus dem Latest alles.

[Meister Mopper]

@adnim Na ja, latest ist beta. Wer weiß, was Dir da die Platte zumüllt.

[saeft_2003]

@adnim

Wow das wären ja 2GB pro Minute

Zeig mal dein diskwrite chart von proxmox.

[Dr. Bakterius]

@adnim Schon mal https://forum.iobroker.net/topic/42053/experimentell-jsonl-datenbank-für-js-controller getestet? Hat bei mir die Writes praktisch auf Null gesenkt und läuft jetzt seit knapp einer Woche ohne Probleme.

[JLeg]

@adnim wenn du Redis schon benutzt für objects/states - wie gross ist denn die dump.rdb? Und wie oft speichert Redis das auf Disk (Default ist ja eher "minimal alle 60s"...)?

[apollon77]

@jleg Genau das ist auch meine Frage!

Der Default würde dir alle 5 Minuten die ganze DB speichern. Wenn states und objects in einer Redis sind dann passiert das auch. bei mir wären das 225MB.

An der Stelle macht es sehr grossen sinn mal mindestens Redis persistenz auf "appendonly" umzustellen, dann sollte die Compaction seltener passieren, aber bissl mehr platz brauchen.

Ich habe bei mir (wie auch im Redis Forum Artikel von mir vorgeschlagen) STates und Objects in getrennte Redis gepackt und hier States lasse ich nach änderungen schreiben und objekt lasse ich aof schreiben

[Adnim]

Mein Diskwrite sieht so aus:

meine Dumb.rdb

christoph@iobroker1:/opt/iobroker$ sudo du /var/lib/redis/dump.rdb
202988  /var/lib/redis/dump.rdb

habe alles auf Standart damals gelassen, nur Installiert.

Überlege nun auf die JsonL Datenbank Umzustellen.
Wenns da so gute Rückmeldungen gibt, geh ich mal ans Backup und stelle danach um.
Gebe Rückmeldung wie es sich danach verhält.

[apollon77]

@adnim sagte in ioBroker sehr hohe Diskwrites in Proxmox:

habe alles auf Standart damals gelassen, nur Installiert.

(nicht persönlich nehmen) Das ist genau das Problem mit "Ich stell mal eben alles auf Redis um" ... ohne drüber nachzudenken passiert sowas.
Hattest Du das vorher gelesen? https://forum.iobroker.net/topic/26327/redis-in-iobroker-überblick

[Adnim]

@apollon77 sagte in ioBroker sehr hohe Diskwrites in Proxmox:

nicht persönlich nehmen) Das ist genau das Problem mit "Ich stell mal eben alles auf Redis um" ... ohne drüber nachzudenken passiert sowas.
Hattest Du das vorher gelesen? https://forum.iobroker.net/topic/26327/redis-in-iobroker-überblick

Hi,
nee nehme nix persönlich, bin ja froh das es noch aufgefallen ist und ich was dagegen machen kann, bzw. Ihr mir hier versucht zu helfen!

War der Meinung ich hätte mir das damals durchgelesen. Aber so schlau daraus zu Lesen das ich meine Festplatte innerhalb kürzester Zeit mit Standard Einstellungen Schrotte war ich damals nicht!

Vg

[Diginix]

Hab genau 0 Uhr auch mal auf festen Schreibzyklus alle 60 min für die objects.json umgestellt und die Auswirkung ist recht deutlich. Meine Datei hat 28 MB und wurde vorher zT alle 1-2 Minuten geschrieben, aber aller spätestens alle 5 min wenn ical und dwd liefen.

Tag (max)

Tag (Durchsch.)

Promox läuft noch keine 2 Tage. In den ersten 27 h hatte ich 70 GB total disk write. Da war aber wahrs. auch Aufsetzen, Snapshot usw dabei. In den letzten 8 h kamen nur noch 2 GB hinzu. Ergäbe 250 MB/Stunde.

[Dr. Bakterius]

@diginix sagte in ioBroker sehr hohe Diskwrites in Proxmox:

In den letzten 8 h kamen nur noch 2 GB hinzu. Ergäbe 250 MB/Stunde.

Also 6 GB am Tag. Je nach Größe der ioBroker-Installation ein guter Wert. Ich hatte mit redis für die States, den neuen Controller und die Objects nur alle 60 Minuten etwa 12 GB am Tag.

Mit JSONL komme ich aber auf nur noch auf <80 MB am Tag. Also nochmals um über 99% reduziert!

[stenmic]

Mein Diskwrite hat sich mit JS 3.2 und redis halbiert!
von 40 auf 18GB/Tag. Habe nichts an Config's geändert.
Habt ihr dafür eine Erklärung?

[Dr. Bakterius]

@stenmic sagte in ioBroker sehr hohe Diskwrites in Proxmox:

Habt ihr dafür eine Erklärung?

Was möchtest du denn wissen?

[apollon77]

@stenmic Alles auf redis oder sind nur States auf Redis und objects weiterhin "file"? Wenn zweiteres dann ja, der controller hat was optimiert

[stenmic]

@apollon77 nur die States sind redis.
Danke für die Erklärung.

[saeft_2003]

Ich habe heute noch was herausgefunden. Ich habe das loglevel vom host in der iobroker.json von info auf warn gestellt. Das hat mein dikwrite von 500k auf 100k verringert

Zugegeben ich habe gleichzeitig noch ein paar Adapter von info auf warn umgestellt, aber erfahrungsgemäß war doch der größte Teil im log vom host (info).

@apollon77 Könnte man es nicht einfacher gestalten den loglevel des host zu verändern? Weil ich denke nicht das der Standart User in der iobroker.json rumfummelt und ich denke auch das würde bei dem ein oder anderen die Lebenszeit der SD Karte verlängern. Was meinst du?

[amg_666]

@robbsen ich weiß nicht ob wir da jetzt Äpfel mit Birnen vergleichen aber bei meinem proxmox sieht das genauso aus wie bei dir, nur dass die Spitzen bei Diskwrite nicht bei 10-14M liegen sondern bei 100-120k ...

Also bei mir Intel NUC6, proxmox mit Debian 10 und iobroker als VM (2CPU, 8GB RAM) und ich habe noch keine weiteren Anwedungen drauf laufen (und nutze übrigens History). Das alles können natürlich mögliche Quellen sein, dass die Werte stark abweichen...

[Diginix]

@amg_666 Wenn er nur das Loglevel vom Host hochgesetzt hat, dann kann das vorher höhere Diskwrite schon vom Host und dessen "info" Zeilen im Log stammen. Müsste sich ja auch an der reinen Dateigröße der Logfiles erkennen lassen.
@saeft_2003 Wie groß sind denn deine Logs der letzten Tage? Und das von heute und zukünftige müssten dann deutlich kleiner ausfallen.

[foxriver76]

@saeft_2003 sagte in ioBroker sehr hohe Diskwrites in Proxmox:

Könnte man es nicht einfacher gestalten den loglevel des host zu verändern? Weil ich denke nicht das der Standart User in der iobroker.json rumfummelt und ich denke auch das würde bei dem ein oder anderen die Lebenszeit der SD Karte verlängern. Was meinst du?

Geht doch mit Admin 5

[saeft_2003]

@foxriver76

Ah ok ich habe noch kein Admin 5 im Einsatz. Dann sollte das ja für die Zukunft passen