ioBroker sehr hohe Diskwrites in Proxmox
-
@robbsen sagte in ioBroker sehr hohe Diskwrites in Proxmox:
@saeft_2003 warum sollte auf Redis umstellen nicht das richtige sein? Bisher läuft es ohne Probleme, bei einigen hier im Forum doch schon seit Jahren?
Ich glaube hier im Thread steht auch irgendwo, dass die Umstellung auf redis keinen großen Effekt auf den diskwrite hatte. Deswegen habe ich so blöd gefragt...
-
@crunchip re postest du das bitte nochmal
Im Anderen thread?! Lasst bitte bissl die Themen trennen.Aber mit den 32mb objects und 9mb States kommt man mit Controller 3.2 standard Settings auf 247gb/Tag. Korrekt.
Durch objects runter auf nur 1x/h speichern sind es 91gb weniger. Rest wäre nur zu schaffen wenn man auch States seltener speichert.
-
@saeft_2003 naja weilendes von der redis konfig bezüglich persistent abhängt. Ich glaube mit Standard konfig speichert redis Die dB alle 5 mins ... schau Größe des dump.rdb file an und rechne hoch. Sonst die Save Einstellungen anpassen oder sich hier gibt es eine aof persistentoption. Also dann wie die jsonl dB ;-))
-
@saeft_2003 ich habe im anderen Thread noch nen Spoiler der aktiven Instanzen hinzugefügt, vllt hilft es als Vergleich, so das du raus finden könntest, welchen Adapter ich nicht habe, der eventuell bei dir soviel diskwrite verursacht.
-
Ich habe jetzt den js-controller geupdatet auf 3.2.16 und mein diskwirte, hat sich fast halbiert auf ca. 700 kB.
-
@saeft_2003 sagte in ioBroker sehr hohe Diskwrites in Proxmox:
Ich habe jetzt den js-controller geupdatet auf 3.2.16 und mein diskwirte, hat sich fast halbiert auf ca. 700 kB.
Bei mir herrscht nach dem Update auf 3.2.16 auch Ruhe. Vielen Dank an @apollon77 @Bluefox und all die anderen Entwickler. Ihr seid ein tolles Team!
-
Hi,
lese hier auch von Anfang an mit. Habe ca 2,8 TB Write Volumen in 24h. Macht in der Woche etwas Mehr als 20TB. Bekomme das auch einfach nicht runter. Benutzte zur Zeit Redis für States und Object. Und ein paar Gig zu sparen ist auch nicht ausreichend. Es muss ja massiv weniger werden, habe nicht so richtig Ahnung wo Anfangen zu suchen wo der Load herkommt.Habe aber schon mit den Adaptern etwas rumgespielt und habe so im Gefühl das der Hue-Extendend Adapter riesigen Load produziert. konnte hier noch jemand etwas beobachten, bringt Umstellung auf den normalen Hue adapter eine Besserung?
So brauch ich meinen Iobroker nicht weiter zu betreiben, kann ja nicht andauernd neue Festplatten kaufen...
Edith: habe aktuellen Stand aus dem Latest alles.
-
@adnim Na ja, latest ist beta. Wer weiß, was Dir da die Platte zumüllt.
-
-
@adnim Schon mal https://forum.iobroker.net/topic/42053/experimentell-jsonl-datenbank-für-js-controller getestet? Hat bei mir die Writes praktisch auf Null gesenkt und läuft jetzt seit knapp einer Woche ohne Probleme.
-
@adnim wenn du Redis schon benutzt für objects/states - wie gross ist denn die dump.rdb? Und wie oft speichert Redis das auf Disk (Default ist ja eher "minimal alle 60s"...)?
-
@jleg Genau das ist auch meine Frage!
Der Default würde dir alle 5 Minuten die ganze DB speichern. Wenn states und objects in einer Redis sind dann passiert das auch. bei mir wären das 225MB.
An der Stelle macht es sehr grossen sinn mal mindestens Redis persistenz auf "appendonly" umzustellen, dann sollte die Compaction seltener passieren, aber bissl mehr platz brauchen.
Ich habe bei mir (wie auch im Redis Forum Artikel von mir vorgeschlagen) STates und Objects in getrennte Redis gepackt und hier States lasse ich nach änderungen schreiben und objekt lasse ich aof schreiben
-
Mein Diskwrite sieht so aus:
meine Dumb.rdb
christoph@iobroker1:/opt/iobroker$ sudo du /var/lib/redis/dump.rdb 202988 /var/lib/redis/dump.rdbhabe alles auf Standart damals gelassen, nur Installiert.
Überlege nun auf die JsonL Datenbank Umzustellen.
Wenns da so gute Rückmeldungen gibt, geh ich mal ans Backup und stelle danach um.
Gebe Rückmeldung wie es sich danach verhält. -
@adnim sagte in ioBroker sehr hohe Diskwrites in Proxmox:
habe alles auf Standart damals gelassen, nur Installiert.
(nicht persönlich nehmen) Das ist genau das Problem mit "Ich stell mal eben alles auf Redis um" ... ohne drüber nachzudenken passiert sowas.
Hattest Du das vorher gelesen? https://forum.iobroker.net/topic/26327/redis-in-iobroker-überblick -
@apollon77 sagte in ioBroker sehr hohe Diskwrites in Proxmox:
nicht persönlich nehmen) Das ist genau das Problem mit "Ich stell mal eben alles auf Redis um" ... ohne drüber nachzudenken passiert sowas.
Hattest Du das vorher gelesen? https://forum.iobroker.net/topic/26327/redis-in-iobroker-überblickHi,
nee nehme nix persönlich, bin ja froh das es noch aufgefallen ist und ich was dagegen machen kann, bzw. Ihr mir hier versucht zu helfen!War der Meinung ich hätte mir das damals durchgelesen. Aber so schlau daraus zu Lesen das ich meine Festplatte innerhalb kürzester Zeit mit Standard Einstellungen Schrotte war ich damals nicht!
Vg
-
Hab genau 0 Uhr auch mal auf festen Schreibzyklus alle 60 min für die objects.json umgestellt und die Auswirkung ist recht deutlich. Meine Datei hat 28 MB und wurde vorher zT alle 1-2 Minuten geschrieben, aber aller spätestens alle 5 min wenn ical und dwd liefen.
Tag (max)
Tag (Durchsch.)
Promox läuft noch keine 2 Tage. In den ersten 27 h hatte ich 70 GB total disk write. Da war aber wahrs. auch Aufsetzen, Snapshot usw dabei. In den letzten 8 h kamen nur noch 2 GB hinzu. Ergäbe 250 MB/Stunde.
-
@diginix sagte in ioBroker sehr hohe Diskwrites in Proxmox:
In den letzten 8 h kamen nur noch 2 GB hinzu. Ergäbe 250 MB/Stunde.
Also 6 GB am Tag. Je nach Größe der ioBroker-Installation ein guter Wert. Ich hatte mit redis für die States, den neuen Controller und die Objects nur alle 60 Minuten etwa 12 GB am Tag.
Mit JSONL komme ich aber auf nur noch auf <80 MB am Tag. Also nochmals um über 99% reduziert!
-
Mein Diskwrite hat sich mit JS 3.2 und redis halbiert!
von 40 auf 18GB/Tag. Habe nichts an Config's geändert.
Habt ihr dafür eine Erklärung?
-
@stenmic sagte in ioBroker sehr hohe Diskwrites in Proxmox:
Habt ihr dafür eine Erklärung?
Was möchtest du denn wissen?
-
@stenmic Alles auf redis oder sind nur States auf Redis und objects weiterhin "file"? Wenn zweiteres dann ja, der controller hat was optimiert
