ioBroker sehr hohe Diskwrites in Proxmox
-
@unclesam hi, nein habe ich bisher nicht. werde ich dann ggf. versuchen. Hatte eigentlich gehofft nun ein stabiles System zu haben. Redis Umstellung hört sich nach Aufwand an
@meister-mopper na dann müsstest du aber auch die SSD kräftig belasten!habe eben gelesen das Problem könnte bei Proxmox liegen, Proxmox ist wohl für Server und damit keine Consumer SSD ausgelegt.
Ich schätze das sind Consumer oder Prosumer SSDs? Die sind nicht geeignet für ZFS, da die kleinste Einheit, die diese SSDs schreiben können mehrere MBs sind und bei jedem Blockupdate dann gleich mehrere MB geändert werden -
@robbsen sagte in ioBroker sehr hohe Diskwrites in Proxmox:
habe eben gelesen das Problem könnte bei Proxmox liegen
wollte eben nach deiner Proxmox-Version fragen, auch da kann es dran liegen,
Aber IMHO dann nicht an der Datenrate, das wäre nicht Proxmox, sondern die SSD "schuld".Ich glaube jedoch nicht, dass hier jemand eine dedizierte Server-SSD nutzt.
Ich auf jedenfall nicht. Das ist billigste Mediamrkt/Versandhaus-Qualität -
@homoran hatte mich bei der Prosumer auch gewundert... die sind ja nicht bezahlbar ^^
ich nutze Virtual Environment 6.3-3
-
@robbsen sagte in ioBroker sehr hohe Diskwrites in Proxmox:
ich nutze Virtual Environment 6.3-3
ich habe noch die 5.x
-
@homoran danke das ist auch schon mal wichtig..
ich versuche nach und nach jetzt mal alle Adapter auszuschalten bis ich raushabe was die Last verursache. bei dir ist es ja deutlich geringer
-
@robbsen sagte in ioBroker sehr hohe Diskwrites in Proxmox:
ich versuche nach und nach jetzt mal alle Adapter auszuschalten bis ich raushabe was die Last verursache. bei dir ist es ja deutlich geringer
Kannst du mal noch auf deinem System den folgenden Befehl ausführen:
ls -lah /opt/iobroker/iobroker-dataIch bin mir nämlich fast sicher, dass deine State-Dateien etwa 7 MB gross sind. -
@unclesam Kannst du mir bitte erklären was das aussagt?
Habe es bei mir auch mal eingegeben ohne zu wissen was ich da mache:pi@ioBroker01:~$ ls -lah /opt/iobroker/iobroker-data insgesamt 44M drwxrwxrwx+ 8 iobroker iobroker 4,0K Aug 23 17:45 . drwxrwxrwx+ 9 iobroker iobroker 4,0K Jan 15 11:59 .. drwxrwxrwx+ 2 iobroker iobroker 4,0K Jan 19 15:20 backup-objects drwxrwxrwx+ 154 iobroker iobroker 12K Dez 3 15:20 files drwxrwxrwx+ 540 iobroker iobroker 16K Jan 19 00:00 history -rwxrwxrwx+ 1 iobroker iobroker 3,6K Feb 11 2020 iobroker.json drwxrwxrwx+ 3 iobroker iobroker 4,0K Jan 9 19:14 node-red -rwxrwxrwx+ 1 iobroker iobroker 12M Jan 19 15:20 objects.json -rwxrwxrwx+ 1 iobroker iobroker 12M Jan 19 15:20 objects.json.bak drwxrwxr-x+ 2 iobroker iobroker 4,0K Aug 23 17:45 sayit drwxrwxrwx+ 2 iobroker iobroker 4,0K Nov 29 15:25 sonosCache -rwxrwxrwx+ 1 iobroker iobroker 9,8M Jan 19 15:20 states.json -rwxrwxrwx+ 1 iobroker iobroker 9,8M Jan 19 15:20 states.json.bak -
Hab mir das bisher nicht angeschaut. Hier mal als Vergleich. Ich habe kein redis in Betrieb.
Bei mir also 5000 GB in 4 Tagen... ca. 600 GB in 12Std.... uiuiui
Disk IO ioBroker
Disk IO InfluxDB
-
-
Bei mir fehlt die Spalte mit der Diskusage.
Habe auch keine Möglichkeit gefunden sie einzublenden. Wie kommt man zu der?
Beim ioBroker sieht es bei mir so aus:
Der Knick nach unten war eine Erhöhung des Datenabfrageintervalls vom Netatmo-Server von 5 Minuten auf 10 Minuten.
-
@homoran sagte in ioBroker sehr hohe Diskwrites in Proxmox:
Kannst du mir bitte erklären was das aussagt?
Deine states.json Dateien sind je knapp 10 MB gross. Jedes mal, wenn sich also im eingestellten Intervall (ich vermute 5 Minuten) mindestens ein State geändert wurde, dann schreibt er die Datei neu. Dasselbe bei Objektänderungen (aber die sind ja selten). Bei Redis sieht man nicht solche Peaks, da eine State Änderung eben nur einen kleinen Wert in der DB ändert (aber dafür nicht alle 5 Minuten, sondern viel häufiger - da kenne ich die Config nicht).
Die Höhe der Peaks sagt nur etwas darüber aus, wie gross die Datei ist. Es spielt keine Rolle, wieviele States geändert werden. Die Häufigkeit der Peaks sagt aus, wie oft sich irgendein State ändert (immer mit dem fixen Intervall) - und das ist in einem "normalen" ioBroker System recht häufig.
-
So sieht mein ioBroker aus... verwende Redis, der ioBroker läuft auf einer SSD.
-
@master67 sagte in ioBroker sehr hohe Diskwrites in Proxmox:
verwende Redis
Danke für die Grafik. Genau, was zu erwarten war bei Redis: viel kleinere, dafür häufigere Writes. In Summe kann das einiges weniger sein als bei File DB.
-
@unclesam Danke für die Erklärung!
Das mit den Schreibvorgängen war mir bewusst, aber ich habe ja gar keine wirklichen Peaks:
-
@unclesam sagte wenn sich also im eingestellten Intervall (ich vermute 5 Minuten) mindestens ein State geändert wurde, dann schreibt er die Datei neu
Voreinstellung ist 30 s.
@unclesam sagte in ioBroker sehr hohe Diskwrites in Proxmox:
Dasselbe bei Objektänderungen (aber die sind ja selten).
Da der Zeitstempel genau so jung ist wie bei der states.json, vermute ich, dass ein Adapter läuft, der immer wieder neue Objekte erzeugt.
@unclesam sagte in ioBroker sehr hohe Diskwrites in Proxmox:
da eine State Änderung eben nur einen kleinen Wert in der DB ändert (aber dafür nicht alle 5 Minuten, sondern viel häufiger - da kenne ich die Config nicht).
Redis schreibt in der Voreinstellung alle 5 Minuten.
-
@paul53 sagte in ioBroker sehr hohe Diskwrites in Proxmox:
Da der Zeitstempel genau so jung ist wie bei der states.json, vermute ich, dass ein Adapter läuft, der immer wieder neue Objekte erzeugt.
Adlerauge!
Aber das passt jetzt hier nicht in den Thread, ich wollte den nicht kapern
-
Erstmal danke, ist ja eine spannende Diskussion eingetreten.
Aktuell gehe ich also davon aus, dass ich aus Redis umstellen sollte.Das Problem dürfte aber nicht nur bei Proxmox sondern überall auftreten oder? Würde auch erklären, warum so viele Probleme mit defekten SD Karten haben?
@unclesam sagte in ioBroker sehr hohe Diskwrites in Proxmox:
ls -lah /opt/iobroker/iobroker-data
total 25M drwxrwxr-x+ 9 iobroker iobroker 4.0K Jan 18 15:54 . drwxrwxr-x+ 8 iobroker iobroker 4.0K Jan 19 14:09 .. drwxrwxr-x+ 2 iobroker iobroker 4.0K Jan 19 13:27 backup-objects drwxrwxr-x+ 2 iobroker iobroker 4.0K Jan 8 13:44 eufy-security.0 drwxrwxr-x+ 52 iobroker iobroker 4.0K Jan 18 18:45 files -rw-rwxr--+ 1 iobroker iobroker 4.3K Jan 17 11:35 iobroker.json -rw-rw-r--+ 1 iobroker iobroker 114 Jan 18 17:02 notifications.json -rw-rwxr--+ 1 iobroker iobroker 11M Jan 19 14:14 objects.json -rw-rwxr--+ 1 iobroker iobroker 11M Jan 19 14:14 objects.json.bak -rw-rwxr--+ 1 iobroker iobroker 1.5M Jan 19 14:49 states.json -rw-rwxr--+ 1 iobroker iobroker 1.5M Jan 19 14:49 states.json.bak drwxrwxr-x+ 3 iobroker iobroker 4.0K Jan 17 14:13 tmp drwxrwxr-x+ 2 iobroker iobroker 4.0K Jan 8 14:14 yahka.0.hapdata drwxrwxr-x+ 2 iobroker iobroker 4.0K Jan 8 14:48 zigbee_0 -
@robbsen sagte in ioBroker sehr hohe Diskwrites in Proxmox:
Das Problem dürfte aber nicht nur bei Proxmox sondern überall auftreten oder?
Absolut richtig, ja. Bei Proxmox kann man das nur ganz praktisch auslesen - auf dem Raspi geht das nicht so einfach.
Würde auch erklären, warum so viele Probleme mit defekten SD Karten haben?
Ja, vor allem wenn die SD Karte nicht so gut und nicht so gross ist. Ich verwende schon aus diesem Grund Redis - allerdings bin ich auch in einer VM auf einem NAS - nur meine Slaves laufen auf Raspis, aber dort hatte ich noch nie SD-Karten-Probleme.
-
-
@robbsen Die states.json(.bak) erzeugen einen Disk write von etwa 360 MB/h.
