ioBroker Docker - InfluxDB Error bei hoher Disk I/O

[hennerich]

@dp20eic

Hallo Bernd,

dann kann ich ja schon mal kurz berichten, was ich bisher da so gemacht habe.

1. Hab ich das bzw. die Dashboards von hier und hier runtergeladen
2. Das InfluxDB Template habe ich importiert und es wurde ein neues Bucket oss_metrics hinzugefügt
3. dann hab ich geprüft, ob das Sammeln von Metriken überhaupt erlaubt ist (ist standardmäßig EIN und ich hab nichts verändert)
4. dann hab ich einen Scraper erstellt und testweise die URL aufgerufen

5. auf der /metrics Seite bekomme ich jede Menge Input, also muss das gehen (nehme ich an)

6. Wenn ich im Bucket oss_metrics nachschaue, sind da aber keine Infos drin

Und das ist halt dann das Ergebnis

Da hänge ich gerade

[A Former User]

@hennerich

Moin,

Du bist ja auf dem richtigen weg, eines hast Du aber nicht gemacht, oder ich hab es überlesen.

auf dem Rechner, auf dem du die Metricen sammeln willst, musst Du dir telegraf installieren. Nach dem Installieren des Templates in der InfluxDB kann dann eine Konfiguration für telegraf erstellt werden, dann brauchst du noch ein Token und du kannst es dann von der Kommandozeile ausführen.

Ich habe nur gerade keine Zeit das genauer zu beschreiben, hier ist es kurz beschrieben.

VG
Bernd

P.S.: das was Du unter http://ip-influxdb-server:8086/metrics bekommst das ist das was influxDb von sich aus mitteilt, genau diese Daten nimmt dann telegraf und bereitet sie Auf und schreibt sie in das oss_metrics Bucket.
Theoretisch könntest Du mehrere influxDb Server betreiben und in jedem ein telegraf laufen lassen und dann allen Output nur zu einer influxDB schicken um alle Metriken an einem Platz zu haben.

Ich nutze telegraf auf jedem meiner LXC Container um mir die CPU, Mem, usw. Metriken an eine influxDB zu schicken um dann alles mit Grafana zu Visualisieren.

[hennerich]

@dp20eic sagte in ioBroker Docker - InfluxDB Error bei hoher Disk I/O:

@hennerich
Du bist ja auf dem richtigen weg, eines hast Du aber nicht gemacht, oder ich hab es überlesen.
auf dem Rechner, auf dem du die Metricen sammeln willst, musst Du dir telegraf installieren.

Hey Bernd,

irgendwie hatte ich es geahnt. Wozu brauche ich denn Telegraph wenn ich doch Grafana habe? Und außerdem streube ich mich ehrlich gesagt, irgendwas am Container rumzufummeln, wenn das beim nächsten Depolyment alles wieder weg ist.
Und nein, ich hab keine Ahnung von Containern und kann nicht mal eben meinen eigenen InflucDB Container inkl. Telegraph bauen.

Viele Grüße
Henri

[A Former User]

@hennerich

Moin,

oh, da habe ich wohl nicht gelesen oder hab es vergessen, das Du mit Docker unterwegs bist, dann verstell da lieber nicht so viel dran

Zu telegraf das ist ein Datensammler, der mittels Konfiguration, echt viel ermitteln kann und das dann in eine influxDb schreibt, diese Daten können dann erst mittels Grafana ausgewertet werden.
Wie man das in einen Docker bekommt, ohne angst vor einen neuen Deploy des Docker Containers zu haben, könnte ich Dir sagen, aber konzentrieren wir uns erstmal auf das ursächliche Problem

Ist eigentlich für größere Installationen, die überwacht werden müssen, da ich beruflich damit zu tun hatte, habe ich das auch hier Zuhause getan
Die Metriken sind ja auch nur ein Sahnehäubchen, hoffe, das Du mit dem geänderten Write zum Erfolg kommst.

VG
Bernd

[hennerich]

@dp20eic
Moin Bernd,

nachdem nun auch mit meiner Erhöhung des Timeouts auf 20s den vierten Tag in Folge das Problem aufgetreten ist, muss ich hier was tun.
Ich hab mir überlegt, dass für eine temporäre Analyse eine Telegraf Installation im bestehenden InfluxDB Container sinnvoll wäre. So lange lasse ich eben den modifizierten Container laufen.
Muss ich dazu einfach nur über den Paketmanager Telegraf installieren oder was muss ich beachten?

Grüße
Henri

[A Former User]

@hennerich sagte in ioBroker Docker - InfluxDB Error bei hoher Disk I/O:

Muss ich dazu einfach nur über den Paketmanager Telegraf installieren oder was muss ich beachten?

Moin,

erst müssen wir mal schauen, wie Du unterwegs bist.

1.) Du nutzt Docker!
1.1) Du hast für iobroker, influxdb, grafana eigene Container.
1.2) Fehler im Netzwerk können ausgeschlossen werden.
1.3) Wie ist das Netzwerk auf der Syno eingestellt.
1.4) Noch mal die Fehler aus den Logs iobroker und auch vom influxdb - Docker <- sollte unter /var/log/influxirgend_was liegen.

2.) gib mir etwas Zeit, da sich meine Syno gerade updatet, ich baue mir influxDB, telegraf mal auf um die schritte nachzuvollziehen.

Ich habe noch mal etwas in den alten Beiträgen im Netz nachgeschaut, manche sind von 10s default auf 60s gegangen, ist aber auch sicherlich nur ein Workaround.

VG
Bernd

[A Former User]

@hennerich sagte in ioBroker Docker - InfluxDB Error bei hoher Disk I/O:

Muss ich dazu einfach nur über den Paketmanager Telegraf installieren oder was muss ich beachten?

Moin,
ich habe die Zeit genutzt und etwas Grundlagenforschung betrieben, die Sache ist einfacher als gedacht

Du brauchst keine zusätzliche Software, das geht alles out of the box mit influxDB V2.6.

In diesem influxDB_Metriken_Teil1.pdf Dokument habe ich beschrieben, wie man das bei einer Erstinstallation gleich mit macht.

Da Du oder auch anderer, ja meistens schon eine fertige influxDB Installation haben, ist der Weg aber auch nicht so schwer.
Hier influxDB_Metriken_Teil2.pdf

Dashboard influxdb_2.0_oss_metrics.json
Variable bucket.json

VG
Bernd

EDIT: 2023-02-23
ich habe die Markdown Dateien gegen PDFs ausgetauscht. Und das Dashboard und Variablen *.json an gehangen.

[hennerich]

@dp20eic
Danke Bernd, das schaue ich mir an. Melde mich.
Heute gabs das Problem übrigens nicht.

[edit sagt]
Du hast eine *.md Doku gemacht. Es ist sicherlich beabsichtigt, dass dort deine Bilder nicht zu sehen sind? Hab die Files mit notepad++ aufgemacht.

[A Former User]

@hennerich

Moin,
ja, ich schreibe viel in Markdown ist schneller als wenn ich irgend ein Office nutze und mir reicht das an Funktionalität aus.
Such mal für dein Betriebssystem ein Markdown Reader, ich habe für die Anleitung ghostwriter genutzt, ob das z.B. auch unter Win gut läuft, kann ich nicht sagen, nutze nur Linux.

VG
Bernd

Edit:
Ich mach noch mal, da ich die Bilder nicht eingepackt habe, man sollte halt mal mit einem anderen Rechner kontrollieren

[Ahnungsbefreit]

@hennerich Ich habe das gleiche Problem. Für Notepad++ gibt's ein Plugin "Markdown Viewer++", damit sieht man die Formatierung. Aber die Bilder fehlen natürlich trotzdem

[A Former User]

@ahnungsbefreit

Moin,

ich hab das gerade noch mal angepasst, war mein Fehler, da ich es immer nur auf dem Rechner kontrolliert habe, auf dem ich auch geschrieben habe. Sind jetzt auch PDFs und die beiden benötigten Dateien hängen jetzt auch am Post.

VG
Bernd

[hennerich]

@dp20eic sagte in ioBroker Docker - InfluxDB Error bei hoher Disk I/O:

@ahnungsbefreit

Moin,

ich hab das gerade noch mal angepasst, war mein Fehler, da ich es immer nur auf dem Rechner kontrolliert habe, auf dem ich auch geschrieben habe. Sind jetzt auch PDFs und die beiden benötigten Dateien hängen jetzt auch am Post.

VG
Bernd

Bernd, ich muss mich entschuldigen. Erst einmal vielen Dank für deine Mühe, dazu noch mal PDFs mit Bildern zu machen. Dann, dass du dich hier reingedacht hast und zuletzt, dass ich mich noch nicht dazu gemeldet hab. Wir renovieren gerade zu Hause und auf Arbeit ist auch Stress, ich hatte noch keinen Nerv dafür.
Melde mich asap.

Viele Grüße
Henri

[A Former User]

@hennerich

Moin,

mach Dir kein Stress.
Besser Du bist bei den Sachen, die gerade wichtig sind, der Rest kommt dann von alleine.

Und Danke für die Rückmeldung, nimm Dir Zeit. Wenn dann doch wieder erwarten etwas nicht funktioniere, dann melde dich einfach.

VG
Bernd

[hennerich]

@dp20eic

Ok, Dashboard läuft. Der ausschlaggebende Punkt war "localhost"!
Jetzt muss ich nur überlegen, wohin ich schauen muss wenn es wieder geknallt hat.

[A Former User]

@hennerich sagte in ioBroker Docker - InfluxDB Error bei hoher Disk I/O:

@dp20eic

Ok, Dashboard läuft. Der ausschlaggebende Punkt war "localhost"!
Jetzt muss ich nur überlegen, wohin ich schauen muss wenn es wieder geknallt hat.

Moin,

also heute mal etwas Trouble in einer influxdb gehabt

Da sollte wenn Du wieder Write errors bekommst, sollte man das Object write io erkennen.

VG
Bernd

[hennerich]

@dp20eic
Ok, ich gucke morgen früh.

[hennerich]

Moin zusammen,

heute keine Fehler in ioBroker. Aber den Peak um 3 Uhr sieht man trotzdem schön:

Grüße
Henri

[A Former User]

@hennerich

Moin,

im ersten Bild, der Peak ist der read IO da geht dann wohl die Sicherung des iobrokers los.
Das sieht aber erst einmal alles nicht so dramatisch aus.

VG
Bernd

[hennerich]

@dp20eic sagte in ioBroker Docker - InfluxDB Error bei hoher Disk I/O:

im ersten Bild, der Peak ist der read IO da geht dann wohl die Sicherung des iobrokers los.

Nein, die Sicherung des ioBroker ist um 01:24 Uhr. Das Hyper Backup der Daten auf dem NAS inkl. der Dockerfiles (also alle gemounteten Ordner) läuft um 03:00 Uhr. Und zu diesem Zeitpunkt traten bisher immer die Probleme auf.

[thoml]

@palm_maniac
bei mir ebenfalls unter Proxmox , ich starte den InfluxDB Adapter aktuell kurz nach dem Backup neu.