[Vorlage] JS: Log-Datei aufbereiten für VIS

[smartboart]

Hatte ich mir schon gedacht.. Danke

Gesendet von meinem CLT-L09 mit Tapatalk

[Mic]

@greyhound:

Das Skript bringt leider meinen ioBroker samt Linux zum Absturz. Ursache ist ein Speicherüberlauf. Anscheinend wird das Array mit den Logzeilen zu groß. Als Workarround habe ich versucht die Logdatei zeilenweise einzulesen, es aber mit dem js-controller nicht hinbekommen.

Hat jemand eine Idee, wie die Logdatei unter ioBroker zeilenweise gelesen werden kann? `

@greyhound:

Ich denke inzwischen, dass auch der Ansatz mit dem zeilenweisen Lesen nicht die Lösung ist. Vielmehr müsste direkt der Stream, analog zur Logseite des Admin "abgegriffen" werden. Damit würde nur die neuen Nachrichten noch verarbeitet werden und der Aufwand für das Erkennen der bereits gelesenen Einträge entfällt.

Leider habe ich im Moment keine Zeit, zu schauen, wie die Logseite das macht. `

So, heute ist genau das bei mir auch passiert. CPU-Auslastung 100%, ioBroker abgeschmiert, gleiches beim Neustart des Containers. Beim näheren Betrachten das Log-Script identifiziert. Log-Datei hatte sich massiv gefüllt, größer 40 MB, das wohl der Grund, warum das Script nicht mehr nach kam. Es kommt einfach wohl nicht mit diesen massiven Datenmengen klar.

Muss noch identifizieren, warum sich das Log dermaßen gefüllt hat, da die Ausgaben nicht direkt zuordenbar. Ich hatte allerdings dabei gerade ein Javascript erstellt, also etwa eine Endlos-Schleife o.ä. würde ich nicht ausschließen.

Erster Schuss ins Blaue: hier sollte eine Logfile-Größen-Abfrage rein, wenn größer als x MB, dann nichts machen.

Gib Dir absolut recht, am besten wäre wohl auslesen als "Stream". Ggf. gepaart mit der Größe….

[Kuddel]

Bin heute durch einen Hinweis auf dieses Skript gestoßen.

Genau soetwas habe ich gesucht.

Ich möchte bei mir im VIS von mir durch Skripte generierte Meldungen anzeigen lassen.

Dazu habe ich im Skript folgenden Filter erstellt:

id: 'javascript',
filter_all:  ['+++'],
filter_any:  [''],
blacklist:   ['Error'],
clean: ['script.js.smarthome.','javascript.0','info','NAS_und_VMware.shutdown_WinNAS_v01:','system.adapter_starten_stoppen:','rolladen.rolladen_tag_nacht_v0_5:','script.js.java.wol.wol_winnas:','system.backup_erstellen:'],
columns:  ['date','msg'],

Funktioniert schon fast richtig.

Nur der Eintrag um 12:13 stört mich und ich weiß gerade nicht weiter:

Kann man die Message spalte irgendwie linksbündig machen?

[Kuddel]

Muss ich jetzt für eine saubere Anzeige im VIS unter "clean" jeder Skriptpfad eintragen, damit dieser nicht mehr angezeigt wird ?

ist:

NAS_und_VMware.shutdown_synology_v0_1: Synology wird heruntergefahren

soll:

Synology wird heruntergefahren

Oder kann man irgendwie mit Wildcards arbeiten, sonst wird die Zeile ganz schön lang ^^

[Segway]

Moin moin,

erst einmal DANKE für das tolle script. Funktioniert soweit alles super. Im VIS habe ich aber leeres Bild wenn 0 Einträge vorhanden sind. Kann ich da etwas anderes einstellen ?

[Mic]

@Kuddel:

Kann man die Message spalte irgendwie linksbündig machen? `
Nimmst Du das Widget "Basic Table"? Das geht mit CSS, da steht auch weiter oben in diesem Thread was dazu, ansonsten steht dazu im Forum auch einiges bezüglich Widget-Formatierung mit CSS.

@Kuddel:

Oder kann man irgendwie mit Wildcards arbeiten, sonst wird die Zeile ganz schön lang ^^ `
Wildcards unterstützt das Script so "out of the box" nicht. Kannst gerne ein https://github.com/Mic-M/iobroker.logfile-script/issues aufmachen, dann baue ich es ein, wenn ich Zeit hab.

@Segway:

erst einmal DANKE für das tolle script. Funktioniert soweit alles super. Im VIS habe ich aber leeres Bild wenn 0 Einträge vorhanden sind. Kann ich da etwas anderes einstellen ? `
Sehr gerne, danke für Dein Feedback!

Ich hab hierzu einfach ein Widget "basic - ValueList Text" über die Tabelle gelegt, im Feld "Voranstellen HTML:" einen Text eingetragen ("alles bestens - keine Log-Einträge" o.ä. und über "Sichtbarkeit" mit Datenpunkt "…JSONcount" == 0 verbergen.

[Segway]

Okay vielen Dank ! Sehr guter Tip !

Noch eine Frage, da stehe ich grad auf dem Schlauch.

Welches Widget muss ich nutzen um die Counter zu resetten gemäß dem Datenpunkt zB. logWarnanderrorJSONclear ?

[nik82]

Hallo,

erstmal danke für das Script, ist genau das was ich schon lange gesucht hab

Hab nur eine kleine Frage, ich will rein nur die Logs loggen, die auf ERROR stehen, alles andere soll nicht gelogged werden.

Das muss ich ja wahrscheinlich beim Filter einstellen, aber was muss ich jetzt dort genau ändern um z.B. nicht alle zu loggen:

id:          'all',    // wir wollen hier alle Logeinträge, keine Filterung
filter_all:  ['', ''], // wird ignoriert, wenn leer
filter_any:  ['', ''], // wird ignoriert, wenn leer
blacklist:   ['', ''], // wird ignoriert, wenn leer
clean:       ['', '', ''], // wird ignoriert, wenn leer
columns:     ['date','level','source','msg'],  // Spaltenreihenfolge für JSON (Tabelle in vis)

Danke im Voraus.

[Segway]

Es gibt doch einzelne Datenpunkte dafür, oder ?

logwarn

logerror

logWarnanderror

[nik82]

Ja aber ich will ressourcen schonen und deswegen nur error logs loggen

[Segway]

Weiss zwar nicht was du an Resourcen sparen willst wenn du paar Zeilen Code löscht und 20 Datenpunkte weniger hast aber wenn gewünscht dann msste halt nur noch den Block mit

id: 'error'

drin lassen

@nikmaier:

id:          'all',    // wir wollen hier alle Logeinträge, keine Filterung

```` `  

das ist der Block für ALLE Meldungen

[nik82]

Ja wenn das von den Ressourcen nichts ausmacht dann kann ich es natürlich drin lassen.

Aber trotzdem Danke für die Info.

[nik82]

Hätte noch ne Kleinigkeit, vielleicht geht das ja relativ leicht.

Ich lasse mir einmal am Tag eine Email (HTML) mit den Error-Logs (falls vorhanden) schicken.

Als Text lasse ich mir den Objekt-Inhalt "Filtered Log - Error" schicken.

Wenn nun mehr als ein Error drin ist, schaut die Email aber nicht schön aus, es wird alles in einer Zeile geschrieben.

Kann man eventuell in dem Script einbauen, dass er vor jedem Daten ein
einfügt, also einen Zeilenumbruch vor jedem Datum macht?

[derrapf]

Hi
Ich habe mal das Script direkt aus dem Git kopiert und erstmal unverändert übernommen.
Problem: Der Prozess io.javascript.0 geht direkt auf 100% CPU.
Hat jemand ne Idee warum? So kann ich das nicht lassen.
Gruss Ralf

top - 23:03:43 up 10 days,  4:30,  1 user,  load average: 1,75, 1,33, 0,80
Tasks: 123 total,   2 running,  78 sleeping,   0 stopped,   0 zombie
%Cpu(s): 25,9 us,  0,5 sy,  0,0 ni, 73,5 id,  0,0 wa,  0,0 hi,  0,1 si,  0,0 st
KiB Mem :  4097856 total,   326520 free,  1585064 used,  2186272 buff/cache
KiB Swap:  1048560 total,  1046512 free,     2048 used.  2381400 avail Mem

  PID USER      PR  NI    VIRT    RES    SHR S  %CPU %MEM     TIME+ COMMAND
29062 root      20   0 1183716 269320  21892 R 100,7  6,6  41:10.80 io.javascript.0
  921 redis     20   0   52540   6016   2236 S   1,7  0,1 210:43.39 redis-server
29143 root      20   0  985956  62272  21908 S   1,0  1,5  22:37.65 io.history.0
29205 root      20   0  997428  71972  21988 S   0,7  1,8  15:11.35 io.hm-rpc.0
29290 root      20   0  987780  64504  21916 S   0,7  1,6   3:01.38 io.hm-rpc.2
  700 root      20   0   19904  13552   6532 S   0,3  0,3   6:27.20 python
 4527 root      20   0   10164   3556   2972 R   0,3  0,1   0:01.13 top
29006 root      20   0 1324488 181828  22192 S   0,3  4,4  28:01.05 iobroker.js-con
29133 root      20   0  980944  57508  21916 S   0,3  1,4   3:00.47 io.fritzbox.0
29194 root      20   0 1224104 102524  22084 S   0,3  2,5  24:23.45 io.mqtt-c

[darkiop]

@Mic : Erstmal vielen Dank für das Skript, damit packe ich mir genau das ins Log der VIS was ich auch benötigte.

Bei großen Logfiles (also dann meistens am Abend) kann es allerdings zu folgenden Verhalten führen, siehe meinen Thread hier:

https://forum.iobroker.net/topic/20202/javascript-adapter-stellt-für-einen-kurzen-moment-den-dienst-ein

Kannst du dir das mal anschauen?

Grüße,
Thorsten

[apollon77]

Am besten nach dem lesen und splitten der Daten und die Verarbeitung in einer Funktion auslagern und nach ein paar hundert Zeilen mit "setImmediate" eine Pause einlegen. Dann kommen ggf andere Skripte oder Dinge auch dran.

[totocotonio]

@derrapf Hi, das kann ich bestätigen.
Auch bei mir gab es massive Probleme mit dem Javascript adapter

[Nashra]

Hallo, bei mir funktioniert Schedule nicht d.h. im Script ist angegeben:

const L_SCHEDULE  = "*/2 * * * *";

aber es wird nicht alle 2 Minuten ausgeführt. Beim Start steht auch im Log

javascript.0 script.js.Meine_Geräte.Logs-fuer-VIS: registered 1 subscription and 0 schedules

sorry, verstehe das nicht, was ist falsch

[Gwenselah]

Guten Abend,

ich suche Unterstützung beim debuggen.
Folgenden Filter habe ich erstellt:

    {
    id:          'javascript',
    filter_all:  ['+++'],
    filter_any:  [''],
    blacklist:   ['Error'], 
    clean: [' - info','javascript.0 ','script.js.common.Echo_LautstaerkeAutomatik:','script.js.common.Telegram_Switches:','script.js.common.Washer_and_Dryer:'],
 //   clean:       ['script.js.common.Echo_LautstaerkeAutomatik: ','script.js.common.Telegram_Switches:',' - info','javascript.0','+++ ',' +++'],
    columns:     ['date','msg'],
  }

mit Hilfe von

console.log ("+++ Testlogmessage +++");

erzeuge ich einen Testeintrag, der auch im Log auftaucht.

Im Datenpunkt "logJavascript" werden die Einträge erzeugt, im Datenpunkt "logJavascriptJSON" steht immer nur []:

Wie kann ich das am Besten debuggen?

[Dr. Bakterius]

Ich habe das Script nun auch seit einigen Tagen im Einsatz - danke @Mic dafür!

Leider habe ich ein Problem. Manchmal läuft das Tages-Log durch den MQTT-Adapter ziemlich voll, wird also recht groß. Wenn das passiert ist das Script scheinbar überfordert, lastet den Prozessor voll aus und der Javascript-Adapter fängt dadurch an verrückt zu spielen. Also das ganze System hängt!

Kann man das irgendwie abfangen?

Edit: habe gerade gesehen, dass andere das selbe Problem bereits vor Monaten gemeldet haben. Passiert da noch was?