EXPERIMENTELL: JsonL Datenbank für js-controller

[lonsimbt]

@apollon77 sagte in EXPERIMENTELL: JsonL Datenbank für js-controller:

@lonsimbt sagte in EXPERIMENTELL: JsonL Datenbank für js-controller:

Die CPU-Auslastung geht - insbesondere seit auch die States in der jsonl-DB liegen - spürbar nach oben (~+40 % von 3,25% auf 4,5%).

Naja das ist aber zu erwarten!!

Bisher hatte die Redis DB und damit der Redis Prozess die Last wenn dort die Daten auch lagen. Wenn das jetzt wieder in die File DB kommt die vom controller Prozess dann gemanaged wird dann geht die CPU Last hierauf über und ist normalerweise mehr als Redis weil redis "nativ C++" ist nd kein interpretiertes Javascript.

Da müsste Ihr aufpassen nicht Äpfel mit Birnen zu vergleichen

Bei mir laufen (bzw. liefen) redis und iobroker im gleichen Container, d. h. der Unterschied dürfte tatsächlich aus dem höheren Aufwand stammen, den der Javascript-Code erzeugt. Ich persönlich finde den Anstieg um gut einen Prozentpunkt auch überhaupt nicht tragisch. Mein kleiner Server langweilt sich sowieso den Großteil der Zeit... Ich wollte nur meine Beobachtungen kundtun, da mit dem neuen Datenbankformat offensichtlich unterschiedliches Verhalten beobachtet wurde.

Gruß Marco

[msauer]

Hi...ich habe einen seltsamen Fehler nach dem Update von JARVIS auf 2.2.0, wobei der Update an sich keinen Fehler erzeugt hat.

2021-02-25 08:05:30.352 - info: host.MSNUC-IOB instance system.adapter.jarvis.0 started with pid 3993
2021-02-25 08:05:31.387 - error: host.MSNUC-IOB Caught by controller[0]: /opt/iobroker/node_modules/iobroker.js-controller/lib/adapter.js:428
2021-02-25 08:05:31.387 - error: host.MSNUC-IOB Caught by controller[0]: throw new Error(`Unknown states type: ${config.states.type}: ${err.message}`);
2021-02-25 08:05:31.388 - error: host.MSNUC-IOB Caught by controller[0]: ^
2021-02-25 08:05:31.388 - error: host.MSNUC-IOB Caught by controller[0]: Error: Unknown states type: jsonl: Cannot find module '@iobroker/db-states-jsonl'
2021-02-25 08:05:31.388 - error: host.MSNUC-IOB Caught by controller[0]: Require stack:
2021-02-25 08:05:31.388 - error: host.MSNUC-IOB Caught by controller[0]: - /opt/iobroker/node_modules/iobroker.js-controller/lib/adapter.js
2021-02-25 08:05:31.388 - error: host.MSNUC-IOB Caught by controller[0]: - /opt/iobroker/node_modules/@iobroker/adapter-core/build/utils.js
2021-02-25 08:05:31.388 - error: host.MSNUC-IOB Caught by controller[0]: - /opt/iobroker/node_modules/@iobroker/adapter-core/build/index.js
2021-02-25 08:05:31.389 - error: host.MSNUC-IOB Caught by controller[0]: - /opt/iobroker/node_modules/iobroker.jarvis/jarvis.js
2021-02-25 08:05:31.389 - error: host.MSNUC-IOB Caught by controller[0]: at new Adapter (/opt/iobroker/node_modules/iobroker.js-controller/lib/adapter.js:428:19)
2021-02-25 08:05:31.389 - error: host.MSNUC-IOB Caught by controller[0]: at startAdapter (/opt/iobroker/node_modules/iobroker.jarvis/jarvis.js:69:12)
2021-02-25 08:05:31.389 - error: host.MSNUC-IOB Caught by controller[0]: at Object. (/opt/iobroker/node_modules/iobroker.jarvis/jarvis.js:555:2)
2021-02-25 08:05:31.389 - error: host.MSNUC-IOB Caught by controller[0]: at Module._compile (internal/modules/cjs/loader.js:1063:30)
2021-02-25 08:05:31.389 - error: host.MSNUC-IOB Caught by controller[0]: at Object.Module._extensions..js (internal/modules/cjs/loader.js:1092:10)
2021-02-25 08:05:31.390 - error: host.MSNUC-IOB Caught by controller[0]: at Module.load (internal/modules/cjs/loader.js:928:32)
2021-02-25 08:05:31.390 - error: host.MSNUC-IOB Caught by controller[0]: at Function.Module._load (internal/modules/cjs/loader.js:769:14)
2021-02-25 08:05:31.390 - error: host.MSNUC-IOB Caught by controller[0]: at Function.executeUserEntryPoint [as runMain] (internal/modules/run_main.js:72:12)
2021-02-25 08:05:31.390 - error: host.MSNUC-IOB Caught by controller[0]: at internal/main/run_main_module.js:17:47
2021-02-25 08:05:31.390 - error: host.MSNUC-IOB instance system.adapter.jarvis.0 terminated with code 1 (JS_CONTROLLER_STOPPED)
2021-02-25 08:05:31.391 - info: host.MSNUC-IOB Restart adapter system.adapter.jarvis.0 because enabled

Ich habe mal versucht bei JARVIS einen Upload oder auch zu deinstallieren, bekomme aber dann:

$ ./iobroker upload jarvis
ERROR: Installation broken or unknown states type: jsonl configured.
ERROR: process exited with code 101

$ ./iobroker del jarvis
ERROR: Installation broken or unknown states type: jsonl configured.
ERROR: process exited with code 101

Hat jemand eine Idee?

UPDATE: Jetzt ist alles kaputt....iobroker startet nicht mehr

root@MSNUC-IOB:/opt/iobroker# iobroker start
root@MSNUC-IOB:/opt/iobroker# iobroker status
Installation broken or unknown states type: jsonl configured.
root@MSNUC-IOB:/opt/iobroker#

[msauer]

UPDATE: Ich bin per Snapshot zurückgegangen und habe JARVIS erneut upgedatet. Dies scheint tatsächlich den iobroker zu "zerstören". Die Fehler kommen wieder und iobroker lässt sich nach dem stoppen nicht mehr starten.

UPDATE2: Ich bin noch weiter zurückgegangen, also vor der JSONL Umstellung. Dann funktioniert der Update. Schon seltsam..

[msauer]

Abseits der obigen Probleme, habe ich auch Änderungen in der CPU Last und dem IO Verhalten feststellen können.
CPU Last hat sich verdoppelt, ok im unter 10% Bereich, aber immerhin.
IO hat sich dagegen halbiert. Ich hatte redis/file mit optimierten redis parameter.Redis und iobroker auf dem selben Host.

[dslraser]

@msauer sagte in EXPERIMENTELL: JsonL Datenbank für js-controller:

seltsamen Fehler nach dem Update von JARVIS auf 2.2.0

welche Version ist es denn genau ? Ich habe hier noch Jarvis 2.2.0-beta.17 laufen und hatte bisher noch kein Problem nach der Umstellung auf jsonl. Allerdings habe ich nach der Umstellung auf jsonl noch kein Update bei Jarvis gemacht.

[msauer]

@dslraser Heute stand ein "normales" Update 2.2.0 in der Liste an. Das habe ich dann installiert.
BETA/Latest

iobroker Update jarvis from @2.2.0-beta.49 to @2.2.0

[lonsimbt]

@msauer
Bei mir ist das jarvis-Update von 2.2.0b39 auf 2.2.0 problemlos durchgelaufen. Jarvis startet ohne Probleme, keine Auffälligkeiten oder Fehlermeldungen im Log auch nicht nach einem Neustart des Containers.

[crunchip]

@msauer habe ebenfalls gerade das Update durchgeführt, ohne jegliche Probleme

[apollon77]

@msauer Wie hast Du jsonl denn installiert? Nach der Anleitung oben??

[msauer]

@apollon77 ja, exakt daran gehalten...umgestellt von redis/file auf jsonl/jsonl

[msauer]

@apollon77 wow..ich kann es jetzt sogar reproduzieren...
Bin ja per snapshot zurück und habe diesmal jsonl/files umgestellt. Nach Neustart war alles gut. Habe dann einen Adapter "alias-Manager" installiert. und siehe da

$ ./iobroker upload alias-manager
ERROR: Installation broken or unknown states type: jsonl configured.
ERROR: process exited with code 101

wenn ich jetzt neu starte, geht garantiert wieder nichts mehr..
Ein Adapter restart reicht schon, das diese die oben genannte lange Fehlermeldung bringt

[Kueppert]

ohoh...bin auch gerade eben auf jsonl ^^ hab aber natürlich nen Backup gemacht vorher

[crunchip]

@msauer hast du bei der Umstellung eine Migration angestoßen oder ohne?

[msauer]

@crunchip Hier der Log meiner "Taten"

jsonl_inst.txt

[apollon77]

Ich würde eher frage in welchem Verzeichnis und WIE genau er die nom pakete für die db installiert hat ...

Wirklich

cd /opt/iobroker/node_modules/iobroker.js-controller
npm i @iobroker/db-states-jsonl @iobroker/db-objects-jsonl

[apollon77]

@msauer Ok, ds sieht an sich alles ok aus ... keine ahnung warum npm her die pakete wegwirft

[msauer]

@apollon77 Es funktioniert ja auch alles danach. Auch Reboots funktionieren fehlerfrei..Sobald ich aber einen Adapter installiere/update kommen die Fehler.

Danach ist dann aber auch alles weitere nicht mehr möglich.

[Kueppert]

Ich habe gerade testweise nach dem Wechsel auf jsonl auch meinen HM-RPC-Adapter upgedated. Alles problemlos verlaufen.
Hatte vorher auch redis und file und nun beides auf jsonl...

[msauer]

@apollon77 sagte in [EXPERIMENTELL: keine ahnung warum npm her die pakete wegwirft

Könnte es an NPM Version 7.5.4 liegen? Sind vielleicht nicht alle notwendigen Dependencies installiert worden?

[crunchip]

@msauer ich lese hier, du hast node14 und npm 7.5 das ist wahrscheinlich dein Problem