massive CPU Auslastung

[Diginix]

@da_woody Wow du hast aber auch echt verdammt viele Objekte! Ich habe kein 18000 und frage mich wie man fast das 10 fache schafft... Wie viele Adapter und Instanzen laufen bei dir?

Bei mir läuf iob auch in einer Proxmox VM mit 4 Kernen und 4 GB RAM und die CPU ist meist bei 15-18%. Wäre mit nur 2 Kernen dann aber nicht über 40%. Von JS-Controller 3.x mit file zu 4.x mit jsonl hat sich weder RAM noch CPU Last bei mir verändert:

@apollon77 Update von 4.0.8 auf 4.0.9 verlief unauffällig.

[da_Woody]

@diginix sagte in js-controller 4.0 jetzt im BETA/LATEST!:

Wow du hast aber auch echt verdammt viele Objekte! Ich habe kein 18000 und frage mich wie man fast das 10 fache schafft... Wie viele Adapter und Instanzen laufen bei dir?

genau deswegen glaub ich ja, daß irgendwas doppelt laufen könnte.
aktiv sind ca 40 instanzen. vor dem ganzen hatte ich so ca. 30-35% prozessorlast. RAM max 50%, kann mich aber nicht genau erinnern.
die anderen 3 VMs laufen im normalen rahmen. auf den knoten wirkt sich das aber natürlich auch aus.

[Diginix]

@da_woody Was steht denn bei dir oben rechts in Objektansicht?

Ich habe auch 40 Instanzen bei 48 inst. Adaptern. Müsste also mind. 8 mal so viele Geräte besitzen um auf deine Objektanzahl zu kommen. Ist klar möglich, aber wenn du selbst skeptisch bist, stimmt vllt ja wirklich was nicht. Das kannst aber nur du prüfen. Hast du keine alten objects.json von vor paar Wochen/Monaten um mal zu schauen wie viele Objekte damals existierten. Alte Poxmox Backups oder backitup Backups würden da für den Vergleich helfen.

[apollon77]

@da_woody sagte in js-controller 4.0 jetzt im BETA/LATEST!:

force terminate

Also zu daswetter: Das "force terminate" bedeutet das du den parseTimeout hochsetzen solltest, weil er länger braucht die Daten zu verarbeiten als dort angegeben. Bei dir reichen wohl 60s nicht ... Komisch aber ist so

[da_Woody]

@diginix
naja, kommt schon was zusammen. ca 80 shelly, paar tasmota, PV, entkalkung, sauger, 2x 3d-drucker, 2x synology, ...
die ioB backups haben sich nicht signifikant vergrößert. so um die 45.000KB

[apollon77]

@da_woody sagte in js-controller 4.0 jetzt im BETA/LATEST!:

/usr/bin/iob: Zeile 8: 1729 Getötet sudo -H -u iobroker node /opt/iobroker/node_modules/iobroker.js-controller/iobroker.js "$@"

Diese Zeile hier macht mich stutzig. Ist das Backup wirklich erstellt worden? Findest Du zeitgleich etwas in /var/log/syslog? Wie groß ist dein Inhalt von /opt/iobroker/iobroker-data/files ?

[apollon77]

@da_woody Naja "Doppelt laufen" würdest du ja in der Prozessliste sehen ... ps auxwwww|grep io

PS/EDIT: Welche DB nutzt du?

[Diginix]

@da_woody Ja dann passt das bei dir auch. Ich habe keine 20 Shelly. Also allein da hast du schon 4 mal so viel und die haben ja nicht wenige Objekte.

Und da sagt @apollon77 "hut ab" bei meiner kleinen mini iobroker Instanz

[da_Woody]

@apollon77 sagte in js-controller 4.0 jetzt im BETA/LATEST!:

@da_woody sagte in js-controller 4.0 jetzt im BETA/LATEST!:

/usr/bin/iob: Zeile 8: 1729 Getötet sudo -H -u iobroker node /opt/iobroker/node_modules/iobroker.js-controller/iobroker.js "$@"

Diese Zeile hier macht mich stutzig. Ist das Backup wirklich erstellt worden? Findest Du zeitgleich etwas in /var/log/syslog? Wie groß ist dein Inhalt von /opt/iobroker/iobroker-data/files ?

das getötet ist mir auch zum 2.x aufgefallen...
log wurde anscheinend erstellt

inhalt

woody@ioBroker:/opt/iobroker/iobroker-data/files$ ls -la
insgesamt 240
drwxrwxr-x+ 60 iobroker iobroker 4096 Feb 11 10:21 .
drwxrwxr-x+ 13 iobroker iobroker 4096 Feb 14 08:29 ..
drwxrwxr-x+  3 iobroker iobroker 4096 Jul 10  2021 admin.admin
drwxrwxr-x+  3 iobroker iobroker 4096 Apr 18  2021 alexa2.admin
drwxrwxr-x+  4 iobroker iobroker 4096 Mai  2  2021 alias-manager.admin
drwxrwxr-x+  2 iobroker iobroker 4096 Okt  7 12:16 backitup.admin
drwxrwxr-x+  3 iobroker iobroker 4096 Dez 31 20:41 birthdays.admin
drwxrwxr-x+  2 iobroker iobroker 4096 Jän  4 21:40 bydbatt.admin
drwxrwxr-x+  3 iobroker iobroker 4096 Sep 19 21:13 daswetter.admin
drwxrwxr-x+  3 iobroker iobroker 4096 Mai  1  2021 device-reminder.admin
drwxrwxr-x+  2 iobroker iobroker 4096 Jän 24  2021 followthesun.admin
drwxrwxr-x+  3 iobroker iobroker 4096 Jän 24  2021 fronius.admin
drwxrwxr-x+  2 iobroker iobroker 4096 Jän 19 19:24 fronius-solarweb.admin
drwxrwxr-x+  2 iobroker iobroker 4096 Jän 24  2021 gruenbeck.admin
drwxrwxr-x+  2 iobroker iobroker 4096 Jän 24  2021 harmony.admin
drwxrwxr-x+  3 iobroker iobroker 4096 Jän 24  2021 ical.admin
drwxrwxr-x+  3 iobroker iobroker 4096 Mai  2  2021 influxdb.admin
drwxrwxr-x+  3 iobroker iobroker 4096 Jän 24  2021 info.admin
drwxrwxr-x+  3 iobroker iobroker 4096 Feb 10 07:19 iot.admin
drwxrwxr-x+  6 iobroker iobroker 4096 Dez 27 20:32 iqontrol
drwxrwxr-x+  8 iobroker iobroker 4096 Feb  5 16:37 iqontrol.admin
drwxrwxr-x+  3 iobroker iobroker 4096 Jän 24  2021 iqontrol.meta
drwxrwxr-x+  6 iobroker iobroker 4096 Dez 15 20:07 javascript.admin
drwxrwxr-x+  2 iobroker iobroker 4096 Aug 26 19:13 klipper-moonraker.admin
drwxrwxr-x+  4 iobroker iobroker 4096 Jän 24  2021 linux-control.admin
drwxrwxr-x+  5 iobroker iobroker 4096 Jän 15 09:07 logparser.admin
drwxrwxr-x+  2 iobroker iobroker 4096 Jän 24  2021 meldungsliste.admin
drwxrwxr-x+  4 iobroker iobroker 4096 Jul  3  2021 meteoalarm.admin
drwxrwxr-x+  3 iobroker iobroker 4096 Jän  5 11:15 mihome-vacuum.admin
drwxrwxr-x+  2 iobroker iobroker 4096 Jän 24  2021 mqtt.admin
drwxrwxr-x+  3 iobroker iobroker 4096 Nov  7 13:22 octoprint.admin
drwxrwxr-x+  2 iobroker iobroker 4096 Jän 24  2021 pi-hole.admin
drwxrwxr-x+  3 iobroker iobroker 4096 Jul 15  2021 ping.admin
drwxrwxr-x+  2 iobroker iobroker 4096 Jän 24  2021 proxmox
drwxrwxr-x+  2 iobroker iobroker 4096 Jän 24  2021 proxmox.admin
drwxrwxr-x+  4 iobroker iobroker 4096 Aug 15  2021 radar2.admin
drwxrwxr-x+  3 iobroker iobroker 4096 Mär  3  2021 scenes.admin
drwxrwxr-x+  3 iobroker iobroker 4096 Dez  9 07:45 shelly.admin
drwxrwxr-x+  3 iobroker iobroker 4096 Jän 31  2021 shuttercontrol.admin
drwxrwxr-x+  3 iobroker iobroker 4096 Nov 12 19:58 simple-api.admin
drwxrwxr-x+  7 iobroker iobroker 4096 Dez 21 02:55 smartcontrol.admin
drwxrwxr-x+  2 iobroker iobroker 4096 Jän 25 09:16 snmp.admin
drwxrwxr-x+  3 iobroker iobroker 4096 Feb  1 12:48 socketio.admin
drwxrwxr-x+  2 iobroker iobroker 4096 Dez 30 12:05 sonoff.admin
drwxrwxr-x+  3 iobroker iobroker 4096 Nov 29 14:31 switchbot-hub.admin
drwxrwxr-x+  2 iobroker iobroker 4096 Jän 24  2021 synology.0
drwxrwxr-x+  2 iobroker iobroker 4096 Jän 24  2021 synology.1
drwxrwxr-x+  2 iobroker iobroker 4096 Sep  8 22:35 synology.admin
drwxrwxr-x+  3 iobroker iobroker 4096 Nov  7 13:32 trashschedule.admin
drwxrwxr-x+  9 iobroker iobroker 4096 Feb 13 10:51 vis
drwxrwxr-x+ 10 iobroker iobroker 4096 Jän 23 20:11 vis.0
drwxrwxr-x+  2 iobroker iobroker 4096 Jän 24  2021 vis.admin
drwxrwxr-x+  4 iobroker iobroker 4096 Dez 25 12:47 vis-materialdesign.admin
drwxrwxr-x+  2 iobroker iobroker 4096 Jän 24  2021 weatherunderground.admin
drwxrwxr-x+  5 iobroker iobroker 4096 Jän 24  2021 web
drwxrwxr-x+  3 iobroker iobroker 4096 Mär  4  2021 web.admin
drwxrwxr-x+  2 iobroker iobroker 4096 Jän 24  2021 web-speedy.admin
drwxrwxr-x+  2 iobroker iobroker 4096 Jän 24  2021 whatsapp-cmb.admin
drwxrwxr-x+  2 iobroker iobroker 4096 Sep  9 09:00 wled.admin
drwxrwxr-x+  3 iobroker iobroker 4096 Feb 11 10:21 ws.admin
woody@ioBroker:/opt/iobroker/iobroker-data/files$

ausgabe:

woody@ioBroker:~$ ps auxwwww|grep io
root        12  0.0  0.0      0     0 ?        S    Feb12   0:00 [migration/0]
root        16  0.0  0.0      0     0 ?        S    Feb12   0:01 [migration/1]
root       203  0.0  0.0      0     0 ?        I<   Feb12   0:00 [rpciod]
root       204  0.0  0.0      0     0 ?        I<   Feb12   0:00 [xprtiod]
root       351  0.1  0.0   7920  2568 ?        Ss   Feb12   2:49 /bin/bash /home/woody/wetterstation.sh
message+   355  0.0  0.0   9084  1364 ?        Ss   Feb12   0:00 /usr/bin/dbus-daemon --system --address=systemd: --nofork --nopidfile --systemd-activation --syslog-only
root      1242  0.0  0.0      0     0 ?        I<   Feb12   0:00 [cifsiod]
iobroker 12365 79.3 11.5 1841900 702708 ?      Rsl  Feb13 788:47 iobroker.js-controller
iobroker 12386  4.1 10.4 1492652 635884 ?      Sl   Feb13  41:42 io.admin.0
iobroker 12586 10.3  2.1 737160 131992 ?       Rl   Feb13 102:45 io.influxdb.0
iobroker 12850  6.6  3.8 845664 237632 ?       Sl   Feb13  65:45 io.mqtt.0
iobroker 13047  0.0  0.6 666480 36648 ?        Sl   Feb13   0:33 io.ping.0
iobroker 13058  6.6  2.8 766216 173996 ?       Sl   Feb13  66:20 io.shelly.0
iobroker 13102  0.2  0.9 943492 56932 ?        Sl   Feb13   2:18 io.alexa2.0
iobroker 13113  0.1  1.1 1070976 72520 ?       Sl   Feb13   1:25 io.mihome-vacuum.0
iobroker 13131  2.4  1.3 704444 84116 ?        Sl   Feb13  24:39 io.sonoff.0
iobroker 13148  0.0  0.5 669344 32876 ?        Sl   Feb13   0:23 io.backitup.0
iobroker 13354  0.1  0.9 683264 56348 ?        Sl   Feb13   1:49 io.fronius.0
iobroker 13365  0.0  0.8 675292 51784 ?        Sl   Feb13   0:50 io.device-reminder.0
iobroker 13376  0.2  0.8 940844 54220 ?        Sl   Feb13   2:12 io.gruenbeck.0
iobroker 13573  0.0  0.9 927172 60172 ?        Sl   Feb13   0:32 io.info.0
iobroker 13596  0.0  0.5 842320 33472 ?        Sl   Feb13   0:28 io.iot.0
iobroker 13618  0.0  0.4 11155992 27360 ?      Sl   Feb13   0:26 io.linux-control.0
iobroker 13643  0.0  0.7 654740 48680 ?        Sl   Feb13   0:45 io.pi-hole.0
iobroker 13654  0.0  0.6 670816 40728 ?        Sl   Feb13   0:26 io.meldungsliste.0
iobroker 13660  0.8  1.1 671924 69556 ?        Sl   Feb13   8:11 io.octoprint.0
iobroker 13862  0.2  1.0 675316 63264 ?        Sl   Feb13   2:45 io.proxmox.0
iobroker 13869  0.2  1.0 945700 62800 ?        Sl   Feb13   2:51 io.radar2.0
iobroker 13887  1.9  2.7 794180 166660 ?       Sl   Feb13  19:04 io.simple-api.0
iobroker 13899  0.0  0.4 669060 26800 ?        Sl   Feb13   0:23 io.socketio.0
iobroker 13912  0.0  0.7 671148 45072 ?        Sl   Feb13   0:29 io.trashschedule.0
iobroker 14133  0.1  1.2 961772 77304 ?        Sl   Feb13   1:28 io.web-speedy.0
iobroker 14144  0.2  1.4 1009748 91160 ?       Sl   Feb13   2:41 io.web.0
iobroker 14367  0.1  0.7 669516 43136 ?        Sl   Feb13   1:03 io.meldungsliste.1
iobroker 14382  0.0  0.6 670996 39044 ?        Sl   Feb13   0:26 io.meldungsliste.2
iobroker 14393  0.0  0.5 665936 34396 ?        Sl   Feb13   0:25 io.snmp.0
iobroker 14400  0.0  0.5 928116 31684 ?        Sl   Feb13   0:24 io.switchbot-hub.0
iobroker 14419  0.0  0.8 676772 52168 ?        Sl   Feb13   0:45 io.smartcontrol.0
iobroker 14426  0.2  0.9 682412 59984 ?        Sl   Feb13   2:58 io.bydbatt.0
iobroker 14437  0.0  0.8 672100 49396 ?        Sl   Feb13   0:54 io.logparser.0
iobroker 14460  0.3  0.9 943160 58420 ?        Sl   Feb13   3:46 io.fronius-solarweb.0
iobroker 17479  0.0  0.7 676664 43140 ?        Sl   Feb13   0:29 io.scenes.0
iobroker 18443  0.0  0.8 674924 50160 ?        Sl   Feb13   0:44 io.synology.0
iobroker 18484  0.0  0.8 676836 50584 ?        Sl   Feb13   0:50 io.synology.1
iobroker 18905  2.3  1.1 746408 67376 ?        Sl   Feb13  22:37 io.klipper-moonraker.0
iobroker 19346 32.8  9.9 1343844 610472 ?      Sl   Feb13 322:00 io.javascript.0
iobroker 20445  0.1  3.7 839232 227320 ?       Sl   07:28   0:20 io.iqontrol.0
root     24966  0.0  0.0   7920  2152 ?        S    12:34   0:00 /bin/bash /home/woody/wetterstation.sh
woody    24985  0.0  0.0   6088   860 pts/0    S+   12:35   0:00 grep io
woody@ioBroker:~$

DB? meinst du intern? files. redis nutze ich nicht. ansonsten läuft in einer anderen VM influxDB und grafana...

[arteck]

@da_woody ich tippe auf radar2.. schaumal da nach den objekten

[AlCalzone]

iobroker 19346 32.8  9.9 1343844 610472 ?      Sl   Feb13 322:00 io.javascript.0

Da scheint der Skript-Adapter auch mächtig ausgelastet zu sein. 32% CPU-Last wenn ich das richtig interpretiere? 1.3GB RAM? Wird der mit state changes bombardiert?

[Diginix]

@alcalzone sagte in js-controller 4.0 jetzt im BETA/LATEST!:

iobroker 19346 32.8  9.9 1343844 610472 ?      Sl   Feb13 322:00 io.javascript.0

Da scheint der Skript-Adapter auch mächtig ausgelastet zu sein. 32% CPU-Last wenn ich das richtig interpretiere? 1.3GB RAM? Wird der mit state changes bombardiert?

@da_Woody Oder Skripte die schlecht performen, zu oft triggern oder oder. Bekommt man am einfachsten heraus wenn man alle Skripte stück für Stück stoppt und schaut wann sich die Last signifikant verringert. Wenn es natürlich die Summe aller Skripte ist und nicht 1-2 ungünstige Skripte, ist es schwieriger.

[da_Woody]

@arteck ok, mal gestoppt. proxmox stop/start keine änderung.
@AlCalzone da läuft nicht viel.

der adaptermonitor hat mir warnings gebracht nach stop/start.

15:12:57.279	warn	javascript.0 (19346) at checkAdapters (script.js.common.Überwachung.Adapter-Monitor:254:12)
15:12:57.280	warn	javascript.0 (19346) at Object.<anonymous> (script.js.common.Überwachung.Adapter-Monitor:378:9)

auch gestoppt. nach reboot der ganzen proxmox kiste keine änderung...

wenn ich versuche ioB pages aufzurufen, bekomm ich alle möglichen fehler...

[Thomas Braun]

@da_Woody

@diginix sagte in js-controller 4.0 jetzt im BETA/LATEST!:

Oder Skripte die schlecht performen, zu oft triggern oder oder.

Oder Skripte die unter dem falschen User laufen. Wie das wahrscheinlich:

root       351  0.1  0.0   7920  2568 ?        Ss   Feb12   2:49 /bin/bash /home/woody/wetterstation.sh

[da_Woody]

@thomas-braun versteh ich zwar nicht so ganz, aber ok.
das wurde nach der beschreibung eingerichtet und hat mit 3.3.22 keine probleme gemacht...

[AlCalzone]

@da_woody sagte in js-controller 4.0 jetzt im BETA/LATEST!:

@AlCalzone da läuft nicht viel.

Muss ja nicht viel sein. Ein einziges Skript kann sehr viel Last verursachen, wenn es häufig triggert und dann viel zu tun hat. Hast du Skripte, in denen du viele States subscribest? Hast du es schon mal mit deaktivierten JS-Adapter versucht? Dein Controller ist auch sehr ausgelastet, ggf. generiert ein Skript ja sehr viele State changes.

[Matt77CHE]

Ein Ansatz wäre, wenn du wissen möchtest woher die Auslastung kommt, mal alle Instanzen anzuhalten und sie wieder nach und nach laufen zu lassen. Das Selbe evtl auch bei den Skripten...

[Diginix]

@matt77che Es ist doch schon bekannt, dass es die javascript Instanz ist.
Daher muss man das darin verantwortliche Skript finden, falls es eines ist. Können auch mehrere "schlechte" sein.
Bei mir laufen >100 Skripte auf einem recht ähnlichen System, aber javascript braucht nur 2-6 % CPU

[da_Woody]

@matt77che bin grad an den scripten dran...
ist halt mühsam, wenn man minutenlang braucht, bis vllt eine seite aufgeht.
so, alle scripte deaktiviert. keine änderung...
auch das stoppen der wetterstation mit

sudo systemctl stop wetterstation

der von @Thomas Braun bemängelten wetterstation hat keine änderung gebracht.
einbahnstraße.
werd jetzt mit den adaptern weiter machen...
mir ist schon klar, als nichtlinuxer sollte man stable fummeln. da ich aber gerne, auch für andere, testen tue, mach ich halt so blödsinn. darum raunz ich auch wenig bei problemen rum. ich find meist einen weg (die VM mit influxDB/grafana/TasmoAdmin hab ich auch nach wochen wieder hingebogen). aber da steh ich echt komplett an.

nach wiederstart der wetterstation und status anfrage:

woody@ioBroker:~$ sudo systemctl restart wetterstation
woody@ioBroker:~$ sudo systemctl status wetterstation
● wetterstation.service - Service für ioBroker Wetterstation
   Loaded: loaded (/etc/systemd/system/wetterstation.service; enabled; vendor preset: enabled)
   Active: active (running) since Mon 2022-02-14 16:19:46 CET; 7s ago
 Main PID: 15493 (wetterstation.s)
    Tasks: 2 (limit: 4915)
   Memory: 9.0M
   CGroup: /system.slice/wetterstation.service
           ├─15493 /bin/bash /home/woody/wetterstation.sh
           └─15510 curl -s HTTP://192.168.0.250:8087/set/0_userdata.0.WoodyWetter._Kommunikationsfehler?value=false&ack=

Feb 14 16:19:46 ioBroker systemd[1]: Started Service für ioBroker Wetterstation.
Feb 14 16:19:46 ioBroker wetterstation.sh[15493]: Connection to 192.168.0.250 8087 port [tcp/*] succeeded!
lines 1-12/12 (END)

[Matt77CHE]

Kurz noch was Anderes dazu; wenn du Proxmox nutzt, machst du bevor du rumprobierst kurz ein Backup? - dann könntest du - falls was schief läuft - einfach das Backup der VM oder CT wieder einspielen und gut ist....
(dies ist mitunter ein Hauptgrund, weiso ich Proxmox nutze...)