SQL.Adpter: Insert-Befehle innerhalb von 40ms

nettekov

@haus-automatisierung Status--> Ich habe im Homeverzeichnis unter einem Ordner Test das mysql-Package installiert und die erste SELECT Query funktionieren auch schon.
Werden am WE ein bisschen testen.

Macht es vielleicht Sinn, das ich ein Paar angeblichen fehlbehaftete Query zu schicke und ihr die bei Euch testet. So können wir vielleicht herausfinden, ob es ein generelles Problem handelt oder nur bei meine IT hier ein Problem existiert.

Bei den Tabelle ts_number & ts_counter kann man ja eine ID eingeben, die in der Tabelle data points nicht existieren und somit später wieder entfernen

Gruss nettekov

OliverIO

@nettekov
es liegt ziemlich sicher an deiner installation/konfiguration.
ansonsten würden sich hier viele ähnliche Meldungen im Forum befinden, da du ja da nix so spezielles machst, wie viele anderen auch.

haus-automatisierung

@oliverio sagte in SQL.Adpter: Insert-Befehle innerhalb von 40ms:

es liegt ziemlich sicher an deiner installation/konfiguration.

Das denke ich auch. Wobei es ja eigentlich nicht an MariaDB liegen kann - die Version nutzen ja auch viele auf der Synology und da wird ja auch für alle das gleiche Paket ausgerollt.

Bleibt eigentlich nur Adapter + Adapter-Konfiguration + Abhängigkeiten + nodejs Version. Macht es natürlich nicht leichter, dass einige Datenpunkte funktionieren.

OliverIO

@haus-automatisierung
tja wenn wir nur wüssten, was tatsächlich bei der datenbank ankommt. das wissen wir leider ja immer noch nicht.
aktuell wissen wir nur was vermeintlich abgesendet worden ist, bzw. eine fehlermeldung der datenbank, bei der der befehl gekürzt wurde

haus-automatisierung

@oliverio sagte in SQL.Adpter: Insert-Befehle innerhalb von 40ms:

tja wenn wir nur wüssten, was tatsächlich bei der datenbank ankommt. das wissen wir leider ja immer noch nicht.

Dein Kommentar wurde ja auch erfolgreich ignoriert Hier nochmal die Wiederholung:

@oliverio sagte in SQL.Adpter: Insert-Befehle innerhalb von 40ms:

ok, also der db meldet nicht den kompletten fehler.
jetzt noch was bei der db tatsächlich ankommt.
das kann man über das general query log aktivieren.
da werden dann alle query requests reingeschrieben.
https://mariadb.com/kb/en/general-query-log/

Und hier findet man auf der Synology die Config: https://kb.synology.com/en-in/DSM/tutorial/Can_MariaDB_settings_be_customized_on_Synology_NAS

nettekov

Hallo Leute,

ich habe euch nicht vergessen oder ignorier. ich kann z.Z. halt nicht jeden Tag hier weitermachen.
Für mich ist die Situation auch nicht leicht und könnte meine Zeit besser verwenden.
Aber ich finde , das ist ein geiles Forum, der mir von zwei Probleme gelöst hat und möchte gerne auch mal was zurückgeben, was ich denke das ich das auch kann.
Daher bitte ich euch , um etwas Geduld.
Wir werden das schaffen!

@OliverIO : Deinen Ratschlag werde noch beflogen, ich hatte mitte der Woche schon mal mit Wireshark ein Versuche aufgezeichnet.

Ein fehlerhafte Protokoll vom SQL.Adapter zum MySQL -Server:
Hier sieht man , das trotz vollständig übertragen INSERT-Befehl, der MySQL-Server eine Syntax-Fehlermeldung ausgibt.
Dann bin ich hingegangen und haben diesen Befehl kopiert und in einem anderen SQL-Client ausgeführt und wieder mit Wireshark aufgezeichnet.
Hier ist der selber INSERT-Befehl durchgegangen und es gab keine Fehler:

Soo. die mariadb und die mysqldb werden jetzt auch geloggt.
Hier sind schon die ersten Ergebnisse:

Ich versuche morgen mal bescheid zu geben, was das Ergebnis ist.

Gruss Nettekov

OliverIO

@nettekov

setze deine energie erst mal nicht so sehr in wireshark. das hat seine eigenen untiefen.
nutze lieber ersteinmal die Möglichkeiten der DB

nettekov

@oliverio Anbei die erste Fehlermeldung:

und das entsprechende Log: (Die 3 Quittungen kommen von den 3 oberen Queries)

Der INSERT-Befehl kommt sauber an.

Und jetzt den selben INSERT-Befehl nochmal über einen anderen SQL-Client geschickt, dann ist alles OK:
Selbe_INSERT_ÜBER 172_27_200_100.png

Gruss Nettekov

nettekov

@oliverio Da gebe ich dir Recht, aber Wireshark war schneller aufzubauen

nettekov

@oliverio said in SQL.Adpter: Insert-Befehle innerhalb von 40ms:

setze deine energie erst mal nicht so sehr in wireshark. das hat seine eigenen untiefen.
nutze lieber ersteinmal die Möglichkeiten der DB

Da gebe ich dir Recht, aber Wireshark war schneller aufzubauen

OliverIO

@nettekov

ok also auch hier sehen die sqls gut aus.
dann noch das db error log prüfen

https://mariadb.com/kb/en/error-log/

also ich sehe da kein syntax error
und wenn du die über den client ausführst geht es ja auch.
aber warum meldet die db dann einen syntax error?
auch die möglichkeit eines eines zeichens, welches im log oder sonst nicht richtig sichtbar ist kann man ausschließen, da es ja nur zahlen sind die da enthalten sind.

kannst du da mal die kompatibilitäts einstellungen prüfen ob da was besonderes ist?
https://mariadb.com/kb/en/sql-mode/
nicht das er da durch eine einstellung doch nicht das mehrfache insert kennt.

als workaround könntest du auch den counter deaktivieren, wenn du ihn nicht wirklich brauchst.

findest du irgendwo in den logs inserts, bei denen das insert mit mehreren values funktioniert und keinen fehler erzeugt?

nettekov

@oliverio
anbei die SQL-Mode:

STRICT_TRANS_TABLES,
ERROR_FOR_DIVISION_BY_ZERO,
NO_AUTO_CREATE_USER,
NO_ENGINE_SUBSTITUTION

Ich glaube nicht das es die DB-Server sind, bzw. erstmals nicht, obwohl es eigentlich Wahrscheinlicher ist, bzw. sonst wäre draußen viel mehr Probleme. Da gehe ich auf jeden fall mit
Aber sowohl der MariaDB Server auf der Synology , als auch der MySql auf meinem lokalen PC haben die selben Problematiken und in beiden Fällen stimmt die Syntax (sowohl in den Logs , als auch in Wireshark), bzw wenn ich Sie separat über eine anderen SQL-Client schicke , gehen Diese Durch.

nettekov

Hallo zusammen,

bevor ich weitermachen, wollte ich kurz nochmal die Version checken, nicht das wir doch durch einer veralten Version nach eine Problem suchen, was eigentlich nicht gibt, bzw. ggf. schon durch eine neuere Version gelöst ist.

IObroker-Adapter:

SQL-Adapter mit zweiter Version v1.16.1:

IOBroker node:
version 3.png

MariaDB auf Synology-NAS:

MySQL Server auf lokalen PC(Nur zur Testzwecken: ist veralte von XAMPP, kann ich aber ggf aktualisieren)

Sollte ich eine wichtige Version vergessen haben, sagt kurz Bescheid.

Gruss Nettekov

nettekov

@haus-automatisierung
@OliverIO

Hallo zusammen,

ich glaube ich habe was gefunden.

Das Problem bei mir, das manch ein Insert Befehl von SQL-Server als Syntax-Error angemahnt wird, ist, wenn mehrere Insert-Befehle
in einer Transaktion gepackt und weggeschickt werden.
Schickt man jeden INSERT-Befehl in einer separaten Transaktion, dann werden Diese dann auch vom SQL-Server akzeptiert, auch wenn ich die Datensätze auf 8 erhöhe.
Wenn zwei oder mehrere Insert-Anweisung in einer Transaktion über das node-Module 'mysql' geschickt werden, dann wird anscheinend (und das ganz vorsichtig gesagt) das Protokoll nicht so eingestellt, das es für mehrere SQL-Statements nicht geeignet ist.(Dies ist aber nur eine Mutmaßung).
Schickt man die selben angemahnten SQL-Sequenzen unverändert über eine anderen SQL-Client, dann wird die komplette SQL-Sequenz auch in einer Transaktion an den SQL-Server geschickt und Diese werden dann akzeptiert.
Bei myphpadmin wird die SQl-Sequenz teilweise gesplittet in mehreren Transaktionen,
Bei Heidi-SQL werden Diese generell in einzelne Transaktionen gesplittet.

Aber nochmal, das habe ich erstmal nur bei mir festgestellt.

ich würde jetzt versuchen, hierfür eine JS-Funktion zu schreiben, damit das Datenloggen bei mir wieder lauffähig wird.
Kann sein , das ich da ggf. Euch nochmal was fragen muss.

Gruss nettekov

Hier die Protokolle:
Angemahntes SQL-Sequenz im IOBroker-Log:

Cannot insert INSERT INTO `iobroker`.ts_counter (id, ts, val) VALUES (5, 1676135872618, 53.32),(5, 1676138387812, 53),(5, 1676138387812, 53),(5, 1676138670902, 52.95);INSERT INTO `iobroker`.ts_number (id, ts, val, ack, _from, q) VALUES (5, 1676138387812, 53, 1, 2, 0),(5, 1676138670902, 52.95, 1, 2, 0);: Error: You have an error in your SQL syntax; check the manual that corresponds to your MariaDB server version for the right syntax to use near 'INSERT INTO `iobroker`.ts_number (id, ts, val, ack, _from, q) VALUES (5, 1676...' at line 1 (id: LUFTFEUCHTE@William_Martin)

Inhalt von SQL_TEST2.js (kopiertes angemahntes SQL-Sequenz vom IOBroker-Protokoll):

ar mysql      = require('mysql');
var connection = mysql.createConnection({
  host     : '172.27.110.30',
  user     : 'iobroker',
  password : '*********',
  database : 'iobroker',
  port     : 3307
});


connection.connect(function(err) {
  if (err) throw err;
  console.log("Connected!");
  var sql = " INSERT INTO `iobroker`.ts_counter (id, ts, val) VALUES (5, 1676135872618, 53.32),(5, 1676138387812, 53),(5, 1676138387812, 53),(5, 1676138670902, 52.95);INSERT INTO `iobroker`.ts_number (id, ts, val, ack, _from, q) VALUES (5, 1676138387812, 53, 1, 2, 0),(5, 1676138670902, 52.95, 1, 2, 0);";
  connection.query(sql, function (err, result) {
    if (err) throw err;
    console.log("1 record inserted");
  });
});

Ergebnis von node SQL_TEST2.js--> Transaktion wird erwartender Weise angemahnt

root@server03:~/test$ node SQL_TEST2.js
Connected!
/home/root/test/node_modules/mysql/lib/protocol/Parser.js:437
      throw err; // Rethrow non-MySQL errors
      ^

Error: ER_PARSE_ERROR: You have an error in your SQL syntax; check the manual that corresponds to your MariaDB server version for the right syntax to use near 'INSERT INTO `iobroker`.ts_number (id, ts, val, ack, _from, q) VALUES (5, 1676...' at line 1
    at Query.Sequence._packetToError (/home/root/test/node_modules/mysql/lib/protocol/sequences/Sequence.js:47:14)
    at Query.ErrorPacket (/home/root/test/node_modules/mysql/lib/protocol/sequences/Query.js:79:18)
    at Protocol._parsePacket (/home/root/test/node_modules/mysql/lib/protocol/Protocol.js:291:23)
    at Parser._parsePacket (/home/root/test/node_modules/mysql/lib/protocol/Parser.js:433:10)
    at Parser.write (/home/root/test/node_modules/mysql/lib/protocol/Parser.js:43:10)
    at Protocol.write (/home/root/test/node_modules/mysql/lib/protocol/Protocol.js:38:16)
    at Socket.<anonymous> (/home/root/test/node_modules/mysql/lib/Connection.js:88:28)
    at Socket.<anonymous> (/home/root/test/node_modules/mysql/lib/Connection.js:526:10)
    at Socket.emit (events.js:400:28)
    at addChunk (internal/streams/readable.js:293:12)
    --------------------
    at Protocol._enqueue (/home/root/test/node_modules/mysql/lib/protocol/Protocol.js:144:48)
    at Connection.query (/home/root/test/node_modules/mysql/lib/Connection.js:198:25)
    at Handshake.<anonymous> (/home/root/test/SQL_TEST2.js:15:14)
    at Handshake.<anonymous> (/home/root/test/node_modules/mysql/lib/Connection.js:526:10)
    at Handshake._callback (/home/root/test/node_modules/mysql/lib/Connection.js:488:16)
    at Handshake.Sequence.end (/home/root/test/node_modules/mysql/lib/protocol/sequences/Sequence.js:83:24)
    at Handshake.Sequence.OkPacket (/home/root/test/node_modules/mysql/lib/protocol/sequences/Sequence.js:92:8)
    at Protocol._parsePacket (/home/root/test/node_modules/mysql/lib/protocol/Protocol.js:291:23)
    at Parser._parsePacket (/home/root/test/node_modules/mysql/lib/protocol/Parser.js:433:10)
    at Parser.write (/home/root/test/node_modules/mysql/lib/protocol/Parser.js:43:10) {
  code: 'ER_PARSE_ERROR',
  errno: 1064,
  sqlMessage: "You have an error in your SQL syntax; check the manual that corresponds to your MariaDB server version for the right syntax to use near 'INSERT INTO `iobroker`.ts_number (id, ts, val, ack, _from, q) VALUES (5, 1676...' at line 1",
  sqlState: '42000',
  index: 0,
  sql: ' INSERT INTO `iobroker`.ts_counter (id, ts, val) VALUES (5, 1676135872618, 53.32),(5, 1676138387812, 53),(5, 1676138387812, 53),(5, 1676138670902, 52.95);INSERT INTO `iobroker`.ts_number (id, ts, val, ack, _from, q) VALUES (5, 1676138387812, 53, 1, 2, 0),(5, 1676138670902, 52.95, 1, 2, 0);'
}

Inhalt von SQL_TEST5.js (kopiertes angemahntes SQL-Sequenz wird in zwei Transaktionen aufgeteilt):

var mysql      = require('mysql');
var connection = mysql.createConnection({
  host     : '172.27.110.30',
  user     : 'iobroker',
  password : '***************',
  database : 'iobroker',
  port     : 3307
});


connection.connect(function(err) {
  if (err) throw err;
  console.log("Connected!");
  var sql1 = " INSERT INTO `iobroker`.ts_counter (id, ts, val) VALUES (5, 1676135872618, 53.32),(5, 1676138387812, 53),(5, 1676138387812, 53),(5, 1676138670902, 52.95)";
  connection.query(sql1, function (err, result) {
    if (err) throw err;
    console.log("1 record inserted");
  });
    var sql2 = "INSERT INTO `iobroker`.ts_number (id, ts, val, ack, _from, q) VALUES (5, 1676138387812, 53, 1, 2, 0),(5, 1676138670902, 52.95, 1, 2, 0);";
  connection.query(sql2, function (err, result) {
    if (err) throw err;
    console.log("1 record inserted");
  });
});

Ergebnis von node SQL_TEST5.js--> Transaktion wird akzeptiert

root@server03:~/test$ vi SQL_TEST5.js
root@server03:~/test$ node SQL_TEST5.js
Connected!
1 record inserted
1 record inserted

Inhalt von SQL_TEST6.js (kopiertes angemahntes SQL-Sequenz wird in zwei Transaktionen aufgeteilt und jeder INSERT-Befehl wurden die Datensätze auf acht erhöht):

var mysql      = require('mysql');
var connection = mysql.createConnection({
  host     : '172.27.110.30',
  user     : 'iobroker',
  password : '*****************',
  database : 'iobroker',
  port     : 3307
});


connection.connect(function(err) {
  if (err) throw err;
  console.log("Connected!");
  var sql1 = " INSERT INTO `iobroker`.ts_counter (id, ts, val) VALUES (1235, 1676135872618, 53.32),(1235, 1676138387812, 53),(1235, 1676138387812, 53),(1235, 1676138670902, 52.95),(1236, 1676135872618, 53.32),(1236, 1676138387812, 53),(1236, 1676138387812, 53),(1235, 1676138670902, 52.95);";
  connection.query(sql1, function (err, result) {
    if (err) throw err;
    console.log("1 record inserted");
  });
    var sql2 = "INSERT INTO `iobroker`.ts_number (id, ts, val, ack, _from, q) VALUES (1235, 1676138387812, 53, 1, 2, 0),(1235, 1676138670902, 52.95, 1, 2, 0),(1236, 1676138387812, 53, 1, 2, 0),(1236, 1676138670902, 52.95, 1, 2, 0),(1237, 1676138387812, 53, 1, 2, 0),(1237, 1676138670902, 52.95, 1, 2, 0),(1238, 1676138387812, 53, 1, 2, 0),(1238, 1676138670902, 52.95, 1, 2, 0);";
  connection.query(sql2, function (err, result) {
    if (err) throw err;
    console.log("1 record inserted");
  });
});

Ergebnis von node SQL_TEST6.js--> Transaktionen werden akzeptiert

root@server03:~/test$ vi SQL_TEST6.js
root@server03:~/test$ node SQL_TEST6.js
Connected!
1 record inserted
1 record inserted

Angemahntes SQL-Sequenz im IOBroker-Log:

	Cannot insert INSERT INTO `iobroker`.ts_counter (id, ts, val) VALUES (47, 1676131245941, 8.04),(47, 1676133519887, 7.82);INSERT INTO `iobroker`.ts_number (id, ts, val, ack, _from, q) VALUES (47, 1676133519887, 7.82, 1, 2, 0),(47, 1676133530714, 7.87, 1, 2, 0);: Error: You have an error in your SQL syntax; check the manual that corresponds to your MariaDB server version for the right syntax to use near 'INSERT INTO `iobroker`.ts_number (id, ts, val, ack, _from, q) VALUES (47, 167...' at line 1 (id: TEMPERATUR@AussenHaustuer)

Ergebnis über anderen SQL-Client--> Transaktion wird akzeptiert

nettekov

@OliverIO
Hallo OliverIO,

In der main.js werden mit dieser Funktion die Datenlogs gesendet?

function _insertValueIntoDB(query, id, cb) {
    adapter.log.debug(query);

    borrowClientFromPool((err, client) => {
        if (err) {
            returnClientToPool(client);
            adapter.log.error(err);
            cb && cb(); // BF asked (2021.12.14): may be return here err?
        } else {
            client.execute(query, (err /* , rows, fields */) => {
                returnClientToPool(client);
                if (err) {
                    adapter.log.error(`Cannot insert ${query}: ${err} (id: ${id})`);
                } else {
                    checkRetention(id);
                }
                cb && cb(); // BF asked (2021.12.14): may be return here err?
            });
        }
    });
}

Gruss Nettekov

Marc Berg

@nettekov sagte in SQL.Adpter: Insert-Befehle innerhalb von 40ms:

SQL-Adapter mit zweiter Version v1.16.1:

IOBroker node:

So, wie es aussieht hast du es ja hier mit irgendwelchen Inkompatibilitäten zu tun. Darum verstehe ich nicht, warum nicht erstmal dieser Schiefstand der Adapter-Version sowie ein Update der Node Version angegangen wird?
An deiner Stelle würde ich den Adapter löschen und neu installieren sowie Node.js auf die empfohlene Version (16) bringen.

nettekov

@marc-berg Vielen dank für deine Antwort.

Weiß Du , wofür die V1.16.1 steht.
Bevor ich den SQL-Adapter , deinstalliere und wieder installiere, sollten wir erst wissen, wofür Diese Version steht.

nettekov

Hallo zusammen,

ich habe in die '_insertValueIntoDB' Funktion einfach mal ein Log-Befehl eingebaut, der bei jedem Daten-Loggen das Query anzeigt.

function _insertValueIntoDB(query, id, cb) {
    adapter.log.debug(query);

    borrowClientFromPool((err, client) => {
        if (err) {
            returnClientToPool(client);
            adapter.log.error(err);
            cb && cb(); // BF asked (2021.12.14): may be return here err?
        } else {
            client.execute(query, (err /* , rows, fields */) => {
                returnClientToPool(client);

                adapter.log.error(`Hallo Welt --> ${query}`); // Nettekov
                
               if (err) {
                    adapter.log.error(`Cannot insert ${query}: ${err} (id: ${id})`);
                } else {
                    checkRetention(id);
                }
                cb && cb(); // BF asked (2021.12.14): may be return here err?
            });
        }
    });
}

Wenn man jetzt im Protokollbereich von IOBroker nachschauen, sieht man , da die meine Datenlog' in der SQL-Transaktion nur ein SQl-Statement haben.
Wenn zwei SQL-Statements in einer Transaktion auftauchen, dann kommt auch der Syntax-Error.

Gruss nettekov

haus-automatisierung

@nettekov sagte in SQL.Adpter: Insert-Befehle innerhalb von 40ms:

Wenn zwei SQL-Statements in einer Transaktion auftauchen, dann kommt auch der Syntax-Error.

Eventuell kann @apollon77 was dazu sagen?

Marc Berg

@nettekov sagte in SQL.Adpter: Insert-Befehle innerhalb von 40ms:

@marc-berg Vielen dank für deine Antwort.

Weiß Du , wofür die V1.16.1 steht.
Bevor ich den SQL-Adapter , deinstalliere und wieder installiere, sollten wir erst wissen, wofür Diese Version steht.

Ich weiß es nicht, vielleicht es nur ein Anzeigefehler. Genauso gut kann ein Update unvollständig durchgelaufen sein. Ich finde es aber verdächtig, und eine Neuinstallation eines Adapters ist keine Raketentechnologie.

NEWS

SQL.Adpter: Insert-Befehle innerhalb von 40ms

Support us

540
Online

31.7k
Users

79.9k
Topics

1.3m
Posts

NEWS

SQL.Adpter: Insert-Befehle innerhalb von 40ms

Support us

540Online

31.7kUsers

79.9kTopics

1.3mPosts

540
Online

31.7k
Users

79.9k
Topics

1.3m
Posts