History: Migration von File zu MySQL mit Daten-Mitnahme möglich?
-
Ich wollte mich auch nochmal bedanken, es funktioniert perfekt. Einziger Nachteil: ich habe eine Datensammlung von über einem Jahr und z.T. sind es über 1000 Werte pro Tag bei insgesamt ca. 25 protokollierten Objekten :lol: Zweimal ist mir jetzt die SSH Session abgeschmiert so dass ich mich jetzt entschieden habe das auf der Konsole der VM zu machen, da bricht der Task wenigstens nicht ab :)
Verursacht aber schon ganz schön Load auf der CPU so ne Konvertierung..
-
Steht auch die Meldung bzw dir exception im log?? `
Gerade nochmal probiert:
sql.0 2018-02-11 13:01:12.707 info Connected to mysql sql.0 2018-02-11 13:01:12.623 info enabled logging of hm-rpc.0.OEQ0086710.1.TEMPERATURE sql.0 2018-02-11 13:01:12.623 info enabled logging of hm-rpc.0.OEQ0086710.1.HUMIDITY sql.0 2018-02-11 13:01:12.623 info enabled logging of hm-rega.0.16972 sql.0 2018-02-11 13:01:12.623 info enabled logging of hm-rega.0.16971 sql.0 2018-02-11 13:01:12.622 info enabled logging of hm-rpc.2.CUX4000001.7.CONTROL sql.0 2018-02-11 13:01:12.622 info enabled logging of hm-rpc.0.OEQ0023416.2.POWER sql.0 2018-02-11 13:01:12.622 info enabled logging of hm-rpc.0.OEQ0023416.2.ENERGY_COUNTER sql.0 2018-02-11 13:01:12.622 info enabled logging of hm-rega.0.11824 sql.0 2018-02-11 13:01:12.622 info enabled logging of hm-rega.0.11823 sql.0 2018-02-11 13:01:12.622 info enabled logging of hm-rega.0.11822 sql.0 2018-02-11 13:01:12.622 info enabled logging of hm-rega.0.11821 sql.0 2018-02-11 13:01:12.622 info enabled logging of hm-rega.0.11820 sql.0 2018-02-11 13:01:12.621 info enabled logging of hm-rega.0.11819 sql.0 2018-02-11 13:01:12.621 info enabled logging of hm-rega.0.11818 sql.0 2018-02-11 13:01:12.620 info enabled logging of hm-rega.0.6951 sql.0 2018-02-11 13:01:12.620 info enabled logging of hm-rega.0.3650 sql.0 2018-02-11 13:01:12.620 info enabled logging of hm-rega.0.2830 sql.0 2018-02-11 13:01:12.620 info enabled logging of hm-rega.0.2829 sql.0 2018-02-11 13:01:12.620 info enabled logging of hm-rega.0.2478 sql.0 2018-02-11 13:01:12.619 info enabled logging of hm-rega.0.2477 sql.0 2018-02-11 13:01:12.618 info enabled logging of hm-rpc.0.MEQ0690418.1.FILLING_LEVEL sql.0 2018-02-11 13:01:12.549 info starting. Version 1.6.9 in /opt/iobroker/node_modules/iobroker.sql, node: v4.8.7 host.raspberrypi 2018-02-11 13:01:09.270 info instance system.adapter.sql.0 started with pid 6276 host.raspberrypi 2018-02-11 13:00:39.238 info Restart adapter system.adapter.sql.0 because enabled host.raspberrypi 2018-02-11 13:00:39.237 error instance system.adapter.sql.0 terminated with code 6 (uncaught exception) history.0 2018-02-11 13:00:06.863 info starting. Version 1.7.2 in /opt/iobroker/node_modules/iobroker.history, node: v4.8.7 -
Klingt nach "mal Host neu starten"
-
Alternative ist: sql Adapter beenden über Admin. In /opt/iobroker folgendes an der Konsole ausführen:
node node_modules/iobroker.sql/main.js —force —logs
Damit startest du den sql Adapter manuell. Dann in zweiter Shell den Converter starten. Falls es wieder abstürzt dann solltest du ggf einen besseren Fehler bekommen.
-
So, hab den adapter jetzt neu installiert. Selber fehler cannot find module pg-negative.
Hier der Install-Log:
$ ./iobroker add sql npm install iobroker.sql --production --prefix "/opt/iobroker" (System call) npm WARN deprecated node-uuid@1.4.8: Use uuid module instead npm WARN deprecated sprintf@0.1.5: The sprintf package is deprecated in favor of sprintf-js. node-pre-gyp ERR! Tried to download(403): https://mapbox-node-binary.s3.amazonaws.com/sqlite3/v3.1.13/node-v46-linux-arm.tar.gz node-pre-gyp ERR! Pre-built binaries not found for sqlite3@3.1.13 and node@4.8.7 (node-v46 ABI) (falling back to source compile with node-gyp) ../src/database.cc: In static member function ‘static void node_sqlite3::Database::Work_BeginOpen(node_sqlite3::Database::Baton*)’:../src/database.cc:144:9: warning: unused variable ‘status’ [-Wunused-variable] int status = uv_queue_work(uv_default_loop(), ^ ../src/database.cc: In static member function ‘static void node_sqlite3::Database::Work_BeginClose(node_sqlite3::Database::Baton*)’:../src/database.cc:230:9: warning: unused variable ‘status’ [-Wunused-variable] int status = uv_queue_work(uv_default_loop(), ^ ../src/database.cc: In static member function ‘static void node_sqlite3::Database::Work_BeginExec(node_sqlite3::Database::Baton*)’:../src/database.cc:525:9: warning: unused variable ‘status’ [-Wunused-variable] int status = uv_queue_work(uv_default_loop(), ^ ../src/database.cc: In static member function ‘static void node_sqlite3::Database::Work_BeginLoadExtension(node_sqlite3::Database::Baton*)’:../src/database.cc:625:9: warning: unused variable ‘status’ [-Wunused-variable] int status = uv_queue_work(uv_default_loop(), ^ ../src/statement.cc: In static member function ‘static void node_sqlite3::Statement::Work_BeginPrepare(node_sqlite3::Database::Baton*)’:../src/statement.cc:118:9: warning: unused variable ‘status’ [-Wunused-variable] int status = uv_queue_work(uv_default_loop(), ^ In file included from ../src/statement.cc:6:0:../src/statement.cc: In static member function ‘static void node_sqlite3::Statement::Work_BeginBind(node_sqlite3::Statement::Baton*)’: ../src/macros.h:125:9: warning: unused variable ‘status’ [-Wunused-variable] int status = uv_queue_work(uv_default_loop(), \ ^ ../src/statement.cc:322:5: note: in expansion of macro ‘STATEMENT_BEGIN’ STATEMENT_BEGIN(Bind); ^ ../src/statement.cc: In static member function ‘static void node_sqlite3::Statement::Work_BeginGet(node_sqlite3::Statement::Baton*)’:../src/macros.h:125:9: warning: unused variable ‘status’ [-Wunused-variable] int status = uv_queue_work(uv_default_loop(), \ ^ ../src/statement.cc:370:5: note: in expansion of macro ‘STATEMENT_BEGIN’ STATEMENT_BEGIN(Get); ^ ../src/statement.cc: In static member function ‘static void node_sqlite3::Statement::Work_BeginRun(node_sqlite3::Statement::Baton*)’:../src/macros.h:125:9: warning: unused variable ‘status’ [-Wunused-variable] int status = uv_queue_work(uv_default_loop(), \ ^ ../src/statement.cc:438:5: note: in expansion of macro ‘STATEMENT_BEGIN’ STATEMENT_BEGIN(Run); ^ ../src/statement.cc: In static member function ‘static void node_sqlite3::Statement::Work_BeginAll(node_sqlite3::Statement::Baton*)’:../src/macros.h:125:9: warning: unused variable ‘status’ [-Wunused-variable] int status = uv_queue_work(uv_default_loop(), \ ^ ../src/statement.cc:504:5: note: in expansion of macro ‘STATEMENT_BEGIN’ STATEMENT_BEGIN(All); ^ ../src/statement.cc: In static member function ‘static void node_sqlite3::Statement::Work_BeginEach(node_sqlite3::Statement::Baton*)’:../src/macros.h:125:9: warning: unused variable ‘status’ [-Wunused-variable] int status = uv_queue_work(uv_default_loop(), \ ^ ../src/statement.cc:601:5: note: in expansion of macro ‘STATEMENT_BEGIN’ STATEMENT_BEGIN(Each); ^ ../src/statement.cc: In static member function ‘static void node_sqlite3::Statement::Work_BeginReset(node_sqlite3::Statement::Baton*)’:../src/macros.h:125:9: warning: unused variable ‘status’ [-Wunused-variable] int status = uv_queue_work(uv_default_loop(), \ ^ ../src/statement.cc:724:5: note: in expansion of macro ‘STATEMENT_BEGIN’ STATEMENT_BEGIN(Reset); ^ host.raspberrypi install adapter sql got /opt/iobroker/node_modules/iobroker.sql/admin upload [5] sql.admin /opt/iobroker/node_modules/iobroker.sql/admin/words.js words.js application/javascript upload [4] sql.admin /opt/iobroker/node_modules/iobroker.sql/admin/sql.png sql.png image/png upload [3] sql.admin /opt/iobroker/node_modules/iobroker.sql/admin/index_m.html index_m.html text/html upload [2] sql.admin /opt/iobroker/node_modules/iobroker.sql/admin/index.html index.html text/html upload [1] sql.admin /opt/iobroker/node_modules/iobroker.sql/admin/custom_m.html custom_m.html text/html upload [0] sql.admin /opt/iobroker/node_modules/iobroker.sql/admin/custom.html custom.html text/html host.raspberrypi object system.adapter.sql created host.raspberrypi object _design/custom created host.raspberrypi create instance sql host.raspberrypi object sql.0.info.connection created host.raspberrypi object sql.0.info created host.raspberrypi object system.adapter.sql.0.outputCount created host.raspberrypi object system.adapter.sql.0.inputCount created host.raspberrypi object system.adapter.sql.0.uptime created host.raspberrypi object system.adapter.sql.0.memRss created host.raspberrypi object system.adapter.sql.0.memHeapTotal created host.raspberrypi object system.adapter.sql.0.memHeapUsed created host.raspberrypi object system.adapter.sql.0.connected created host.raspberrypi object system.adapter.sql.0.alive created host.raspberrypi object system.adapter.sql.0 created process exited with code 0 -
Bei mir auch. interessant.
Erstmal. Wenn ich deinen befehl von oben kopiere sind bei den "zwei Minuszeichen" eines irgendwie komisch. Tipp es am besten mal ab. Dann tut es auch bei mir. Irgendwie sind da wohl komische Zeichen rein gekommen!! vllt sind auch die leerzeichen komisch
-
Hmm zu früh gefreut. Erst kamen jede Menge fehler
{ [Error: connect ETIMEDOUT] errorno: 'ETIMEDOUT', code: 'ETIMEDOUT', syscall: 'connect', fatal: true }und jetzt
{ [Error: Connection lost: The server closed the connection.] fatal: true, code: 'PROTOCOL_CONNECTION_LOST' } Reconnection to DB. Reconnection to DB. root@raspberrypi:/opt/iobroker# -
Hallo, bin sch 3x umgezogen!
Zuerst von XS1 (FS20 protokoll auf SD-Karte) auf den History-Adapter -> auf MySQL -> PostgreSQL wo ich nun seit 1 Jahr bin, nur vom Raspi auf opi2e und dann noch auf einen CSL-NUK umgezogen.
Postgres braucht weniger ressourcen und ist meiner Meinung scheller. AUf dem Raspi war das ein Problem da dort der Speicher sehr langsam ist (egal ob SD oder USB), und außerdem .
Es gibt ein nettes admin-tool für PostgreSQL, pgAdmin (https://www.pgadmin.org/download/) mit dem ich auf die verschiedenen DB's an den Test-Rechnern oder am Echtzeitsystem zugreifen kann.
Momentan hab ich ca 2,2 Millionen Datenpunkte im ts_numbers (und noch mal 200k in ts_bool und ts_string), Daten die teilweise bis 5 Jahre zurückreichen.
Wichtig, hab mir ein kleines script geschrieben (hatte das auch auf MySQL) welches ein Backup von ioBroker und ein Backup (dump) der SQL erzeugt und speichere das wöchentlich auf das NAS.
Bei MySQL war das
sudo mysqldump -uroot -ppi --all-databases ...Jetzt bei PostgreSQL
sudo -u postgres pg_dump iobroker | gzip > /mnt/nas/.../postgres.backup.$(date '+%Y%m%d').sql.gziobroker wird mit
BFILE=`sudo iobroker backup | cut -d " " -f 3` cp -v $BFILE /mnt/nas/.../ins gleiche Verzeichnis gespeichert.
Das SQL Backup ist bei mir mit gzip momentan 18MB, iobroker ~1MB.
Diese Methode hat mir schon mal das Leben (die Daten) gerettet da mir am Raspi eine SD und später auch ein USB-Stick abgeschmiert ist. Das war der Grund warum ich dann auf opi2e und später auf den NUK (alles unter Linux) umgestiegen bin da diese MMC's als Speicher haben.
Hey! Du scheinst an dieser Unterhaltung interessiert zu sein, hast aber noch kein Konto.
Hast du es satt, bei jedem Besuch durch die gleichen Beiträge zu scrollen? Wenn du dich für ein Konto anmeldest, kommst du immer genau dorthin zurück, wo du zuvor warst, und kannst dich über neue Antworten benachrichtigen lassen (entweder per E-Mail oder Push-Benachrichtigung). Du kannst auch Lesezeichen speichern und Beiträge positiv bewerten, um anderen Community-Mitgliedern deine Wertschätzung zu zeigen.
Mit deinem Input könnte dieser Beitrag noch besser werden 💗
Registrieren Anmelden378
Online32.8k
Benutzer82.8k
Themen1.3m
Beiträge