Ordner auf neue Dateien überwachen

tomily

@ente34
Geil, danke! Ich habs zum testen mal mit nem Lokalen Ordner auf dem Server ausgeführt. Den Mount, kann ich dann später noch machen.
Die Ausgabe scheint korrekt zu sein. Jedenfalls wird korrekt erkannt, welches die neuste Datei ist.

Natürlich die doofe und Freche frage. Wie kann ich da jetzt weiterverarbeiten. Am besten mit einer Variable in "Anzahl Tagen" um zu prüfen, ob die Datei älter ist oder nicht.

Ziel:
Wenn die neueste Datei älter ist, als 3 Tage, dann soll eine Email ausgelöst werden.

ente34

@tomily
Etwa so:

if ( seconds > 3*86400 ) {
sendTo("email.0", "send", {
   text: 'Body',
   to: 'test@gmx.de',
   subject: 'Betreff'
});

}

tomily

@ente34
Guten Morgen,

herzlichen Dank. Wirkt beides plausibel. Sehr geil das hilft mir extrem.
Könntest du mir noch verraten, wo ich die Email-Scriptszeilen einfügen soll? Innerhalb des Scriptes oben, oder in einem separaten Aufruf?

So ist es offensichtlich falsch :-D (Habe die Emailadresse absichtlich noch nicht ausgefüllt)

const fs = require('fs');
const util = require('util');
const readdir = util.promisify(fs.readdir);
const stat = util.promisify(fs.stat);
const lstat = util.promisify(fs.lstat);

async function checkDir(dir) {
    let files = [];
    try {
        files = await readdir(dir);
       
        let newestFileAge = 0;
        let newestFile = '';
 
        for (let file of files) {
            let fullpath = dir + '/' + file;
            const s = await lstat(fullpath);
            if (s.isFile()) {
                const stats = await stat(fullpath);
                if (stats.mtimeMs > newestFileAge) {
                    newestFileAge = stats.mtimeMs;
                    newestFile = file;
                }
            }
        }
 
        let seconds = (new Date().getTime() - new Date(newestFileAge).getTime()) / 1000;
        console.log(`newest file "${newestFile}" created before ${seconds} seconds`);
    } catch (e) {
        console.log(e);
    }
}
//################################
if ( seconds > 3*86400 ) {
sendTo("email.0", "send", {
   text: 'Body',
   to: 'test@gmx.de',
   subject: 'Betreff'
});

}
//################################

checkDir('/etc/test1');

ente34

@tomily
Zeile 28, wenn "seconds" zugewiesen sind

tomily

@ente34 Vielen Dank und sorry für die späte Rückmeldung.
Ich hatte ganz vergessen das positive Eregebnis hier zu posten :-(

Es hat geklappt und ich bekomme jetzt eine Email, wenn die Datei zu alt ist. HERVORRAGEND.

Nun muss ich nur dafür sorgen, dass vor dem ausführen die Laufwerke verbunden werden.
Eine Frage hätte ich noch. Kann ich einen Trigger direkt in das Script einbauen? z.B. dass das Script immer zu einer bestimmten Tageszeit läuft?

tomily

@tomily
Noch ein kleiner Nachtrag bzw. erneute Frage :-)

Ich könnte natürlich im Filesystem der Linuxmaschine, auf der der ioBroker läuft die zu überwachenden Laufwerke mounten.
Würde diese aber ganz gerne vor dem Prüfen aus dem SCript heraus verbinden und anschließend wieder trennen.

Kann ich den "Mountbefehl" aus dem JavaScript heraus ausführen?

ente34

@tomily
Basteln wir mal alles zusammen.

const fs = require('fs');
const util = require('util');
const readdir = util.promisify(fs.readdir);
const stat = util.promisify(fs.stat);
const lstat = util.promisify(fs.lstat);

const mountDir = '/home/pi/mount';
const nasDir = '//nas02/backup'
const mountCmd = `sudo mount -t cifs -o username=...,password=...,vers=3.0 ${nasDir} ${mountDir}`;
const umountCmd = `sudo umount ${nasDir}`;

const warnSeconds = 5 * 86400;

async function checkDir(dir) {
    let rc = false;
    try {
        let files = [];
        files = await readdir(dir);

        let newestFileAge = 0;
        let newestFile = '';

        for (let file of files) {
            let fullpath = dir + '/' + file;
            const s = await lstat(fullpath);
            if (s.isFile()) {
                const stats = await stat(fullpath);
                if (stats.mtimeMs > newestFileAge) {
                    newestFileAge = stats.mtimeMs;
                    newestFile = file;
                }
            }
        }

        let seconds = (new Date().getTime() - new Date(newestFileAge).getTime()) / 1000;
        rc = seconds > warnSeconds;
        console.log(`newest file "${newestFile}" created before ${seconds} seconds`);
    } catch (e) {
        console.log(e);
    } finally {
        return rc;
    }
}

/**
 * Executes a shell command and return it as a Promise.
 * @param cmd {string}
 * @return {Promise<string>}
 */
function execShellCommand(cmd) {
    const exec = require('child_process').exec;
    return new Promise((resolve, reject) => {
        exec(cmd, (error, stdout, stderr) => {
            if (error) {
                console.warn(error);
            }
            resolve(stdout ? stdout : stderr);
        });
    });
}

async function checkBackup() {
    try {
        //hier mount-Kommando
        await execShellCommand(mountCmd);

        let result = await checkDir(mountDir);
        if (result) {
            // Mail abschicken
            console.log('Send Mail');
        }

        //hier umount-Kommando
        await execShellCommand(umountCmd);
    } catch (e) {
        console.warn(e);
    }
}

// 22:30
schedule('30 22 * * *', () => {
    checkBackup();
});

Im Javascript-Adapter "exec" erlauben!

mickym

@tomily Warum nutzt Du nicht die Watch-Node?

tomily

@ente34
Geil, das sieht gut aus. Ich teste es gleich heute Abend! DANKE!

tomily

@mickym
Hmmmm, weil ich nicht weiß wie ich es damit lösen könnte? :-) Ginge das denn?

In diesem Fall habe ich NodeRed gar nicht im Spiel. Wäre aber auch denkbar.

mickym

@tomily Nun ich hätte mich hier nie ;) eingemischt, aber nachdem ich ja weiß, dass Du bislang alles mit NodeRed gemacht hast, war ich etwas verwundert und vielleicht denkst Du ja auch über einen Systemwechsel nach.

Außerdem hat hier @ente34 Dir schon viel geholfen und Arbeit reingesteckt und das gebietet schon der Respekt, dass ich mich da nicht einmische.

Als ich dann gestern diesen Thread hier entdeckt habe, habe ich mir Deine Anfordeung mal als Herausforderung gestellt und mal einen kleinen Flow gebastelt - wobei ich nicht im Detail weiß, ob das Deinen Bedürfnissen entspricht.

Hier mal nur der Flow mit ein paar Erklärungen:

Ich habe der Einfachheit einfach mal angenommen, dass nur ein Backup in ein Verzeichnis schreibt und deshalb nur dieser Task etwas an dem Verzeichnis ändert. Ich habe deshalb mal als Beispiel das iobroker backup genommen.

Mit der Watch-Node beobachte ich also das "/opt/iobroker/backups" Verzeichnis - welche Änderungen sind mir wurscht - weil ich davon ausgehe, dass das nur der backitup-Adapter ist, der da was verändert.
Findet eine Aktivität statt läuft z. Bsp der obere Ast los und schreibt einen Eintrag über ein erfolgreiches Backup in die Logdatei .
Gleichzeitig wird der Trigger im unteren Ast getriggert, der solange nichts verschickt, solange 25 Stunden keine neue Nachricht (also Aktivität) stattfindet.
Findet keine Aktivität statt schreibt er eine negativen Logeintrag und schickt Dir eine Mail

Die Logdatei in der diese Aktivität überwacht wird schaut dann einfach so aus:

und die Mail im Fehlerfall würde dann so aussehen:

und dann kannst Du ja wieder mit Deinem anderen Projekt mehrere Logdateien zu überwachen ggf. fortfahren. ;) ;) ;)

[
   {
       "id": "9b7a57bd.8ee618",
       "type": "watch",
       "z": "6e170384.60c96c",
       "name": "",
       "files": "/opt/iobroker/backups",
       "recursive": "",
       "x": 2560,
       "y": 3460,
       "wires": [
           [
               "94badf85.3ebad",
               "eab4a1ca.fda7c"
           ]
       ]
   },
   {
       "id": "94badf85.3ebad",
       "type": "change",
       "z": "6e170384.60c96c",
       "name": "true",
       "rules": [
           {
               "t": "set",
               "p": "payload",
               "pt": "msg",
               "to": "true",
               "tot": "bool"
           }
       ],
       "action": "",
       "property": "",
       "from": "",
       "to": "",
       "reg": false,
       "x": 2770,
       "y": 3440,
       "wires": [
           [
               "5048baed.cf7704"
           ]
       ]
   },
   {
       "id": "eab4a1ca.fda7c",
       "type": "trigger",
       "z": "6e170384.60c96c",
       "name": "",
       "op1": "",
       "op2": "false",
       "op1type": "nul",
       "op2type": "bool",
       "duration": "25",
       "extend": true,
       "overrideDelay": false,
       "units": "hr",
       "reset": "",
       "bytopic": "all",
       "topic": "topic",
       "outputs": 1,
       "x": 2800,
       "y": 3500,
       "wires": [
           [
               "db949d4b.5a23d",
               "3556f13.927030e"
           ]
       ]
   },
   {
       "id": "db949d4b.5a23d",
       "type": "change",
       "z": "6e170384.60c96c",
       "name": "Log-Eintrag",
       "rules": [
           {
               "t": "change",
               "p": "payload",
               "pt": "msg",
               "from": "true",
               "fromt": "bool",
               "to": "Backup gestartet ...",
               "tot": "str"
           },
           {
               "t": "change",
               "p": "payload",
               "pt": "msg",
               "from": "false",
               "fromt": "bool",
               "to": "fehlendes Backup",
               "tot": "str"
           },
           {
               "t": "set",
               "p": "payload",
               "pt": "msg",
               "to": "'iobroker.backup\\t' & $moment($now()).locale(\"de\").tz('Europe/Berlin').format('YYYY-MM-DD HH:mm:ss.SSS') & '\\t' & payload\t",
               "tot": "jsonata"
           }
       ],
       "action": "",
       "property": "",
       "from": "",
       "to": "",
       "reg": false,
       "x": 3170,
       "y": 3440,
       "wires": [
           [
               "14218c4a.ef2f44"
           ]
       ]
   },
   {
       "id": "14218c4a.ef2f44",
       "type": "file",
       "z": "6e170384.60c96c",
       "name": "",
       "filename": "/home/iobroker/iobroker_backups.log",
       "appendNewline": true,
       "createDir": false,
       "overwriteFile": "false",
       "encoding": "none",
       "x": 3450,
       "y": 3440,
       "wires": [
           []
       ]
   },
   {
       "id": "9e3e44a3.7826a8",
       "type": "e-mail",
       "z": "6e170384.60c96c",
       "server": "",
       "port": "465",
       "secure": true,
       "tls": true,
       "name": "",
       "dname": "verschicke Mail",
       "x": 3380,
       "y": 3500,
       "wires": []
   },
   {
       "id": "3556f13.927030e",
       "type": "change",
       "z": "6e170384.60c96c",
       "name": "",
       "rules": [
           {
               "t": "set",
               "p": "topic",
               "pt": "msg",
               "to": "Fehlendes Backup",
               "tot": "str"
           },
           {
               "t": "set",
               "p": "payload",
               "pt": "msg",
               "to": "'Fehlendes Backup festgestellt am: ' & $moment($now()).locale(\"de\").tz('Europe/Berlin').format('YYYY-MM-DD HH:mm:ss.SSS')",
               "tot": "jsonata"
           }
       ],
       "action": "",
       "property": "",
       "from": "",
       "to": "",
       "reg": false,
       "x": 3020,
       "y": 3500,
       "wires": [
           [
               "25921972.cd66c6"
           ]
       ]
   },
   {
       "id": "25921972.cd66c6",
       "type": "template",
       "z": "6e170384.60c96c",
       "name": "",
       "field": "payload",
       "fieldType": "msg",
       "format": "handlebars",
       "syntax": "mustache",
       "template": "<h1>Warnung: Fehlendes Backup</h1>\n\n{{payload}} !",
       "output": "str",
       "x": 3210,
       "y": 3500,
       "wires": [
           [
               "9e3e44a3.7826a8"
           ]
       ]
   },
   {
       "id": "5048baed.cf7704",
       "type": "trigger",
       "z": "6e170384.60c96c",
       "name": "",
       "op1": "",
       "op2": "",
       "op1type": "pay",
       "op2type": "nul",
       "duration": "3",
       "extend": true,
       "overrideDelay": false,
       "units": "min",
       "reset": "",
       "bytopic": "all",
       "topic": "topic",
       "outputs": 1,
       "x": 2950,
       "y": 3440,
       "wires": [
           [
               "db949d4b.5a23d"
           ]
       ]
   }
]

AlCalzone

Wenn es wirklich nur um neue Dateien (neuer Name, nicht überschrieben) geht, kann man im JS Skript auch lediglich mtime des Verzeichnisses prüfen und muss nicht erst alle Dateien enumerieren und deren Zeitstempel prüfen.

tomily

Hallo zusammen,

erst mal einen herzlichen und fetten Dank an @ente34 für den geilen Support.
Ich habe das letzte Script noch etwas für mich angepasst und nun tut es EXAKT das was ich mir vorgestellt habe... Juhuuu :-)

Danke auch an @mickym. Es ist immer interessant mehrere Wege zu testen. Somit lerne ich beide Systeme. Werde den NodeRed-Flow morgen früh gleich mal ausprobieren. Einfach aus Neugierde.

Ich mache viel mit NodeRed. In dem Fall wollte ich das Backup-Prüfscript aber absichtlich in einem anderen System betreiben. Es macht nie Sinn eine Datensicherung vom gleichen System zu prüfen, das es auch erstellt.

Spinnt das System, erhält man gar keine Infos mehr. Deshalb arbeite ich mit mehreren Instanzen und Servern.

Ich prüfe somit mehrere Verzeichnisse auf neue Sicherungen ab. Ganz egal, wie diese erstellt wurden. Manche kommen vom ioBroker direkt. Manche liefert das ESXi-Serverbackup und manche kopiere ich von Hand rein und werde somit nach einer Gewissen Zeit erinnert es wieder zu tun :-)

Das einzige, das nicht funktioniert ist, wenn die Sicherungen in Unterverzeichnissen liegen. Das wäre dann die nächste Hürde :-)

mickym

@tomily
Ich hab mir nun aber mal das Skript von @ente34 genauer angeschaut und da wird das Verzeichnis ja zum Überprüfungszeitpunkt gemountet, analysiert und dann wieder unmounted.
Der flow geht aber einen ganz anderen Ansatz - der permanenten Überprüfung!
Deshalb dürfte der Flow für Dich doch nicht geeignet sein. Der Flow geht ja davon aus, dass Du eine permanente Verbindung zur Überwachung hälst (gemountete Verzeinchisse) und nicht nur zu einem bestimmten Zeitpunkt, wie das ja das Script macht. Also insofern vergiss einfach den Flow. ;)

tomily

@mickym
Ich danke Dir für den input. Für mich sind trotzdem beide Varianten sehr interessant.

Der Ursprüngliche Zweck war ja zu erkennen, wenn keine neue Dateien mehr kommen. Der permanente Überwachung wäre sicherlich auch in einigen Situationen sinnvoll.

Zur NOT könnte ich das Verzeichnis dauerhaft mounten. Aber egtl muss und soll das nicht sein.

Die Prüfung würde mir 1-2x am Tag reichen. Weiss nicht, ob die „Dauerprüfung“ evtl traffic oder performance Probleme verursacht?

@ente34
Könnte ich mit dem Skript evtl. Auch zusätlich rekursiv in Unteeverzeichnissen suchen?
War zwar keine ursprüngliche Anforderung von mir, aber nachdem ich meine ganzen Check-Jobs eingerichtet habe, bin ich noch darauf gestossen.

tomily

@mickym hast du den Flow wieder rausgenommen?
Darf ich ihn mir trotzdem anschauen? Wäre total super, möchte diese Option nicht ausser Acht lassen.

mickym

@tomily Hängt dran.

ente34

@tomily sagte in Ordner auf neue Dateien überwachen:

Könnte ich mit dem Skript evtl. Auch zusätlich rekursiv in Unteeverzeichnissen suchen?

Man muss das Script nur ein wenig umstellen:

const fs = require('fs');
const util = require('util');
const readdir = util.promisify(fs.readdir);
const stat = util.promisify(fs.stat);
const lstat = util.promisify(fs.lstat);

const mountDir = '/home/pi/mount';
const nasDir = '//nas02/backup/raspi-iobroker';
const mountCmd = `sudo mount -t cifs -o username=...,password=...,vers=3.0 ${nasDir} ${mountDir}`;
const umountCmd = `sudo umount ${nasDir}`;

const warnSeconds = 5 * 86400;

async function NewestFile(dir) {
    let newestFileAge = 0;
    let newestFile = '';
    //console.log('### '+dir);
    try {
        let files = [];
        files = await readdir(dir);


        for (let file of files) {
            let fullpath = dir + '/' + file;
            const s = await lstat(fullpath);
            if (s.isFile()) {
                const stats = await stat(fullpath);
                if (stats.mtimeMs > newestFileAge) {
                    newestFileAge = stats.mtimeMs;
                    newestFile = file;
                }
            } else {
                let values = await NewestFile(fullpath);
                if (values.age > newestFileAge) {
                    newestFileAge = values.age;
                    newestFile = values.file;
                }
            }
        }
    } catch (e) {
        console.log(e);
    } finally {
        return { file: newestFile,  age:newestFileAge };
    }
}

/**
 * Executes a shell command and return it as a Promise.
 * @param cmd {string}
 * @return {Promise<string>}
 */
function execShellCommand(cmd) {
    const exec = require('child_process').exec;
    return new Promise((resolve, reject) => {
        exec(cmd, (error, stdout, stderr) => {
            if (error) {
                console.warn(error);
            }
            resolve(stdout ? stdout : stderr);
        });
    });
}

async function checkBackup() {
    try {
        //hier mount-Kommando
        await execShellCommand(mountCmd);

        let result = await NewestFile(mountDir);
        let seconds = (new Date().getTime() - new Date(result.age).getTime()) / 1000;
        if (seconds > warnSeconds) {
            console.log(`newest file "${result.file}" created before ${seconds} seconds`);
            // Mail abschicken
            console.log('Send Mail');
        }

        //hier umount-Kommando
        await execShellCommand(umountCmd);
    } catch (e) {
        console.warn(e);
    }
}

// 22:30
schedule('30 22 * * *', () => {
    checkBackup();
});

tomily

@ente34
Bitte entschuldigt die erneute späte Antwort. Ich bin wirklich schlimm! :)

Habe mir das erste Skript schon etwas auf meine Bedürfnisse angepasst. Das gleiche musste ich mit dem zweiten nun auch tun und es FUNKTIONIERT TADELLOS :-)

Ich habe mir nun für mehrere Ordner und Dateien unterschiedliche Skripte zusammengebaut, die ich hinterinander laufen lasse.

Das passt für mich nun hervorragend.

An der Stelle möchte ich mich recht herzlich für eure konstruktive Vorschläge bedanken. Auch Dir @ente34 herzlichen Dank für die Mühe und Zeit.

Bin sehr happy über das Ergebnis :)

tomily

@tomily
Hey zusammen,

habe die Skripte nun einige Zeit am laufen. Funktioniert super und hab mich schon mehrmals auf nicht mehr funktionierende Backups hingewiesen :-)

ZIEL ERREICHT =)

Eine Frage bzw. weitere Idee habe ich noch:

Kann ich das Skript auch "umdrehen", sodass auf NEUE DATEIEN geprüft wird?
Also: Verzeichniss sollte immer leer sein und sobald eine oder mehrer Dateien drin liegen, wird ausgelöst?

Muss ich nur die Abfrage nach Zeit umdrehen?

Beste Grüße
Tom

Community Forum

NEWS

Ordner auf neue Dateien überwachen

Support us

271

32.4k

81.4k

1.3m