Ordner auf neue Dateien überwachen

tomily

@randyandy
Hi,
das ist mit nem Einzeiler per Batchdatei möglich, ist aber in dem Fall nicht gesucht :-)

Ich will tatsächlich nichts bereinigen, sondern erkennen, wenn keine neuen Updates mehr dazu kommen.

Esseiden es wäre mit deiner Variante möglich die Neueste Datei statt der ältesten erkennen?

Dann könnte man von der neusten Datei das Erstelldatum ermitteln und anschließend weiterverarbeiten?

LG

ente34

@tomily

Ungefähr so
Du benötigst aber den neuesten javascript-Adapter 4.11.0

const fs = require('fs');
const util = require('util');
const readdir = util.promisify(fs.readdir);
const stat = util.promisify(fs.stat);
const lstat = util.promisify(fs.lstat);

async function checkDir(dir) {
    let files = [];
    try {
        files = await readdir(dir);
       
        let newestFileAge = 0;
        let newestFile = '';

        for (let file of files) {
            let fullpath = dir + '/' + file;
            const s = await lstat(fullpath);
            if (s.isFile()) {
                const stats = await stat(fullpath);
                if (stats.mtimeMs > newestFileAge) {
                    newestFileAge = stats.mtimeMs;
                    newestFile = file;
                }
            }
        }

        let seconds = (new Date().getTime() - new Date(newestFileAge).getTime()) / 1000;
        console.log(`newest file "${newestFile}" created before ${seconds} seconds`);
    } catch (e) {
        console.log(e);
    }
}

checkDir('c:/temp');

RandyAndy

@ente34

Cool, das hatte ich vor ein paar Jahren mal probiert aber nicht hinbekommen.
ICh möchte es eigentlich nicht so sehr zum Löschen oder was auch immer verwenden sondern um zu erkennen ob es eine neue Datei von der Kamera gibt. Dann kann ich diese gezielt anzeigen wenn sich etwas getan hat.

Das probiere ich mal aus.

Andreas

tomily

@ente34
Merci. Ich möchte es ähnlich machen wie Andreas. Überprüfen, ob neue Dateien nachkommen. Wenn nicht, dann soll etwas passieren.

Eine Rückfrage habe ich noch....:

Du gibst in deinem Script an checkDir(c:\temp);
"

Ich führe das Script auf meinem ioBroker unter Linux aus. Im generellen möchte ich ein Netzlaufwerk überprüfen.
Wie habe ich die Möglichkeit dort ein Netzlaufwerk anzugeben?

checkDir(\IP\Share\Ordner1);??

ente34

@tomily
Unter linux musst Du die NAS mounten.

cd  /home/pi
mkdir mnt
sudo mount -t cifs -o username=...,password=...,vers=3.0 //nas02/backup /home/pi/mount

User und Password auf der NAS anlegen
/backup ist ein Freigabe Ordner auf der NAS

tomily

@ente34
Geil, danke! Ich habs zum testen mal mit nem Lokalen Ordner auf dem Server ausgeführt. Den Mount, kann ich dann später noch machen.
Die Ausgabe scheint korrekt zu sein. Jedenfalls wird korrekt erkannt, welches die neuste Datei ist.

Natürlich die doofe und Freche frage. Wie kann ich da jetzt weiterverarbeiten. Am besten mit einer Variable in "Anzahl Tagen" um zu prüfen, ob die Datei älter ist oder nicht.

Ziel:
Wenn die neueste Datei älter ist, als 3 Tage, dann soll eine Email ausgelöst werden.

ente34

@tomily
Etwa so:

if ( seconds > 3*86400 ) {
sendTo("email.0", "send", {
   text: 'Body',
   to: 'test@gmx.de',
   subject: 'Betreff'
});

}

tomily

@ente34
Guten Morgen,

herzlichen Dank. Wirkt beides plausibel. Sehr geil das hilft mir extrem.
Könntest du mir noch verraten, wo ich die Email-Scriptszeilen einfügen soll? Innerhalb des Scriptes oben, oder in einem separaten Aufruf?

So ist es offensichtlich falsch :-D (Habe die Emailadresse absichtlich noch nicht ausgefüllt)

const fs = require('fs');
const util = require('util');
const readdir = util.promisify(fs.readdir);
const stat = util.promisify(fs.stat);
const lstat = util.promisify(fs.lstat);

async function checkDir(dir) {
    let files = [];
    try {
        files = await readdir(dir);
       
        let newestFileAge = 0;
        let newestFile = '';
 
        for (let file of files) {
            let fullpath = dir + '/' + file;
            const s = await lstat(fullpath);
            if (s.isFile()) {
                const stats = await stat(fullpath);
                if (stats.mtimeMs > newestFileAge) {
                    newestFileAge = stats.mtimeMs;
                    newestFile = file;
                }
            }
        }
 
        let seconds = (new Date().getTime() - new Date(newestFileAge).getTime()) / 1000;
        console.log(`newest file "${newestFile}" created before ${seconds} seconds`);
    } catch (e) {
        console.log(e);
    }
}
//################################
if ( seconds > 3*86400 ) {
sendTo("email.0", "send", {
   text: 'Body',
   to: 'test@gmx.de',
   subject: 'Betreff'
});

}
//################################

checkDir('/etc/test1');

ente34

@tomily
Zeile 28, wenn "seconds" zugewiesen sind

tomily

@ente34 Vielen Dank und sorry für die späte Rückmeldung.
Ich hatte ganz vergessen das positive Eregebnis hier zu posten :-(

Es hat geklappt und ich bekomme jetzt eine Email, wenn die Datei zu alt ist. HERVORRAGEND.

Nun muss ich nur dafür sorgen, dass vor dem ausführen die Laufwerke verbunden werden.
Eine Frage hätte ich noch. Kann ich einen Trigger direkt in das Script einbauen? z.B. dass das Script immer zu einer bestimmten Tageszeit läuft?

tomily

@tomily
Noch ein kleiner Nachtrag bzw. erneute Frage :-)

Ich könnte natürlich im Filesystem der Linuxmaschine, auf der der ioBroker läuft die zu überwachenden Laufwerke mounten.
Würde diese aber ganz gerne vor dem Prüfen aus dem SCript heraus verbinden und anschließend wieder trennen.

Kann ich den "Mountbefehl" aus dem JavaScript heraus ausführen?

ente34

@tomily
Basteln wir mal alles zusammen.

const fs = require('fs');
const util = require('util');
const readdir = util.promisify(fs.readdir);
const stat = util.promisify(fs.stat);
const lstat = util.promisify(fs.lstat);

const mountDir = '/home/pi/mount';
const nasDir = '//nas02/backup'
const mountCmd = `sudo mount -t cifs -o username=...,password=...,vers=3.0 ${nasDir} ${mountDir}`;
const umountCmd = `sudo umount ${nasDir}`;

const warnSeconds = 5 * 86400;

async function checkDir(dir) {
    let rc = false;
    try {
        let files = [];
        files = await readdir(dir);

        let newestFileAge = 0;
        let newestFile = '';

        for (let file of files) {
            let fullpath = dir + '/' + file;
            const s = await lstat(fullpath);
            if (s.isFile()) {
                const stats = await stat(fullpath);
                if (stats.mtimeMs > newestFileAge) {
                    newestFileAge = stats.mtimeMs;
                    newestFile = file;
                }
            }
        }

        let seconds = (new Date().getTime() - new Date(newestFileAge).getTime()) / 1000;
        rc = seconds > warnSeconds;
        console.log(`newest file "${newestFile}" created before ${seconds} seconds`);
    } catch (e) {
        console.log(e);
    } finally {
        return rc;
    }
}

/**
 * Executes a shell command and return it as a Promise.
 * @param cmd {string}
 * @return {Promise<string>}
 */
function execShellCommand(cmd) {
    const exec = require('child_process').exec;
    return new Promise((resolve, reject) => {
        exec(cmd, (error, stdout, stderr) => {
            if (error) {
                console.warn(error);
            }
            resolve(stdout ? stdout : stderr);
        });
    });
}

async function checkBackup() {
    try {
        //hier mount-Kommando
        await execShellCommand(mountCmd);

        let result = await checkDir(mountDir);
        if (result) {
            // Mail abschicken
            console.log('Send Mail');
        }

        //hier umount-Kommando
        await execShellCommand(umountCmd);
    } catch (e) {
        console.warn(e);
    }
}

// 22:30
schedule('30 22 * * *', () => {
    checkBackup();
});

Im Javascript-Adapter "exec" erlauben!

mickym

@tomily Warum nutzt Du nicht die Watch-Node?

tomily

@ente34
Geil, das sieht gut aus. Ich teste es gleich heute Abend! DANKE!

tomily

@mickym
Hmmmm, weil ich nicht weiß wie ich es damit lösen könnte? :-) Ginge das denn?

In diesem Fall habe ich NodeRed gar nicht im Spiel. Wäre aber auch denkbar.

mickym

@tomily Nun ich hätte mich hier nie ;) eingemischt, aber nachdem ich ja weiß, dass Du bislang alles mit NodeRed gemacht hast, war ich etwas verwundert und vielleicht denkst Du ja auch über einen Systemwechsel nach.

Außerdem hat hier @ente34 Dir schon viel geholfen und Arbeit reingesteckt und das gebietet schon der Respekt, dass ich mich da nicht einmische.

Als ich dann gestern diesen Thread hier entdeckt habe, habe ich mir Deine Anfordeung mal als Herausforderung gestellt und mal einen kleinen Flow gebastelt - wobei ich nicht im Detail weiß, ob das Deinen Bedürfnissen entspricht.

Hier mal nur der Flow mit ein paar Erklärungen:

Ich habe der Einfachheit einfach mal angenommen, dass nur ein Backup in ein Verzeichnis schreibt und deshalb nur dieser Task etwas an dem Verzeichnis ändert. Ich habe deshalb mal als Beispiel das iobroker backup genommen.

Mit der Watch-Node beobachte ich also das "/opt/iobroker/backups" Verzeichnis - welche Änderungen sind mir wurscht - weil ich davon ausgehe, dass das nur der backitup-Adapter ist, der da was verändert.
Findet eine Aktivität statt läuft z. Bsp der obere Ast los und schreibt einen Eintrag über ein erfolgreiches Backup in die Logdatei .
Gleichzeitig wird der Trigger im unteren Ast getriggert, der solange nichts verschickt, solange 25 Stunden keine neue Nachricht (also Aktivität) stattfindet.
Findet keine Aktivität statt schreibt er eine negativen Logeintrag und schickt Dir eine Mail

Die Logdatei in der diese Aktivität überwacht wird schaut dann einfach so aus:

und die Mail im Fehlerfall würde dann so aussehen:

und dann kannst Du ja wieder mit Deinem anderen Projekt mehrere Logdateien zu überwachen ggf. fortfahren. ;) ;) ;)

[
   {
       "id": "9b7a57bd.8ee618",
       "type": "watch",
       "z": "6e170384.60c96c",
       "name": "",
       "files": "/opt/iobroker/backups",
       "recursive": "",
       "x": 2560,
       "y": 3460,
       "wires": [
           [
               "94badf85.3ebad",
               "eab4a1ca.fda7c"
           ]
       ]
   },
   {
       "id": "94badf85.3ebad",
       "type": "change",
       "z": "6e170384.60c96c",
       "name": "true",
       "rules": [
           {
               "t": "set",
               "p": "payload",
               "pt": "msg",
               "to": "true",
               "tot": "bool"
           }
       ],
       "action": "",
       "property": "",
       "from": "",
       "to": "",
       "reg": false,
       "x": 2770,
       "y": 3440,
       "wires": [
           [
               "5048baed.cf7704"
           ]
       ]
   },
   {
       "id": "eab4a1ca.fda7c",
       "type": "trigger",
       "z": "6e170384.60c96c",
       "name": "",
       "op1": "",
       "op2": "false",
       "op1type": "nul",
       "op2type": "bool",
       "duration": "25",
       "extend": true,
       "overrideDelay": false,
       "units": "hr",
       "reset": "",
       "bytopic": "all",
       "topic": "topic",
       "outputs": 1,
       "x": 2800,
       "y": 3500,
       "wires": [
           [
               "db949d4b.5a23d",
               "3556f13.927030e"
           ]
       ]
   },
   {
       "id": "db949d4b.5a23d",
       "type": "change",
       "z": "6e170384.60c96c",
       "name": "Log-Eintrag",
       "rules": [
           {
               "t": "change",
               "p": "payload",
               "pt": "msg",
               "from": "true",
               "fromt": "bool",
               "to": "Backup gestartet ...",
               "tot": "str"
           },
           {
               "t": "change",
               "p": "payload",
               "pt": "msg",
               "from": "false",
               "fromt": "bool",
               "to": "fehlendes Backup",
               "tot": "str"
           },
           {
               "t": "set",
               "p": "payload",
               "pt": "msg",
               "to": "'iobroker.backup\\t' & $moment($now()).locale(\"de\").tz('Europe/Berlin').format('YYYY-MM-DD HH:mm:ss.SSS') & '\\t' & payload\t",
               "tot": "jsonata"
           }
       ],
       "action": "",
       "property": "",
       "from": "",
       "to": "",
       "reg": false,
       "x": 3170,
       "y": 3440,
       "wires": [
           [
               "14218c4a.ef2f44"
           ]
       ]
   },
   {
       "id": "14218c4a.ef2f44",
       "type": "file",
       "z": "6e170384.60c96c",
       "name": "",
       "filename": "/home/iobroker/iobroker_backups.log",
       "appendNewline": true,
       "createDir": false,
       "overwriteFile": "false",
       "encoding": "none",
       "x": 3450,
       "y": 3440,
       "wires": [
           []
       ]
   },
   {
       "id": "9e3e44a3.7826a8",
       "type": "e-mail",
       "z": "6e170384.60c96c",
       "server": "",
       "port": "465",
       "secure": true,
       "tls": true,
       "name": "",
       "dname": "verschicke Mail",
       "x": 3380,
       "y": 3500,
       "wires": []
   },
   {
       "id": "3556f13.927030e",
       "type": "change",
       "z": "6e170384.60c96c",
       "name": "",
       "rules": [
           {
               "t": "set",
               "p": "topic",
               "pt": "msg",
               "to": "Fehlendes Backup",
               "tot": "str"
           },
           {
               "t": "set",
               "p": "payload",
               "pt": "msg",
               "to": "'Fehlendes Backup festgestellt am: ' & $moment($now()).locale(\"de\").tz('Europe/Berlin').format('YYYY-MM-DD HH:mm:ss.SSS')",
               "tot": "jsonata"
           }
       ],
       "action": "",
       "property": "",
       "from": "",
       "to": "",
       "reg": false,
       "x": 3020,
       "y": 3500,
       "wires": [
           [
               "25921972.cd66c6"
           ]
       ]
   },
   {
       "id": "25921972.cd66c6",
       "type": "template",
       "z": "6e170384.60c96c",
       "name": "",
       "field": "payload",
       "fieldType": "msg",
       "format": "handlebars",
       "syntax": "mustache",
       "template": "<h1>Warnung: Fehlendes Backup</h1>\n\n{{payload}} !",
       "output": "str",
       "x": 3210,
       "y": 3500,
       "wires": [
           [
               "9e3e44a3.7826a8"
           ]
       ]
   },
   {
       "id": "5048baed.cf7704",
       "type": "trigger",
       "z": "6e170384.60c96c",
       "name": "",
       "op1": "",
       "op2": "",
       "op1type": "pay",
       "op2type": "nul",
       "duration": "3",
       "extend": true,
       "overrideDelay": false,
       "units": "min",
       "reset": "",
       "bytopic": "all",
       "topic": "topic",
       "outputs": 1,
       "x": 2950,
       "y": 3440,
       "wires": [
           [
               "db949d4b.5a23d"
           ]
       ]
   }
]

AlCalzone

Wenn es wirklich nur um neue Dateien (neuer Name, nicht überschrieben) geht, kann man im JS Skript auch lediglich mtime des Verzeichnisses prüfen und muss nicht erst alle Dateien enumerieren und deren Zeitstempel prüfen.

tomily

Hallo zusammen,

erst mal einen herzlichen und fetten Dank an @ente34 für den geilen Support.
Ich habe das letzte Script noch etwas für mich angepasst und nun tut es EXAKT das was ich mir vorgestellt habe... Juhuuu :-)

Danke auch an @mickym. Es ist immer interessant mehrere Wege zu testen. Somit lerne ich beide Systeme. Werde den NodeRed-Flow morgen früh gleich mal ausprobieren. Einfach aus Neugierde.

Ich mache viel mit NodeRed. In dem Fall wollte ich das Backup-Prüfscript aber absichtlich in einem anderen System betreiben. Es macht nie Sinn eine Datensicherung vom gleichen System zu prüfen, das es auch erstellt.

Spinnt das System, erhält man gar keine Infos mehr. Deshalb arbeite ich mit mehreren Instanzen und Servern.

Ich prüfe somit mehrere Verzeichnisse auf neue Sicherungen ab. Ganz egal, wie diese erstellt wurden. Manche kommen vom ioBroker direkt. Manche liefert das ESXi-Serverbackup und manche kopiere ich von Hand rein und werde somit nach einer Gewissen Zeit erinnert es wieder zu tun :-)

Das einzige, das nicht funktioniert ist, wenn die Sicherungen in Unterverzeichnissen liegen. Das wäre dann die nächste Hürde :-)

mickym

@tomily
Ich hab mir nun aber mal das Skript von @ente34 genauer angeschaut und da wird das Verzeichnis ja zum Überprüfungszeitpunkt gemountet, analysiert und dann wieder unmounted.
Der flow geht aber einen ganz anderen Ansatz - der permanenten Überprüfung!
Deshalb dürfte der Flow für Dich doch nicht geeignet sein. Der Flow geht ja davon aus, dass Du eine permanente Verbindung zur Überwachung hälst (gemountete Verzeinchisse) und nicht nur zu einem bestimmten Zeitpunkt, wie das ja das Script macht. Also insofern vergiss einfach den Flow. ;)

tomily

@mickym
Ich danke Dir für den input. Für mich sind trotzdem beide Varianten sehr interessant.

Der Ursprüngliche Zweck war ja zu erkennen, wenn keine neue Dateien mehr kommen. Der permanente Überwachung wäre sicherlich auch in einigen Situationen sinnvoll.

Zur NOT könnte ich das Verzeichnis dauerhaft mounten. Aber egtl muss und soll das nicht sein.

Die Prüfung würde mir 1-2x am Tag reichen. Weiss nicht, ob die „Dauerprüfung“ evtl traffic oder performance Probleme verursacht?

@ente34
Könnte ich mit dem Skript evtl. Auch zusätlich rekursiv in Unteeverzeichnissen suchen?
War zwar keine ursprüngliche Anforderung von mir, aber nachdem ich meine ganzen Check-Jobs eingerichtet habe, bin ich noch darauf gestossen.

Community Forum

NEWS

Ordner auf neue Dateien überwachen

Support us

803

32.5k

81.6k

1.3m