Bayrol Webportal

qwertz

@oliverio Danke ! Ich schicke dir eine PN.

Im HomeAssistant kann der Scraper übrigens ein Login durchführen, so dass damit Scraping der Daten nach LogIn gelingt. Der iobroker Parser kann das leider nicht.

OliverIO

@qwertz

so bayrol bitte zum ausprobieren

in den einstellungen von javascript muss das zusätzliche npm modul
node-fetch@2
eingetragen sein
den bereich zwischen config start/end pflegen. im minimum reicht user und password
die datenpunkte müssen vor dem start mit typ number existieren. das skript legt sie nicht an.
die zeit in der die daten erneut abgerufen werden ist aktuell auf 10 Sekunden eingestellt. der hersteller selbst verwendet so um die 3-5 sekunden
das skript ist so gestaltet, das der hersteller es nicht merkt, das hier nicht von einem browser aus abgerufen wird (Verwendung eines user-agent-string eines browsers.

bei fehler bitte hier reporten.
da ich es aktuell nur mit genau einem account ausprobieren konnte, benötige ich evtl bei fehler noch die zugangskennung von einem weiteren.

da es aufgrund einer bestimmten regex-formulierung hier mit dem forum probleme gibt, ist das funktionierende skript
hier
https://forum.iobroker.net/topic/66973/bayrol-webportal/51?_=1715102271322
als Anhang zu finden

qwertz

@oliverio
@oliverio
Super ! Vielen Dank.

Ist das mit node-fetch@2 so richtig eingetragen ? JS-Adapter habe ich danach neugestartet.

Bildschirmfoto 2024-01-29 um 15.58.33.png

Hier die DP:
Bildschirmfoto 2024-01-29 um 15.54.01.png

Hier das FehlerLog
Bildschirmfoto 2024-01-29 um 15.53.28.png

qwertz

Bildschirmfoto 2024-01-29 um 16.11.42.png

so kommt der gleiche Fehler

Hier ist die Ausgabe von npm ls node-fetch

sf@esxubuntu:/opt/iobroker$ npm ls node-fetch
[sudo] password for sf: 
iobroker.inst@3.0.0 /opt/iobroker
├─┬ iobroker.backitup@2.10.6
│ ├─┬ google-auth-library@9.5.0
│ │ └─┬ gaxios@6.1.1
│ │   └── node-fetch@2.6.13
│ └─┬ webdav@5.3.1
│   └─┬ @buttercup/fetch@0.1.2
│     └── node-fetch@3.3.2
├─┬ iobroker.javascript@7.7.0
│ └── node-fetch@2.7.0
├─┬ iobroker.mihome-vacuum@4.1.1
│ └─┬ canvas@2.11.2
│   └─┬ @mapbox/node-pre-gyp@1.0.10
│     └── node-fetch@2.6.13 deduped
└─┬ iobroker.roborock@0.4.4
  └─┬ fetch-github-release@1.0.0
    └─┬ @octokit/rest@18.12.0
      └─┬ @octokit/core@3.6.0
        └─┬ @octokit/request@5.6.3
          └── node-fetch@2.6.13 deduped

OliverIO

@qwertz

also die fehlermeldung liegt nicht an der bibliothek,
sondern daran, das der login wahrscheinlich nicht geklappt hat

de seite enthält nicht den text mit der cid,
welcher normalerweise nach dem login enthalten ist.
prüfe bitte nochmal deine im skript eingetragenen anmeldedaten.

Die eckige Klammer hat ohne backslash eine ganz andere Bedeutung in regex wie mit.

qwertz

@oliverio
Die Anmeldedaten passen. Habe ich die Datenpunkte richtig angelegt ? Kann ich die CID in einer bestimmten Zeile vorgeben, um ein CID-Ausleseproblem auszuschließen ? Javascript ist richtig, oder Typescript ?

OliverIO

@qwertz

ich sende dir das skript mit deinen anmeldedaten,
das soeben erfolgreich gelaufen ist per Chat.

also einfach nur copy paste, laufen lassen.
es ist rein javascript

OliverIO

@oliverio

hier nochmal das skript
zeile 5 und 6 mit den zeilen aus dem chat ersetzen bitte

// jshint esversion: 8
const fetch = require('node-fetch');

//config start
let user="user";
let password="password";
let dpPH = "0_userdata.0.bayrol.ph";
let dpMV = "0_userdata.0.bayrol.mv";
let dpCC = "0_userdata.0.bayrol.cc";
let requesttime=10*1000; //erneuterdatenabruf in Millisekunden

const useragent = "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/120.0.0.0 Safari/537.36";
//config end

async function main() {
    let sessionid = await getSession();
    let cid= await login(user,password,sessionid);
    if (cid) await getData(sessionid,cid);
    let a=1;
}
async function  getSession() {
    const response = await fetch("https://www.bayrol-poolaccess.de/webview/index.php", {
        "headers": {
          "accept": "text/html,application/xhtml+xml,application/xml;q=0.9,image/avif,image/webp,image/apng,*/*;q=0.8,application/signed-exchange;v=b3;q=0.7",
          "accept-language": "de-DE,de;q=0.9,en-US;q=0.8,en;q=0.7",
          "cache-control": "no-cache",
          "pragma": "no-cache",
          "sec-ch-ua": "\"Not_A Brand\";v=\"8\", \"Chromium\";v=\"120\", \"Google Chrome\";v=\"120\"",
          "sec-ch-ua-mobile": "?0",
          "sec-ch-ua-platform": "\"Windows\"",
          "sec-fetch-dest": "document",
          "sec-fetch-mode": "navigate",
          "sec-fetch-site": "none",
          "sec-fetch-user": "?1",
          "upgrade-insecure-requests": "1",
          "User-Agent":useragent
        },
        "referrerPolicy": "strict-origin-when-cross-origin",
        "body": null,
        "method": "GET"
      });
      let headers = await response.headers;
      return getSessionId(headers.get("set-cookie"));
}
async function login(user,password,sessionid) {
  let body=`username=${encodeURIComponent(user)}&password=${encodeURIComponent(password)}&login=Anmelden`;
  const response = await fetch("https://www.bayrol-poolaccess.de/webview/p/login.php?r=reg", {
    "headers": {
      "accept": "text/html,application/xhtml+xml,application/xml;q=0.9,image/avif,image/webp,image/apng,*/*;q=0.8,application/signed-exchange;v=b3;q=0.7",
      "accept-language": "de-DE,de;q=0.9,en-US;q=0.8,en;q=0.7",
      "cache-control": "no-cache",
      "content-type": "application/x-www-form-urlencoded",
      "pragma": "no-cache",
      "sec-ch-ua": "\"Not_A Brand\";v=\"8\", \"Chromium\";v=\"120\", \"Google Chrome\";v=\"120\"",
      "sec-ch-ua-mobile": "?0",
      "sec-ch-ua-platform": "\"Windows\"",
      "sec-fetch-dest": "document",
      "sec-fetch-mode": "navigate",
      "sec-fetch-site": "same-origin",
      "sec-fetch-user": "?1",
      "upgrade-insecure-requests": "1",
      "cookie": `PHPSESSID=${sessionid}`,
      "Referer": "https://www.bayrol-poolaccess.de/webview/p/login.php",
      "Referrer-Policy": "strict-origin-when-cross-origin",
      "User-Agent":useragent
    },
    "body": body,
    "method": "POST"
  });  
  let text=await response.text();
  return getCID(text);
}
async function getData(sessionid,cid) {
  const response = await fetch(`https://www.bayrol-poolaccess.de/webview/getdata.php?cid=${cid}`, {
    "headers": {
      "accept": "*/*",
      "accept-language": "de-DE,de;q=0.9,en-US;q=0.8,en;q=0.7",
      "cache-control": "no-cache",
      "pragma": "no-cache",
      "sec-ch-ua": "\"Not_A Brand\";v=\"8\", \"Chromium\";v=\"120\", \"Google Chrome\";v=\"120\"",
      "sec-ch-ua-mobile": "?0",
      "sec-ch-ua-platform": "\"Windows\"",
      "sec-fetch-dest": "empty",
      "sec-fetch-mode": "cors",
      "sec-fetch-site": "same-origin",
      "x-requested-with": "XMLHttpRequest",
      "cookie": `PHPSESSID=${sessionid}`,
      "Referer": "https://www.bayrol-poolaccess.de/webview/p/plants.php",
      "Referrer-Policy": "strict-origin-when-cross-origin",
      "User-Agent":useragent
    },
    "body": null,
    "method": "GET"
  });
  let text=await response.text();
  writeData(extractValues(text));
  setTimeout(getData.bind(this),requesttime,sessionid,cid);
}
function writeData(obj) {
try {
    setState(dpCC,parseFloat(obj.CC));
    setState(dpMV,parseFloat(obj.MV));
    setState(dpPH,parseFloat(obj.PH));
} catch (error) {
    log(error);
}    
}
function extractValues(text){
  const regexPH = /[pH]<\/span><h1>([\d\.]+)<\/h1>/gm;
  const regexMV = /[mV]<\/span><h1>([\d\.]+)<\/h1>/gm;
  const regexCC = /[°C]<\/span><h1>([\d\.]+)<\/h1>/gm;
  return {
    PH:regexPH.exec(text)[1],
    MV:regexMV.exec(text)[1],
    CC:regexCC.exec(text)[1],
  };

}
async function getCID(text){
    const regex = /var clients = [(\d+)];/gm;
    let result = regex.exec(text);
    if (result.length==2) return result[1];
    return undefined;
}
function getSessionId(setcookie){
    let cookieHeader = setcookie;
    if (cookieHeader.length>0) {
        let cookieArray = cookieHeader.split(";")
        const cookieObject = {};
        cookieArray.forEach(cookie => {
          const [name, value] = cookie.split('=');
          cookieObject[(name||"empty").trim()] = (value||"").trim();
        });
        return cookieObject["PHPSESSID"]||"";
    }
}
main();

qwertz

@oliverio
Danke dir. Leider bekomme ich wieder den gleichen Fehler. Die LogInDaten sind 100% korrekt.
Copy Paste vom Script habe ich sowohl unter Firefox, Chrome, Mac, Windows probiert.
Ich warte mal ab, ob sich hier noch User finden, die das Skript bei sich zum Laufen bekommen.

12:30:09.955	error	javascript.0 (352246) script.js.Bayrol_3: TypeError: Cannot read properties of null (reading 'length')
12:30:09.956	error	javascript.0 (352246) at getCID (script.js.Bayrol_3:242:16)
12:30:09.956	error	javascript.0 (352246) at login (script.js.Bayrol_3:140:10)
12:30:09.956	error	javascript.0 (352246) at main (script.js.Bayrol_3:32:14)

OliverIO

@qwertz

sehr seltsam. verstehe ich nicht.
per fetch werden die daten exakt so abgerufen wie im browser.
wenn ich es abrufe funktioniert es
jetzt kann es eigentlich nur noch daran liegen an unterschiedlicher node version

im docker container befindet sich
v18.17.1
aber sollte eigentlich keinen unterschied machen

sued72

@oliverio
Hi, habe gerad auch dein Skript getestet. Verhalten ist genau gleich wie bei @qwertz.

OliverIO

@sued72

immer noch seltsam.
habe das skript nochmal gestartet
klappt immer noch alles.

bitte vor der funktion return getCID(text) mal noch log(text); einfügen, so das die stelle wie folgt aussieht.
das ergebnis aus dem script log bitte kopieren und mir per PN senden.
Es ist die relativ große Ausgabe. Es ist die Seite, die nach dem Anmelden aufgerufen wird. Der Eintrag erscheint nur einmal nach dem skriptstart

  let text=await response.text();
  log(text);
  return getCID(text);

5.4.2024, 15:10:45.117	[info ]: javascript.0 (2448) Start javascript script.js.bayrol
5.4.2024, 15:10:45.208	[info ]: javascript.0 (2448) script.js.bayrol: registered 0 subscriptions, 0 schedules, 0 messages, 0 logs and 0 file subscriptions
5.4.2024, 15:10:45.970	[info ]: javascript.0 (2448) script.js.bayrol: setForeignState(id=0_userdata.0.bayrol.cc, state={"val":15,"ack":false,"ts":1712322645969,"q":0,"from":"system.adapter.javascript.0","lc":1712322645969,"c":"script.js.bayrol"})
5.4.2024, 15:10:45.971	[info ]: javascript.0 (2448) script.js.bayrol: setForeignState(id=0_userdata.0.bayrol.mv, state={"val":725,"ack":false,"ts":1712322645971,"q":0,"from":"system.adapter.javascript.0","lc":1712322645971,"c":"script.js.bayrol"})
5.4.2024, 15:10:45.972	[info ]: javascript.0 (2448) script.js.bayrol: setForeignState(id=0_userdata.0.bayrol.ph, state={"val":7.2,"ack":false,"ts":1712322645972,"q":0,"from":"system.adapter.javascript.0","lc":1712322645972,"c":"script.js.bayrol"})
5.4.2024, 15:10:45.972	[info ]: javascript.0 (2448) script.js.bayrol: setTimeout(ms=10000)
5.4.2024, 15:10:56.068	[info ]: javascript.0 (2448) script.js.bayrol: setForeignState(id=0_userdata.0.bayrol.cc, state={"val":15,"ack":false,"ts":1712322656068,"q":0,"from":"system.adapter.javascript.0","lc":1712322645969,"c":"script.js.bayrol"})
5.4.2024, 15:10:56.069	[info ]: javascript.0 (2448) script.js.bayrol: setForeignState(id=0_userdata.0.bayrol.mv, state={"val":725,"ack":false,"ts":1712322656069,"q":0,"from":"system.adapter.javascript.0","lc":1712322645971,"c":"script.js.bayrol"})
5.4.2024, 15:10:56.070	[info ]: javascript.0 (2448) script.js.bayrol: setForeignState(id=0_userdata.0.bayrol.ph, state={"val":7.2,"ack":false,"ts":1712322656070,"q":0,"from":"system.adapter.javascript.0","lc":1712322645972,"c":"script.js.bayrol"})
5.4.2024, 15:10:56.071	[info ]: javascript.0 (2448) script.js.bayrol: setTimeout(ms=10000)
5.4.2024, 15:11:06.185	[info ]: javascript.0 (2448) script.js.bayrol: setForeignState(id=0_userdata.0.bayrol.cc, state={"val":15.1,"ack":false,"ts":1712322666185,"q":0,"from":"system.adapter.javascript.0","lc":1712322666185,"c":"script.js.bayrol"})
5.4.2024, 15:11:06.186	[info ]: javascript.0 (2448) script.js.bayrol: setForeignState(id=0_userdata.0.bayrol.mv, state={"val":725,"ack":false,"ts":1712322666186,"q":0,"from":"system.adapter.javascript.0","lc":1712322645971,"c":"script.js.bayrol"})
5.4.2024, 15:11:06.187	[info ]: javascript.0 (2448) script.js.bayrol: setForeignState(id=0_userdata.0.bayrol.ph, state={"val":7.2,"ack":false,"ts":1712322666187,"q":0,"from":"system.adapter.javascript.0","lc":1712322645972,"c":"script.js.bayrol"})
5.4.2024, 15:11:06.188	[info ]: javascript.0 (2448) script.js.bayrol: setTimeout(ms=10000)
5.4.2024, 15:11:16.288	[info ]: javascript.0 (2448) script.js.bayrol: setForeignState(id=0_userdata.0.bayrol.cc, state={"val":15.1,"ack":false,"ts":1712322676288,"q":0,"from":"system.adapter.javascript.0","lc":1712322666185,"c":"script.js.bayrol"})
5.4.2024, 15:11:16.289	[info ]: javascript.0 (2448) script.js.bayrol: setForeignState(id=0_userdata.0.bayrol.mv, state={"val":725,"ack":false,"ts":1712322676289,"q":0,"from":"system.adapter.javascript.0","lc":1712322645971,"c":"script.js.bayrol"})
5.4.2024, 15:11:16.290	[info ]: javascript.0 (2448) script.js.bayrol: setForeignState(id=0_userdata.0.bayrol.ph, state={"val":7.2,"ack":false,"ts":1712322676290,"q":0,"from":"system.adapter.javascript.0","lc":1712322645972,"c":"script.js.bayrol"})
5.4.2024, 15:11:16.291	[info ]: javascript.0 (2448) script.js.bayrol: setTimeout(ms=10000)
5.4.2024, 15:11:26.388	[info ]: javascript.0 (2448) script.js.bayrol: setForeignState(id=0_userdata.0.bayrol.cc, state={"val":15.1,"ack":false,"ts":1712322686388,"q":0,"from":"system.adapter.javascript.0","lc":1712322666185,"c":"script.js.bayrol"})
5.4.2024, 15:11:26.389	[info ]: javascript.0 (2448) script.js.bayrol: setForeignState(id=0_userdata.0.bayrol.mv, state={"val":725,"ack":false,"ts":1712322686388,"q":0,"from":"system.adapter.javascript.0","lc":1712322645971,"c":"script.js.bayrol"})
5.4.2024, 15:11:26.389	[info ]: javascript.0 (2448) script.js.bayrol: setForeignState(id=0_userdata.0.bayrol.ph, state={"val":7.2,"ack":false,"ts":1712322686389,"q":0,"from":"system.adapter.javascript.0","lc":1712322645972,"c":"script.js.bayrol"})
5.4.2024, 15:11:26.390	[info ]: javascript.0 (2448) script.js.bayrol: setTimeout(ms=10000)
5.4.2024, 15:11:36.491	[info ]: javascript.0 (2448) script.js.bayrol: setForeignState(id=0_userdata.0.bayrol.cc, state={"val":15.1,"ack":false,"ts":1712322696491,"q":0,"from":"system.adapter.javascript.0","lc":1712322666185,"c":"script.js.bayrol"})
5.4.2024, 15:11:36.492	[info ]: javascript.0 (2448) script.js.bayrol: setForeignState(id=0_userdata.0.bayrol.mv, state={"val":725,"ack":false,"ts":1712322696492,"q":0,"from":"system.adapter.javascript.0","lc":1712322645971,"c":"script.js.bayrol"})
5.4.2024, 15:11:36.492	[info ]: javascript.0 (2448) script.js.bayrol: setForeignState(id=0_userdata.0.bayrol.ph, state={"val":7.2,"ack":false,"ts":1712322696492,"q":0,"from":"system.adapter.javascript.0","lc":1712322645972,"c":"script.js.bayrol"})
5.4.2024, 15:11:36.493	[info ]: javascript.0 (2448) script.js.bayrol: setTimeout(ms=10000)
5.4.2024, 15:11:46.595	[info ]: javascript.0 (2448) script.js.bayrol: setForeignState(id=0_userdata.0.bayrol.cc, state={"val":15.1,"ack":false,"ts":1712322706594,"q":0,"from":"system.adapter.javascript.0","lc":1712322666185,"c":"script.js.bayrol"})
5.4.2024, 15:11:46.595	[info ]: javascript.0 (2448) script.js.bayrol: setForeignState(id=0_userdata.0.bayrol.mv, state={"val":725,"ack":false,"ts":1712322706595,"q":0,"from":"system.adapter.javascript.0","lc":1712322645971,"c":"script.js.bayrol"})
5.4.2024, 15:11:46.596	[info ]: javascript.0 (2448) script.js.bayrol: setForeignState(id=0_userdata.0.bayrol.ph, state={"val":7.2,"ack":false,"ts":1712322706596,"q":0,"from":"system.adapter.javascript.0","lc":1712322645972,"c":"script.js.bayrol"})
5.4.2024, 15:11:46.596	[info ]: javascript.0 (2448) script.js.bayrol: setTimeout(ms=10000)
5.4.2024, 15:11:56.696	[info ]: javascript.0 (2448) script.js.bayrol: setForeignState(id=0_userdata.0.bayrol.cc, state={"val":15.1,"ack":false,"ts":1712322716696,"q":0,"from":"system.adapter.javascript.0","lc":1712322666185,"c":"script.js.bayrol"})
5.4.2024, 15:11:56.696	[info ]: javascript.0 (2448) script.js.bayrol: setForeignState(id=0_userdata.0.bayrol.mv, state={"val":725,"ack":false,"ts":1712322716696,"q":0,"from":"system.adapter.javascript.0","lc":1712322645971,"c":"script.js.bayrol"})
5.4.2024, 15:11:56.697	[info ]: javascript.0 (2448) script.js.bayrol: setForeignState(id=0_userdata.0.bayrol.ph, state={"val":7.2,"ack":false,"ts":1712322716697,"q":0,"from":"system.adapter.javascript.0","lc":1712322645972,"c":"script.js.bayrol"})
5.4.2024, 15:11:56.698	[info ]: javascript.0 (2448) script.js.bayrol: setTimeout(ms=10000)
5.4.2024, 15:11:58.978	[info ]: javascript.0 (2448) Stop script script.js.bayrol

sued72

Habe mal den Debugger bemüht.
Das Problem entsteht schon im Funktionsaufruf getSession().
Die Funktion liefert die Variable response als undefined zurück.

sued72

sued72

Das ist auch noch seltsam:

allerdings scheint alles korrekt installiert zu sein:

OliverIO

@sued72

hm, gut das die fehlermeldung nun auftauchte.
dadurch kann das natürlich auch nicht funktionieren.
am besten die bibliothek nochmal entfernen, speichern so das javascript adapter neu startet und danach wieder hinzufügen.
dann nochmal probieren.

alternativ kannst du, wenn du node ab v18 bereits installiert hast
ohne den require befehl und ohne die zusätzliche bibliohthek versuchen, da ab da der fetch befehl automatisch im befehlsumfang von node nun enthalten ist.
vgl https://nodejs.org/dist/latest-v18.x/docs/api/globals.html#fetch und dann history aufklappen

sued72

@oliverio log habe ich dir pe rPN gesendet. Trotz der Problemmeldung mit node-fetch läuft das Skript ja. Habe nichts verändert. Vom Textinhalt kann ma

OliverIO

@sued72
hab getestet. da kommt das korrekte ergebnis.
gab es da denn auch so eine fehlermeldung?

sued72

n darauf schliessen, dass der Zugriff auf die Website funktioniert. Kann den Namen meiner Anlage sehen...
Die Fehlermeldung ist aber immer noch da

OliverIO

@sued72 sagte in Bayrol Webportal:

Die Funktion liefert die Variable response als undefined zurück

ich habe soeben auch mal den debugger des javascript adapters bemüht.
ja, bei mir wird ebenfalls response als undefined angezeigt.
allerdings scheint das wohl fehlerhaft zu sein, da im weiteren verlauf dennoch die daten aus dem objekt gezogen werden können.

log() schein wohl zuverlässiger zu sein.
ich verwende diesen debugger eigentlich nie, da ich klomplexere skripte immer in vs code entwickle und die ganzen iobroker Abhängigkeiten mittels dummyfunktionen dort kapsle

NEWS

Bayrol Webportal

Support us

871
Online

31.7k
Users

79.6k
Topics

1.3m
Posts

NEWS

Bayrol Webportal

Support us

871Online

31.7kUsers

79.6kTopics

1.3mPosts

871
Online

31.7k
Users

79.6k
Topics

1.3m
Posts