Bayrol Webportal

[KaPunkt]

@qwertz
Das ist doch mal eine Lösung. Ich habe nun extra dafür einen HomeAssistant eingerichtet und eine MQTT Verbindung wird hergestellt. Ich bin nur zu blöd, die Daten an ioBroker zu senden. Wäre es möglich, dass du mir hier die genutzte Konfig sendest?
Vielen Dank

[qwertz]

@kapunkt
Zum Senden im HomeAssistant die Integration "MQTT" installieren.
Dann Einstellungen > Automatisierungen..> Automatisierung erstellen:


Die Entität heißt nur "sensor.bayrol_temp". Es muss aber bei mqtt gesendet werden als "states.sensor.bayrol_temp.state"

Im iobroker neue MQTT Instanz einrichten.

BEnutzer und Passwort habe ich aus der HA_MQTT-Konfiguration rüberkopiert.

[KaPunkt]

@qwertz
Das mit der Homeassistant Automatisierung habe ich irgendwie nicht hinbekommen. Sieht bei mir auch etwas anders aus. Ich muss mich damit mal beschäftigen.
Ich hab das vorerst so lösen können, dass ich in der configuration.yaml folgendes hinzugefügt habe:

# Sende Pooldaten an ioBroker
mqtt_statestream:
  base_topic: homeassistant
  include:
    entities:
      - sensor.pool_ph_wert
      - sensor.pooltemperatur
      - sensor.redoxwert

[OliverIO]

wenn jemand bereit wäre mir eine Zugangskennung bereitzustellen,
dann kann ich mal schauen, was ich machen kann.

[qwertz]

@oliverio Danke ! Ich schicke dir eine PN.

Im HomeAssistant kann der Scraper übrigens ein Login durchführen, so dass damit Scraping der Daten nach LogIn gelingt. Der iobroker Parser kann das leider nicht.

[OliverIO]

@qwertz

so bayrol bitte zum ausprobieren

1. in den einstellungen von javascript muss das zusätzliche npm modul
   node-fetch@2
   eingetragen sein
2. den bereich zwischen config start/end pflegen. im minimum reicht user und password
3. die datenpunkte müssen vor dem start mit typ number existieren. das skript legt sie nicht an.
4. die zeit in der die daten erneut abgerufen werden ist aktuell auf 10 Sekunden eingestellt. der hersteller selbst verwendet so um die 3-5 sekunden
5. das skript ist so gestaltet, das der hersteller es nicht merkt, das hier nicht von einem browser aus abgerufen wird (Verwendung eines user-agent-string eines browsers.

bei fehler bitte hier reporten.
da ich es aktuell nur mit genau einem account ausprobieren konnte, benötige ich evtl bei fehler noch die zugangskennung von einem weiteren.

da es aufgrund einer bestimmten regex-formulierung hier mit dem forum probleme gibt, ist das funktionierende skript
hier
https://forum.iobroker.net/topic/66973/bayrol-webportal/51?_=1715102271322
als Anhang zu finden

[qwertz]

@oliverio
@oliverio
Super ! Vielen Dank.

Ist das mit node-fetch@2 so richtig eingetragen ? JS-Adapter habe ich danach neugestartet.

Hier die DP:

Hier das FehlerLog

[qwertz]

so kommt der gleiche Fehler

Hier ist die Ausgabe von npm ls node-fetch

sf@esxubuntu:/opt/iobroker$ npm ls node-fetch
[sudo] password for sf: 
iobroker.inst@3.0.0 /opt/iobroker
├─┬ iobroker.backitup@2.10.6
│ ├─┬ google-auth-library@9.5.0
│ │ └─┬ gaxios@6.1.1
│ │   └── node-fetch@2.6.13
│ └─┬ webdav@5.3.1
│   └─┬ @buttercup/fetch@0.1.2
│     └── node-fetch@3.3.2
├─┬ iobroker.javascript@7.7.0
│ └── node-fetch@2.7.0
├─┬ iobroker.mihome-vacuum@4.1.1
│ └─┬ canvas@2.11.2
│   └─┬ @mapbox/node-pre-gyp@1.0.10
│     └── node-fetch@2.6.13 deduped
└─┬ iobroker.roborock@0.4.4
  └─┬ fetch-github-release@1.0.0
    └─┬ @octokit/rest@18.12.0
      └─┬ @octokit/core@3.6.0
        └─┬ @octokit/request@5.6.3
          └── node-fetch@2.6.13 deduped

[OliverIO]

@qwertz

also die fehlermeldung liegt nicht an der bibliothek,
sondern daran, das der login wahrscheinlich nicht geklappt hat

de seite enthält nicht den text mit der cid,
welcher normalerweise nach dem login enthalten ist.
prüfe bitte nochmal deine im skript eingetragenen anmeldedaten.

Die eckige Klammer hat ohne backslash eine ganz andere Bedeutung in regex wie mit.

[qwertz]

@oliverio
Die Anmeldedaten passen. Habe ich die Datenpunkte richtig angelegt ? Kann ich die CID in einer bestimmten Zeile vorgeben, um ein CID-Ausleseproblem auszuschließen ? Javascript ist richtig, oder Typescript ?

[OliverIO]

@qwertz

ich sende dir das skript mit deinen anmeldedaten,
das soeben erfolgreich gelaufen ist per Chat.

also einfach nur copy paste, laufen lassen.
es ist rein javascript

[OliverIO]

@oliverio

hier nochmal das skript
zeile 5 und 6 mit den zeilen aus dem chat ersetzen bitte

// jshint esversion: 8
const fetch = require('node-fetch');

//config start
let user="user";
let password="password";
let dpPH = "0_userdata.0.bayrol.ph";
let dpMV = "0_userdata.0.bayrol.mv";
let dpCC = "0_userdata.0.bayrol.cc";
let requesttime=10*1000; //erneuterdatenabruf in Millisekunden

const useragent = "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/120.0.0.0 Safari/537.36";
//config end

async function main() {
    let sessionid = await getSession();
    let cid= await login(user,password,sessionid);
    if (cid) await getData(sessionid,cid);
    let a=1;
}
async function  getSession() {
    const response = await fetch("https://www.bayrol-poolaccess.de/webview/index.php", {
        "headers": {
          "accept": "text/html,application/xhtml+xml,application/xml;q=0.9,image/avif,image/webp,image/apng,*/*;q=0.8,application/signed-exchange;v=b3;q=0.7",
          "accept-language": "de-DE,de;q=0.9,en-US;q=0.8,en;q=0.7",
          "cache-control": "no-cache",
          "pragma": "no-cache",
          "sec-ch-ua": "\"Not_A Brand\";v=\"8\", \"Chromium\";v=\"120\", \"Google Chrome\";v=\"120\"",
          "sec-ch-ua-mobile": "?0",
          "sec-ch-ua-platform": "\"Windows\"",
          "sec-fetch-dest": "document",
          "sec-fetch-mode": "navigate",
          "sec-fetch-site": "none",
          "sec-fetch-user": "?1",
          "upgrade-insecure-requests": "1",
          "User-Agent":useragent
        },
        "referrerPolicy": "strict-origin-when-cross-origin",
        "body": null,
        "method": "GET"
      });
      let headers = await response.headers;
      return getSessionId(headers.get("set-cookie"));
}
async function login(user,password,sessionid) {
  let body=`username=${encodeURIComponent(user)}&password=${encodeURIComponent(password)}&login=Anmelden`;
  const response = await fetch("https://www.bayrol-poolaccess.de/webview/p/login.php?r=reg", {
    "headers": {
      "accept": "text/html,application/xhtml+xml,application/xml;q=0.9,image/avif,image/webp,image/apng,*/*;q=0.8,application/signed-exchange;v=b3;q=0.7",
      "accept-language": "de-DE,de;q=0.9,en-US;q=0.8,en;q=0.7",
      "cache-control": "no-cache",
      "content-type": "application/x-www-form-urlencoded",
      "pragma": "no-cache",
      "sec-ch-ua": "\"Not_A Brand\";v=\"8\", \"Chromium\";v=\"120\", \"Google Chrome\";v=\"120\"",
      "sec-ch-ua-mobile": "?0",
      "sec-ch-ua-platform": "\"Windows\"",
      "sec-fetch-dest": "document",
      "sec-fetch-mode": "navigate",
      "sec-fetch-site": "same-origin",
      "sec-fetch-user": "?1",
      "upgrade-insecure-requests": "1",
      "cookie": `PHPSESSID=${sessionid}`,
      "Referer": "https://www.bayrol-poolaccess.de/webview/p/login.php",
      "Referrer-Policy": "strict-origin-when-cross-origin",
      "User-Agent":useragent
    },
    "body": body,
    "method": "POST"
  });  
  let text=await response.text();
  return getCID(text);
}
async function getData(sessionid,cid) {
  const response = await fetch(`https://www.bayrol-poolaccess.de/webview/getdata.php?cid=${cid}`, {
    "headers": {
      "accept": "*/*",
      "accept-language": "de-DE,de;q=0.9,en-US;q=0.8,en;q=0.7",
      "cache-control": "no-cache",
      "pragma": "no-cache",
      "sec-ch-ua": "\"Not_A Brand\";v=\"8\", \"Chromium\";v=\"120\", \"Google Chrome\";v=\"120\"",
      "sec-ch-ua-mobile": "?0",
      "sec-ch-ua-platform": "\"Windows\"",
      "sec-fetch-dest": "empty",
      "sec-fetch-mode": "cors",
      "sec-fetch-site": "same-origin",
      "x-requested-with": "XMLHttpRequest",
      "cookie": `PHPSESSID=${sessionid}`,
      "Referer": "https://www.bayrol-poolaccess.de/webview/p/plants.php",
      "Referrer-Policy": "strict-origin-when-cross-origin",
      "User-Agent":useragent
    },
    "body": null,
    "method": "GET"
  });
  let text=await response.text();
  writeData(extractValues(text));
  setTimeout(getData.bind(this),requesttime,sessionid,cid);
}
function writeData(obj) {
try {
    setState(dpCC,parseFloat(obj.CC));
    setState(dpMV,parseFloat(obj.MV));
    setState(dpPH,parseFloat(obj.PH));
} catch (error) {
    log(error);
}    
}
function extractValues(text){
  const regexPH = /[pH]<\/span><h1>([\d\.]+)<\/h1>/gm;
  const regexMV = /[mV]<\/span><h1>([\d\.]+)<\/h1>/gm;
  const regexCC = /[°C]<\/span><h1>([\d\.]+)<\/h1>/gm;
  return {
    PH:regexPH.exec(text)[1],
    MV:regexMV.exec(text)[1],
    CC:regexCC.exec(text)[1],
  };

}
async function getCID(text){
    const regex = /var clients = [(\d+)];/gm;
    let result = regex.exec(text);
    if (result.length==2) return result[1];
    return undefined;
}
function getSessionId(setcookie){
    let cookieHeader = setcookie;
    if (cookieHeader.length>0) {
        let cookieArray = cookieHeader.split(";")
        const cookieObject = {};
        cookieArray.forEach(cookie => {
          const [name, value] = cookie.split('=');
          cookieObject[(name||"empty").trim()] = (value||"").trim();
        });
        return cookieObject["PHPSESSID"]||"";
    }
}
main();

[qwertz]

@oliverio
Danke dir. Leider bekomme ich wieder den gleichen Fehler. Die LogInDaten sind 100% korrekt.
Copy Paste vom Script habe ich sowohl unter Firefox, Chrome, Mac, Windows probiert.
Ich warte mal ab, ob sich hier noch User finden, die das Skript bei sich zum Laufen bekommen.

12:30:09.955	error	javascript.0 (352246) script.js.Bayrol_3: TypeError: Cannot read properties of null (reading 'length')
12:30:09.956	error	javascript.0 (352246) at getCID (script.js.Bayrol_3:242:16)
12:30:09.956	error	javascript.0 (352246) at login (script.js.Bayrol_3:140:10)
12:30:09.956	error	javascript.0 (352246) at main (script.js.Bayrol_3:32:14)

[OliverIO]

@qwertz

sehr seltsam. verstehe ich nicht.
per fetch werden die daten exakt so abgerufen wie im browser.
wenn ich es abrufe funktioniert es
jetzt kann es eigentlich nur noch daran liegen an unterschiedlicher node version

im docker container befindet sich
v18.17.1
aber sollte eigentlich keinen unterschied machen

[sued72]

@oliverio
Hi, habe gerad auch dein Skript getestet. Verhalten ist genau gleich wie bei @qwertz.

[OliverIO]

@sued72

immer noch seltsam.
habe das skript nochmal gestartet
klappt immer noch alles.

bitte vor der funktion return getCID(text) mal noch log(text); einfügen, so das die stelle wie folgt aussieht.
das ergebnis aus dem script log bitte kopieren und mir per PN senden.
Es ist die relativ große Ausgabe. Es ist die Seite, die nach dem Anmelden aufgerufen wird. Der Eintrag erscheint nur einmal nach dem skriptstart

  let text=await response.text();
  log(text);
  return getCID(text);

5.4.2024, 15:10:45.117	[info ]: javascript.0 (2448) Start javascript script.js.bayrol
5.4.2024, 15:10:45.208	[info ]: javascript.0 (2448) script.js.bayrol: registered 0 subscriptions, 0 schedules, 0 messages, 0 logs and 0 file subscriptions
5.4.2024, 15:10:45.970	[info ]: javascript.0 (2448) script.js.bayrol: setForeignState(id=0_userdata.0.bayrol.cc, state={"val":15,"ack":false,"ts":1712322645969,"q":0,"from":"system.adapter.javascript.0","lc":1712322645969,"c":"script.js.bayrol"})
5.4.2024, 15:10:45.971	[info ]: javascript.0 (2448) script.js.bayrol: setForeignState(id=0_userdata.0.bayrol.mv, state={"val":725,"ack":false,"ts":1712322645971,"q":0,"from":"system.adapter.javascript.0","lc":1712322645971,"c":"script.js.bayrol"})
5.4.2024, 15:10:45.972	[info ]: javascript.0 (2448) script.js.bayrol: setForeignState(id=0_userdata.0.bayrol.ph, state={"val":7.2,"ack":false,"ts":1712322645972,"q":0,"from":"system.adapter.javascript.0","lc":1712322645972,"c":"script.js.bayrol"})
5.4.2024, 15:10:45.972	[info ]: javascript.0 (2448) script.js.bayrol: setTimeout(ms=10000)
5.4.2024, 15:10:56.068	[info ]: javascript.0 (2448) script.js.bayrol: setForeignState(id=0_userdata.0.bayrol.cc, state={"val":15,"ack":false,"ts":1712322656068,"q":0,"from":"system.adapter.javascript.0","lc":1712322645969,"c":"script.js.bayrol"})
5.4.2024, 15:10:56.069	[info ]: javascript.0 (2448) script.js.bayrol: setForeignState(id=0_userdata.0.bayrol.mv, state={"val":725,"ack":false,"ts":1712322656069,"q":0,"from":"system.adapter.javascript.0","lc":1712322645971,"c":"script.js.bayrol"})
5.4.2024, 15:10:56.070	[info ]: javascript.0 (2448) script.js.bayrol: setForeignState(id=0_userdata.0.bayrol.ph, state={"val":7.2,"ack":false,"ts":1712322656070,"q":0,"from":"system.adapter.javascript.0","lc":1712322645972,"c":"script.js.bayrol"})
5.4.2024, 15:10:56.071	[info ]: javascript.0 (2448) script.js.bayrol: setTimeout(ms=10000)
5.4.2024, 15:11:06.185	[info ]: javascript.0 (2448) script.js.bayrol: setForeignState(id=0_userdata.0.bayrol.cc, state={"val":15.1,"ack":false,"ts":1712322666185,"q":0,"from":"system.adapter.javascript.0","lc":1712322666185,"c":"script.js.bayrol"})
5.4.2024, 15:11:06.186	[info ]: javascript.0 (2448) script.js.bayrol: setForeignState(id=0_userdata.0.bayrol.mv, state={"val":725,"ack":false,"ts":1712322666186,"q":0,"from":"system.adapter.javascript.0","lc":1712322645971,"c":"script.js.bayrol"})
5.4.2024, 15:11:06.187	[info ]: javascript.0 (2448) script.js.bayrol: setForeignState(id=0_userdata.0.bayrol.ph, state={"val":7.2,"ack":false,"ts":1712322666187,"q":0,"from":"system.adapter.javascript.0","lc":1712322645972,"c":"script.js.bayrol"})
5.4.2024, 15:11:06.188	[info ]: javascript.0 (2448) script.js.bayrol: setTimeout(ms=10000)
5.4.2024, 15:11:16.288	[info ]: javascript.0 (2448) script.js.bayrol: setForeignState(id=0_userdata.0.bayrol.cc, state={"val":15.1,"ack":false,"ts":1712322676288,"q":0,"from":"system.adapter.javascript.0","lc":1712322666185,"c":"script.js.bayrol"})
5.4.2024, 15:11:16.289	[info ]: javascript.0 (2448) script.js.bayrol: setForeignState(id=0_userdata.0.bayrol.mv, state={"val":725,"ack":false,"ts":1712322676289,"q":0,"from":"system.adapter.javascript.0","lc":1712322645971,"c":"script.js.bayrol"})
5.4.2024, 15:11:16.290	[info ]: javascript.0 (2448) script.js.bayrol: setForeignState(id=0_userdata.0.bayrol.ph, state={"val":7.2,"ack":false,"ts":1712322676290,"q":0,"from":"system.adapter.javascript.0","lc":1712322645972,"c":"script.js.bayrol"})
5.4.2024, 15:11:16.291	[info ]: javascript.0 (2448) script.js.bayrol: setTimeout(ms=10000)
5.4.2024, 15:11:26.388	[info ]: javascript.0 (2448) script.js.bayrol: setForeignState(id=0_userdata.0.bayrol.cc, state={"val":15.1,"ack":false,"ts":1712322686388,"q":0,"from":"system.adapter.javascript.0","lc":1712322666185,"c":"script.js.bayrol"})
5.4.2024, 15:11:26.389	[info ]: javascript.0 (2448) script.js.bayrol: setForeignState(id=0_userdata.0.bayrol.mv, state={"val":725,"ack":false,"ts":1712322686388,"q":0,"from":"system.adapter.javascript.0","lc":1712322645971,"c":"script.js.bayrol"})
5.4.2024, 15:11:26.389	[info ]: javascript.0 (2448) script.js.bayrol: setForeignState(id=0_userdata.0.bayrol.ph, state={"val":7.2,"ack":false,"ts":1712322686389,"q":0,"from":"system.adapter.javascript.0","lc":1712322645972,"c":"script.js.bayrol"})
5.4.2024, 15:11:26.390	[info ]: javascript.0 (2448) script.js.bayrol: setTimeout(ms=10000)
5.4.2024, 15:11:36.491	[info ]: javascript.0 (2448) script.js.bayrol: setForeignState(id=0_userdata.0.bayrol.cc, state={"val":15.1,"ack":false,"ts":1712322696491,"q":0,"from":"system.adapter.javascript.0","lc":1712322666185,"c":"script.js.bayrol"})
5.4.2024, 15:11:36.492	[info ]: javascript.0 (2448) script.js.bayrol: setForeignState(id=0_userdata.0.bayrol.mv, state={"val":725,"ack":false,"ts":1712322696492,"q":0,"from":"system.adapter.javascript.0","lc":1712322645971,"c":"script.js.bayrol"})
5.4.2024, 15:11:36.492	[info ]: javascript.0 (2448) script.js.bayrol: setForeignState(id=0_userdata.0.bayrol.ph, state={"val":7.2,"ack":false,"ts":1712322696492,"q":0,"from":"system.adapter.javascript.0","lc":1712322645972,"c":"script.js.bayrol"})
5.4.2024, 15:11:36.493	[info ]: javascript.0 (2448) script.js.bayrol: setTimeout(ms=10000)
5.4.2024, 15:11:46.595	[info ]: javascript.0 (2448) script.js.bayrol: setForeignState(id=0_userdata.0.bayrol.cc, state={"val":15.1,"ack":false,"ts":1712322706594,"q":0,"from":"system.adapter.javascript.0","lc":1712322666185,"c":"script.js.bayrol"})
5.4.2024, 15:11:46.595	[info ]: javascript.0 (2448) script.js.bayrol: setForeignState(id=0_userdata.0.bayrol.mv, state={"val":725,"ack":false,"ts":1712322706595,"q":0,"from":"system.adapter.javascript.0","lc":1712322645971,"c":"script.js.bayrol"})
5.4.2024, 15:11:46.596	[info ]: javascript.0 (2448) script.js.bayrol: setForeignState(id=0_userdata.0.bayrol.ph, state={"val":7.2,"ack":false,"ts":1712322706596,"q":0,"from":"system.adapter.javascript.0","lc":1712322645972,"c":"script.js.bayrol"})
5.4.2024, 15:11:46.596	[info ]: javascript.0 (2448) script.js.bayrol: setTimeout(ms=10000)
5.4.2024, 15:11:56.696	[info ]: javascript.0 (2448) script.js.bayrol: setForeignState(id=0_userdata.0.bayrol.cc, state={"val":15.1,"ack":false,"ts":1712322716696,"q":0,"from":"system.adapter.javascript.0","lc":1712322666185,"c":"script.js.bayrol"})
5.4.2024, 15:11:56.696	[info ]: javascript.0 (2448) script.js.bayrol: setForeignState(id=0_userdata.0.bayrol.mv, state={"val":725,"ack":false,"ts":1712322716696,"q":0,"from":"system.adapter.javascript.0","lc":1712322645971,"c":"script.js.bayrol"})
5.4.2024, 15:11:56.697	[info ]: javascript.0 (2448) script.js.bayrol: setForeignState(id=0_userdata.0.bayrol.ph, state={"val":7.2,"ack":false,"ts":1712322716697,"q":0,"from":"system.adapter.javascript.0","lc":1712322645972,"c":"script.js.bayrol"})
5.4.2024, 15:11:56.698	[info ]: javascript.0 (2448) script.js.bayrol: setTimeout(ms=10000)
5.4.2024, 15:11:58.978	[info ]: javascript.0 (2448) Stop script script.js.bayrol

[sued72]

Habe mal den Debugger bemüht.
Das Problem entsteht schon im Funktionsaufruf getSession().
Die Funktion liefert die Variable response als undefined zurück.

[sued72]

[sued72]

Das ist auch noch seltsam:

allerdings scheint alles korrekt installiert zu sein:

[OliverIO]

@sued72

hm, gut das die fehlermeldung nun auftauchte.
dadurch kann das natürlich auch nicht funktionieren.
am besten die bibliothek nochmal entfernen, speichern so das javascript adapter neu startet und danach wieder hinzufügen.
dann nochmal probieren.

alternativ kannst du, wenn du node ab v18 bereits installiert hast
ohne den require befehl und ohne die zusätzliche bibliohthek versuchen, da ab da der fetch befehl automatisch im befehlsumfang von node nun enthalten ist.
vgl https://nodejs.org/dist/latest-v18.x/docs/api/globals.html#fetch und dann history aufklappen