Navigation

    Logo
    • Register
    • Login
    • Search
    • Recent
    • Tags
    • Unread
    • Categories
    • Unreplied
    • Popular
    • GitHub
    • Docu
    • Hilfe
    1. Home
    2. ToGe88

    NEWS

    • Neuer Blog: Fotos und Eindrücke aus Solingen

    • ioBroker@Smart Living Forum Solingen, 14.06. - Agenda added

    • ioBroker goes Matter ... Matter Adapter in Stable

    T
    • Profile
    • Following 0
    • Followers 0
    • Topics 3
    • Posts 20
    • Best 9
    • Groups 2

    ToGe88

    @ToGe88

    Developer

    19
    Reputation
    20
    Profile views
    20
    Posts
    0
    Followers
    0
    Following
    Joined Last Online

    ToGe88 Follow
    Developer Starter

    Best posts made by ToGe88

    • Test Adapter AI Toolbox v0.1.3 GitHub/Latest
      Aktuelle Test Version 0.1.3
      Veröffentlichungsdatum 27.12.2024
      Github Link https://github.com/ToGe3688/ioBroker.ai-toolbox

      Hallo zusammen,

      ich möchte euch den neuen ioBroker AI Toolbox Adapter vorstellen, den ich kürzlich entwickelt habe. Der Adapter bringt KI-Modelle in eure ioBroker Smart-Home-Umgebung.

      Was macht der Adapter?

      Der AI Toolbox Adapter ermöglicht die Integration von KI-Modellen (Large Language Models, LLMs) in ioBroker. Damit könnt ihr maßgeschneiderte Tools erstellen, die spezifische Aufgaben automatisieren oder auch als intelligente Chatbots dienen. Die wichtigsten Features sind:

      • Unterstützung für verschiedene KI-Anbieter, darunter OpenAI, Anthropic, OpenRouter, Perplexity und lokale / selbst gehostete Modelle wie LocalAI oder LM Studio.
      • Erstellung individueller Tools mit flexiblen Einstellungen wie System-Prompts, Beispielnachrichten, Nachrichtenverläufen und Kreativitätsparametern.
      • Direkte Kommunikation mit euren Tools und den Modellen über Datenpunkte oder via sendTo über Scripte im Javascript Adapter
      • Token- und Nutzungsstatistiken zur Optimierung und Kostenkontrolle.
      • Vision / Image Fähigkeiten für Tools. Bilder analysieren und nach eigener Vorgabe auswerten lassen.

      Beispiele für die Anwendung

      • Chatbots: Eigene Assistenten die sich wie ein Chatbot verhalten und zur Kommunikation genutzt werden können.
      • Wetter-Bot: Personalisierte Wetterberichte basierend auf euren Sensordaten die ihr via ioBroker zur Verfügung stellt.
      • Musik-Assistent: Musikempfehlungen passend zur Stimmung oder zum Wetter für Smartspeaker z.B. Alexa
      • Lichtsteuerung: Automatische RGB-Beleuchtungsvorschläge je nach Musikrichtung. Hier können JSON Daten zur weiteren Verwendung in Scripten erzeugt werden.
      • Individuelle Begrüßungen: Erzeuge individuelle Begrüßungen basierend auf den zur Verfügung gestellten Daten. Die Begrüßungen können gekoppelt mit der Anwesenheit z.B. über Alexa ausgegeben werden.
      • Bild Analyse: Bildmaterial nach eigenen Vorgaben auswerten lassen

      Wie funktioniert’s?

      Nach der Installation könnt ihr eure Tools direkt im Admin Interface anlegen und konfigurieren. Mit einem Klick stehen Datenpunkte für Anfragen (text_request) und Antworten (text_response) bereit. Beachtet dabei eure Tools so präzise wie möglich zu formulieren um gute Ergebnisse zu erhalten. Die Beispielanfragen und -antworten helfen hierbei das Model zu formen um konsistente Ausgaben zu erhalten. Auch die Integration in Skripte ist möglich, z. B.:

      Mit Tools interagieren

      sendTo('ai-toolbox.0', 'tool_request', {
        tool: 'simple-chatbot',
        text: 'Hallo, wie geht’s?',
      }, (result) => {
        console.log(result); // Antwort vom Tool als Textstring
      });
      

      Direkt mit Modellen interagieren

      sendTo('ai-toolbox.0', 'model_request', {
          'model': 'MODEL-NAME',
          'system_prompt': 'System prompt for your request'
          'temperature': 'Temperature setting for your request'
          'max_tokens': 'Max number of tokens to generate'
          'text': 'The message for the tool to respond to',
      }, async (result) => {
          console.info(result.text); // Text response of the model
          console.info(result.model); // Used model for request
          console.info(result.tokens_input); // Used input tokens
          console.info(result.tokens_output); // Used output tokens
          console.info(result.error); // Error, populated if request fails
          console.info(result.request_data); // JSON object with request data
          console.info(result.response_data); // JSON object with raw response of the API call
      });
      

      Feedback gesucht!

      Ich freue mich über euer Feedback, sei es zu den Funktionen, der Benutzerfreundlichkeit oder Ideen für neue Anwendungsfälle. Auch Bug-Reports und Verbesserungsvorschläge sind willkommen! Da es mein erster Adapter für ioBroker ist bitte ich um Nachsicht falls ich Dinge nicht korrekt umgesetzt habe. 😲

      Den Adapter findet ihr auf Github unter https://github.com/ToGe3688/ioBroker.ai-toolbox

      Eine detaillierte Anleitung und ein Quick-Start Guide ist im Readme enthalten.

      Danke schon jetzt für eure Rückmeldungen! 🙏

      Viele Grüße!

      posted in Tester
      T
      ToGe88
    • Test Adapter AI Assistant v0.1.3 GitHub/Latest
      Aktuelle Test Version 0.1.3
      Veröffentlichungsdatum 31.12.2024
      Github Link https://github.com/ToGe3688/ioBroker.ai-assistant

      Hallo zusammen

      da es ja Interesse an einem KI Assistenten für ioBroker gab habe ich mich dem mal angenommen und einen Adapter dafür programmiert. Der Assistent funktioniert mit mehreren Anbietern für LLMs wie OpenAI, Anthropic, Perplexity, OpenRouter und auch lokalen Modellen. Die Qualität und Stärke des genutzten Modells hat natürlich direkte Auswirkungen auf die Qualität vom Assistenten. Auf Github habe ich eine Liste mit Modellen im Readme eingefügt die ich bisher getestet habe.

      Fähigkeiten

      States verwalten

      Die freigegebenen States lesen und schreiben. Auch multiple Lese und Schreibbefehle sind in einer Anfrage umsetzbar durch des Assistenten. z.B. Schicke mir einen Bericht über alle Temperaturen in der Wohnung oder Erzeuge mir einen Bericht über die PV-Anlage

      Zeitplanung

      Der Assistent kann Timeouts / Cronjobs verwalten um sich selbst aufzuwecken und dann Instruktionen auszuführen. Schalte in 30 Sekunden das Flurlicht aus oder Schicke mir jeden Tag um 7:30 einen Wetterbericht mit den Daten der Wetterstation

      Trigger verwalten

      Der Assistent kann Trigger auf states im ioBroker System erstellen welche ihn mit einer optionalen Bedingung aufwecken und dann Instruktionen ausführen lassen. Wenn der Bewegungsmelder in der Küche das nächste mal ausgelöst wird, erinnere mich daran den Müll rauszubringen

      Eigene Funktionen

      Es können eigene Funktionen implementiert werden, siehe Github! Dies bietet z.B. auch die Möglichkeit den KI Toolbox Adapter einzubinden.

      Verkettung

      Der Assistent kann Funktionen verketten z.B. Wenn die Haustür geöffnet wird, warte 30 Sekunden und prüfe dann die Zustände aller Fenster und schicke mir den Status

      Nachrichtenverlauf löschen

      Manchmal ist es hilfreich den Nachrichtenverlauf zurückzusetzen wenn sich der Assistent verrannt hat. Dies geht einfach per Spracheingabe wie z.B. Lösche alle vorigen Nachrichten oder Lösche dein Gedächtnis. Alternativ kann auch der entsprechende Datenpunkt dafür genutzt werden.

      Ausgabe der internen Vorgänge

      Fürs testen ist es hilfreich die Ausgabe der Gedanken und Aktionen vom Assistenten zu aktivieren, diese werden dann in den response datenpunkt geschrieben.

      Am besten nutzen lässt sich der Assistent wenn ihn z.B. mit dem Telegram Adapter kombiniert. Ein einfaches Script zum verknüpfen der Ein- und Ausgabe Datenpunkte reicht hier aus.

      Noch als Hinweis: Bitte Vorsicht bei der Freigabe des States, der Assistent hat danach die Möglichkeit diese auszulesen und zu steuern!

      Viel Spaß beim testen und danke schon jetzt für euer Feedback! 🙏

      Viele Grüße!

      posted in Tester
      T
      ToGe88
    • RE: Test Adapter AI Assistant v0.1.3 GitHub/Latest

      @stony2k Das Problem ist jetzt behoben und die Readme in der Hinsicht nochmal verbessert worden um es eindeutiger zu machen welche Zustände genutzt werden können.

      Der Adapter hat heute nochmal ein Update bekommen und sollte bald im Beta Repo veröffentlicht werden.
      Neben kleinen Korrekturen und Verbesserungen wurde Deepseek als API Anbieter mit aufgenommen.

      posted in Tester
      T
      ToGe88
    • RE: Test Adapter AI Toolbox v0.1.3 GitHub/Latest

      In Version 0.0.7 gibt es nun auch die Möglichkeit lokale Pfade zu Bildern anzugeben (siehe Readme auf Github). Dies ermöglicht es z.B. direkt Bildanfragen vom Telegram Adapter von KI Tools verarbeiten bzw analysieren zu lassen.

      @oxident Ich habe da noch einen zweiten Adapter in Entwicklung welcher eher in die Richtung geht als vollumfänglicher Assistent in ioBroker zu funktionieren. Den werde ich die Tage auch mal auf Github stellen zum testen. 😁

      posted in Tester
      T
      ToGe88
    • RE: Test Adapter AI Toolbox v0.1.3 GitHub/Latest

      @haselchen haha, kann ich verstehen das es am Anfang etwas überfordernd wirkt. Ich beschäftige mich schon sehr lange mit der ganzen Materie deswegen ist es für mich nicht so leicht das ganze aus den Augen eines Laien zu betrachten.

      Aktuell ist der Adapter noch in der Alpha/Test Phase, sobald die Prüfung für die Beta abgeschlossen ist werde ich hier im Forum einige umfangreichere Beispiele präsentieren wie man den Adapter effektiv einsetzen kann. Ein paar gute use cases wurden hier im thread ja bereits genannt.

      Schau dir doch zum Einstieg in das Thema mal den AI Assistent Adapter von mir an. Dieser bietet dir eine einfache Möglichkeit per natürlicher Sprache mit deinem iobroker zu interagieren. Solltest du dort an die Grenzen stoßen kannst du den Assistenten dann auch mit weiteren Funktionen erweitern für welche du zb auch den Toolbox Adapter einsetzen kannst. (In Kombination bieten diese beiden Adapter dann eine sehr umfangreiche Möglichkeit sich einen persönlichen KI-Assistenten zu schaffen)

      Einfach beschrieben könnte man sagen:

      Per Chat/Sprache mit deinem ioBroker interagieren -> AI Assistent

      Funktionen, Auswertungen oder Konvertierungen aus komplexen Daten mit KI durchführen -> AI Toolbox

      posted in Tester
      T
      ToGe88
    • RE: SBC-Empfehlung für ioBroker

      @crazy-com Ein anderes System macht mit mehr RAM für eine größere installation natürlich Sinn. Da ich selbst auch Raspi3 mit iobroker im Einsatz habe wollte ich dir aber meine Erfahrungen einmal mitteilen wie man aus dem 3er noch deutlich mehr rausholen kann.

      Mittels einer eigenen cgroup für iobroker welche ihm nur 80% der Resourcen zur Verfügung stellt kannst du komplette System Freezes verhindern. Da 20% immer für ssh etc übrig bleiben, bleibt das System responsiv und du kannst noch eingreifen, selbst wenn iobroker ins Limit läuft.

      Mittels zram (siehe zram-swap) kann der RAM des rpi3 auf bis zu 1,7GB nutzbare Größe "erweitert" werden. Nach meinem Erfahrungen funktioniert das beim iobroker sehr gut weil sich die RAM Inhalte aus dem Node Prozess sehr gut komprimieren lassen.

      In Kombination mit den iobroker compact gruppen kann man noch weiter optimieren. Hier muss man aber die Stabilität der Adapter beachten da diese dann andere Adapter in der Gruppe negativ beeinflussen können.

      posted in Hardware
      T
      ToGe88
    • RE: Test Adapter AI Toolbox v0.1.3 GitHub/Latest

      Danke für das Feedback!

      Ich habe gerade nochmal ein neues Release auf GitHub gepusht. Der Fehler mit OpenAI ist nun behoben und Requests sollten sauber laufen.

      Neues Feature:

      • Vision / Image Fähigkeiten: Es ist nun möglich Tools zu erstellen welche Bilder analysieren können @David-G

      @oxident Ja da ist durchaus Optimierungspotential bei der Usability 😅 Ich hatte die Idee mit dem Auslesen verworfen weil die APIs teilweise auch Modelle zurück liefern welche nicht für den Adapter geeignet sind. (z.B. Audio-Modelle etc.)

      Bei der Beispielfrage / Antwort gab es einen Bug in der ersten Version. Diese werden nun an den Anfang der Nachrichten gesetzt und immer mit übergeben um das Modell in die gewünschte Ausgabeform zu lenken falls der System Prompt nicht ausreicht.

      posted in Tester
      T
      ToGe88
    • RE: Test Adapter AI Toolbox v0.1.3 GitHub/Latest

      @mick70 Das könnte ein Bug sein, da ich selber keinen Perplexity API Zugang habe wäre es super wenn du mal das Debug Log einer Anfrage schicken könntest!

      Edit: Der Inhalt von raw response wäre auch hilfreich

      posted in Tester
      T
      ToGe88
    • RE: Test Adapter AI Toolbox v0.1.3 GitHub/Latest

      @halsi82 Danke für das Feedback! Bin gespannt welche Anwendungsfälle den Benutzern hier noch so einfallen 😀

      Der Adapter hat heute nochmal ein Update bekommen und sollte dann bald im Beta Repo veröffentlicht werden. Neben kleinen Korrekturen und Verbesserungen wurde Deepseek als API Anbieter mit aufgenommen.

      posted in Tester
      T
      ToGe88

    Latest posts made by ToGe88

    • RE: Test Adapter AI Toolbox v0.1.3 GitHub/Latest

      @haselchen haha, kann ich verstehen das es am Anfang etwas überfordernd wirkt. Ich beschäftige mich schon sehr lange mit der ganzen Materie deswegen ist es für mich nicht so leicht das ganze aus den Augen eines Laien zu betrachten.

      Aktuell ist der Adapter noch in der Alpha/Test Phase, sobald die Prüfung für die Beta abgeschlossen ist werde ich hier im Forum einige umfangreichere Beispiele präsentieren wie man den Adapter effektiv einsetzen kann. Ein paar gute use cases wurden hier im thread ja bereits genannt.

      Schau dir doch zum Einstieg in das Thema mal den AI Assistent Adapter von mir an. Dieser bietet dir eine einfache Möglichkeit per natürlicher Sprache mit deinem iobroker zu interagieren. Solltest du dort an die Grenzen stoßen kannst du den Assistenten dann auch mit weiteren Funktionen erweitern für welche du zb auch den Toolbox Adapter einsetzen kannst. (In Kombination bieten diese beiden Adapter dann eine sehr umfangreiche Möglichkeit sich einen persönlichen KI-Assistenten zu schaffen)

      Einfach beschrieben könnte man sagen:

      Per Chat/Sprache mit deinem ioBroker interagieren -> AI Assistent

      Funktionen, Auswertungen oder Konvertierungen aus komplexen Daten mit KI durchführen -> AI Toolbox

      posted in Tester
      T
      ToGe88
    • RE: Test Adapter AI Assistant v0.1.3 GitHub/Latest

      @stony2k Das Problem ist jetzt behoben und die Readme in der Hinsicht nochmal verbessert worden um es eindeutiger zu machen welche Zustände genutzt werden können.

      Der Adapter hat heute nochmal ein Update bekommen und sollte bald im Beta Repo veröffentlicht werden.
      Neben kleinen Korrekturen und Verbesserungen wurde Deepseek als API Anbieter mit aufgenommen.

      posted in Tester
      T
      ToGe88
    • RE: Test Adapter AI Toolbox v0.1.3 GitHub/Latest

      @halsi82 Danke für das Feedback! Bin gespannt welche Anwendungsfälle den Benutzern hier noch so einfallen 😀

      Der Adapter hat heute nochmal ein Update bekommen und sollte dann bald im Beta Repo veröffentlicht werden. Neben kleinen Korrekturen und Verbesserungen wurde Deepseek als API Anbieter mit aufgenommen.

      posted in Tester
      T
      ToGe88
    • RE: Test Adapter AI Assistant v0.1.3 GitHub/Latest

      @david-g Danke dir fürs testen! Habe das mal geprüft und wahrscheinlich kam die Antwort nicht im erwarteten JSON Format sondern einfach nur als Text rein, ich werde da mal eine Prüfung vorsehen welche die Anfrage dann wiederholt bzw einen Fehler ausgibt.

      Edit: Die neue Version auf Github hat die Prüfung jetzt drin!

      posted in Tester
      T
      ToGe88
    • RE: Test Adapter AI Assistant v0.1.3 GitHub/Latest

      @david-g Ja ist tatsächlich der gleiche Fehler gewesen, sollte jetzt behoben sein 😅

      Primär ist der Adapter als Assistent, ähnlich Alexa oder Google Home, gedacht, nur das er halt Texteingaben akzeptiert und ein wesentlich besseres Kontextverständnis hat als andere Sprachassistenten. Mit den eigenen Funktionen kann man dann z.B. die Brücke zur AI Toolbox schlagen und die Werkzeuge dem Assistent zugänglich machen.

      posted in Tester
      T
      ToGe88
    • Test Adapter AI Assistant v0.1.3 GitHub/Latest
      Aktuelle Test Version 0.1.3
      Veröffentlichungsdatum 31.12.2024
      Github Link https://github.com/ToGe3688/ioBroker.ai-assistant

      Hallo zusammen

      da es ja Interesse an einem KI Assistenten für ioBroker gab habe ich mich dem mal angenommen und einen Adapter dafür programmiert. Der Assistent funktioniert mit mehreren Anbietern für LLMs wie OpenAI, Anthropic, Perplexity, OpenRouter und auch lokalen Modellen. Die Qualität und Stärke des genutzten Modells hat natürlich direkte Auswirkungen auf die Qualität vom Assistenten. Auf Github habe ich eine Liste mit Modellen im Readme eingefügt die ich bisher getestet habe.

      Fähigkeiten

      States verwalten

      Die freigegebenen States lesen und schreiben. Auch multiple Lese und Schreibbefehle sind in einer Anfrage umsetzbar durch des Assistenten. z.B. Schicke mir einen Bericht über alle Temperaturen in der Wohnung oder Erzeuge mir einen Bericht über die PV-Anlage

      Zeitplanung

      Der Assistent kann Timeouts / Cronjobs verwalten um sich selbst aufzuwecken und dann Instruktionen auszuführen. Schalte in 30 Sekunden das Flurlicht aus oder Schicke mir jeden Tag um 7:30 einen Wetterbericht mit den Daten der Wetterstation

      Trigger verwalten

      Der Assistent kann Trigger auf states im ioBroker System erstellen welche ihn mit einer optionalen Bedingung aufwecken und dann Instruktionen ausführen lassen. Wenn der Bewegungsmelder in der Küche das nächste mal ausgelöst wird, erinnere mich daran den Müll rauszubringen

      Eigene Funktionen

      Es können eigene Funktionen implementiert werden, siehe Github! Dies bietet z.B. auch die Möglichkeit den KI Toolbox Adapter einzubinden.

      Verkettung

      Der Assistent kann Funktionen verketten z.B. Wenn die Haustür geöffnet wird, warte 30 Sekunden und prüfe dann die Zustände aller Fenster und schicke mir den Status

      Nachrichtenverlauf löschen

      Manchmal ist es hilfreich den Nachrichtenverlauf zurückzusetzen wenn sich der Assistent verrannt hat. Dies geht einfach per Spracheingabe wie z.B. Lösche alle vorigen Nachrichten oder Lösche dein Gedächtnis. Alternativ kann auch der entsprechende Datenpunkt dafür genutzt werden.

      Ausgabe der internen Vorgänge

      Fürs testen ist es hilfreich die Ausgabe der Gedanken und Aktionen vom Assistenten zu aktivieren, diese werden dann in den response datenpunkt geschrieben.

      Am besten nutzen lässt sich der Assistent wenn ihn z.B. mit dem Telegram Adapter kombiniert. Ein einfaches Script zum verknüpfen der Ein- und Ausgabe Datenpunkte reicht hier aus.

      Noch als Hinweis: Bitte Vorsicht bei der Freigabe des States, der Assistent hat danach die Möglichkeit diese auszulesen und zu steuern!

      Viel Spaß beim testen und danke schon jetzt für euer Feedback! 🙏

      Viele Grüße!

      posted in Tester
      T
      ToGe88
    • RE: Test Adapter AI Toolbox v0.1.3 GitHub/Latest

      @david-g Das klingt tatsächlich so als ob man das am besten über den Prompt bzw die Anfrage lösen sollte. Es gibt ja laut deinem Link den Parameter in der API um die höhere Qualität zu erzwingen, ich glaube es wäre aber nicht zielführend das für jede Anfrage an OpenAI zu setzen. Kannst du das Verhalten über den Prompt denn konsistent steuern?

      posted in Tester
      T
      ToGe88
    • RE: Test Adapter AI Toolbox v0.1.3 GitHub/Latest

      @mick70 Das könnte ein Bug sein, da ich selber keinen Perplexity API Zugang habe wäre es super wenn du mal das Debug Log einer Anfrage schicken könntest!

      Edit: Der Inhalt von raw response wäre auch hilfreich

      posted in Tester
      T
      ToGe88
    • RE: Test Adapter AI Toolbox v0.1.3 GitHub/Latest

      @david-g Ich habe noch nicht wirklich viel mit der Bilderkennung ausprobiert daher fehlen mir da ein wenig die Vergleichswerte. Ist das Verhalten denn bei allen Modellen gleich?

      Der Adapter wandelt das Bild lediglich in einen Base64 String um und übergibt es an die jeweiligen Anbieter Schnittstelle, wenn es da eine Reduzierung der Auflösung gibt müsste das auf Anbieterseite passieren.

      Ein Ansatz wäre vielleicht dem Modell einen gewissen "Freiraum" zum denken zu geben bei seiner Antwort. Damit konnte ich für Textausgaben zumindest die Qualität deutlich steigern. Ich löse dass so das ich das Werkzeug im Adapter Json ausgeben lasse und als erstes Attribut "reasoning" festlege. In diesen soll das Modell dann seinen Prozess schreiben wie es zu seinem Ergebnis gekommen ist. Bei der weiteren Verarbeitung verwerfe ich diesen Inhalt dann einfach und nutze nur die für mich relevanten Daten weiter.

      Könnte sein dass es bei der Bildverarbeitung auch klappt.

      posted in Tester
      T
      ToGe88
    • RE: Test Adapter AI Toolbox v0.1.3 GitHub/Latest

      In Version 0.0.7 gibt es nun auch die Möglichkeit lokale Pfade zu Bildern anzugeben (siehe Readme auf Github). Dies ermöglicht es z.B. direkt Bildanfragen vom Telegram Adapter von KI Tools verarbeiten bzw analysieren zu lassen.

      @oxident Ich habe da noch einen zweiten Adapter in Entwicklung welcher eher in die Richtung geht als vollumfänglicher Assistent in ioBroker zu funktionieren. Den werde ich die Tage auch mal auf Github stellen zum testen. 😁

      posted in Tester
      T
      ToGe88
    Community
    Impressum | Datenschutz-Bestimmungen | Nutzungsbedingungen
    The ioBroker Community 2014-2023
    logo