Neues YouTube-Video: Visualisierung im Devices-Adapter

[Negalein]

@Shadowhunter23 sagte:

Modelle laden scheint nicht zu funktionieren, ich hätte erwartet dass ich danach eine Auswahlliste bekomme mit der ich dann das Modell auswählen kann?

@bluefox @feuersturm

bei mir auch

[CommanderXXL]

Ich habe es mit Gemini versucht. Da ich über die Credentials keinen eigenen Eintrag für Gemini gefunden habe, dann mittels "Schlüssel" und Type "KI" einen Eintrag für Gemini API Key erstellt.

Aber auch bei mir lädt er die Modelle nicht und wirft nur einen Fehler:

[MartinP]

Gibt es da ein paar Hintergrundinfos?

Ich will eigentlich, dass mein System einen schmalen Fußabdruck behält.

Auf meinem N3000 kann sicherlich keine KI laufen.

Auf der anderen Seite will ich auch nicht, dass externe KI-Ressourcen genutzt werden.

[CommanderXXL]

Könnte es sein dass man js-controller 7.2 für die Nutzung braucht? Ich habe mal testweise auch den cloud adapter auf Credentials umgestellt und bekomme eine Fehlermeldung dass ich js-controller 7.2 brauche dafür. Könnte mir vorstellen dass auch die KI Credentials erst mit 7.2 klappen. Aber ich möchte ungern den js-controller auf eine Alpha Version updaten.

[Shadowhunter23]

@CommanderXXL sagte:

Könnte es sein dass man js-controller 7.2 für die Nutzung braucht?

Kann ich mir nicht vorstellen sonst wäre es explizit im ersten Beitrag erwähnt worden.

[Bernd1967]

gelöscht

[Bluefox]

@Shadowhunter23 Da ich natürlich auf neuesten Versionen laufe, kann es sein, dass ich einfach übersehen habe, dass man wirklich 7.2 braucht um das zu betrieben :(

[Bluefox]

@MartinP Willst du wirklich eine KI mit 500 Milliarden Parameter auf N3000 laufen lassen?

[Shadowhunter23]

@Bluefox sagte:

dass man wirklich 7.2 braucht

Wäre dies dann der richtige Befehl um auf 7.2 zu kommen?

npm i iobroker.js-controller@latest

7.2 ist halt eine alpha Version.

@CommanderXXL sagte:

Könnte mir vorstellen dass auch die KI Credentials erst mit 7.2 klappen. Aber ich möchte ungern den js-controller auf eine Alpha Version updaten.

Hattest doch Recht mit deiner Vermutung

[OliverIO]

@Bluefox sagte:

@MartinP Willst du wirklich eine KI mit 500 Milliarden Parameter auf N3000 laufen lassen?

Gehen wird das schon, aber dann hast du halt 1 Token pro Minute oder so, ram muss dann halt aus dem swap kommen :)