[Aufruf] Adapter: Snips - Offline Speak2Text

[AndiM]

@unltdnetworx sagte in [Aufruf] Adapter: Snips - Offline Speak2Text:

Wie is bei dir die Ausgabe von Sam auf dem Server? Kommt da NLU an?

moin ...

wenn du am Sat "sam watch" verwendest, verbindet er sich mit dem MQTT des Servers

[09:22:59] Watching on proxy.local.net:1883 (MQTT)
[09:25:36] [Hotword] detected on site snipswz.local.net, for model default
[09:25:36] [Asr] was asked to stop listening on site snipswz.local.net
[09:25:36] [Hotword] was asked to toggle itself 'off' on site snipswz.local.net
[09:25:36] [Dialogue] session with id '0b243859-6c7c-4b1a-9693-f562d0051927' was started on site snipswz.local.net
[09:25:36] [AudioServer] was asked to play a wav of 41.1 kB with id 'dccda3bb-fae7-4ee7-8c5f-5fbfa3037491' on site snipswz.local.net
[09:25:37] [AudioServer] finished playing wav with id 'dccda3bb-fae7-4ee7-8c5f-5fbfa3037491'
[09:25:37] [Asr] was asked to listen on site snipswz.local.net
[09:25:40] [Asr] captured text "schalte im wohnzimmer das licht ab" in 2.0s
[09:25:40] [Asr] was asked to stop listening on site snipswz.local.net
[09:25:40] [AudioServer] was asked to play a wav of 93.1 kB with id 'e04be862-735b-4a2e-88cf-181cc1982275' on site snipswz.local.net
[09:25:41] [AudioServer] finished playing wav with id 'e04be862-735b-4a2e-88cf-181cc1982275'
[09:25:41] [Nlu] was asked to parse input "schalte im wohnzimmer das licht ab"
[09:25:41] [Nlu] detected intent unltdnetworx:setDevice with probability 0.964 for input "schalte im wohnzimmer das licht ab"
              Slots ->
                    room -> Wohnzimmer (confidence: 1.000)
                  device -> Licht (confidence: 1.000)
                 command -> false (confidence: 0.632)
[09:25:41] [Dialogue] New intent detected unltdnetworx:setDevice with probability 0.964
              Slots ->
                    room -> Wohnzimmer (confidence: 1.000)
                  device -> Licht (confidence: 1.000)
                 command -> false (confidence: 0.632)
[09:25:41] [Tts] was asked to say "Schalte das Licht im Wohnzimmer aus"
[09:25:41] [AudioServer] was asked to play a wav of 68.4 kB with id '6121ce53-be90-4cd5-9710-852d362d9cc0' on site default
[09:25:41] [AudioServer] was asked to play a wav of 68.4 kB with id '4b1b1ff5-677d-4013-a09f-2d993bf8a627' on site default
[09:25:46] [Dialogue] session with id '0b243859-6c7c-4b1a-9693-f562d0051927' was ended on site snipswz.local.net. The session was ended because one of the component didn't respond in a timely manner
[09:25:46] [Asr] was asked to stop listening on site snipswz.local.net
[09:25:46] [Hotword] was asked to toggle itself 'on' on site snipswz.local.net

am Sat lauft nur

Connected to device snipswz.local.net

OS version ................... Raspbian GNU/Linux 9 (stretch)
Installed assistant .......... Not installed
Status ....................... Live (no assistant)

Service status:

snips-analytics .............. 0.60.12 (not running)
snips-asr .................... 0.60.12 (not running)
snips-audio-server ........... 0.60.12 (running)
snips-dialogue ............... 0.60.12 (not running)
snips-hotword ................ 0.60.12 (running)
snips-nlu .................... 0.60.12 (not running)
snips-skill-server ........... 0.60.12 (running)
snips-tts .................... 0.60.12 (running)

Skill-Server für die LEDs und ohne TTS funktioniert es auch ...
aber irgendwas murmelt er oben mit "Dialogue" rum, der scheint ihm am Sat ein wenig zu fehlen -> den bekomm ich aber nur gestartet wenn ein Assi am Sat installiert ist.

[unltdnetworx]

@AndiM
Das sieht doch gut aus. Wenn es mit Skills für LED und der Auswertung klappt, ist es denk ich kein Problem, dass Dialog nicht antwortet. Das wird momentan im Adapter ohnehin nicht verwendet.

Man sollte Sam aber auch auf den Sateliten hören lassen können. Mit "sam connect", aber der Server interessiert uns ja hier.

@frank70
Bei dir sieht es anders aus, oder?

Habe übrigens bei text2command einen Pull-Request eingereicht. Dann wird bei Rollläden nicht mehr "Setze Rollladen ... auf NaN Prozent" zurückgemeldet und man muss beim Schalten von Lichtern in Prozent nicht mehr "an" dazu sagen. Ich hoffe @Bluefox kann sich das mal ansehen. Klasse übrigens die neue Funktion mit dem Erwähnen von Usern

[AndiM]

@unltdnetworx sagte in [Aufruf] Adapter: Snips - Offline Speak2Text:

@AndiM
Das sieht doch gut aus. Wenn es mit Skills für LED und der Auswertung klappt, ist es denk ich kein Problem, dass Dialog nicht antwortet. Das wird momentan im Adapter ohnehin nicht verwendet.

Man sollte Sam aber auch auf den Sateliten hören lassen können. Mit "sam connect", aber der Server interessiert uns ja hier.

war mal frech und hab in der /opt/iobroker/node_modules/iobroker.snips/lib/client.js in der send2server-function bei say das default auf den Sat-Namen geändert -> so wie es sich der kleine Andi vorstellt -> lauft :))

[unltdnetworx]

@AndiM
Jo, danke für die Meldung. @Wal ist gerade dran Sat-Unterstützung zu implementieren. Die Idee ist momentan, dass Datenpunkte für die Satelliten erzeugt werden und man diesen dann Räume aus den Aufzählungen zuweisen kann. Dann würde man sich, wie weiter oben schon erwähnt, die Raumbezeichnung bei Befehlen im gleichen Raum wie der Satellit sparen können.

Also "Schalte das Licht im Wohnzimmer an.", wenn der Satellit im Wohnzimmer steht und zugeordnet ist, dann eben nur "Schalte das Licht an".

[Wal]

Auf Github im "testing" Branch eingefügt.

[frank70]

@unltdnetworx said in [Aufruf] Adapter: Snips - Offline Speak2Text:

@AndiM
Das sieht doch gut aus. Wenn es mit Skills für LED und der Auswertung klappt, ist es denk ich kein Problem, dass Dialog nicht antwortet. Das wird momentan im Adapter ohnehin nicht verwendet.

Man sollte Sam aber auch auf den Sateliten hören lassen können. Mit "sam connect", aber der Server interessiert uns ja hier.

@frank70
Bei dir sieht es anders aus, oder?

Habe übrigens bei text2command einen Pull-Request eingereicht. Dann wird bei Rollläden nicht mehr "Setze Rollladen ... auf NaN Prozent" zurückgemeldet und man muss beim Schalten von Lichtern in Prozent nicht mehr "an" dazu sagen. Ich hoffe @Bluefox kann sich das mal ansehen. Klasse übrigens die neue Funktion mit dem Erwähnen von Usern

Ich habe es wohl mit den Services noch immer nicht verstanden.
Der Sattelit ist mit dem Server (.90.44:1880) per MQTT verbunden. Audio ist auf dem Satteliten konfiguriert (living@mqtt)
sinps.toml auf dem Satteliten:

[snips-common]

bus = "mqtt"
mqtt = "192.168.90.44:1880"
audio = ["living@mqtt"]

Service status:

snips-analytics .............. 0.60.10 (not running)
snips-asr .................... 0.60.10 (running)
snips-audio-server ........... 0.60.10 (running)
snips-dialogue ............... 0.60.10 (running)
snips-hotword ................ 0.60.10 (running)
snips-nlu .................... 0.60.10 (running)
snips-skill-server ........... 0.60.10 (running)
snips-tts .................... 0.60.10 (running)

Mein Snips-Server hat keine virtuelle Soundkarte zugewiesen und folgendes Setup

Service status:

snips-analytics .............. 0.60.12 (not running)
snips-asr .................... 0.60.12 (running)
snips-audio-server ........... 0.60.12 (not running)
snips-dialogue ............... 0.60.12 (running)
snips-hotword ................ 0.60.12 (running)
snips-nlu .................... 0.60.12 (running)
snips-skill-server ........... 0.60.12 (not running)
snips-tts .................... 0.60.12 (running)

[alt text](image url)

Muss ich auf dem Satteliten den NLU abschalten?

[unltdnetworx]

Also laut Anleitung bei Snips sind nur die folgenden Server nötig, was auch Sinn macht:

• snips-audio-server
• snips-hotword-server
• snips-skill-server (Opt.) (Bei dir, falls du z.B. die LED beleuchten willst und den Skill von Snips verwendest)

[unltdnetworx]

Du bist hiernach vorgegangen?
Anleitung auf Snips

[frank70]

@unltdnetworx
ja. Der Sattelit war ursprünglich als Standalone Gerät konfiguriert. Ich habe dann nach dieser Anleitung die Einstellungen angepasst. Die LEDs steuere ich an.

Habe eben nochmal getestet. Wenn ich mit diesen aktiven Diensten teste, kann der Sattelit über den Server mit dem Adapter kommunizieren. Ich kann aber keine injects durchführen. Dazu muss ich den "snips-asr" auf dem Satteliten starten. Wenn dieser auf dem Sattelit gestartet ist funktioniert der Adapter nicht mit "recieve".

Service status:

snips-analytics .............. 0.60.10 (not running)
snips-asr .................... 0.60.10 (not running)
snips-audio-server ........... 0.60.10 (running)
snips-dialogue ............... 0.60.10 (not running)
snips-hotword ................ 0.60.10 (running)
snips-nlu .................... 0.60.10 (not running)
snips-skill-server ........... 0.60.10 (running)
snips-tts .................... 0.60.10 (running)
code_text

[unltdnetworx]

Die Injects sollen ja auch auf dem Server eingehen. Also alles gut.

[frank70]

Ja, aber danach sollten die neu injezierten Worte doch auch auf dem Satteliten erkannt werden.

[frank70]

vielleicht ist das eine snips internes problem, dass mit dem adapter nichts zu tun hat

[unltdnetworx]

@frank70
Der Satellit macht ja nichts weiter, als die Empfangenen Audioaufnahmen an der Server zu schicken. Der macht dann weiter.

Der Unterschied zwischen den beiden Varianten ist nur, ob der Satellit oder der Server das Hotword erkennt. Es reicht als Satellit also ein ganz minimalistischer Rechner. Ein pi zero w reicht scheinbar völlig aus.

Auf dem Satelliten ist auch keine App installiert. Daher auch kein Inject.

[frank70]

muss meine aussage von vorhin mit den injects korrigieren. Nach Neustart des Snips Servers gehts auch ohne den asr auf dem satteliten.
Der Adapter geht. Neue injects gehen im moment gar nicht

[frank70]

@unltdnetworx said in [Aufruf] Adapter: Snips - Offline Speak2Text:

@frank70
Der Satellit macht ja nichts weiter, als die Empfangenen Audioaufnahmen an der Server zu schicken. Der macht dann weiter.

Der Unterschied zwischen den beiden Varianten ist nur, ob der Satellit oder der Server das Hotword erkennt. Es reicht als Satellit also ein ganz minimalistischer Rechner. Ein pi zero w reicht scheinbar völlig aus.

Auf dem Satelliten ist auch keine App installiert. Daher auch kein Inject.

Ahh. das ist vielleicht mein Problem! Der Sattelit war als Standalone vorher in betrieb. Ich habe dahe noch deine App drauf!

[unltdnetworx]

Hast du die Version 1.0.0 oder die aus dem Testing-branch?

[unltdnetworx]

@frank70 said in [Aufruf] Adapter: Snips - Offline Speak2Text:

@unltdnetworx said in [Aufruf] Adapter: Snips - Offline Speak2Text:

@frank70
Der Satellit macht ja nichts weiter, als die Empfangenen Audioaufnahmen an der Server zu schicken. Der macht dann weiter.

Der Unterschied zwischen den beiden Varianten ist nur, ob der Satellit oder der Server das Hotword erkennt. Es reicht als Satellit also ein ganz minimalistischer Rechner. Ein pi zero w reicht scheinbar völlig aus.

Auf dem Satelliten ist auch keine App installiert. Daher auch kein Inject.

Ahh. das ist vielleicht mein Problem! Der Sattelit war als Standalone vorher in betrieb. Ich habe dahe noch deine App drauf!

Jetzt scheint das Problem eingegrenzt zu sein.

[frank70]

ich habe noch die 0.31. Mache jetzt gleich das update. Versuche aber vorher den Assistant zu löschen

[frank70]

wie mache ich das am einfachsten? sam init?

Commands:
2 sam connect <HOSTNAME_OR_IP> Connect to a device
3 sam devices Discover devices on your local network
4 sam disconnect Disconnect from a device
5 sam hass Home assistant commands
6 sam init Install Snips Platform components
7 sam install Install assistant or skills
8 sam login Login to the console
9 sam logout Logout of the console
10 sam mqtt Control MQTT service
11 sam reboot Reboot the device
12 sam service Display logs or restart Snips services
13 sam set-hostname <HOSTNAME> Set device hostname
14 sam setup Setup hardware
15 sam sound-feedback <toggle> Toogle sound feedback on or off
16 sam status Show the status of your device
17 sam test Test microphone or speaker
18 sam update-assistant Update the assistant already installed on the device
19 sam update Update Snips platform on your device
20 sam watch Show MQTT logs

[unltdnetworx]

Weiter oben steht der Ordner, in dem die Apps installiert sind. Bin gerade nicht am Rechner. Das muss manuell gelöscht werden.

Wenn du nichts anderes drauf laufen hast, könntest du ja alles neu aufsetzen.