[Aufruf] Adapter: Snips - Offline Speak2Text

___manalishi

@Wal Ich bein kein Software Experte aber in mir bekannten Client-Server Applikationen wird so etwas in einer "Session" verarbeitet. Stichwort Sessioncookie. In Node git es ein Modul Session. Vielleicht ist das dafür zu gebrauchen

unltdnetworx

Das Hauptproblem wird sein, dass t2c nur einen Datenpunkt als Rückgabe setzen kann.

___manalishi

@AndiM said in [Aufruf] Adapter: Snips - Offline Speak2Text:

~~@unltdnetworx:~~

Die Verarbeitung läuft auf dem Server und genau da greifen wir die Daten von NLU ab. Bei Frank scheint das nicht so zu sein. `
Hatte Frank nicht auch Variante B ??

Kenn die Installation von Frank net so genau, aber meine VM hat eine "virtuelle" Soundkarte und würd vermutlich auch als "Satellit" bzw. "Client" laufen.

Hab leider nicht die Hardware da um das zu testen. Ich hab den Snips ohne "Soundkarte" gar nicht installiert bekommen ..

Ich habe Probleme mit meiner Client-Server Umgebung.
Auf dem Snips Server beleiben immer wieder die Services stehen. sam status zeigt "Idle".
Habe jetzt die Services wieder am laufen. Injects gehen aber wieder nicht.

Connected to device localhost

OS version ................... Debian GNU/Linux 9 (stretch)
Installed assistant .......... ASSI-1
Language ..................... de
Hotword ...................... hey_snips
ASR engine ................... snips
Status ....................... Live

Service status:

snips-analytics .............. 0.60.12 (not running)
snips-asr .................... 0.60.12 (running)
snips-audio-server ........... 0.60.12 (not running)
snips-dialogue ............... 0.60.12 (running)
snips-hotword ................ 0.60.12 (running)
snips-nlu .................... 0.60.12 (running)
snips-skill-server ........... 0.60.12 (not running)
snips-tts .................... 0.60.12 (running)

sam watch bei inject:

[23:02:29] Watching on 127.0.0.1:1880 (MQTT)
[23:02:35] [Injection] an injection of 1 words for 1 entities has been requested

@AndiM: Bei dier ist der Master mit einer Soundkarte ausgerüstet, richtig?
gehen bei dir die Injects wenn der audio-server gestoppt ist?

Ist ein Audio-Server bei injects notwendig? Die Rückmeldung kommt ja von ASR und NLU.
Edit:
Habe ein USB Headset an der VM angeschlossen und den danach audio-server starten können.
Injects gehen auch bei laufendem audio-server nicht.

Ich verstehe die Funktion des Eintrags im snips.toml auf dem Master immer noch nicht richtig:

Meldet man hiermit die Satteliten am Master an? (kitchen ist ein Sattelit)

[snips-audio-server]

bind = "kitchen@mqtt"

unltdnetworx

@frank70 sagte in [Aufruf] Adapter: Snips - Offline Speak2Text:

Ist ein Audio-Server bei injects notwendig?

Für die injects musst du lediglich den den Dienst installieren und sollte dann normalerweise laufen:

sudo apt-get install -y snips-injection

@frank70 sagte in [Aufruf] Adapter: Snips - Offline Speak2Text:

[snips-audio-server]
bind = "kitchen@mqtt"

Du musst beim Audio Server immer den Namen des Satelliten eintragen.

[snips-common]
mqtt = "YOUR_BASE_IP/HOST_NAME:1883"

Bei Snips Common deinen Server. Z.B. Server.fritz. box:1883

Kann es sein, dass du das Gerät evtl. neugestartet hast und die jeweiligen Server nicht neustarten?

AndiM

@frank70 said in [Aufruf] Adapter: Snips - Offline Speak2Text:

Habe ein USB Headset an der VM angeschlossen und den danach audio-server starten können.
Injects gehen auch bei laufendem audio-server nicht.

servus,

brauchst auch nicht ...
schau mal mit "sam service log" ob er nicht versucht irgend welche Dienste zu starten, was das System ausbremst, bzw. siehst damit auch warum er die Injects net schafft.

Services welche er starten will aber nicht benötigt werden kannst übrigens mit:

sudo systemctl disable/enable snips-?????????.service

de- oder aktivieren.

lg

Wal

Hier mal meine Config:
Snips-Server:

Connected to device localhost

OS version ................... Debian GNU/Linux 9 (stretch)
Installed assistant .......... ioBroker
Language ..................... de
Hotword ...................... hey_snips
ASR engine ................... snips
Status ....................... Live

Service status:

snips-analytics .............. (not running)
snips-asr .................... 0.60.8 (running)
snips-audio-server ........... 0.60.8 (running)
snips-dialogue ............... 0.60.8 (running)
snips-hotword ................ 0.60.8 (running)
snips-nlu .................... 0.60.8 (running)
snips-skill-server ........... 0.60.8 (not running)
snips-tts .................... 0.60.8 (running)

[snips-common]
 bus = "mqtt"
 mqtt = "localhost:1500"
# audio = ["+@mqtt"]
# assistant = "/usr/share/snips/assistant"
# user_dir = "/var/lib/snips"
[snips-audio-server]
# frame = 256
bind = "livingroom@mqtt"
# mike = "Built-in Microphone"
# disable_playback = false
[snips-hotword]
# model = "/usr/share/snips/hotword"
# hotword_id = "default"
# sensitivity = "0.5"
audio = ["livingroom@mqtt", "kitchen@mqtt"]

Satellit:

Connected to device localhost

OS version ................... Raspbian GNU/Linux 9 (stretch)
Installed assistant .......... Not installed
Status ....................... Live (no assistant)

Service status:

snips-analytics .............. (not running)
snips-asr .................... (not running)
snips-audio-server ........... 0.60.12 (running)
snips-dialogue ............... (not running)
snips-hotword ................ (not running)
snips-nlu .................... (not running)
snips-skill-server ........... (not running)
snips-tts .................... (not running)

[snips-common]
# bus = "mqtt"
mqtt = "192.168.111.5:1500"
# audio = ["+@mqtt"]
# assistant = "/usr/share/snips/assistant"
# user_dir = "/var/lib/snips"
[snips-audio-server]
# frame = 256
bind = "kitchen@mqtt"
# mike = "Built-in Microphone"
# disable_playback = false
# disable_capture = false

Injection geht mit dieser Config bei mir.

Edit: snips-injection ist nur auf dem Server installiert.

___manalishi

@unltdnetworx Ich habe den install cmd für den snips-injection service nochmals ausgeführt.
Jetzt funktionieren die Injects wieder! Verstaden habe ich es ehrlich gesagt nicht ganz.

Wegen dem angeblich falschen Repository bei sam init habe ich die Installation auf der VM ja mit:
"apt install -y alsa-utils snips-platform-voice snips-skill-server snips-watch curl unzip"

und nach der Node installation mit:
"npm install -g snips-sam" installiert

Sollte dabei der injection-service nicht mit installiert worden sein?

___manalishi

@AndiM
Merci! Guter Hinweis. Ich habe den Skill-Server und den Audio-Server deaktiviert. Die Errors im logfile sind jetzt weg!

___manalishi

@Wal Snips-Injection war natürlich auf den Satteliten auch installiert, weil ich die Geräte ursprünglich als Standalone-Device installiert habe.

Nächste Woche bekomme ich hoffentlich meinen Gehäuse Prototypen (habe selbst noch keinen Drucker). Soll ich nochmal versuchen das Jabra mit einem PiZero im Gehäuse zu positionieren oder habt ihr das als "zu teuer" verworfen?

Wal

@frank70 sagte in [Aufruf] Adapter: Snips - Offline Speak2Text:

@Wal Snips-Injection war natürlich auf den Satteliten auch installiert, weil ich die Geräte ursprünglich als Standalone-Device installiert habe.

Nächste Woche bekomme ich hoffentlich meinen Gehäuse Prototypen (habe selbst noch keinen Drucker). Soll ich nochmal versuchen das Jabra mit einem PiZero im Gehäuse zu positionieren oder habt ihr das als "zu teuer" verworfen?

Lass es erst mal gut sein, wenn es mal gut funktioniert sprechen wir nochmal darüber.:relaxed:

rascal

Hallo,
zwei kurze Fragen:

Wenn ich einen Satelliten installiere, kann ich dann in Iobroker dafür eine extra Text2Command Instanz verwenden, oder läuft der Satellit über die Text2Command des Main?
Wäre es eine Idee/ist es möglich Snips nur für Sprachausgabe zu verwenden? Bzw. eine Sprachausgabe synchron auf allen Snips Instanzen auszugeben?

rascal

Ok, ich habe jetzt ausprobiert:
einen Master + ein Satellite
Beide Eingabe gehen über eine Iobroker-Snips Instanz zu einem Text2Command Adapter, logisch - keine Überraschung.

zwei Master
Jeder Snips geht auf eine Iobroker_Snips Instanz, aber es bringt nichts, dass man 2 Text2Command Adapter installiert, die verhalten sich wie einer :(

Hintergrund meiner Fragen:
2 Zimmer: zb: Bad und Küche
Wie mache ich es, dass, wenn ich in der Küche "Licht an" sage, in der Küche das Licht an geht und wenn ich im Bad "Licht an" sage, das Licht im Bad an geht, bzw auch im richtigen Raum die Antwort erfolgt?

unltdnetworx

@rascal
Hey Rascal,
also ich persönlich würde mir immer eine andere Lösung suchen, als zwei Master zu betreiben. Da hast du immer doppelte Arbeit.

Aber zum Thema Satelliten und Raumerkennung hatten wir oben schon mal geschrieben. Wir sind noch dran, ist aber definitiv geplant. Momentan haben wir aber das Problem, dass wir die Ausgabe nicht gesichert auf dem richtigen Gerät bekommen, falls zwei Satelliten zeitnah zueinander benutzt werden.

Jetzt sollten wir auch erst mal den 25.02. abwarten. Dann kommt eine neue Snips-Version heraus, mit größeren Änderungen.

unltdnetworx

Noch eine andere Frage. Hat jemand seinen ioBroker auch auf einer Synology mit Docker laufen?

Ich habe HDD-Standby bei längerer Nichtbenutzung aktiv und das Gefühl, dass Snips manchmal ewig braucht um zu antworten. Bin mir nicht sicher, ob es am Aufwecken der Festplatten liegt.

unltdnetworx

@Wal
Ich hab, glaub ich, die Lösung für ein paar Probleme gefunden. Muss sie nur noch umsetzen. :joy:

Man kann nämlich die SessionID verarbeiten. Somit kann man die Endgeräte/Satelliten gezielt rückansprechen und auch Timeouts nach nicht erkannten Intents verkürzen/sofort abbrechen.

Mal schauen, wir schnell das umsetzbar ist. Freitag hab ich etwas Zeit dafür.

Wal

@unltdnetworx ,
super :+1: i.M. muss ich meine neue Libreelec-Maschine (Beelink S2 N5000) umbauen, die hat kein IR. Der Prototyp des IR-Empfängers/Einschalters läuft aber schon ohne Probleme.

AndiM

@unltdnetworx t2c fängt mit der session id nicht viel an ... wollt ihr ein eigenes Snips2C machen? ... hätt ich nur mehr Ahnung von Java/node.js :(

___manalishi

@Wal habe das hier zufällig gesehen. Wäre das vielleicht was?

https://aiyprojects.withgoogle.com/voice/

Natürlich nur die Komponenten, nicht die Pappschachtel:relaxed:

unltdnetworx

@AndiM
Ja genau das ist das Hauptproblem. Aber nichtsdestotrotz arbeitet der Adapter im Moment nur neben Snips und greift die Daten ab. Er sollte aber richtig mit Snips kommunizieren, das geht eben mit den SessionIDs. In der Theorie hab ich eine Idee. Muss morgen mal sehen, ob es auch praktisch klappt umzusetzen.

Zur Kommunikation mit t2c muss entweder eine t2c-Regel die Daten entsprechend zurückgeben oder t2c um SessionIDs erweitert werden.

Zur Not muss wirklich der Snips-Adapter erweitert werden. Aber das wäre nur die äußerste Lösung.

___manalishi

@unltdnetworx said in [Aufruf] Adapter: Snips - Offline Speak2Text:

Noch eine andere Frage. Hat jemand seinen ioBroker auch auf einer Synology mit Docker laufen?

Ich habe HDD-Standby bei längerer Nichtbenutzung aktiv und das Gefühl, dass Snips manchmal ewig braucht um zu antworten. Bin mir nicht sicher, ob es am Aufwecken der Festplatten liegt.

I.d.R. gehen die Platten nicht auf Standby wenn eine Applikation läuft. Habe keine Erfahrung mit dem ioBroker on Docker, aber wenn du z.B Mailserver laufen hast oder auch Unifi WifiController auf Docker, dann schalten die Platten nicht ab.

Ich habe lange Wartezeiten und Fehverhlalten beim LED Feedback auf meinen Satteliten, starte seit ein paar Tagen die Snips Services sowohl auf dem Server als auch auf beiden PI's per crontab 2 mal täglich.

Community Forum

NEWS

[Aufruf] Adapter: Snips - Offline Speak2Text

Support us

381

32.4k

81.4k

1.3m