<![CDATA[Test einer Spracherkennung auf der CPU]]>Ich schreibe das mal hier in OffTopic rein, da es zunächst erst mal nichts direkt mit iobroker zu tun hat, sondern nur ein Technologie Test ist.

nvidia hat kürzlich ein neues KI Spracherkennungsmodell herausgegeben, das nun auch diverse europäische Sprachen erkennen kann.

Details dazu in der model card auf huggingface
https://huggingface.co/nvidia/parakeet-tdt-0.6b-v3

Mein Testaufbau ist der folgende:
Im Browser wird über die AudioAPI des browsers der Ton aufgenommen und in 100ms Sekunden Häppchen per Websocket an den server gesendet.
Dort erkennt dann das Modell die Sprache und sendet den Text zurück an den Browser zur Anzeige.
Per Knopf kann das Mikrofon aktiviert/deaktiviert werden.

Das Modell ist ca 600MB groß und ist in der Lage auch auf schwächeren CPUs zu laufen. Eine GPU wird nicht benötigt.
Auf dem Serverrechner sollten ca 800MB-1000MB RAM frei sein.
Das Programm hat bereits eine rudimentäre Wortersetzung für schwierig aussprechbare/erkennbare Wörter eingebaut
config/corrections.json

Ich würde mich freuen, wenn ich tester finden würde, die ihre Erfahrungen hier teilen.

Die Installation ist in der Readme des repos
beschrieben.

https://github.com/oweitman/parakeet

oder einfach durch die folgenden Schritte ausführen

git clone https://github.com/oweitman/parakeet.git parakeet-demo
cd parakeet-demo
ONNXRUNTIME_NODE_INSTALL=skip npm ci --omit=dev
npm run download-model
npm run smoke
npm start

Der Befehl
npm run download-model
dauert ein wenig da dadurch das 600MB model von hugginface heruntergeladen wird.

Wenn ihr lokal testet, dann im browser einfach
http://localhost:9999
aufrufen.

Wer echt remote testen will muss leider entweder auf dem server ein (lokales) ssl zertifkat haben oder per ssh tunnel den remote port auf den lokalen rechner tunneln (details sind in der SERVER.md beschrieben.

Wer längere Texte testen möchte, kann auch einfach mal den Fernseher parallel laufen lassen. Am besten sind Dokumentationen.

Hintergrund ist, der browser gibt Zugriff auf die Audio API nur für https Seiten oder localhost/127.0.0.1 Zugriffe frei
https://developer.mozilla.org/en-US/docs/Web/API/Web_Audio_API

image.jpeg

]]>https://forum.iobroker.net/topic/85761/test-einer-spracherkennung-auf-der-cpuRSS for NodeTue, 10 Nov 2026 04:25:16 GMTWed, 04 Nov 2026 15:28:29 GMT60<![CDATA[Reply to Test einer Spracherkennung auf der CPU on Mon, 09 Nov 2026 18:06:24 GMT]]>Das Paket wurde von @bluefox in einem Adapter umgesetzt und dadurch besser getestet und eingesetzt werden

https://forum.iobroker.net/topic/85797/test-adapter-ai-parakeet-v0.1.x-lokale-spracherkennung

]]>https://forum.iobroker.net/post/1362495https://forum.iobroker.net/post/1362495Mon, 09 Nov 2026 18:06:24 GMT<![CDATA[Reply to Test einer Spracherkennung auf der CPU on Wed, 04 Nov 2026 17:50:35 GMT]]>@Jey-Cee

also das bild ist von meinem test mit meinem server über ein ssh tunnel
der rechner ist ein ASUS NUC 11 NUC11ATKC4 mit 64gb
Prozessor ist Intel Celeron N5105 Prozessor (Jasper Lake)
Das müsste der Vorgänger vom N100 sein.
Also kein so besonders Leistungsfähiger Prozessor.

Zeitverzögerung war ca 1 Sekunde
Die Interferenzzeit ist so bei 300-400 ms

Also für mich komplett ausreichend.

Hier wollte ich mal die Erfahrungen von draussen noch einholen.

Das mit der Verarbeitung auf dem Server habe ich deswegen gewählt, weil man oft auf dem Server etwas mehr Ressourcen übrig hat, wie auf Schwachbrüstigen Clients mit begrenztem RAM.
Aber ja, evtl müsste man das zur Wahl machen, wo die Erkennung wirklich durchgeführt wird.

Bei mir hat, trotz des Prozessors, 2 parallele Aufzeichnungen noch funktioniert. Klar ging die Prozessorleistung dann auch entsprechend hoch. Mehrere Anweisungen zum genau gleichen Zeitpunkt ist aber glaube ich eher die Ausnahme.
Ziel soll sein so ein Art Schmalspur-Voice Assistent zu bauen, der mit begrenzten/limittierten Ressourcen auskommt.
Klar geht besser immer: mehr CPU, mehr GPU, besseres Mikrofon, etc.
Wer besser haben will muss dann mehr Geld für bessere Hardware ausgeben oder gar Cloud-Dienste wie bspw OpenAI Live in Anspruch nehmen.

]]>https://forum.iobroker.net/post/1361877https://forum.iobroker.net/post/1361877Wed, 04 Nov 2026 17:50:35 GMT<![CDATA[Reply to Test einer Spracherkennung auf der CPU on Wed, 04 Nov 2026 17:35:46 GMT]]>@OliverIO Interessant wäre doch zu wissen, wie schnell das Ganze bei dir funktioniert. Also auf was für einer CPU läuft es und wie schnell ist es denn?

Ich benutze Parakeet tatsächlich schon länger in der App Whisperian, die ist für Android als Spracheingabe. Das Ganze läuft annähernd in Echtzeit auf meinem Xiaomi 13T Pro mit post Processing des Textes.
Außerdem habe ich schon vor einigen Monaten eine eigene APP gebaut als Voice Assistent für ioBroker das genau dieses Model verwendet, aber ohne post Processing des Textes.
Die läuft auf einem älteren Lenovo Yoga Smart Tab mit Android ähnlich schnell.
Es fühlt sich nur nicht so an weil die Verarbeitung erst ausgeführt wird wenn man fertig gesprochen hat.

Die Erkennungsgenauigkeit in einem leisen Raum ist sehr gut, mit Hintergrundgeräuschen wird es schon schwierig. Es lässt sich einiges herausholen mit VAD, aber auch das hat Grenzen.

Übrigens ist der Ansatz die Erkennung auf dem Server auszuführen nicht wirklich Praktikabel, wenn man mehrere Streams gleichzeitig verarbeiten will. Das braucht zu viel Leistung und der Server wird zum Flaschenhals.
Weswegen ich auch die Spracherkennung auf das Endgerät verlagert habe.

]]>https://forum.iobroker.net/post/1361874https://forum.iobroker.net/post/1361874Wed, 04 Nov 2026 17:35:46 GMT