Einmal im Monat zeigt unser Produktteam dem Rest des Unternehmens, was in den letzten vier Wochen tatsächlich fertig geworden ist. Diesmal gab es zwei Dinge, die es wert sind, hier festzuhalten: Die On-Premise-Version unserer Sprachplattform ist fertig und läuft bereits bei Kunden. Und wir haben eine deutsche Sprachsynthese-Engine eingebaut, die komplett innerhalb der EU trainiert und gehostet wird.
Warum Kunden Voice AI im eigenen Haus wollen
Cloud ist aus gutem Grund der Standard, der größte Teil unseres Traffics läuft dort. Aber im Gespräch mit großen Organisationen kommen fast immer dieselben drei Themen auf den Tisch, meistens gleich alle zusammen.
Interne Sicherheitsrichtlinien. Banken, große Gesundheitsdienstleister und Behörden haben oft feste Regeln: keine Software von Dritten außerhalb des eigenen Netzwerks. Da hilft kein noch so gutes Feature. Entweder die Software läuft im eigenen Haus, oder das Projekt ist vom Tisch.
Datenresidenzgesetze. Manche Länder verbieten es schlicht, dass Daten ihrer Bürger die Landesgrenze verlassen. Eine Cloud-Region, die geografisch näher liegt, ändert daran nichts.
Latenz. Bei Voice gibt es keinen Spielraum. Muss Audio erst zu einem weit entfernten Server und zurück, hört man das. Der Kunde bekommt eine Pause zu hören, bevor der AI Agent antwortet, und plötzlich fühlt sich das Gespräch nicht mehr wie ein Gespräch an. Läuft die Verarbeitung dagegen direkt dort, wo der Traffic entsteht, ist das Problem weg, nicht nur kaschiert.
Was On-Premise heute konkret bedeutet
Bis vor Kurzem war jedes On-Premise-Projekt Handarbeit, mit Monaten Engineering-Aufwand. Das ist jetzt vorbei. Wir liefern vier Bausteine:
- Eine fertige Distribution der Sprachplattform, installationsbereit
- Dokumentation für die API-Integration
- Zwei Dimensionierungsmodelle, eines für Cloud-Infrastruktur, eines für physische Hardware, berechnet nach Anrufvolumen und wie lange der Kunde Daten aufbewahren muss
- Eine Checkliste mit elf Abschnitten und mehreren Dutzend Fragen zur Einsatzbereitschaft
Diese Checkliste macht den eigentlichen Unterschied. Der Kunde geht sie mit unserem Team zusammen durch, ein bis zwei Tage. Am Ende steht eine Liste offener Infrastrukturpunkte und wer davon was übernimmt, zum Beispiel bei einem bestimmten Monitoring-Stack oder einer Datenbank. Danach dauert die eigentliche Implementierung drei bis acht Wochen.
Regionale Installationen für Kunden ohne eigenen Serverraum
On-Premise ist nicht die einzige Antwort auf Datenresidenz-Fragen. Wer weder eine Public Cloud will noch die Plattform selbst betreiben kann, bekommt bei uns eine länderspezifische Installation mit einem eigenen Tenant.
Das gibt es heute schon in Deutschland und Polen, Kasachstan und Usbekistan sind in Planung. Jede dieser Installationen lässt sich danach für den nächsten Kunden in derselben Region wiederverwenden, ohne die rechtliche oder die Latenz-Diskussion noch einmal von vorne zu führen.
Ein Punkt, der uns öfter gefragt wird: Die Sprachplattform selbst und die KI-Engines dahinter (Sprachmodell, Sprachsynthese, Spracherkennung) sind zwei getrennte Dinge. Ein Kunde kann die Plattform lokal betreiben und trotzdem externe Engines nutzen, oder auch die Engines lokal hosten. Letzteres geht, haben wir schon gemacht, bringt aber eigene Infrastrukturanforderungen mit und ist ein eigenes Thema für sich.
Erste Kundenprojekte
Die Entwicklung war Mitte August planmäßig fertig. Zuerst haben wir es bei uns selbst eingesetzt, bevor überhaupt ein Kunde davon wusste.
Der erste externe Kunde ist ein nationaler Mobilfunk- und Breitbandanbieter in Usbekistan, ein Markt mit rund 37 Millionen Menschen. Das Contact Center dort nimmt etwa 1,1 Millionen Anrufe im Monat an, 1,5 Millionen Gesprächsminuten, bei acht bis zehn Minuten Wartezeit in der Schlange. Rund 400.000 dieser Anrufe legen die Kunden auf, bevor überhaupt jemand abnimmt.
Geplant ist, etwa 30 Prozent des Traffics zu automatisieren, knapp 500.000 Gesprächsminuten im Monat, mit einem Szenario, das wir bei einem anderen Betreiber in der Region schon im Einsatz haben.
Und, wichtig: Hier geht es nicht um Stellenabbau. Die 2.000 Mitarbeitenden im Kundenservice bleiben genau da, wo sie sind. Es geht um die 400.000 Gespräche, die aktuell einfach gar nicht stattfinden.
Eine deutsche Stimme, die deutsch klingt
Der zweite Punkt ist kleiner, kam intern aber richtig gut an. Wir haben eine Sprachsynthese-Engine eines Berliner Unternehmens eingebaut, das seine deutschen Modelle komplett in Europa trainiert und hostet.
Drei Dinge machen sie interessant: Sie läuft auch innerhalb der Kundenumgebung, passt also gut zu unserer On-Premise-Arbeit von oben. Sie liefert den ersten Ton nach wenigen Dutzend Millisekunden, deutlich schneller als die großen kommerziellen Engines, die wir kennen, und bei Sprache hört man diesen Unterschied sofort. Und sie gehört vollständig einem europäischen Unternehmen und erfüllt die geltenden Vorschriften.
Alle bei uns, die sie zuerst gehört haben, sagten unabhängig voneinander dasselbe: Das klingt nach einem echten Muttersprachler, nicht nach der Imitation von einem.
Beide Themen hängen am Ende an derselben Frage: Wo läuft die Software, wo liegen die Daten, wo entsteht die Stimme. Für regulierte Kunden ist das kein technisches Detail irgendwo im Kleingedruckten, sondern genau das, worüber am Ende entschieden wird.
Tenios läuft auf einer Plattform, die im Rahmen eines nach ISO/IEC 27001:2022 zertifizierten Informationssicherheits-Managementsystems betrieben wird. Daten verbleiben standardmäßig innerhalb der EU-/EWR-Infrastruktur, und Kundendaten werden niemals für das Training von KI-Modellen verwendet.
