Datenschutz bei Voice AI

Bei Voice AI denken viele zuerst an Erkennung, Sprache, Automatisierung. Und erst danach an Datenschutz. Oft wäre die umgekehrte Reihenfolge klüger. Nicht, weil Datenschutz ein Bremsklotz wäre, sondern weil er Teams zu präziseren Fragen zwingt: Welche Daten verarbeiten wir? Zu welchem Zweck? Wo liegen sie? Wer bekommt Zugriff? Und welche Ergebnisse dürfen weiterverwendet werden?

Erst der Zweck, dann die Daten

Die Datenschutzkonferenz formuliert den ersten Grundsatz sehr klar: Vor dem Einsatz einer KI-Anwendung sollen Verantwortliche Einsatzfelder und Zwecke ausdrücklich festlegen. Diese Zweckfestlegung sei elementar, weil sich nur so prüfen lässt, ob die Verarbeitung personenbezogener Daten überhaupt erforderlich ist. Das ist kein juristischer Formalismus, sondern eine praktische Projektregel. Wer nicht sauber sagen kann, wofür der Bot da ist, kann auch nicht sauber sagen, welche Daten er braucht.

Datenschutz beginnt nicht mit der Datenschutzerklärung am Seitenende. Er beginnt bei der Frage, wofür der Bot überhaupt da ist.

Offen oder geschlossen: der Betriebsmodus zählt

Spannend wird es bei der Architektur. Die DSK unterscheidet zwischen geschlossenen und offenen Systemen. Bei offenen, cloudbasierten Konstellationen verlassen Eingaben den geschützten Bereich, können je nach Aufbau für andere Zwecke weiterverarbeitet werden und bergen zusätzliche Risiken, etwa unbefugte Offenlegung oder Drittlandtransfers. Technisch geschlossene Systeme seien aus Datenschutzsicht vorzugswürdig. Für Unternehmen ist das eine gute Denkhilfe. Entscheidend ist der Betriebsmodus, nicht allein das Modell.

Risiken im laufenden Betrieb

Dazu kommen die Risiken im Betrieb. Die BfDI weist darauf hin, dass große Sprachmodelle halluzinieren, personenbezogene Daten memorisieren und durch gezielte Prompts Datenlecks auslösen können. Auch Inferenz gehört dazu: Aus harmlos wirkenden Eingaben lassen sich zusätzliche personenbezogene Informationen ableiten. Im Voice-Kontext ist das besonders heikel, weil Gespräche oft beiläufig sensible Details enthalten.

Datenschutz als Teil des Designs

Für Voice AI heißt das in einfachen Worten: Datenschutz beginnt lange vor dem ersten Gespräch. Er steckt in der Zweckklärung, in der Wahl der Architektur, in Eingaberegeln, in Rollen und Rechten, in Schulung und Dokumentation. Das muss niemanden lähmen. Im Gegenteil, es macht Entscheidungen besser. Die DSK hat 2025 sogar weitere Hilfen zu generativer KI mit RAG sowie zu technischen und organisatorischen Maßnahmen veröffentlicht. Die Reise geht klar weg von Grundsatzdebatten, hin zu praktikablen Betriebsregeln.

Ich würde Datenschutz bei Voice AI deshalb nicht als nachgelagerte Freigabeschleife behandeln, sondern als Teil des Designs. Wer das früh versteht, wirkt später oft souveräner, vertrauenswürdiger und am Ende sogar schneller. Wie gut euer Team strukturell aufgestellt ist, zeigt der Voice AI Readiness Score; wie Einführung und Befähigung zusammenspielen, steht auf der Enablement-Seite.