KI mit Datenstandort Schweiz – Azure OpenAI kontrolliert einsetzen

Warum öffentliche Chat-Tools für Mandantendaten heikel sind

Ein Beispiel: In einer Treuhandfirma möchten Mitarbeitende lange Dokumente zusammenfassen und Antworten auf Mandantenanfragen vorbereiten lassen. Nutzen sie dafür private Konten in öffentlichen Chat-Tools, verlassen Mandantendaten die kontrollierte Umgebung. Je nach Anbieter und Einstellungen können Eingaben gespeichert oder zur Verbesserung des Dienstes verwendet werden, und die Firma hat weder einen Vertrag noch Einblick. Das Datenschutzgesetz gilt auch hier: Der EDÖB hält fest, dass es direkt auf KI-gestützte Datenbearbeitungen anwendbar ist.

Die Lösung ist ein kontrolliertes Angebot. Arbeiten Ihre Leute vor allem in Outlook, Word und Teams, ist Microsoft Copilot oft der einfachere Weg. Azure OpenAI passt, wenn Sie eine eigene Anwendung bauen: für Ihre Dokumente und Abläufe, mit genauer Kontrolle über den Verarbeitungsort.

Was Azure OpenAI anders macht

Azure OpenAI ist Teil von Microsoft Foundry, der KI-Plattform in Azure (früher Azure AI Foundry). Sie stellen ein Modell in einer Foundry-Ressource in Ihrem eigenen Azure-Abonnement bereit. Laut Microsoft gilt:

• Microsoft betreibt die Modelle in Azure; sie interagieren nicht mit Diensten von OpenAI wie ChatGPT.
• Eingaben und Antworten sind weder für andere Kunden noch für OpenAI zugänglich.
• Sie dienen ohne Ihre Zustimmung nicht dem Training von Basismodellen, und die Modelle selbst speichern keine Eingaben.
• Für die Datenverarbeitung gilt das Data Protection Addendum von Microsoft.

Die Details beschreibt Microsoft auf der Seite Daten, Datenschutz und Sicherheit.

Wo Ihre Anfragen verarbeitet werden

Beim Bereitstellen eines Modells wählen Sie einen Bereitstellungstyp. Gespeicherte Daten wie hochgeladene Dateien bleiben in jedem Fall in der Azure-Geografie Ihrer Ressource. Wo die Anfragen verarbeitet werden, hängt vom Typ ab:

Die Schweiz hat zwei Azure-Regionen: Switzerland North in Zürich und Switzerland West in Genf. Der Zugang zu Switzerland West ist eingeschränkt und für Fälle wie die Notfallwiederherstellung gedacht; in der Praxis ist Switzerland North die naheliegende Wahl.

Der Haken liegt bei der Modellauswahl. Neue Modelle erscheinen zuerst als Global, dann als Data Zone und zuletzt regional, ohne garantierten Termin. Stand Oktober 2026 führt Microsoft für Switzerland North im Typ Standard vor allem ältere Modelle wie GPT-4.1, GPT-4.1 mini und GPT-4o sowie Embedding-Modelle, die Texte für die Suche aufbereiten. Neuere Generationen gibt es dort meist nur als Data Zone oder Global. Prüfen Sie vor jedem Projekt die aktuelle Verfügbarkeitstabelle, denn sie ändert sich laufend. Mit Azure Policy, also verbindlichen Regeln für Ihr Abonnement, können Sie unerwünschte Typen wie Global sperren.

Ob eine Verarbeitung in Europa oder weltweit für Ihre Daten zulässig ist, hängt unter anderem vom Datenschutzgesetz, von Verträgen mit Mandanten und von Geheimhaltungspflichten ab. Klären Sie das vor der Wahl des Typs; dieser Beitrag ersetzt keine Rechtsberatung.

Missbrauchsüberwachung: was gespeichert werden kann

Zwei Schutzmechanismen sind zu unterscheiden. Die Guardrails (früher Inhaltsfilter) prüfen Eingaben und Antworten in Echtzeit auf schädliche Inhalte. Die Missbrauchsüberwachung (Abuse Monitoring) sucht nach Mustern, die auf Verstösse gegen die Nutzungsregeln hindeuten. Auffällige Eingaben und Antworten werden zuerst automatisiert geprüft, auch mit KI-Modellen; in manchen Fällen sehen autorisierte Microsoft-Mitarbeitende sie ein. Die dafür gespeicherten Daten liegen in der Azure-Geografie Ihrer Ressource. Eine feste Aufbewahrungsfrist nennt Microsoft auf den aktuellen Seiten nicht; ist sie für Sie entscheidend, fragen Sie nach.

Wer weder Speicherung noch menschliche Prüfung zulassen darf, kann eine angepasste Missbrauchsüberwachung beantragen. Derzeit steht das allerdings nur Kunden und Partnern offen, die ein Microsoft-Account-Team betreut oder die an einem berechtigten Programm teilnehmen. Trifft das auf Ihre Firma nicht zu, planen Sie mit der Standardüberwachung und prüfen Sie, ob sie mit Ihren Geheimhaltungspflichten vereinbar ist.

Zudem speichern einige Funktionen bewusst Daten, etwa Gesprächsverläufe über die Responses API oder hochgeladene Dateien. Diese liegen in Ihrer Ressource in derselben Geografie und lassen sich jederzeit löschen.

Zugriff, Netzwerk und Kosten im Griff

Zugriff und Netzwerk absichern

• Microsoft Entra ID statt API-Schlüssel: Statt mit festen Zugangsschlüsseln erhalten Personen und Anwendungen Zugriff über Rollen wie «Cognitive Services User»; die Schlüssel lassen sich danach deaktivieren.
• Verwaltete Identitäten (Managed Identities): Anwendungen in Azure melden sich ohne gespeichertes Passwort oder Schlüssel an.
• Private Endpunkte: Schalten Sie den öffentlichen Netzwerkzugriff ab, damit die Ressource nur aus Ihrem virtuellen Netzwerk oder per VPN erreichbar ist.
• Trennung und Protokolle: Test und Betrieb trennen, nur nötige Rechte vergeben, Zugriffe protokollieren.

Kosten und Kontingente verstehen

Abgerechnet wird nach Tokens, also nach Textbausteinen von etwa Wort- oder Silbengrösse, getrennt für Eingabe und Antwort. Der Preis hängt von Modell und Bereitstellungstyp ab; Global Standard ist laut Microsoft die günstigste Variante. Die Abrechnung pro Token passt zu schwankender Nutzung; reservierte Kapazität («Provisioned») ist für gleichmässig hohes Volumen gedacht.

Kontingente (Quotas) begrenzen, wie viele Tokens und Anfragen pro Minute ein Abonnement verarbeiten darf; Microsoft hebt sie mit wachsender Nutzung automatisch an. Setzen Sie im Azure-Portal ein Budget mit Kostenwarnung, nehmen Sie für einfache Aufgaben kleinere Modelle und begrenzen Sie, wie viel Text pro Anfrage mitgeht.

Was sich damit bauen lässt

• Fragen an eigene Dokumente: Azure AI Search durchsucht freigegebene Unterlagen wie Weisungen, Vorlagen oder Merkblätter, und das Modell antwortet mit Quellenangaben. Azure AI Search ist in Switzerland North und Switzerland West verfügbar. Indexieren Sie nur, was alle Nutzer der Anwendung sehen dürfen, oder bilden Sie die Berechtigungen ab.
• Antwortentwürfe für E-Mails: Ein Assistent ordnet eingehende Anfragen ein und schlägt eine Antwort vor; ein Mensch prüft und sendet.
• Daten aus Dokumenten auslesen: Azure Document Intelligence in Foundry Tools erkennt Text und Felder in Rechnungen, Belegen oder Formularen, mit vorgefertigten oder eigenen Modellen. Prüfen Sie die Verfügbarkeit in Ihrer Region.

Ein Beispiel: Eine Treuhandfirma lässt eingehende Belege mit Document Intelligence auslesen, ein Sprachmodell schlägt die Zuordnung zum Mandat vor, und eine Sachbearbeiterin bestätigt sie. Jeder Schritt bleibt nachvollziehbar.

So gehen Sie vor

1. Einen Anwendungsfall mit klarem Nutzen und überschaubaren Daten wählen.
2. Die Daten einstufen und festlegen, ob die Verarbeitung in der Schweiz bleiben muss oder Europa genügt.
3. Eine Foundry-Ressource in Switzerland North anlegen, Modell und Bereitstellungstyp passend wählen und unerwünschte Typen per Azure Policy sperren.
4. Zugriff über Entra ID und verwaltete Identitäten regeln, den öffentlichen Zugriff abschalten und Schlüssel deaktivieren.
5. Klären, ob die Standard-Missbrauchsüberwachung für Ihre Daten tragbar ist.
6. Einen Prototyp mit Testdaten bauen und mit echten Fragen aus dem Alltag bewerten.
7. Budget, Kontingente und Nutzung laufend überwachen.
8. Zweck, Datenquellen und Verantwortlichkeiten dokumentieren und die Mitarbeitenden informieren; bei hohen Risiken verlangt das Datenschutzgesetz eine Datenschutz-Folgenabschätzung.

Wir planen und bauen solche Lösungen in Ihrer Azure-Umgebung, von der Architektur bis zum ersten Prototyp – mehr unter KI & Automatisierung und Cloud & Infrastruktur. Wie Treuhandfirmen KI sinnvoll einsetzen können, lesen Sie in KI im Treuhandbüro. Für eine erste Einschätzung Ihres Anwendungsfalls nehmen Sie Kontakt mit uns auf.