Das Recht gilt schon. Seit vor der KI.

Reihe «KI verstehen», Notiz 9 von 12. Die acht vorigen erklärten die Technologie und wie man sie ins Unternehmen bringt. Diese erklärt, was das Recht sagt, mit einer Warnung vorweg: Ich bin kein Anwalt, diese Notiz ist keine Rechtsberatung, und was sie tut, ist zu ordnen, was Ihre Beraterin oder Ihr Berater Ihnen bestätigen wird. Lesen Sie sie, um mit fertigen Fragen in diese Sitzung zu gehen.

Montag, 11.20 Uhr, ein Immobilienbüro in Palma. Eine Maklerin muss einen Reservationsvertrag für einen Käufer aus Basel vorbereiten und fügt, um schneller zu sein, in ein Gratiskonto eines KI-Assistenten den gescannten Pass des Käufers, seine Kontonummer und den früheren Vertrag eines anderen Kunden als Vorlage ein. In vierzig Sekunden hat sie einen tadellosen Entwurf. Drei Wochen später, bei einer Datenschutzprüfung, die die Schweizer Gruppe verlangt, die das Büro gerade gekauft hat, fragt jemand, wo die Daten dieses Passes sind. Niemand weiss es. Der Assistent war gratis, und in den Gratiskonten mancher Anbieter kann, was man schreibt, zum Trainieren des Modells verwendet werden.

Die Szene ist fiktiv. Die Frage der Prüfung nicht, und sie ist die erste, die man beantworten können muss. In dieser Notiz gebe ich Ihnen die drei Rechtsschichten, die ein Unternehmen mit KI betreffen, in der Schweiz und in Spanien, mit dem, was jede verlangt, und den Daten, die Sie wirklich betreffen. Sie werden sehen, dass das meiste nicht neu ist: Es ist das Datenschutzrecht von immer, angewendet auf ein neues Werkzeug. Und Sie werden sehen, wo es Neues mit Datum gibt.

Die KI hat keine neuen Pflichten für die Daten Ihrer Kundschaft geschaffen. Sie hat eine sehr schnelle Art geschaffen, die zu verletzen, die Sie schon hatten.

Schicht 1. Der Datenschutz, der bereits in Kraft ist.

In Spanien gilt die Datenschutz-Grundverordnung der Europäischen Union, die DSGVO, seit Mai 2018. In der Schweiz gilt das revidierte Datenschutzgesetz, in Kraft seit dem 1. September 2023, das so verfasst wurde, dass es nahe an der DSGVO bleibt. Keines der beiden erwähnt Sprachmodelle. Und beide gelten vollständig für sie. Der Eidgenössische Datenschutz- und Öffentlichkeitsbeauftragte hat es im Mai 2025 schriftlich festgehalten: Das geltende Gesetz ist auf die Datenbearbeitung mit KI direkt anwendbar, unabhängig von jeder künftigen Regulierung.

Was diese Gesetze verlangen, übersetzt auf ein KI-System, passt in sechs Punkte. Ich zähle sie mit der Pflicht und mit dem Beispiel des Immobilienbüros auf.

• Zweck und Rechtsgrundlage. Jedes Personendatum wird für einen bestimmten Zweck und mit einem Grund bearbeitet, den das Gesetz zulässt. Die Daten des Käufers wurden erhoben, um einen Kauf abzuschliessen, nicht um ein externes System zu unbekannten Zwecken zu speisen. Sie in ein Gratiskonto einzufügen ist eine neue Bearbeitung ohne Grundlage.
• Transparenz. Die Menschen haben das Recht zu wissen, was mit ihren Daten geschieht, und laut dem Schweizer Beauftragten zu wissen, dass sie mit einer Maschine sprechen und ob das, was sie schreiben, zur Verbesserung des Systems verwendet werden kann. Ein Assistent auf Ihrer Website, der sich als Person ausgibt, verstösst in der Schweiz heute dagegen, und in der Europäischen Union ab August 2026 auf einem zweiten Weg, wie Sie in Schicht 2 sehen werden.
• Automatisierte Entscheidungen. Wenn eine Entscheidung mit rechtlichen oder erheblichen Wirkungen auf eine Person allein von einer Maschine getroffen wird, hat diese Person das Recht, dass jemand sie überprüft. Die DSGVO regelt das in Artikel 22, das Schweizer Gesetz in einer eigenen Bestimmung. Ein System, das allein ein Mietgesuch, einen Kredit oder eine Bewerbung ablehnt, fällt voll darunter.
• Folgenabschätzung. Wenn eine Bearbeitung ein hohes Risiko für die Menschen bedeutet, muss sie vor dem Start schriftlich analysiert werden; die DSGVO nennt das Datenschutz-Folgenabschätzung, Artikel 35, und das Schweizer Gesetz verlangt dasselbe für KI mit hohem Risiko. Gesundheitsdaten, Minderjährige, Profile, Überwachung: vor dem Einschalten das Papier.
• Auftragsbearbeiter und Verträge. Der Anbieter des Modells bearbeitet Daten im Auftrag Ihres Unternehmens, er ist also Auftragsbearbeiter, und es braucht einen Vertrag, der sagt, was er mit ihnen tut, wo, wie lange und wie er sie löscht. Artikel 28 der DSGVO führt das aus. Ein Gratiskonto hat diesen Vertrag nicht.
• Übermittlungen ausserhalb Europas und der Schweiz. Die meisten grossen Modellanbieter sitzen in den Vereinigten Staaten. Daten dorthin zu senden verlangt eine anerkannte Garantie, die seriöse Anbieter in ihren Bedingungen für Unternehmen bieten und die man prüfen muss. Fragen Sie, wo Ihre Daten bearbeitet werden und mit welcher Garantie. Wenn der Anbieter nicht antworten kann, ist das seine Antwort.

Einen Punkt sollte man klar trennen: Ein Konsumentenkonto ist nicht dasselbe wie ein Unternehmenskonto. Anthropic zum Beispiel dokumentiert, dass es standardmässig nicht verwendet, was Unternehmen über seine API oder an seine kommerziellen Produkte senden, um seine Modelle zu trainieren, es sei denn, der Kunde erlaubt es oder sendet Rückmeldungen, und dass für persönliche Konten andere Bedingungen gelten. Andere Anbieter haben ähnliche Unterscheidungen. Die praktische Regel ist einfach: Kundendaten nur in Unternehmenskonten mit Vertrag. Alles andere ist das Immobilienbüro in Palma.

Schicht 2. Die KI-Verordnung der EU, mit ihren Daten.

Die Verordnung (EU) 2024/1689, bekannt als KI-Verordnung oder AI Act, trat am 1. August 2024 in Kraft und gilt stufenweise. Im Juli 2026 hat eine zweite Verordnung, der sogenannte Digital-Omnibus, einige dieser Stufen verschoben. Ich gebe Ihnen den Zeitplan, wie er jetzt steht, mit einer wichtigen Klarstellung: Sie gilt für alle, die KI-Systeme in der Europäischen Union nutzen oder in Verkehr bringen, ob ihr Sitz innerhalb oder ausserhalb liegt. Ein Schweizer Unternehmen, das Kundschaft in Spanien oder Deutschland mit einem KI-System bedient, ist also drin.

• Seit dem 2. Februar 2025: die verbotenen Praktiken, wie Social Scoring oder unterschwellige Manipulation, und Artikel 4, die Pflicht, dass die Personen, die im Namen des Unternehmens KI-Systeme nutzen, über ein ausreichendes Mass an KI-Kompetenz verfügen. Das ist schon in Kraft. Es ist die Schulung aus Schritt 8 der Notiz 6.
• Seit dem 2. August 2025: die Pflichten der Anbieter der grossen Modelle mit allgemeinem Verwendungszweck. Sie betreffen Sie indirekt: Sie sind es, die Ihnen erlauben, von Ihrem Anbieter Dokumentation zu verlangen.
• Ab dem 2. August 2026: Artikel 50, Transparenz. Ein KI-System, das mit Menschen spricht, muss so gebaut sein, dass sie wissen, dass sie mit einer Maschine sprechen, ausser es ist offensichtlich. Mit KI erzeugte Bilder, Audios und Videos, die als echt durchgehen könnten, müssen gekennzeichnet werden. Das ist neu und betrifft Sie: der Assistent auf Ihrer Website, die Stimme am Telefon, das erzeugte Foto Ihres Hotels.
• Ab dem 2. Dezember 2027 (vorher August 2026): die Hochrisikosysteme des Anhangs III, etwa jene in der Personalauswahl, in der Bonitätsprüfung oder beim Zugang zu wesentlichen Dienstleistungen, mit ihren Pflichten zu menschlicher Aufsicht, Protokollierung und Dokumentation. Der Omnibus hat das verschoben, nicht gestrichen. Wenn Ihr Unternehmen KI nutzt, um Bewerbungen zu filtern, haben Sie bis dahin Zeit, es richtig zu machen.
• Ab dem 2. August 2028: die Hochrisikosysteme, die in regulierte Produkte des Anhangs I eingebaut sind, etwa Medizinprodukte oder Maschinen.

Beachten Sie das Detail, das am häufigsten übersehen wird und das ich schon in einer früheren Notiz zu diesem Zeitplan behandelt habe: Das Gesetz unterscheidet zwischen dem Anbieter, der das System entwickelt, und dem Betreiber, der es nutzt. Fast alle Unternehmen sehen sich als Letzteres. Aber wenn ein Unternehmen ein Modell nimmt, es konfiguriert, seine Marke daraufsetzt und es seiner Kundschaft als eigenes anbietet, wird es womöglich zum Anbieter, mit grösseren Pflichten. Das ist eine Frage für Ihre Beratung, und man stellt sie besser, bevor das Logo auf dem Assistenten steht.

Schicht 3. Die Schweiz: kein KI-Gesetz, aber eine gefällte Entscheidung.

Die Schweiz hat heute kein spezifisches Gesetz zur künstlichen Intelligenz und hat entschieden, das europäische nicht zu kopieren. Am 12. Februar 2025 entschied sich der Bundesrat für einen sektoriellen Ansatz: das Übereinkommen des Europarats über KI zu ratifizieren, das er im März 2025 unterzeichnet hat, und die bestehenden Gesetze dort anzupassen, wo es nötig ist, mit einer Vernehmlassungsvorlage, die vor Ende 2026 vorgesehen ist und sich auf Transparenz, Datenschutz, Nichtdiskriminierung und Aufsicht konzentriert. Bis dahin gilt Schicht 1: das Datenschutzgesetz, das der Eidgenössische Beauftragte für das Wesentliche als ausreichend betrachtet, und die Regeln jedes Sektors, etwa jene des Finanzmarkts oder des Gesundheitswesens.

Für ein Schweizer Unternehmen hat das zwei praktische Folgen. Erstens: Warten Sie nicht auf ein Schweizer KI-Gesetz, um Ihre Daten zu ordnen, denn das Gesetz, das Sie verpflichtet, existiert bereits. Zweitens: Wenn Sie in der Europäischen Union verkaufen, ist der Zeitplan der Schicht 2 Ihrer, auch wenn Ihr Sitz in Lugano oder Zürich liegt. Beides wird mit derselben Arbeit gelöst.

Worauf die Aufsichtsbehörden schauen, an einem Fall.

Am 18. Dezember 2024 veröffentlichte der Europäische Datenschutzausschuss, der die Behörden aller Länder der Union vereint, auf Ersuchen der irischen Behörde eine Stellungnahme zu KI-Modellen. Drei Gedanken aus diesem Text nützen Ihnen, auch wenn Sie nie ein Modell trainieren werden. Erstens: Ein mit Personendaten trainiertes Modell ist nicht anonym, nur weil es ein Modell ist; man muss Fall für Fall nachweisen, dass niemand identifiziert und niemandes Daten mit Fragen herausgeholt werden können. Zweitens: Das berechtigte Interesse kann als Rechtsgrundlage für die Entwicklung und Nutzung von Modellen dienen, aber nur nach einer dreistufigen Prüfung und unter Berücksichtigung der vernünftigen Erwartungen der Menschen. Drittens: Wenn ein Modell mit rechtswidrig bearbeiteten Daten gebaut wurde, kann das die Rechtmässigkeit seiner Nutzung berühren. Übersetzt: Die Herkunft der Daten Ihres Anbieters ist auch Ihr Problem, und es ist legitim, danach zu fragen.

Was Sie tun sollten, bevor Sie Ihren Anwalt anrufen.

Keines dieser Dinge erfordert juristische Kenntnisse, und alle machen die Beratung kürzer und günstiger.

• Das Inventar. Welche KI-Systeme das Unternehmen nutzt, einschliesslich jener, die die Leute auf eigene Faust nutzen, mit welchen Daten und von welchem Anbieter. Ohne Inventar ist keine Einhaltung möglich, nur Glück.
• Die Verträge. Für jeden Anbieter der Auftragsbearbeitungsvertrag: wo er bearbeitet, ob er mit Ihren Daten trainiert, wie lange er aufbewahrt, wie er löscht, welche Garantie er nutzt, um Daten aus Europa oder der Schweiz hinauszubringen. Wenn er nicht existiert: Unternehmenskonto mit Vertrag oder gar nichts.
• Die Zwei-Zeilen-Regel. Welche Daten nie in einen Assistenten eingefügt werden, der nicht der des Unternehmens ist: Daten von Kundschaft, von Angestellten, Gesundheitsdaten, Finanzdaten, Verträge Dritter. Geschrieben, unterschrieben, wiederholt.
• Die Maschine sagt, dass sie eine Maschine ist. In jedem Assistenten, der mit Kundschaft spricht, vom ersten Satz an. In der Schweiz ist das schon eine Erwartung des Beauftragten; in der Europäischen Union ist es ab August 2026 Pflicht.
• Niemand entscheidet allein. Jede Entscheidung mit Wirkung auf eine Person, eine Ablehnung, ein Tarif, eine Auswahl, geht über jemanden mit Namen, der sie ändern kann. Das ist das Gesetz und das ist Notiz 2.
• Das Papier vor dem Risiko. Bevor Sie KI mit Gesundheitsdaten, mit Minderjährigen, mit Profilen oder mit Bewerbungen nutzen, eine schriftliche Folgenabschätzung. Und für Bewerbungen den Zeitplan von Dezember 2027 schon in der Agenda.
• Die Bilder, gekennzeichnet. Ab August 2026 wird gekennzeichnet, was mit KI erzeugt wurde und als echt durchgehen könnte. Eine einzeilige Richtlinie für das Marketing löst 90 Prozent der Fälle.
• Die Schulung, dokumentiert. Wer welche Schulung zu den Systemen erhalten hat, die er nutzt. Artikel 4 verlangt kein Zertifikat; er verlangt, nachweisen zu können, dass es geschehen ist.

1. Diese Woche

   Machen Sie das Inventar mit Amnestie

   Fragen Sie jedes Team, welche Assistenten es nutzt und mit welchen Daten, ohne Konsequenzen. Notieren Sie Anbieter und Kontotyp.

2. Diese Woche

   Schliessen Sie die Gratiskonten mit Kundendaten

   Und ersetzen Sie sie durch Unternehmenskonten mit Vertrag. Es ist die einzige dringende Handlung in dieser Notiz.

3. Diesen Monat

   Verlangen Sie die Verträge und die drei Antworten

   Wo sie bearbeiten, ob sie trainieren, wie sie löschen. Bewahren Sie die Antworten mit Datum auf.

4. Vor August 2026

   Prüfen Sie den Assistenten Ihrer Website und die erzeugten Bilder

   Dass er sagt, dass er eine Maschine ist, und dass Erzeugtes gekennzeichnet wird. Zwei kleine Änderungen mit festem Datum.

5. Mit allem Vorigen

   Gehen Sie mit dem Inventar in der Hand zu Ihrer Beratung

   Die Beratung wechselt von «Was müssen wir mit der KI tun?» zu «Ist das in Ordnung?». Das ist eine andere Rechnung.

Wie ich es angehe.

Die Systeme, die ich baue, nutzen Modelle über Unternehmenskonten mit Vertrag, die Kundendaten verlassen den vereinbarten Fluss nicht, der Assistent sagt im ersten Satz und in allen sechs Sprachen, dass er eine Maschine ist, und erzeugte Bilder werden in der Bildlegende deklariert. Das Inventar und die Zwei-Zeilen-Regel sind Teil der Lieferung. Und die rechtliche Prüfung macht Ihr Anwalt, mit meiner Dokumentation vor sich, denn jeder macht seine Arbeit.

Ein Test ohne Anwalt. Fragen Sie morgen drei Personen in Ihrem Team, aus verschiedenen Abteilungen, ob sie schon einmal ein Dokument eines Kunden in einen KI-Assistenten eingefügt haben. Fragen Sie ohne Vorwurf, sonst sagt man Ihnen nicht die Wahrheit.

Die Antworten sagen Ihnen mehr über Ihre tatsächliche Lage als jede Lektüre der Verordnung. Und sie werfen eine unbequemere Frage auf: Hat in Ihrem Unternehmen jemand entschieden, dass das erlaubt ist, oder hat einfach niemand Nein gesagt?

Nächste Notiz: die Sicherheit. Die zehn Risiken, die eine Organisation von Sicherheitsexperten für Systeme mit Sprachmodellen katalogisiert hat, erklärt mit dem Brief eines Betrügers, und die drei öffentlichen Fälle, die mehr lehren als jedes Handbuch.