Notizen · KI, Daten und Recht

Der Aufschub ist echt. Ihr Chatbot gehört nicht dazu.

Was die EU tatsächlich verschoben hat, was seit August gilt, wo Kliniken, Schulen, Hotels und Makler ein Hochrisiko-System nutzen können, ohne es so zu nennen, und wie die Schweiz dieselbe Frage löst.

Daniel Esteban Feo7 Min. Lesezeit

Stellen Sie sich vor: Juli 2026, ein Hoteldirektor in Luzern liest die Schlagzeile «Brüssel verschiebt KI-Regeln auf 2027» und schliesst das Dossier mit einer gewissen Erleichterung. Das Projekt kann warten. Auf der Website des Hotels beantwortet derweil ein Chat-Assistent Gäste aus München und Mailand in ihrer Sprache, unterschreibt mit «Laura» und sagt nie, dass Laura ein Programm ist.

Die Schlagzeile stimmte. Die Schlussfolgerung nicht. Verschoben hat die EU, was nur sehr wenige Unternehmen in meinen Branchen haben. Was fast alle haben, wurde nicht verschoben.

Was tatsächlich verschoben wurde.

Am 24. Juli 2026 hat das Amtsblatt der EU die Verordnung (EU) 2026/1744 vom 8. Juli veröffentlicht, den sogenannten digitalen Omnibus zur KI, der die KI-Verordnung ändert. Laut der Analyse der Kanzlei Cuatrecasas ist die wichtigste praktische Änderung der Zeitplan für Hochrisiko-Systeme. Eigenständige Systeme aus Anhang III, etwa in den Bereichen Biometrie, Beschäftigung, Bildung, Migration oder Zugang zu wesentlichen Dienstleistungen, unterliegen diesen Regeln nun ab dem 2. Dezember 2027. Systeme in Produkten, die unter die europäischen Vorschriften zur Produktsicherheit fallen, ab dem 2. August 2028. Ursprünglich galt für beide der 2. August 2026.

Die Kommission hatte ein flexibles Datum vorgeschlagen, abhängig davon, ob technische Normen vorliegen. Parlament und Rat haben das abgelehnt und feste Daten in den Text geschrieben. Das Detail ist wichtig: Die neuen Fristen hängen von nichts anderem mehr ab.

Was nicht verschoben wurde.

Die Transparenzpflichten aus Artikel 50 gelten seit dem 2. August 2026. Ein KI-System, das direkt mit Menschen interagiert, muss so gestaltet sein, dass diese wissen, dass sie mit einer Maschine zu tun haben, sofern das nicht aus dem Kontext offensichtlich ist. Mit KI erzeugte oder veränderte Bilder, Audios oder Videos, die als echt durchgehen würden, im Gesetz Deepfakes genannt, muss offenlegen, wer das System zu ihrer Erstellung einsetzt. Nur die technische Kennzeichnung erzeugter Inhalte durch Anbieter, deren Systeme schon vor August auf dem Markt waren, erhielt eine kurze Verlängerung bis zum 2. Dezember 2026.

Auch Artikel 4 bleibt. Anbieter und Betreiber müssen Massnahmen ergreifen, um die KI-Kompetenz der Personen zu fördern, die diese Systeme in ihrem Auftrag nutzen. Der Omnibus hat die Formulierung abgeschwächt, und der Artikel stellt nun klar, dass er von niemandem ein bestimmtes Kompetenzniveau verlangt. Abgeschafft hat er die Pflicht nicht. Die verbotenen Praktiken aus Artikel 5 gelten seit Februar 2025, und der Omnibus hat zwei weitere hinzugefügt, zu sexuellen Deepfakes ohne Einwilligung und zu Darstellungen sexuellen Kindesmissbrauchs.

Verschoben wurde, was fast niemand hat. Was fast alle haben, gilt bereits.

Der blinde Fleck: Vielleicht sind Sie der Anbieter.

Die meisten Unternehmen gehen davon aus, dass die Pflichten beim Softwarehersteller liegen. Die KI-Verordnung definiert als Anbieter, wer ein KI-System entwickelt oder entwickeln lässt und es unter eigenem Namen oder eigener Marke in Betrieb nimmt. Eine Klinik, die einen Assistenten nach Mass bestellt und unter ihrer Marke lanciert, ist also nicht nur Nutzerin. Und die Pflicht, den Chatbot so zu gestalten, dass Menschen wissen, dass er eine Maschine ist, liegt beim Anbieter.

An der Grenze hört die Verordnung auch nicht auf. Sie erfasst ebenso Anbieter und Betreiber mit Sitz ausserhalb der EU, wenn die Ausgabe des Systems in der Union verwendet wird. Ein Schweizer Hotel, dessen Assistent Gäste in Deutschland oder Italien betreut, sollte nicht davon ausgehen, dass der Standort Schweiz die Frage erledigt.

Wo das Hochrisiko näher ist, als es scheint.

In meinen Branchen bauen nur wenige Unternehmen Hochrisiko-Systeme. Mehr von ihnen nutzen eines, ohne es so zu nennen. Anhang III umfasst unter anderem:

  • Schulen und Internate. Systeme, die über die Zulassung entscheiden, Lernergebnisse bewerten, das angemessene Bildungsniveau bestimmen oder Schülerinnen und Schüler bei Prüfungen überwachen.
  • Personalauswahl, in jeder Branche. Werkzeuge, die Bewerbungen filtern oder Kandidaten bewerten, einschliesslich der Vorauswahl-Funktion der Stellenplattform, die ein Hotel jede Saison nutzt.
  • Notfälle. Systeme zur Triage von Patienten in der Notfallversorgung.

Für diese Anwendungen bleibt Zeit bis Dezember 2027, und es lohnt sich, sie zu nutzen. Ende 2027 zu merken, dass das Zulassungswerkzeug ein Hochrisiko-System ist, ist zu spät, denn menschliche Aufsicht, Protokolle und ein sauberer Vertrag mit dem Anbieter entstehen nicht in einem Monat.

Bilder: die Regel, die Makler und Hotels übersehen.

Makler und Hotels veröffentlichen immer mehr KI-Bilder: möblierte Wohnzimmer in leeren Wohnungen, Terrassen in einem Sonnenuntergang, den es nie gab, Zimmer in einem Licht, das sie nie haben. Wenn ein Bild einem realen Ort ähnelt und als echt durchgehen würde, fällt es unter die Deepfake-Regel und muss als erzeugt oder verändert gekennzeichnet werden. Für offensichtlich künstlerische oder fiktionale Werke erlaubt das Gesetz einen zurückhaltenden Hinweis. Das Foto einer Wohnung, die verkauft werden soll, ist keines.

Die Schweiz: noch kein KI-Gesetz, aber schon eine Regel.

Die Schweiz hat heute keine spezifische Gesetzgebung zur KI. Am 12. Februar 2025 hat der Bundesrat das EJPD beauftragt, bis Ende 2026 eine Vernehmlassungsvorlage zu erarbeiten, namentlich zu Transparenz, Datenschutz, Nichtdiskriminierung und Aufsicht, damit die Schweiz die KI-Konvention des Europarats ratifizieren kann, die sie im März 2025 unterzeichnet hat.

Das heisst nicht, dass nichts gilt. Der Eidgenössische Datenschutz- und Öffentlichkeitsbeauftragte (EDÖB) hält das geltende Datenschutzgesetz für direkt auf KI anwendbar. Nach seiner Lesart haben Personen, die mit einem Sprachmodell kommunizieren, ein gesetzliches Recht zu erfahren, ob sie mit einer Maschine sprechen und ob ihre Eingaben zur Verbesserung des Programms oder zu weiteren Zwecken bearbeitet werden. Programme, die Gesichter, Bilder oder Stimmen identifizierbarer Personen verfälschen, müssen klar erkennbar sein, und eine Bearbeitung mit hohem Risiko verlangt eine Datenschutz-Folgenabschätzung. In der Praxis kommen eine Klinik in Zürich und ein Hotel in Málaga beim Chatbot auf verschiedenen Wegen zu einer sehr ähnlichen Pflicht.

Meine Position.

Ich baue KI-Automati­sierungen, und ich würde jedem Kunden raten, den Aufschub umgekehrt zu lesen: als Zeit, die Hausaufgaben zum Hochrisiko in Ruhe zu machen, nicht als Grund, die Transparenz aufzuschieben, die man schon heute schuldet. Bei einem Assistenten ist mir der erste Satz wichtiger als die Persönlichkeit: wer spricht, dass es automatisch ist und wie man einen Menschen erreicht. In einem Haus der Spitzenklasse verzeiht ein Gast eine Maschine. Er verzeiht nicht, getäuscht zu werden.

Was ich prüfen würde.

  • Jeden KI-Einsatz im Unternehmen. Website-Chat, WhatsApp, E-Mail-Antworten, Bilder, Personalauswahl, Zulassungen, Berichte.
  • Den ersten Satz des Assistenten. Dass er sagt, dass er automatisch ist, und einen Menschen anbietet.
  • Wer der Anbieter ist. Wurde das System für Sie gebaut und läuft es unter Ihrem Namen, lesen Sie Artikel 50, als wäre er an Sie gerichtet.
  • Die Bilder. Welche mit KI erzeugt oder retuschiert sind und wo das offengelegt wird.
  • Die Menschen. Welche Schulung das Team erhält, das diese Werkzeuge nutzt, und ob sie dokumentiert ist.

Ein Kalender, der nicht wartet.

  1. Diese Woche

    Inventar erstellen

    Jedes KI-Werkzeug, wer es liefert und unter wessen Namen es läuft.

  2. Diesen Monat

    Transparenz herstellen

    Der erste Satz des Assistenten, ein Hinweis auf realistischen KI-Bildern und ein sichtbarer Weg zu einem Menschen.

  3. Ende 2026

    Die Schweizer Vorlage verfolgen

    Die Vernehmlassungsvorlage soll bis Ende Jahr vorliegen und zeigen, was die Schweiz ergänzt.

  4. Vor Dezember 2027

    Hochrisiko einordnen

    Zulassung, Bewertung, Personalauswahl, Triage: mit Ihrer Rechtsberatung entscheiden, welche Anwendungen unter Anhang III fallen.

Eine Frage, die Sie sich vor Jahresende stellen sollten. Wenn man Sie morgen fragte, wer der Anbieter des Assistenten auf Ihrer Website ist, würden Sie mit dem Namen einer Firma antworten oder mit Ihrem eigenen? Diese Notiz erklärt, warum die Antwort vielleicht nicht die ist, die Sie erwarten.

Und eine an die Person, die Ihr Marketing führt: Wie viele Bilder auf Ihrer Website wurden mit KI erzeugt, und steht das bei irgendeinem?

Wenn Sie möchten, dass ich Ihre Assistenten, Ihre Bilder und Ihre Automati­sierungen aus diesem Blickwinkel prüfe, beginnen Sie mit der Strategischen Diagnose. Ob ein bestimmter Einsatz ein hohes Risiko darstellt, ist eine rechtliche Beurteilung, die Ihrem Anwalt zusteht.