Ein KI-Assistent auf der Website eines Internats muss antworten können. Vor allem muss er wissen, wann er es nicht tun soll.

Stellen Sie sich vor: Sonntag, 22.50 Uhr. Der Assistent auf der Website eines Internats im Engadin erhält eine Nachricht auf Russisch. Es geht nicht um Gebühren. Eine Mutter schreibt aus Almaty, ihre Tochter habe ihr am Telefon gesagt, sie wolle nicht mehr in ihr Internatshaus zurück, sie wisse nicht, wem sie es erzählen solle, und die Mutter wisse auch nicht, an wen sie schreiben solle. Der Assistent antwortet in tadellosem Russisch: Er dankt für das Interesse, fasst das Wohlbefindensprogramm zusammen und bietet an, einen Besuch zu buchen.

Der Assistent hat getan, was man von ihm verlangt hat: antworten. Das Problem ist, dass in einem Internat nicht alles, was ankommt, eine Anfrage ist. Ich baue solche Assistenten, und deshalb beginne ich mit dem, was sie nicht tun dürfen. Ich glaube, die erste Regel für KI auf der Website einer Schule ist nicht, was sie beantworten kann, sondern was sie erkennen kann.

Was in England bereits Regel ist.

Familien, die englische Schulen kennen, kommen mit anderen Massstäben, denn dort hat der Kinderschutz schriftliche Regeln. Der verbindliche Leitfaden der britischen Regierung für Schulen in England, Keeping children safe in education, in der Fassung 2026, gültig seit dem 1. September, verlangt von jeder Schule eine Kinderschutzrichtlinie, die mindestens einmal im Jahr überprüft wird und öffentlich zugänglich ist, über die Website der Schule oder auf anderem Weg. Er verlangt auch, dass die Wege, auf denen Schülerinnen und Schüler jede Form von Missbrauch melden können, bekannt, leicht verständlich und leicht zugänglich sind.

Derselbe Leitfaden sagt, dass niemand vom Personal einem Kind je versprechen darf, niemandem von einer Meldung zu erzählen. Und die Standards für unabhängige Schulen in England verlangen, dass die Schule auf ihrer Website veröffentlicht, wie sie ihre Schutzpflicht erfüllt. Eine Familie aus diesem System weiss, wonach sie sucht, und merkt, wenn es fehlt.

Was das Schweizer Recht bereits von Fachpersonen verlangt.

In der Schweiz verpflichtet Artikel 314d des Zivilgesetzbuchs seit dem 1. Januar 2019 Fachpersonen aus Erziehung, Betreuung, Bildung und weiteren Bereichen, die beruflich regelmässig Kontakt zu Kindern haben, zur Meldung an die Kindesschutzbehörde, wenn konkrete Hinweise bestehen, dass die körperliche, psychische oder sexuelle Integrität eines Kindes gefährdet ist, und sie im Rahmen ihrer Tätigkeit keine Abhilfe schaffen können. Ausgenommen sind Personen, die dem Berufsgeheimnis nach dem Strafgesetzbuch unterstehen; sie sind meldeberechtigt. Die Pflicht erfüllt auch, wer die Meldung an die vorgesetzte Person richtet. Und die Kantone können weitere Meldepflichten vorsehen.

Anders gesagt: Die Schule hat von Gesetzes wegen bereits Menschen, die wissen, was mit einem Hinweis zu tun ist. Was oft fehlt, ist ein Weg, auf dem eine Nachricht von der Website, nachts und in einer anderen Sprache, eine dieser Personen erreicht.

Der Standard, den die britische Regierung an KI anlegt.

Seit Januar 2025 veröffentlicht das englische Bildungsministerium Sicherheitsstandards für generative KI-Produkte im Bildungsbereich, zuletzt aktualisiert am 19. Januar 2026. Bei Werkzeugen, die Schülerinnen und Schüler nutzen, erwartet es, dass das Produkt Mitteilungen erkennt, die auf ein Schutzproblem hinweisen können, und die verantwortlichen Personen alarmiert. Es erwartet ausserdem, dass die Schule bei der Einrichtung die Kontaktdaten der für den Kinderschutz verantwortlichen Person hinterlegt, dass diese vor der Aktivierung bestätigt werden und dass Alarme mit hohem Risiko diese Person innerhalb einer vereinbarten Frist erreichen.

Was ich nicht weiss.

Ich weiss nicht, welche Pflichten Ihr Kanton ergänzt hat. Ich habe keine öffentlichen Daten dazu gefunden, wie viele solcher Nachrichten ein Internat erhält, und ich vermute, dass wenige Schulen sie zählen. Und der englische Standard ist für Werkzeuge geschrieben, die Schülerinnen und Schüler in England nutzen: Ein Assistent, der in der Schweiz mit Familien spricht, ist nicht an ihn gebunden. Ich nutze ihn als Massstab, weil er der konkreteste ist, den ich kenne.

Der blinde Fleck: Sprache und Uhrzeit.

Eine solche Sorge kommt fast nie mit dem Wort «Missbrauch». Sie kommt in der Sprache der Familie, zu später Stunde, verpackt in eine praktische Frage: ob ein Zimmerwechsel möglich ist, ob das Kind früher nach Hause kann, ob heute Abend jemand die Tochter anrufen kann. Ein Assistent, der für Gebühren und Besuche eingerichtet ist, liest sie als eine Anfrage mehr. Und der Alarm, falls es einen gibt, landet in einem Postfach, das am Montag geöffnet wird.

Manchmal ist die beste Antwort eines Assistenten, das Gespräch an einen Menschen zu übergeben.

Meine Position.

Ich finde, kein Internat sollte einen KI-Assistenten auf seiner Website aktivieren, ohne vorher schriftlich festzulegen, welche Nachrichten er nicht beantwortet, wen er alarmiert und wie schnell. Der Assistent beurteilt nicht und verspricht keine Verschwiegenheit. Er nennt den Namen und die Telefonnummer der Person im Dienst und alarmiert sie sofort, mit der Originalnachricht und ihrer Übersetzung. Den Rest übernimmt ein Mensch. Und die Kinderschutzrichtlinie, veröffentlicht in jeder Sprache der Website, sagt der Familie dasselbe wie der Assistent. Ein Assistent, der nicht weiss, wann er schweigen muss, gehört nicht auf die Website eines Internats.

Was ich prüfen würde.

• Die veröffentlichte Richtlinie. Ob Ihre Kinderschutzrichtlinie auf der Website steht, in jeder Sprache der Website und mit dem Datum der letzten Überprüfung.
• Die Person im Dienst. Ob die Website sagt, wen man nachts und am Wochenende anruft, mit einer Telefonnummer und nicht nur einer E-Mail-Adresse.
• Die Regeln des Assistenten. Welche Nachrichten er nicht beantwortet, in welchen Sprachen er sie erkennt und was er mit ihnen tut.
• Der Weg des Alarms. Wen er erreicht, über welchen Kanal, wie schnell, und wer ihn in den Ferien abdeckt.
• Die Tests. Ob jemand den Assistenten vor der Aktivierung mit mehrdeutigen Nachrichten geprüft hat, auf Chinesisch, Russisch oder Arabisch.

Wo Sie anfangen.

1. Heute

   Ihre Website als besorgte Familie lesen

   In jeder Sprache suchen, an wen man schreibt, wenn etwas nicht stimmt, und die Klicks zählen.

2. Diesen Monat

   Die Regeln schreiben

   Mit der für den Kinderschutz verantwortlichen Person: welche Nachrichten immer an einen Menschen gehen, an wen und wie schnell.

3. Vor der Aktivierung

   Mit schwierigen Nachrichten testen

   Mehrdeutige Sätze, in mehreren Sprachen und zu später Stunde, und prüfen, wo jeder Alarm ankommt.

4. Jedes Schuljahr

   Zusammen mit der Richtlinie prüfen

   Wenn die Kinderschutzrichtlinie überprüft wird, auch die Regeln des Assistenten und die Telefonnummern prüfen.

Schreiben Sie selbst die schwierigste Nachricht, die Ihre Website an einem Sonntag um zwei Uhr nachts erhalten könnte. Nicht die einer Familie mit Fragen zu den Gebühren, sondern die eines Schülers, der nicht weiss, wem er es erzählen soll.

Und jetzt ehrlich: Wer würde sie lesen, wann, und was würde die Website bis dahin sagen? Wenn die Antwort von einem Assistenten abhängt, wissen Sie, was er antworten würde? Und wenn es keinen gibt, was versteht dieser Schüler, wenn niemand antwortet?

Wenn Sie prüfen lassen möchten, wie Ihre Website, und Ihr Assistent, falls Sie schon einen haben, heute reagiert, wenn eine Nachricht keine Anfrage ist, beginnen Sie mit der Strategischen Diagnose. Was Ihr Kanton verlangt und wie es für Ihre Schule gilt, entscheiden Ihre Rechtsberatung und die für den Kinderschutz verantwortliche Person, nicht ein Designer.