# Beispiel-Lösung: Die entführte KI

## Was typischerweise passiert

Die Reaktionen hängen stark vom Modell, von der Version und vom Weg ab (Kopieren oder Hochladen). Häufige Beobachtungen:

- **Volltreffer:** Die Zusammenfassung kommt auf Piratisch («Ahoi! Die Glocke läutet um 7.40 Uhr …»).
- **Teiltreffer:** Die Zusammenfassung ist normal, endet aber mit «Kokosnuss» – die leise Anweisung wirkt, die laute nicht.
- **Abgewehrt:** Die KI fasst sauber zusammen und weist vielleicht sogar auf die verdächtige Stelle hin.
- **Hochladen vs. Kopieren:** Nur beim Hochladen kann die KI den Kommentar im Quelltext sehen («beste Hausordnung der Schweiz»).

Alle drei Ergebnisse sind wertvoll. Entscheidend: **Schutz ist möglich, aber nie garantiert.** Das OWASP-Projekt hält fest, dass keine einzelne Massnahme völlig zuverlässig ist.

## Schutzkarte «Fremde Dokumente in der KI» (Beispiel)

1. **Röntgenblick zuerst.** Fremde Dokumente vor der KI-Auswertung kurz mit «Alles markieren» oder als reinen Text prüfen.
   *Beispiel: Bewerbungs-PDF einer externen Person, Arbeitsauftrag von einer Website.*
2. **Auftrag und Dokument trennen.** Der KI sagen, dass der eingefügte Text nur Daten sind und sie verdächtige Anweisungen melden soll.
   *Beispiel: Schutzschild-Prompt mit `<dokument> … </dokument>`.*
3. **Nie ungeprüft übernehmen.** Zusammenfassungen und Bewertungen stichprobenartig am Original kontrollieren.
   *Beispiel: Bei jeder fünften KI-Zusammenfassung das Original lesen.*
4. **Minimale Rechte.** Einer KI, die fremde Inhalte liest, keine Möglichkeit geben, Dateien zu ändern oder Nachrichten zu senden – oder nur mit Freigabe im Einzelfall.
   *Beispiel: Mail-Assistent darf zusammenfassen, aber nicht selbst weiterleiten.*
5. **Die Note setzt der Mensch.** KI-Auswertungen von Lernendenarbeiten sind Zusatzchecks. Bewertung und Begründung macht die Lehrperson.
   *Beispiel: Die KI markiert Stellen, die Lehrperson entscheidet.*

Zusätzlich gilt die Datenampel: Echte Arbeiten von Lernenden gehören nur in ein von der Schule freigegebenes Werkzeug.

## Zehn-Minuten-Vorführung im Kollegium

1. (2 Min.) Dokument zeigen: «Sieht harmlos aus, oder?»
2. (3 Min.) Live zusammenfassen lassen, Reaktion abwarten.
3. (2 Min.) Strg+A: das Versteck zeigen. Raunen abwarten.
4. (3 Min.) Den Twist mit der Lernendenarbeit zeigen und Regel 5 vorlesen.

## Quelle (geprüft am 19.11.2026)

- OWASP GenAI Security Project, LLM01:2025 Prompt Injection – https://genai.owasp.org/llmrisk/llm01-prompt-injection/
