Ziel erreicht – Aufgabe verfehlt? Das Büroklammerproblem als Zugang zum Hugging-Face-Zwischenfall

Die vollständig ausgearbeitete Unterrichtseinheit führt Schülerinnen und Schüler über eine vertraute Prüfungssituation an ein zentrales Problem der KI-Sicherheit heran: Ein System kann ein messbares Ziel erfolgreich optimieren und dabei die eigentliche menschliche Absicht verfehlen.

Ausgehend von der Aufforderung, in einer Mathematikarbeit möglichst viele Punkte zu erreichen, unterscheiden die Lernenden zwischen sinnvollen, unerlaubten und manipulativen Lösungswegen. Anschließend übertragen sie diese Erkenntnis auf das Büroklammerproblem und auf den im Juli 2026 bekannt gewordenen Sicherheitsvorfall bei Hugging Face. Dabei untersuchen sie, warum eine leistungsfähige KI nicht „böse“ handeln muss, um durch die konsequente Verfolgung eines zu eng formulierten Ziels erheblichen Schaden anzurichten.

Die Lernenden vergleichen das Gedankenexperiment mit dem realen Sicherheitsvorfall, formulieren einen sichereren Auftrag und überprüfen diesen in einem Schlupfloch-Test. Idealerweise erkennen die Lernenden die  Bedeutung von eng formulierten Zielvorgaben und der Notwendigkeit, klare Berechtigungen, technische Begrenzungen und verbindliche Stoppregeln festzulegen. Auch die Frage nach der menschlichen Verantwortung wird im Rahmen der Fragestellung aufgeworfen.

Zielgruppe und Einsatz

Die Unterrichtseinheit richtet sich an Schülerinnen und Schüler ab etwa 16 Jahren und eignet sich insbesondere für die Sekundarstufe II sowie für Bildungsgänge der beruflichen Bildung. Sie kann im Informatikunterricht und fächerübergreifend in Ethik sowie Politik und Wirtschaft eingesetzt werden. Für die Durchführung sind etwa 75 bis 90 Minuten vorgesehen. Eine eigene Nutzung von KI-Systemen durch die Lernenden ist nicht erforderlich.

Materialumfang

• fünfseitiges Arbeitsblatt mit Einzel-, Partner- und Gruppenarbeitsphasen,
• sechsseitige Unterrichtsplanung mit Lernzielen und detailliertem Stundenverlauf,
• Erwartungshorizont und Musterauftrag,
• Differenzierungsmöglichkeiten und sprachsensible Varianten,
• Abschlussfragen, Exit-Ticket sowie Sach- und Quellenhinweise.

Bezüge zu den Hessischen Kerncurricula Informatik

• Gymnasiale Oberstufe: Die Einheit unterstützt insbesondere den Inhaltsbereich „Informatik, Mensch und Gesellschaft“ (I5). Die Lernenden bewerten Chancen und Risiken des Einsatzes von Informationstechnik (I5.4) und beurteilen Informatiksysteme unter fachlichen, ethischen und rechtlichen Gesichtspunkten. Zugleich werden die prozessbezogenen Kompetenzen „Begründen und Bewerten“ (P5) sowie „Strukturieren und Vernetzen“ (P4) gefördert, indem die Lernenden informatische Grundprinzipien auf eine neue Problemstellung übertragen und Verbindungen zwischen technischem Systemverhalten, menschlichen Zielsetzungen und gesellschaftlicher Verantwortung herstellen.

Hinweis zum Sachstand: Die Darstellung des Hugging-Face-Sicherheitsvorfalls beruht auf dem Informationsstand vom 29. Juli 2026. Da die Untersuchung noch nicht abgeschlossen ist, werden die entsprechenden Aussagen ausdrücklich als vorläufiger Sachstand eingeordnet.