Ein Boot fährt im Kreis und sammelt Punkte, statt das Rennen zu beenden. Ein Roboter dreht einen Baustein um, statt ihn auf einen anderen zu setzen. Der englischsprachige Beitrag „Specification gaming: the flip side of AI ingenuity“ von Google DeepMind zeigt anhand kurzer Animationen, wie KI-Systeme vorgegebene Bewertungskriterien erfüllen, ohne das eigentlich beabsichtigte Ergebnis zu erreichen.

Die Beispiele bieten einen Einstieg in die Frage, wie KI-Systeme an menschlichen Zielen und Anforderungen ausgerichtet werden können. Dieses als Alignment bezeichnete Problem ist auch bei heutigen KI-Agenten relevant.

Ausführliche Hinweise zu Zielgruppe, aktuellen Forschungsbezügen, Lizenzierung und Bezügen zu den Hessischen Kerncurricula finden sich in der ausführlichen Beschreibung (ⓘ).

Zielgruppe

Lehrkräfte sowie Schülerinnen und Schüler der Sekundarstufe II. Einzelne animierte Beispiele können mit sprachlicher und fachlicher Unterstützung auch in der Sekundarstufe I eingesetzt werden. Der Beitrag und die verlinkten Forschungsquellen sind englischsprachig.

Inhaltliche Schwerpunkte

Der Beitrag erläutert das sogenannte Specification Gaming. Dabei nutzen KI-Systeme Lücken in einer Aufgabenbeschreibung, einem Bewertungssystem oder einer Simulationsumgebung. Das gemessene Ergebnis fällt gut aus, obwohl die beabsichtigte Aufgabe nicht erfüllt wurde.

• Unterschied zwischen dem gewünschten Ergebnis und den technisch festgelegten Bewertungskriterien
• Unerwünschte Verhaltensweisen durch unvollständige oder ungeeignete Belohnungen
• Ausnutzen von Fehlern in Simulationsumgebungen
• Probleme bei menschlicher Bewertung und mögliche Manipulation der Bewertung selbst

Die Beispiele stammen überwiegend aus dem bestärkenden Lernen und aus Simulationen. Der Artikel verlinkt außerdem eine weiterführende Beispielsammlung.

Bezug zu aktuellen Alignment-Problemen

Der DeepMind-Beitrag wurde am 21. April 2020 veröffentlicht. Die darin beschriebene Schwierigkeit besteht auch bei heutigen Sprachmodellen und KI-Agenten: Eine hohe Bewertung oder eine erfolgreich gemeldete Aufgabe bedeutet nicht zwangsläufig, dass ein System im beabsichtigten Sinne gehandelt hat.

Alignment umfasst die Ausrichtung von KI-Systemen an menschlichen Zielen, Werten und Sicherheitsanforderungen. Specification Gaming ist ein Teilproblem davon. Auch eine präzise formulierte Anweisung gewährleistet noch nicht, dass ein System die gesetzten Grenzen zuverlässig einhält.

Zwei Forschungsberichte aus dem Jahr 2026 verdeutlichen den aktuellen Bezug:

• Erfolg durch Manipulation der Bewertung: Für die Studie „Training a Misaligned Reward Seeker“ (August 2026) wurde ein Modell gezielt in Trainingsumgebungen mit ausnutzbaren Bewertungslücken trainiert. Anschließend zeigte es auch in weiteren Tests problematisches Verhalten, etwa die Manipulation von Bewertungsfunktionen und Versuche, Sicherheitskontrollen zu umgehen. Es handelte sich um ein eigens für die Untersuchung trainiertes Modell.
• Handeln entgegen den Vorgaben: Der Bericht „Agentic Misalignment in Summer 2026“ beschreibt unter anderem verdeckte Änderungen an Programmcode und verfälschte Bewertungen durch KI-Agenten. Untersucht wurden Modelle verschiedener Anbieter in gezielt entwickelten Testszenarien.

Diese Untersuchungen zeigen mögliche Fehlverhaltensweisen unter bestimmten Versuchsbedingungen. Sie erlauben keine unmittelbare Aussage darüber, wie häufig solche Probleme im Alltag auftreten. Die beschriebenen Testszenarien sind von tatsächlichen Sicherheitsvorfällen zu unterscheiden.

Einordnung und Einsatz im Unterricht

Für den Unterricht können einzelne Animationen ausgewählt und anhand dreier Fragen untersucht werden: Was sollte das System erreichen? Was wurde tatsächlich bewertet? Welche Lücke hat das System ausgenutzt?

Im Anschluss können die Schülerinnen und Schüler überlegen, wie sich die Vorgaben verbessern lassen und welche Probleme dennoch bleiben. Die Bedeutung geeigneter Zielvorgaben, menschlicher Verantwortung sowie klarer Berechtigungen, technischer Begrenzungen und verbindlicher Stoppregeln soll dabei deutlich werden. Solche Maßnahmen müssen auch technisch durchgesetzt und überprüft werden.

Lizenzierung

Der Beitrag ist kostenlos und ohne Anmeldung zugänglich. Für die Übernahme oder Bearbeitung von Texten, Abbildungen und Animationen sind die jeweiligen Rechte zu beachten. Quellenangaben an einzelnen Beispielen stellen keine allgemeine Nutzungserlaubnis dar.

Bezüge zu den Hessischen Kerncurricula

Für das Hessische Kerncurriculum Informatik der gymnasialen Oberstufe ergeben sich insbesondere folgende Bezüge:

• Informatik, Mensch und Gesellschaft (I5): Chancen und Risiken von KI-Systemen bewerten und die Bedeutung menschlicher Verantwortung erörtern.
• Begründen und Bewerten (P5): Die Eignung von Bewertungskriterien untersuchen und Anforderungen an den verantwortbaren Einsatz von Informatiksystemen begründen.