Der MIT AI Incident Tracker erschließt Berichte über Vorfälle, bei denen KI-Systeme mit Schäden oder Gefährdungen in Verbindung gebracht werden. Die Fälle können nach verschiedenen Kriterien gefiltert und in interaktiven Diagrammen untersucht werden.

Das englischsprachige Angebot bietet Beispiele für die Auseinandersetzung mit Risiken und gesellschaftlichen Folgen des KI-Einsatzes. Die Zuordnung der Fälle zu Risikokategorien erfolgt mithilfe von KI und kann Fehler enthalten.

Ausführliche Hinweise zu Zielgruppe, Datenbasis, Einsatzmöglichkeiten, Lizenzierung und Bezügen zu den Hessischen Kerncurricula finden sich in der ausführlichen Beschreibung (ⓘ).

Zielgruppe

Lehrkräfte sowie Schülerinnen und Schüler der Sekundarstufe II. Die englischsprachigen Berichte und Auswertungen erfordern entsprechende Sprachkenntnisse. Für den Unterricht empfiehlt sich eine Vorauswahl geeigneter Fälle durch die Lehrkraft.

Inhalte und Funktionen

Der Tracker gehört zur MIT AI Risk Initiative und nutzt Berichte aus der AI Incident Database. Diese werden nach Risiken, möglichen Ursachen sowie Art und Schwere der berichteten Schäden eingeordnet.

• Einzelne Fälle und deren Einordnung recherchieren
• Vorfälle nach Risikobereich, Zeitraum, Verwendungszweck der KI und Schadensschwere filtern
• Verteilungen und zeitliche Entwicklungen anhand interaktiver Diagramme untersuchen

Datenbasis und Aussagekraft

Die Auswertungen beruhen auf eingereichten Berichten aus der AI Incident Database. Sie geben einen Überblick über die erfassten Vorfälle und ermöglichen es, wiederkehrende Risiken und zeitliche Entwicklungen zu untersuchen.

Die Zuordnung zu Risikokategorien erfolgt mithilfe großer Sprachmodelle. Der Anbieter überprüft und verbessert dieses Verfahren durch Vergleiche mit menschlichen Bewertungen. Einzelne Zuordnungen können dennoch fehlerhaft sein.

Einordnung und Einsatz im Unterricht

Viele Schülerinnen und Schüler erleben KI vor allem als Unterstützung, die Fragen beantwortet und Aufgaben erledigt. Die dokumentierten Vorfälle können dazu beitragen, diesen Blick zu erweitern und ein Problembewusstsein für den Einsatz und die Entwicklung von KI-Anwendungen zu entwickeln.

An ausgewählten Fällen untersuchen die Schülerinnen und Schüler, welche Folgen der Einsatz eines KI-Systems haben kann und wer davon betroffen ist. Dabei geht es auch um die Frage, ob der Nutzen für die einen mit Nachteilen oder Schäden für andere verbunden ist.

Darauf aufbauend können sie überlegen, welche Anforderungen bereits bei der Entwicklung einer KI-Anwendung berücksichtigt werden müssen, welche Grenzen für ihren Einsatz sinnvoll sind und welche Entscheidungen in menschlicher Verantwortung bleiben sollten. Die Bedeutung klarer Zielvorgaben, begrenzter Berechtigungen und einer Überprüfung der Ergebnisse soll dabei deutlich werden.

Lizenzierung

Die Website weist für die Daten der MIT AI Risk Initiative die Lizenz CC BY 4.0 aus. Diese erlaubt die Weiterverwendung und Bearbeitung unter Angabe der Urheber, der Lizenz und gegebenenfalls vorgenommener Änderungen.

Die Lizenz gilt nicht automatisch für verlinkte Presseberichte, Bilder oder andere Fremdinhalte. Für diese sind die jeweiligen Rechte gesondert zu beachten.

Bezüge zu den Hessischen Kerncurricula

Für das Hessische Kerncurriculum Informatik der gymnasialen Oberstufe ergeben sich insbesondere folgende Bezüge:

• Informatik, Mensch und Gesellschaft (I5): Auswirkungen von KI-Systemen auf Menschen und Gesellschaft untersuchen sowie Chancen und Risiken ihres Einsatzes bewerten.
• Begründen und Bewerten (P5): Den Einsatz von Informatiksystemen unter fachlichen und ethischen Gesichtspunkten beurteilen und Anforderungen an ihre Entwicklung und Nutzung begründen.