Die MIT AI Risk Initiative bündelt Informationen zu Risiken bei der Entwicklung und Nutzung von KI. Das englischsprachige Portal enthält eine systematische Übersicht über unterschiedliche Risiken, Berichte über konkrete Vorfälle sowie Informationen zu möglichen Schutzmaßnahmen und zur Regulierung von KI.

Das Angebot kann dazu beitragen, ein Problembewusstsein für KI-Anwendungen zu entwickeln und neben ihrem Nutzen auch mögliche Folgen für Einzelne und die Gesellschaft zu betrachten.

Der zugehörige MIT AI Incident Tracker wird in einem gesonderten Beitrag im Lernarchiv vorgestellt.

Ausführliche Hinweise zu Zielgruppe, Inhalten, Einsatzmöglichkeiten, Lizenzierung und Bezügen zu den Hessischen Kerncurricula finden sich in der ausführlichen Beschreibung (ⓘ).

Zielgruppe

Lehrkräfte sowie Schülerinnen und Schüler der Sekundarstufe II. Die englischsprachigen Inhalte richten sich ursprünglich vor allem an Forschung, Politik und berufliche Praxis. Für den Unterricht empfiehlt sich eine Auswahl und Aufbereitung durch die Lehrkraft.

Inhalte und Funktionen

Das Portal verbindet mehrere Angebote zur Untersuchung und Bewertung von KI-Risiken:

• AI Risk Repository: Eine Sammlung von Risiken aus wissenschaftlichen Veröffentlichungen und bestehenden Bewertungsrahmen. Die Einträge sind nach Themen und möglichen Ursachen geordnet und mit Quellen belegt.
• AI Incident Tracker: Berichte über konkrete KI-Vorfälle, die nach Risiken und Schäden untersucht werden können. Dieses Angebot wird in einem gesonderten Beitrag im Lernarchiv vorgestellt.
• Experteneinschätzungen: Einschätzungen zur Bedeutung verschiedener Risiken, zu besonders betroffenen Personengruppen und zur Verantwortung für den Umgang mit diesen Risiken.
• Risikominderung und Regulierung: Informationen zu Schutzmaßnahmen sowie eine Übersicht über Gesetze, politische Vorgaben und Regelungsansätze.
• AI Risk Navigator: Ein Werkzeug, das die verschiedenen Datensammlungen miteinander verknüpft und gemeinsame Recherchen ermöglicht.

Inhaltliche Schwerpunkte

Die Sammlung berücksichtigt sowohl technische als auch gesellschaftliche Fragen. Dazu gehören unter anderem:

• Benachteiligung von Personen oder Gruppen durch KI-Systeme
• Datenschutz und Sicherheit
• Falsche oder irreführende Informationen
• Missbrauch von KI für Betrug und Manipulation
• Übermäßiges Vertrauen in KI und Verlust menschlicher Entscheidungsmöglichkeiten
• Auswirkungen auf Arbeitswelt, gesellschaftliche Machtverhältnisse und Umwelt
• Fehlverhalten, mangelnde Zuverlässigkeit und Alignment-Probleme von KI-Systemen

Die systematische Risikoübersicht und die Sammlung konkreter Vorfälle ergänzen sich: Die eine beschreibt mögliche Probleme und ihre Entstehung, die andere erschließt Berichte über bereits aufgetretene Fälle.

Einordnung und Einsatz im Unterricht

Viele Schülerinnen und Schüler erleben KI vor allem als Unterstützung, die Fragen beantwortet und Aufgaben erledigt. Das Portal kann dazu beitragen, diesen Blick zu erweitern und ein Problembewusstsein für den Einsatz und die Entwicklung von KI-Anwendungen zu entwickeln.

Ausgehend von einer vertrauten Anwendung können die Schülerinnen und Schüler untersuchen, welche Risiken damit verbunden sein können, wer davon betroffen ist und ob der Nutzen für die einen mit Nachteilen für andere verbunden ist. Die Risikokategorien helfen dabei, unterschiedliche Aspekte zu berücksichtigen. Konkrete Fälle aus dem Incident Tracker können die Auseinandersetzung ergänzen.

Darauf aufbauend können sie Anforderungen an die Entwicklung und Nutzung einer KI-Anwendung formulieren: Welche Daten werden benötigt? Welche Entscheidungen darf das System treffen? Wie lassen sich Ergebnisse überprüfen? Wer trägt Verantwortung, wenn Schäden entstehen?

Dabei soll auch deutlich werden, dass eine technisch mögliche oder für einzelne Personen nützliche Anwendung nicht zwangsläufig gesellschaftlich sinnvoll ist. Die Schülerinnen und Schüler können begründen, unter welchen Bedingungen ein Einsatz vertretbar erscheint und wann auf ihn verzichtet werden sollte.

Lizenzierung

Die Website weist für die Daten der MIT AI Risk Initiative die Lizenz CC BY 4.0 aus. Diese erlaubt die Weiterverwendung und Bearbeitung unter Angabe der Urheber, der Lizenz und gegebenenfalls vorgenommener Änderungen.

Die Lizenz gilt nicht automatisch für verlinkte wissenschaftliche Veröffentlichungen, Presseberichte, Bilder oder andere Fremdinhalte. Für diese sind die jeweiligen Rechte gesondert zu beachten.

Bezüge zu den Hessischen Kerncurricula

Für das Hessische Kerncurriculum Informatik der gymnasialen Oberstufe ergeben sich insbesondere folgende Bezüge:

• Informatik, Mensch und Gesellschaft (I5): Auswirkungen von KI-Systemen auf Menschen und Gesellschaft untersuchen sowie Chancen und Risiken ihres Einsatzes bewerten.
• Begründen und Bewerten (P5): KI-Anwendungen unter fachlichen, ethischen, ökologischen und ökonomischen Gesichtspunkten beurteilen und Anforderungen an ihre Entwicklung und Nutzung begründen.