In diesem Lernpfad beschäftigst du dich mit der Frage, welche Chancen und Risiken mit dem Einsatz von Künstlicher Intelligenz verbunden sind.

Zunächst geht es darum, mögliche Probleme und Risiken zu erkennen und einzuordnen. Danach untersuchst du, in welchen Situationen der Einsatz von KI sinnvoll sein kann und wo Risiken überwiegen können. Anschließend lernst du verschiedene Möglichkeiten kennen, wie Risiken begrenzt und KI-Systeme sicherer entwickelt und eingesetzt werden können.

Am Ende sollst du in der Lage sein, den Einsatz von KI in einem konkreten Fall abzuwägen und eine eigene Entscheidung zu begründen.

Das Problem

Künstliche Intelligenz kann dir bei vielen Aufgaben helfen: Sie kann Texte erstellen, Bilder erzeugen, Informationen auswerten oder bei Entscheidungen unterstützen.

Je leistungsfähiger KI-Systeme werden und je häufiger sie eingesetzt werden, desto wichtiger wird aber auch die Frage, welche Probleme dabei entstehen können. KI-Systeme können Fehler machen, falsche oder verzerrte Ergebnisse liefern oder gezielt für schädliche Zwecke eingesetzt werden. Manche Risiken entstehen außerdem dadurch, wie KI entwickelt, kontrolliert und eingesetzt wird.

Deshalb reicht es nicht aus, nur zu fragen: Was kann KI?

Wir müssen auch fragen:

• Welche Risiken entstehen durch den Einsatz von KI?
• Wer kann davon betroffen sein?
• Wie können Risiken begrenzt werden?
• Wann überwiegt der Nutzen – und wann vielleicht das Risiko?

Video

Schau dir das folgende Video an. Es gibt einen kurzen Einblick in eine Untersuchung zu wichtigen Risiken von Künstlicher Intelligenz.

Video: Priority AI Risks

Beobachtungsauftrag

Notiere beim Anschauen:

• Welche Risiken werden angesprochen?
• Welche davon waren dir bereits bekannt?
• Gibt es ein Risiko, das dich überrascht?

Noch musst du die einzelnen Risiken nicht genau erklären können. Im nächsten Abschnitt beschäftigst du dich damit genauer.

Risiken identifizieren

Risiken beim Einsatz von Künstlicher Intelligenz können sehr unterschiedlich entstehen. Für diesen Lernpfad betrachten wir fünf Bereiche genauer.

1. Fehler und falsche oder verzerrte Ergebnisse

KI-Systeme können falsche Informationen liefern oder Zusammenhänge falsch darstellen. Ergebnisse können außerdem verzerrt sein, wenn zum Beispiel die verwendeten Daten bestimmte Gruppen oder Sichtweisen nicht ausreichend berücksichtigen. Problematisch wird dies besonders dann, wenn Menschen den Ergebnissen ungeprüft vertrauen.

2. Desinformation und Manipulation

Mit KI lassen sich Texte, Bilder, Stimmen und Videos schnell und überzeugend erzeugen. Dadurch können auch falsche Informationen verbreitet oder echte Inhalte verändert werden. Es kann schwieriger werden zu erkennen, welchen Informationen man vertrauen kann.

3. Missbrauch von KI

KI kann auch für Betrug, Täuschung oder Cyberangriffe eingesetzt werden. Sie kann Menschen dabei unterstützen, bestimmte Aufgaben schneller oder einfacher auszuführen und dadurch bereits bestehende Gefahren verstärken.

4. Kontrolle und Sicherheit leistungsfähiger KI-Systeme

KI-Systeme können immer komplexere Aufgaben übernehmen. Deshalb stellt sich die Frage, welche Fähigkeiten sie haben sollen, welche Grenzen notwendig sind und wie sich verhindern lässt, dass Systeme unerwünschte Ergebnisse erzeugen oder unerwünschte Methoden einsetzen.

5. Konzentration von Macht

Die Entwicklung besonders leistungsfähiger KI benötigt große Mengen an Daten, Rechenleistung und Geld. Dadurch können wenige Unternehmen oder Staaten großen Einfluss darauf erhalten, wie KI entwickelt und eingesetzt wird und wer von ihr profitiert.

Aufgabe

Informiere dich zu allen fünf Risikobereichen weiter.

Ergänze zu jedem Bereich:

• ein konkretes Beispiel,
• eine kurze Erklärung, worin das Risiko besteht,
• wer davon betroffen sein könnte.

Hilfen für deine Recherche

Nutze die Quellen unterhalb für deine Recherche.

Hilfen für deine Recherche

Fehler und verzerrte Ergebnisse

• Material im Lernpfad: Coded Bias – Können Maschinen diskriminieren?

Desinformation und Manipulation

• klicksafe: Deepfake Detectives

Missbrauch von KI

• Polizeiliche Kriminalprävention: Betrug mit Hilfe von Künstlicher Intelligenz

Kontrolle und Sicherheit leistungsfähiger KI-Systeme

• Deutschlandfunk: Ist KI noch zu kontrollieren?
• tagesschau.de: OpenAI bremst Entwicklung von KI-Modell
• tagesschau.de: Risiken ernst nehmen, aber nicht dramatisieren

Machtkonzentration und gesellschaftlicher Einfluss

• Frankfurter Rundschau: Warum KI-Konzerne plötzlich so viel Macht haben

Du kannst für deine Recherche auch weitere geeignete und vertrauenswürdige Quellen verwenden. Notiere immer, welche Quellen du genutzt hast.

Prüfe mit der interaktiven Anwendung, ob du die fünf Risikobereiche anhand von Fallbeispielen erkennen und einordnen kannst.